Війна алгоритмів

Коли справа доходить до використання штучного інтелекту в збройних силах, тут же прокидається кошмар наукової фантастики, бунтівний та смертоносний ІІ, який повстає проти людства, щоб його знищити. На жаль, побоювання військових і керівників, що «ворог нас наздожене», настільки ж сильні розробки алгоритмів ведення війни.

Алгоритмічна війнаякі, на думку багатьох, могли б докорінно змінити вигляд поля бою в тому вигляді, в якому ми його знаємо, головним чином тому, що військові дії стали б швидшими, набагато випереджали б здатність людей приймати рішення. американський генерал Джек Шанахан (1), голова Об'єднаного центру штучного інтелекту США, підкреслює, однак, що, перш ніж впроваджувати штучний інтелект до арсеналів, ми повинні переконатися, що ці системи все ще перебувають під контролем людини і не почнуть вести війни самостійно.

«Якщо у противника є машини та алгоритми, ми програємо цей конфлікт»

Можливість водіння алгоритмічна війна базується на використанні досягнень комп'ютерної техніки за трьома основними напрямками. Перший десятиліття експоненційного зростання обчислювальної потужностіце дозволило значно покращити продуктивність машинного навчання. Другий швидке зростання ресурсів «Великі дані», тобто величезні, зазвичай автоматизовані, керовані і постійно створювані набори даних, придатні навчання машин. Третє стосується швидкий розвиток технологій хмарних обчислень, завдяки якому комп'ютери можуть легко отримувати доступ до ресурсів даних та обробляти їх для вирішення завдань.

Алгоритм війнияк це визначено експертами, це має бути спочатку виражено за допомогою комп'ютерний код. По-друге, вона має бути результатом роботи платформи, здатної як збирати інформацію, так і робити вибір, приймати рішення, які, принаймні теоретично, не вимагають втручання людини. По-третє, що здається очевидним, але не обов'язково так, бо тільки в дії з'ясовується, чи техніка, призначена для чогось іншого, може бути корисною у війні і навпаки, вона повинна бути здатна працювати в умовах. збройний конфлікт.

Аналіз вищенаведених напрямів та їх взаємодії показує, що алгоритмічна війна це не окрема технологія, така як, наприклад. енергетична зброя або гіперзвукові ракети. Його наслідки широкомасштабні та поступово стають повсюдними у військових діях. В перший раз військові машини вони стають розумними, потенційно роблячи сили оборони, які їх впроваджують, більш ефективними та дієвими. Такі інтелектуальні машини мають чіткі обмеження, які потрібно добре розуміти.

«» - сказав Шенахан минулої осені в інтерв'ю колишньому генеральному директору Google Еріку Шмідту та віце-президенту Google у міжнародних справах Кенту Вокеру. "".

У проекті доповіді Ради національної безпеки США з ІІ більше 50 разів йдеться про Китай, наголошуючи на офіційно проголошеній меті керівництва Китаю стати до 2030 року світовим лідером в області ІІ (Дивіться також: ).

Ці слова прозвучали у Вашингтоні на спеціальній конференції, яка відбулася після того, як вищезгаданий Шанаханський центр представив Конгресу свій попередній звіт, підготовлений у співпраці з відомими експертами в галузі штучного інтелекту, у тому числі Директор з досліджень Microsoft Ерік Хорвіц, генеральний директор AWS Енді Джасса та головний дослідник Google Cloud Ендрю Мур. Остаточний звіт буде опубліковано у жовтні 2020 року.

Співробітники Google протестують

Декілька років тому до справи підключився Пентагон. алгоритмічна війна та ряд пов'язаних з ІІ проектів у рамках проекту Maven, заснованого на співпраці з технологічними компаніями, у тому числі Google та такі стартапи, як Clarifai. В основному це стосувалося роботи над штучний розумдля полегшення ідентифікації об'єктів.

Коли навесні 2018 року стало відомо про участь Google у проекті, тисячі співробітників гіганта Маунтін-В'ю підписали відкритий лист, протестуючи проти участі компанії у військових діях. Після місяців трудових заворушень Google прийняв власне зведення правил ІІщо включає заборону на участь у заходах.

Google також зобов'язалася завершити контракт Project Maven до кінця 2019 року. Вихід Google не поклав край Project Maven. Його придбав Palantir Пітера Тіля. ВПС та Корпус морської піхоти США планують використовувати в рамках проекту Maven спеціальні безпілотні літальні апарати, такі як Global Hawk, кожен з яких має вести візуальний контроль до 100 квадратних кілометрів.

З нагоди того, що відбувається навколо Project Maven, стало зрозуміло, що американським військовим терміново потрібна власна хмара. Це те, що Шанахан сказав під час конференції. Це було очевидно, коли відеозаписи та оновлення системи доводилося перевозити вантажівками на військові об'єкти, розкидані по всьому полю. У створенні єдині хмарні обчислення, Який допоможе вирішити завдання такого типу, в рамках проекту єдиної ІТ-інфраструктури для армії джедаїв, Microsoft, Amazon, Oracle та IBM. Google не через свої етичні кодекси.

Із заяви Шанахана ясно, що велика революція ІІ у збройних силах лише починається. І роль його центру у збройних силах США зростає. Це добре видно у передбачуваному бюджеті JAIC. У 2019 році він становив трохи менше 90 мільйонів доларів. У 2020 році він уже повинен становити 414 мільйонів доларів, або близько 10 відсотків від бюджету ІІ, що оцінюється Пентагоном у 4 мільярди доларів.

Машина розпізнає солдата, що здався.

Війська США вже оснащені такими системами, як «Фаланга» (2), яка є типом автономної зброї, що використовується на кораблях ВМС США для атаки ракет, що наближаються. При виявленні ракети він включається автоматично і знищує все своєму шляху. За словами Форда, він може атакувати чотирма або п'ятьма ракетами за півсекунди без необхідності проходити крізь кожну мету та дивитися на неї.

Іншим прикладом є напівавтономна Harpy (3) серійна безпілотна система. Гарпія використовується для знищення ворожих радарів. Наприклад, у 2003 році, коли США завдали удару по Іраку, що мав літакові системи радіолокаційного перехоплення, безпілотники ізраїльського виробництва допомогли їх знайти і знищити, щоб американці могли безпечно летіти в іракський повітряний простір.

3. Запуск безпілотника системи IAI Harpy

Ще одним відомим прикладом автономної зброї є Корейська система Samsung SGR-1, розташований у демілітаризованій зоні між Північною та Південною Кореєю, призначений для виявлення та обстрілу порушників на відстані до чотирьох кілометрів. Згідно з описом, система «може розрізняти людину, яка здається, та людину, яка не здається» на основі положення їхніх рук або розпізнавання положення зброї в їхніх руках.

4. Демонстрація виявлення солдата, що здається, системою Samsung SGR-1

Американці бояться залишитися позаду

В даний час не менше 30 країн світу використовують автоматичну зброю з різним рівнем розвитку та використання ІІ. Китай, Росія та США розглядають штучний інтелект як незамінний елемент побудови свого майбутнього становища у світі. "Той, хто переможе в гонці ІІ, правитиме миром", - сказав президент Росії Володимир Путін студентам у серпні 2017 року. Президент Китайської Народної Республіки Сі Цзіньпін не робив таких гучних заяв у ЗМІ, але він є основним двигуном директиви, яка закликає Китай до 2030 року стати домінуючою силою в галузі ІІ.

У США зростає занепокоєння щодо «ефекту супутника», який показав, що Сполучені Штати дуже погано підготовлені для вирішення нових завдань, пов'язаних із штучним інтелектом. І це може бути небезпечним для світу хоча б тому, що країна, якій загрожує панування, може захотіти ліквідувати стратегічну перевагу супротивника іншим шляхом, тобто шляхом війни.

Хоча первісне завдання проекту Maven полягало в тому, щоб допомогти знайти бойовиків ісламського ІДІЛ, його значення для подальшого розвитку військових систем штучного інтелекту величезне. Електронна, заснована на самописцях, моніторах та сенсорах (у тому числі мобільних, літаючих) війна пов'язана з величезною кількістю різнорідних потоків даних, ефективно використовувати які можна лише за допомогою алгоритмів ІІ.

Гібридне поле битви стало військова версія IoT, багата важливою інформацією для оцінки тактичних та стратегічних загроз та можливостей Можливість керувати цими даними в режимі реального часу має великі переваги, але нездатність отримати уроки з цієї інформації може обернутися катастрофою. Здатність швидко обробляти потік інформації з різних платформ, що працюють у кількох областях, дає дві основні військові переваги: швидкість i досяжність. Штучний інтелект дозволяє аналізувати динамічні умови поля бою в режимі реального часу та завдавати ударів швидко та оптимально, мінімізуючи при цьому ризик для власних сил.

Це нове поле битви також є всюдисущим і. ІІ лежить в основі так званого рої дронів, яким в останні роки приділяється велика увага. за допомогою всюдисущих датчиків не тільки дозволяє безпілотним апаратам переміщатися по ворожій місцевості, але і в кінцевому підсумку може дозволити формувати складні з'єднання різних типів безпілотних літальних апаратів, що діють у багатьох районах, з додатковим озброєнням, що дозволяє використовувати витончену тактику бою, негайно адаптувати. маневри, щоб використовувати можливості полів битв та повідомляти про зміну умов.

Досягнення в області цілевказівки та навігації за допомогою ІІ також покращують перспективи ефективності у широкому спектрі тактичних та стратегічних систем оборони, особливо протиракетної, за рахунок покращення методів виявлення, відстеження та ідентифікації цілей.

постійно збільшує потужність симуляцій та ігрових інструментів, що використовуються для дослідження ядерної та звичайної зброї. Масове моделювання та симуляція матимуть важливе значення для розробки всеосяжної багатодоменної системи цільових систем для бойового управління та виконання складних завдань. ІІ також збагачує взаємодію з кількома учасниками (5). ІІ дозволяє гравцям додавати та змінювати ігрові змінні, щоб досліджувати, як динамічні умови (озброєння, участь союзників, додаткові війська тощо) можуть вплинути на продуктивність та прийняття рішень.

Для військових ідентифікація об'єктів є природною точкою для ІІ. По-перше, необхідний комплексний і швидкий аналіз зростаючої кількості зображень та інформації, що збирається з супутників і безпілотників, щоб знайти об'єкти військового значення, такі як ракети, пересування військ та інші дані, що стосуються розвідки. Сьогодні поле бою охоплює всі ландшафти – море, сушу, повітря, космос та кіберпростір – у глобальному масштабі.

Кіберпростіряк за своєю суттю цифровий домен, він, природно, підходить для додатків ІІ. З наступальної сторони ІІ може допомогти знайти та націлити окремі мережеві вузли або окремі облікові записи для збору, порушення або дезінформації. Кібератаки на внутрішню інфраструктуру та командні мережі можуть мати катастрофічні наслідки. Що стосується оборони, ІІ може допомогти виявити такі вторгнення та знайти руйнівні аномалії у цивільних та військових операційних системах.

Очікувана та небезпечна швидкість

Однак швидке прийняття рішень та оперативне виконання можуть не послужити вам гарною службою. з метою ефективного антикризового управління. Переваги штучного інтелекту та автономних систем на полі бою можуть не дати часу для дипломатії, яка, як ми знаємо з історії, часто виявлялася успішною як запобігання кризі або управління ним. На практиці уповільнення, пауза та час для переговорів можуть бути ключем до перемоги або принаймні запобігання катастрофі, особливо коли на карту поставлено ядерну зброю.

Рішення про війну та мир не можна залишати на розсуд передиктивної аналітики. Існують фундаментальні відмінності в тому, як дані використовуються в наукових, економічних, логістичних та прогнозних цілях. людська поведінка.

Деякі можуть сприймати ІІ як силу, яка послаблює взаємну стратегічну чутливість і таким чином збільшує ризик війни. Випадково або навмисно перекручені дані можуть спонукати системи ІІ здійснювати ненавмисні дії, наприклад, неправильно ідентифікувати та переслідувати неправильні цілі. Швидкість дій, що постулює у разі розробки алгоритмів війни, може означати передчасну або навіть непотрібну ескалацію, що перешкоджає раціональному управлінню кризою. З іншого боку, алгоритми теж не чекатимуть і пояснюватимуть, бо від них теж чекають швидкості.

Тривожний аспект функціонування алгоритмів штучного інтелекту також представлений нами нещодавно у МТ. Навіть фахівці не знають точно, як ІІ призводить до результатів, які ми бачимо на виході.

У разі алгоритмів війни ми не можемо дозволити собі таке невігластво щодо природи та того, як вони їх «думають». Ми не хочемо прокидатися посеред ночі серед ядерних спалахів, бо «наш» чи «їхній» штучний інтелект вирішив, що настав час остаточно врегулювати гру.