Американский журналист и эксперт по обороне, телепродюсер и писатель Джей Нельсон Так-младший в своей лекции «ИИ — самый серьезный вызов для человечества» в Стамбуле в 2018 году рассказал, какие планы у военных, в том числе американских, на использование искусственного интеллекта, и чем это грозит нам, мирным жителям.
В предыдущем материале мы привели определение, которое Джей Так дал искусственному интеллекту (ИИ): «Это программное обеспечение, которое пишет само себя». И главное отличие такого «интеллекта» от человеческого — в отсутствии изначального плана и стратегии. Программа просто делает огромное количество случайных действий и запоминает результаты. Благодаря огромной скорости вычислений такой подход позволяет ИИ на некотором шаге обойти человека в выполнении какой-то задачи, вплоть до традиционно считающихся высокоинтеллектуальными, а затем оставить его далеко позади.
Одна из областей, где ИИ пользуется большим спросом — военное дело.
Журналист рассказал о возможностях системы Argos, использующей дроны Predator, разработанные еще 20 лет назад:
«Удивительная вещь заключается в том, что эта система под названием Аргос может работать с данными двухсот тысяч человек в режиме реального времени и рассказывать вам, что они делают и куда они идут. Нет ни одного человека-аналитика, сидящего за экраном компьютера, который мог бы сделать такие вычисления. Это искусственный интеллект».
Современный же дрон, x-47bPegasus может переносить две тонны бомб на несколько тысяч километров, причем он взлетает и садится автономно, что является самой технически сложной задачей в полете. Более того, он использует оптическую стелс-технологию на основе светодиодных экранов, которые в режиме видео демонстрируют небо над пролетающим летательным аппаратом, делая его практически не видимым для невооруженного взгляда.
Но главное, что кажется Джею Таку в нем наиболее поразительным, так это то, что дрон потенциально может самостоятельно принять решение об убийстве человека исключительно на основе собственных алгоритмов.
«Система не активирована, и никто не использует ее сейчас, потому что это противозаконно, но это можно сделать, она есть и готова к действию. В моей книге я цитирую более 20 документов министерства обороны Соединенных Штатов, где говорится: мы хотим, чтобы решение об убийстве было принято искусственным интеллектом потому, что он умнее нас», — объяснил писатель.
При этом Джей Так вспоминает инцидент в Ираке, когда при демонстрации ИИ военным, программа направила пушку на зрителей и чуть не выстрелила в них.«ИИ совершает ошибки, и если вы позволите ему принимать решение об убийстве, становится очень страшно», — резюмировал эксперт по обороне.
Но и это, по мнению журналиста, не единственное пугающее применение для ИИ. О том, что ему больше всего не нравится в отношении к ИИ разработчиков и пользователей, читайте в следующем материале.