Специалист по кибербезопасности и безопасности ИИ, доктор наук, директор лаборатории кибербезопасности Университета Луисвилля Роман Ямпольский в 2019 году провел публичную лекцию «Искусственный интеллект и меры безопасности» (Artificial Intelligence Safety and Security). В прошлый раз мы опубликовали его прогноз о том, когда потенциально возможно появление «суперинтеллекта» — ИИ, который сможет не только решать узкие задачи, но действительно моделировать человеческий интеллект. В этом материале мы рассмотрим, самую большую проблему в области безопасности, которую он видит в ИИ — снижение порога сложности для разного рода кибератак. С ИИ для этого необязательно быть продвинутым хакером или иметь ресурсы государственного масштаба.
«Самая большая проблема, как я ее вижу, это целенаправленное проектирование таких систем со злым умыслом. Действительно, любые типы систем ИИ могут использоваться как в добрых, так и в дурных целях. Это технология двойного назначения, и существует очень мало исследований по злонамеренному использованию ИИ», — очертил состояние исследований по теме Ямпольский, добавив, что еще недавно таких исследований совсем не было.
Сейчас они уже есть, но немного, и имеющиеся работы скорее ставят проблемы, чем предлагают решения, поскольку непонятно, как «сделать [ИИ] безопасным, если сама система самостоятельно учится и совершенствуется».
Более того, помимо злонамеренности как таковой по-прежнему остаются актуальными ошибки в коде (вспомним недавний громкий скандал с ошибкой в коде почтовой системы в Великобритании, отправившей многих финансово ответственных работников почты за решетку или вообще доведший невинных людей до самоубийства).
Говоря о злых намерениях разработчиков, Ямпольский отдельно касается вопроса компьютерных вирусов и того, кто может их использовать. Его ответ неутешителен: «Любой. Это не только хакеры, это сумасшедшие люди, тупицы, которых они называют правительственными военными. Каждый может найти полезное применение этой технологии. С помощью ИИ в качестве услуги вы просто добавляете свои собственные цели, правильно? Так что для этого вам не нужно быть экспертом. Стоимость выполнения такого типа атаки значительно снижается. Если раньше только большое правительство могло что-то сделать, сейчас, с доступом к этим инструментам, и отдельные хакеры могут делать такие вещи».
Отдельный вопрос — а что эти технологии вообще могут делать?
«На самом деле [их возможностям] нет предела. На самом деле мы даже не можем предсказать весь ущерб. Это могут быть тривиальные вещи, такие как захват вычислительных ресурсов, террористические акты, любой тип манипуляции в политических целях (мы видели это с предыдущими президентскими выборами в США), финансовые манипуляции на фондовом рынке», — привел примеры специалист по кибербезопасности.
И это даже не вопрос будущего. Очень многое может делаться и делается прямо сейчас. Об этом в нашем следующем материале.