Изображение: (cc) Mike MacKenzie
Нейросеть
Мощные системы искусственного интеллекта «не поддаются контролю» и «уже причиняют вред», заявил профессор Стюарт Рассел 30 апреля в комментарии Sky News.
Рассел, который является одним из более чем 1000 экспертов, которые в прошлом месяце подписали открытое письмо, призывающее к шестимесячной паузе в разработке систем, даже более мощных, чем недавно запущенный OpenAI GPT-4 — преемник своего онлайн-чатбота ChatGPT, который на базе ГПТ-3.5.
Главной особенностью новой модели является ее способность распознавать и объяснять изображения.
«Я подписал его, потому что считаю нужным сказать, что мы не понимаем, как работают эти [более мощные] системы. Мы не знаем, на что они способны. А это значит, что мы не можем их контролировать, мы не можем заставить их вести себя прилично», — сказал Рассел.
И он утверждал, что с быстрым развитием ИИ необходимо время, чтобы «разработать правила, которые обеспечат, чтобы системы приносили пользу людям, а не вредили».
По его мнению, одной из самых больших проблем является дезинформация и дипфейки
Эксперт, который является профессором компьютерных наук в Калифорнийском университете в Беркли, предупредил об «огромном влиянии этих систем на худшее из-за манипулирования людьми таким образом, что они даже не осознают происходящего».
«В письме речь идет о следующем поколении системы. Прямо сейчас у систем есть некоторые ограничения в их способности строить сложные планы», — отметил ученый, добавив, что в следующем поколении систем или в последующем корпорациями можно будет управлять с помощью систем ИИ. «Вы могли видеть военные кампании, организуемые системами ИИ», — добавил он.
«Если вы создаете системы, более мощные, чем люди, то как люди сохранят власть над этими системами навсегда? Это настоящая проблема, стоящая за открытым письмом», — указал Рассел.