Аннотация:
- На пути разработчиков искусственного интеллекта возникает множество проблем, но они постепенно решаются.
24–25 августа в Санкт-Петербурге прошел IT-фестиваль TechTrain, собравший на своей площадке специалистов из самых разных сфер информационных технологий. Повестка была довольно широкой, поэтому интересные для себя доклады могли найти все: от программистов до инженеров по тестированию и системных администраторов. Обсуждались базы данных, различные программные заготовки, будущее рунета и множество других вопросов. Но, пожалуй, одной из самых интересных тем было развитие искусственного интеллекта (ИИ).
ИИ сейчас является одной из передовых и востребованных сфер в IT. Создаются и обучаются нейросети, которые, по слухам, достигают невиданных успехов и уже вот-вот бросят вызов человеку. Примерно об этом шумит информационное пространство.
Но что же на самом деле происходит с нейронными сетями? Что они могут? И чему пока еще не научились? На эти вопросы отвечали ведущие специалисты и создатели подобных систем.
В одном из самых запоминающихся докладов «AI vs AI» программист, известный российский подкастер Григорий Бакунов рассказал об обучении нейросетей с помощью генеративно-состязательных сетей. Принцип этого алгоритма машинного обучения состоит в конкуренции двух нейронных сетей — генератора и дискриминатора, которые «обучают» друг друга.
Генератор создает объекты, а дискриминатор пытается отличить сгенерированные объекты от реальных. К примеру, генератору нужно научиться рисовать кошку. Он ее рисует и отправляет на проверку дискриминатору. А дискриминатор, ранее изучивший кошек по десяткам тысяч картинок, должен понять, она это нарисована на картинке или нет.
Если генератор хорошо нарисовал кошку, его «хвалят». Если нет, сообщают, что он, наоборот, поработал плохо. То же самое происходит и с дискриминатором.
Таким образом, генератор все лучше и лучше учится рисовать кошек, а дискриминатор — узнавать их на полученной картине. Эти две подсистемы обучают друг друга.
Другой докладчик — представитель компании Hellix Илья Семенов — рассказал, что их фирма разработала нейросеть, которая по фотографии родинки может определить, злокачественная она или нет.
Он также перечислил все операции, которые могут выполнять современные нейронные сети. По словам Семенова, ИИ уже научился предсказывать, запоминать, воспроизводить и выбирать лучшее. Однако нейросеть пока не может создавать новое, резко поумнеть («если вы ее не обучаете, то она умерла»), выйти за рамки какой-то задачи, решать задачу по шагам и доказать теорему.
Нейронные сети уже являются частью нашей повседневной жизни. Они могут следить за номерами машин и выписывать штрафы нарушителям, искать необходимую информацию (голосовые помощники «Окей, Гугл», «Алиса»), распознавать лица людей.
Однако, есть у ИИ и существенные проблемы.
Как рассказал программист Григорий Бакунов, сейчас человек легко может обмануть искусственный интеллект.
Один умелец каким-то образом узнал название базы данных полиции, в которую записывается информация с системы наблюдения за машинами, и, прикрепив на место номера своего автомобиля текст программного SQL-запроса, смог удалить всю базу вместе со штрафами и номерами машин.
Что касается систем распознавания лиц, то оказалось, что если человек нанесет на лицо определенный рисунок, то нейросеть не сможет идентифицировать его. А иногда — «узнать» в этом человеке совсем другого.
То же самое касается нейросетей, реагирующих на звук. Вполне реально сделать так, чтобы «Алиса» на вашем смартфоне, услышав определенный звук или сочетание звуков, купила с вашей кредитной карты, привязанной к телефону, что-то другому человеку.
Один из самых ярких примеров связан с распознаванием нейросетью картинок. Буквально один пиксель, поставленный на картинке, может сбить с толку ИИ (one pixel attack): ребенок на фотографии распознается как рулон туалетной бумаги, а рисунок кружки «превратится» в глаз человека.
По словам докладчика, хоть нейросети сейчас и умеют достаточно много и уже становятся неотъемлемой частью жизни человека, их еще слишком легко обмануть.
«Мы пока в самом начале пути», — делает вывод Григорий Бакунов.
Интересно привести слова еще одного разработчика, Ивана Ямщикова, проводившего на фестивале параллели между мыслительными алгоритмами человека и ИИ.
Разбивая тезис о том, что машина никогда не сможет творить, он привел выражение, написанное нейросетью: «Молодость прошла, как пощечина». По его словам, это уже творчество.
И впрямь, выражение хлесткое и художественное. Но стоит задаться вопросом, может машина понять художественную ценность этого предложения, и есть для нее разница между «Молодость прошла как пощечина» и «Молодость прошла как капуста».
После того как в нейронную сеть загрузили бесчисленное количество стихов, по их подобию, бесконечно перебирая различные варианты, ИИ смог случайным образом создать интересное выражение. По теории вероятности такое может случиться, но можно ли называть это творчеством?
Читайте также: Академик РАН: научный прорыв невозможен при таком социальном неравенстве
В заключение стоит прислушаться к словам одного из участников конференции, подведшего ее итоги: «Я думал, что нейросети умнее. Если честно, я немного разочарован тем, на каком уровне сейчас находится ИИ. Ведь всего один пиксель может превратить фото черепахи в ружье. Конечно, они очень быстро учатся. Генеративные системы — это потрясающая вещь, но я не верю, что когда-нибудь ИИ сможет заменить человека».
