Мы уже не один раз обсуждали тему искусственного интеллекта, как правило, с небольшим юмористическим уклоном. Однако сегодня хотелось бы поговорить об этом более серьезно, потому что недавние сообщения в СМИ заставляют задуматься о том, что же на самом деле представляет из себя искусственный интеллект и какие опасности он таит для человечества - не только как система, которая помогает управлять каким-то процессом или находить какие-то более оптимальные решения за короткие сроки и с минимальными ресурсами, но и вообще, что это такое в принципе и куда оно движется, можно ли его считать даже новым этапом эволюции и созданием следующего за человеком венца творения.
Сегодня, поскольку эта тема очень большая, и разбирать ее надо долго, и тут много споров и научных дискуссий и не только научных, поэтому, скорее всего, мы будем выпускать еще ролики на эту тему. Но сегодня хотелось бы рассказать одну достаточно шокирующую вещь, а конкретно: недавно некой группой американских ученых под присмотром Пентагона был проведен такой небольшой эксперимент.
Они взяли свою нейросеть медицинскую, которая была обучена тому, чтобы фильтровать, вернее, или калибровать молекулы каких-то лекарственных препаратов и отбраковывать те, которые представляют собой токсичные, то есть плохие лекарственные препараты, чтобы они были заранее отброшены, помещены в специальную категорию недопустимого использования и, соответственно, работали только с теми молекулами, которые представляют перспективный интерес для лечения больных. А тут эксперимент был поставлен ровно наоборот. То есть они сказали своей нейросети, чтобы она брала именно токсичные молекулы и отбирала их в специальный пул и занималась только токсичными молекулами, а все полезные молекулы отбрасывала.
Примерно за шесть часов работы эта чудесная разработка мрачного американского гения создала где-то 40 тысяч высокотоксичных веществ, которые превосходили по своей смертельности печально известный газ Vx. Еще раз повторю, за шесть часов 40 тысяч отравляющих веществ. Просто в рамках эксперимента. И это то, что эти люди согласились опубликовать на страницах научного журнала просто как результат эксперимента.
Что на самом деле происходит в закрытых военных лабораториях и, например, в каких-то подобного рода исследованиях (только не на уровне химического оружия, а на уровне, скажем, биологического или генетического оружия происходит под волосатым крылом Пентагона или любой другой военной структуры западной), можно только догадываться. Если только то, что известно, повергает человечество если не в шок, то хотя бы заставляет задуматься о том, что ужасы Первой мировой войны могут показаться легкой прогулкой.
Если какие-нибудь товарищи решат повторить этот эксперимент, но уже не под присмотром военных, а просто у себя в гараже. Ну, как это обычно и происходит.