Большой рекламный материал роботизированных систем слежки в школах вышел в передаче «Утро России» 9 сентября. Журналисты, разработчики системы и директор в один голос убеждали, как это хорошо и замечательно, если за каждым шагом школьников будет следить неусыпное электронное око, отслеживающее все слова, эмоции, жесты.
Дескать, в этом случае школьники будут чувствовать себя спокойнее, конфликтов будет меньше, все будут довольны. Тем более, что внедрять будут якобы с учётом мнения родителей, а электронная система с модной нейросетью сама решения принимать не будет, только подсказывать, где что-то не так.
На это можем ответить только одно: знаем, проходили уже, как такие системы работают. Первым делом на память приходит, конечно, прецедент с ученым-гидрологом Александром Цветковым, которого «искусственный интеллект» принял за преступника и который из-за этого просидел 10 месяцев в СИЗО.
Но есть примеры и пострашнее. Например, система, подсказывающая врачу, какие лекарства выписывать пациентам. Формально, это только подсказчик, однако при наличии системы материальной стимуляции врачей, она легко превращается в инструмент диктатуры - в конечном итоге, диктатуры фармкомпаний.
Но самое главное, это в принципе тупиковый западный подход, в котором не человек должен решать свои проблемы, а некий электронный костыль. Одно дело, когда проблемы, например, травли в коллективе решаются самим коллективом, который направляет опытный педагог.
В этом случае, при правильном подходе, на выходе будут ответственные граждане, понимающие силу коллектива, научившиеся сдерживать свои эмоции и помогать слабым. А в случае электронного надсмотрщика мы получим ещё более инфантильное поколение, которое научится разве что бояться наказания и всеми правдами, а чаще неправдами, его избегать.
И этот надсмотрщик только на первом этапе будет «подсказывать» человеку, кого наказать. А со временем обзаведётся и роботами-исполнителями для наказания нарушителей.
Чем это в конечном итоге обернётся, читайте в книгах фантастов, С. Лема, Р. Шекли и других, либо смотрите фантастические фильмы: хоть «Робокопа», хоть «Терминатора». Мы на полных парах летим в это неприятное будущее.