Опубликованный на сайте Кремля перечень поручений Путина по итогам конференции «Путешествие в мир искусственного интеллекта» рождает серьезные опасения, что ИИ будет внедряться всё так же безоглядно и без учета реальных рисков, как до этого всё цифровизировалось.
Да, в поручениях говорится об учете рисков. Например, в разделе, касающемся образования:
«б) подготовить по согласованию с межведомственной комиссией при Президенте Российской Федерации по вопросам развития технологий искусственного интеллекта и при участии ассоциации «Альянс в сфере искусственного интеллекта», иных заинтересованных организаций, высших должностных лиц субъектов Российской Федерации и утвердить национальный план по внедрению технологий искусственного интеллекта в отраслях экономики, социальной сферы и государственном управлении на федеральном уровне и на уровне субъектов Российской Федерации, предусмотрев в том числе:
...
разработку мер организационного, нормативно-правового и методического характера, направленных на внедрение технологий искусственного интеллекта в сфере образования, обратив внимание на необходимость снижения рисков, обусловленных активным развитием таких технологий, для формирования гармонично развитой личности (в том числе в части, касающейся получения навыков самостоятельной исследовательской деятельности), а также на эффективную интеграцию технологий искусственного интеллекта в образовательный процесс в качестве дополнительного метода обучения;»
То есть мы видим, что снижение рисков должно происходить за счет двух моментов: учета этих рисков и согласования с профильными органами. Но мы отлично знаем, что профильные органы, будучи так или иначе зависимы от властей, зачастую просто одобряют их решения. А надеяться на снижение рисков при том, что они даже не признаются, вообще не стоит.
Единственное, что реально может снизить риски — это привлечение к обсуждению общества, общественных организаций, широкого круга экспертов. Но именно это и не предусмотрено (и мы помним, как это бывает, даже когда предусмотрено, на примере обсуждения Стратегии развития образования).
Угроза усугубляется тем, что в сфере образования риски проявляются не сразу, а спустя несколько (порядка десяти и более) лет. А угроза эта страшная: даже «обычная» цифровизация серьезно ухудшала образовательные успехи учащихся, это подтверждено многочисленными научными исследованиями.
ИИ же может просто обнулить любые попытки научить чему-то детей. Путин сам выражал опасения по этому поводу, но нынешние поручения показывают, что он, видимо, настолько очарован расписанными ему выгодами внедрения этих технологий, что готов рискнуть всем.
В документе есть один позитивный момент. В нем идет речь о формировании гармонически развитой личности. То есть документ уже вступает в противоречие и с имеющейся практикой ранней профилизации и «траекторизации» в школах, и со Стратегией, где в последних редакциях такой направленности не было.
Но этот момент никак не перекрывает рисков, потому что можно внедрить ИИ по полной и заверять, что он поможет гармоничную личность формировать. А когда вскроется, что это не так (а это будет лет через пять, не раньше), не будет ни возможности это исправить, ни, вероятно, уже этого правительства.