Мартинус Рёрбюе. Шахматисты в восточные кафе. 1845
Причиной недопуска турецкой футбольной команды в Грецию стал ее отказ выполнить требование искусственного интеллекта, заявил 12 июля заместитель министра гражданской защиты Никос Хардалиас 12 июля.
Хардалиас объяснил, почему приказал не пропускать в аэропорту Афин турецкую футбольную команду «Галатасарай», прибывшую на матч с «Олимпиакосом». По его словам, согласно протоколам, команда должна была пройти выборочное быстрое тестирование на коронавирус «на основании санитарного алгоритма». Однако те отказались от сдачи анализа, сославшись на наличие у них отрицательного ПЦР-теста, сделанного еще в Турции. В результате во въезде было отказано, и футболисты отправились обратно в Турцию.
Судя по известным нам публикациям, это первый случай, по крайней мере в Греции, когда не какой-то местный исполнитель, а национальное правительство делегировало свое решение искусственному интеллекту, а затем его усердно исполнило. До этого, казалось, искусственный интеллект был лишь инструментом, облегчающим принятие решения, но не заменяющим его.
Что это за искусственный интеллект?
Перед въездом в Грецию каждый пассажир заполняет через интернет специальную анкету (PLF), в которой, помимо прочего, указывает, откуда он едет. После этого ему выдается QR-код, который он предъявляет по прибытии в Грецию. Компьютерная система с гордым названием EVA считывает QR-код, находит анкету, анализирует эти данные и — уже на месте — принимает решение, нужно ли взять у данного пассажира дополнительный тест на коронавирус. Подчеркнем, эта мера дополняет другие инструменты, такие как сертификаты о вакцинации или справки об отсутствии коронавируса.
Если система потребует сделать дополнительный тест, то пассажир должен дождаться его отрицательного результата. Если тест окажется положительным, пассажир отправляется на карантин.
Как утверждают разработчики системы, этими тестами система достигает сразу две цели. Во-первых, на основе анкетных данных система вычисляет вероятность того, что данный пассажир окажется носителем коронавируса. Зная, какие рейсы прибывают в данный аэропорт, а также мощность лабораторий, система пытается распределить тесты среди пассажиров с наибольшим риском. А значит, своевременно «выявить» наибольшее возможное количество носителей коронавируса и максимально задержать его ввоз в страну.
Вторая задача — быстрое обучение. Система отправляет на тестирование не только тех, у кого она уже более всего подозревает наличие коронавируса, но и пассажиров с других направлений. Анализируя эти результаты, она быстро «отслеживает» изменение эпидемиологической обстановки и переориентируется на тестирование новых направлений. Утверждается, что благодаря этому она быстрее реагирует на ситуацию, чем системы, опирающиеся лишь на официальные данные о распространении коронавируса по регионам.
Таким образом, основой алгоритма являются статистические методы, а задача алгоритма — распределить дефицитные тесты так, чтобы выявить больше носителей инфекции, чем простая «слепая» проверка первых попавшихся пассажиров.
Сколь эффективна оказалась эта система? Как заявили 19 марта ее разработчики, она смогла выявить почти вдвое больше носителей инфекции, чем, по расчетам, было бы обнаружено при полностью случайной проверке. Согласно расчетам, в итоге, проверив 18% пассажиров (на столько хватало денег), система выявила около 33% носителей коронавируса. Улучшение заметное, но назвать его радикальным нельзя. Более того, как показал анализ, попытки увеличить эффективность системы через увеличение количества тестов, снижают эффект от применения «интеллекта». Так, если проверять более 40% въезжающих, то эффект от применения системы теряет статистическую значимость.
Иначе говоря, в своей сути этот «интеллект» — несколько улучшенный аналог слепой выборочной проверки. Некоторых пассажиров направляют на тестирование, некоторых не направляют. Инфицированными могут быть или не быть как те, так и другие. В данном случае на тестирование направили этих, по выражению футбольного клуба, который они представляли, «гордых носителей турецкого флага». Те отказались, и греческий министр, сославшись на строгие инструкции, требующие подчиняться искусственному интеллекту, приказал отказать им во въезде.
Кто кем управляет?
Люди с давних времен изобретают различного рода инструменты. Каменный топор в каком-то смысле увеличивает силу рук, компьютер — силу ума. С недавних пор «интеллектуальные» системы стали использоваться в сфере, где их применение изначально этически сомнительно: управление людьми.
Правительство создает искусственный интеллект, который помогает ему, например, выявлять подозрительные транзакции или людей, похожих на преступников. При этом подчеркивается, что решение всегда — по крайней мере номинально — остается за человеком: работником банка или полицейским. Именно он отвечает за обоснованность решения и принимает на себя — по крайней мере номинально — ответственность. И даже если какому-то рядовому исполнителю может быть по инструкции запрещено проявлять избыточную инициативу и нарушать рекомендации искусственного «интеллекта», то всегда остается возможность обратиться в вышестоящую инстанцию, которая сможет пересмотреть решение. По крайней мере, в принципе.
В данном случае профильный министр суверенного государства прямо заявил, что решение машины — случайное! — должно быть исполнено. Несмотря на особые обстоятельства. На мой взгляд, это серьезный прецедент. Чиновник не стал ссылаться на целесообразность данного решения. Он сослался именно на то, что протоколы требуют подчиняться решению машины. И прямо отвел себе роль исполнителя — заведомо хаотичной — воли машины.
Стоит отметить, что этому инциденту предшествовал обратный случай. Совсем недавно разразился скандал, связанный с обвинением Хардалиаса в том, что из-за него в Грецию проникли четыре больных члена турецкой делегации по баскетболу. Хардалиасу пришлось объяснять, что он не знал, что те больны, что никаких приказов он не давал, что измерение температуры не входит в протокол, а всё, что сделало его министерство, — это организовало рейс в период жестких ограничений. Фактически, репутация министра оказалась спасена лишь благодаря ссылке на протокол. Который делегировал всё машине.
Алексей Стратонников