Американскую нейросеть закрыли из-за нетолерантности в гендерных вопросах

Компания Amazon при оценке профессиональной пригодности кандидатов на работу отказалась использовать систему искусственного интеллекта из-за отсутствия гендерной нейтральности созданной нейросети.

По данным Reuters, система на базе искусственного интеллекта, которая оценивала пригодность кандидатов к должностям программистов и технических работников, несравненно чаще выбирала мужчин, чем женщин.

Такое поведение было замечено компанией Amazon еще в 2015 году. Однако тогда разработчики системы посчитали, что подобные результаты были получены из-за некорректной выборки резюме, на основе которой проводилось обучение системы искусственного интеллекта (ИИ).

Американская компания попыталась исправить программное обеспечение, однако удовлетворительного результата в отношении «гендерной нейтральности» получить так и не удалось.

В результате, по информации источников, проект использования ИИ при приеме людей на работу Amazon закрыл. О дальнейшей судьбе наработок, полученных в результате создания системы, американская компания не сообщает.

Напомним, Amazon — крупнейшая в мире компания, занимающаяся продажами через глобальную сеть Интернет. В сентябре 2018 года ее капитализация превысила 1 трлн долларов США. Amazon также является одним из крупных игроков в области развития интернет–технологий.

С 2014 года одна из групп компании приступила к разработке системы оценки резюме, основанной на применении технологий искусственного интеллекта.

Комментарий редакции

Искусственный интеллект трудно заподозрить в «сексистском» или ином предвзятом подходе: он не опирается на свои человеческие «предрассудки». Тем не менее, даже несмотря на противодействие людей, ИИ всё-таки «открыл Америку» и обнаружил, что разные профессии действительно по-разному подходят мужчинам и женщинам.

И если естественному интеллекту можно «объяснить», что если он не примет «политкорректные» решения, то его уволят, то объяснить это интеллекту искусственному пока не удалось. Вот проект и пришлось закрыть.