Киноцитата, "Заводной апельсин", Стенли Кубрик, 1971
Корпорация OpenAI предложила нейросетевую модель GPT-4 в качестве сервиса для модерации контента. Об этом компания 15 августа сообщает на своем сайте.
По мнению компании, ИИ превзойдет модераторов-людей потому что у GPT нет предвзятости при интерпретации политики модерации и потому что она быстро учится новым правилам. Также разработчики предлагают использовать ИИ для разработки новых правил модерации на основе анализа данных.
Еще одной услугой ИИ должна стать "Забота о модераторах", которые сталкиваются с эмоциальной перегрузкой от работы с оскорбительным и шокирующим контентом.
Ранее сообщалось , что OpenAI использовала труд кенийских фрилансеров для фильтрации и тегирования текста за $1-2 в час. Фрилансеры использовались для подготовки обучающих данных для ChatGPT, который таким образом должен определять «токсичный контент» с описаниями насилия, убийств и самоубийств.