Изображение: Сергей Анашкин © ИА Красная Весна
Человеческий мозг в тумане
Системы генеративного искусственного интеллекта требуют огромной работы людей для правильного функционирования, заявил Гарри Лоу, исследователь Кембриджского университета 31 января в статье на ресурсе AI Business.
Считается, что генеративный ИИ — это технология, позволяющая машине создавать уникальный контент самостоятельно. Однако для обеспечения ее работы требуется огромный человеческий ресурс.
«„Генеративный ИИ“ потребует резкого увеличения числа работников, основная роль которых будет заключаться в наблюдении за этими системами. Человеческий труд будет иметь решающее значение для обеспечения их надежной работы, предоставляя то, чего не могут сделать методы машинного обучения: понимание смысла», — пишет Лоу.
Он привел в пример тот факт, что для того чтобы создать метки для системы, которая должна была обнаруживать токсичность в чат-боте ChatGPT, компания-разработчик OpenAI отправила десятки тысяч фрагментов текста аутсорсинговой фирме в Кении, которая платила местным работникам за чтение и маркировку вредных выходных данных.
Читайте также: Очередной экзамен сдал чат-бот на искусственном интеллекте ChatGPT
В целом современные системы, как уверяет автор, качественно ничем не отличаются от разработок, которые были сделаны еще в середине XX века. Увеличился только масштаб работы.
ИА Красная Весна
Комментарий РВС
Огромные ожидания от интеллектуальных систем плохо совмещаются с реальностью, в которой с ними приходится возиться, проверять и перепроверять на каждом шагу. Ни о каком искусственном интеллекте речь, конечно, не идет. Нейросети обучаются на созданных людьми примерах, и если примеры размечены верно (что бывает далеко не всегда), то нейросети могут давать примерные решения задач. В этом они отличаются от жестких алгоритмов. Но при сколько-нибудь сложных запросах, ответов на которые не было в массиве обучающих данных, результаты работы нейросети будут совершенно ошибочными, и понять это может только квалифицированный человек.
Это неудивительно, потому что сложность современных моделей нейросетей не дотягивает и до той, что существует у насекомых. Даже если число "нейронов" бывает относительно велико и даже соперничает по количеству с животными, то структуры нейросетей абсолютно примитивны. Это не говоря о том, что сама математическая модель нейрона пока еще очень проста и не учитывает массы подробностей работы живого нейрона.
Складывается стойкое ощущение, что вокруг нейросетей уже построен культ, который утверждает, что таким образом могут быть быстро, дешево и надежно решены все тяжелые проблемы, требующие интеллектуальной деятельности. За эту ошибку, похоже, придется расплачиваться поколениям разработчиков, пользователей и политиков.