Изображение: (cc) brianjmatis
Робот читает электронную книгу
Необычное поведение чат-ботов, созданных на основе машинного обучения, объяснил профессор компьютерных наук в Университете Брауна Майкл Литтман в интервью от 24 февраля в издании TechXplore.
Он пояснил, что чат-бот обучается на огромных массивах связанных текстов, диалогов, переписках в социальных сетях. На каждый вопрос он отвечает исходя из того контекста, который предполагается в вопросе. Таким образом, задавая в переписке с ботом нужный контекст можно добиться от него очень странных высказываний.
Например, можно предложить боту писать так, как будто бы он является сценаристом, который пишет речь лидеру нацистской партии. И он будет для дальнейших вопросов использовать контекст, в котором он является нацистом и выдавать, соответственно, чудовищные высказывания.
Таким образом и был получен ставший известным диалог чат-бота Bing AI с журналистом The New York Times Кевином Руз, в котором тот якобы нашёл у бота скрытую субличность.