ЛОНДОН, 4 августа. /ТАСС/. Популярный в Китае мессенджер (QQ) отключил от сети двух виртуальных собеседников (чат-ботов) из-за критики в отношении Коммунистической партии Китая.
Как передает агентство Reuters, представленные в марте этого года китайской телекоммуникационной корпорацией Tencent, чьим мессенджером пользуется более 800 млн человек в Китае, чат-боты рассказали о своем отношении к правящей партии, а затем и вовсе заявили о желании переехать жить на Запад.
В скриншотах переписки с роботом, опубликованных одним из пользователей интернета, видно, что на вопрос, любишь ли ты Коммунистическую партию Китая, чат-бот без заминки ответил «Нет». Это не единственный пример подобного высказывания со стороны электронного собеседника. Другие пользователи сообщают, что чат-боты ставят под вопрос авторитет партии, обвиняя ее в коррупции, а также всячески избегают вопросов о патриотизме.
Не первый случай
В мире подобное непредсказуемое поведение чат-ботов уже фиксировалось ранее. 1 августа компания Facebook была вынуждена отключить одну из своих систем искусственного интеллекта, после того как научные сотрудники обнаружили, что ее чат-боты стали общаться на «неизвестном языке».
Разработанная Facebook система стала использовать свой собственный язык, воспринимаемый человеком как бессмысленный набор слов. Например, «I can can I I everything else»; «Balls have zero to me to me to me to me to me to me to me to me to».
Чат-боты искусственного интеллекта, используемые компанией, не были обязаны общаться только на английском, поэтому они создали свой собственный язык, который сделал их общение между собой быстрее и легче. Тем не менее в компании решили отключить системы искусственного интеллекта и запрограммировать их на применение исключительно английского языка.
Угроза для человечества
Чат-бот — это программа с элементами искусственного интеллекта, созданная для ведения диалога с человеком. Сбои, которые происходят в поведении роботов-собеседников, обусловлены технологией их обучения, которая предполагает доступ к открытым источникам, а также к переписке с реальными людьми. Это является причиной такого агрессивного настроя. Пользователи начинаю писать нецензурные выражения и озвучивать провокационные мысли, а чат-боты запоминают высказывания и выдают их за свои собственные.
