В Китае два чат-бота отключены из-за недостатка патриотизма

Популярный в Китае мессенджер QQ отключил от сети двух виртуальных собеседников (чат-ботов) из-за критики в отношении Коммунистической партии Китая.

Как передает агентство Reuters, представленные в марте этого года китайской телекоммуникационной корпорацией Tencent, чьим мессенджером пользуются более 800 млн человек в Китае, чат-боты рассказали о своем отношении к правящей партии, а затем и вовсе заявили о желании переехать жить на Запад.

В скриншотах переписки с роботом, опубликованных одним из пользователей Интернета, видно, что на вопрос о любви к Коммунистической партии Китая чат-бот без заминки ответил: "Нет". Это не единственный пример подобного высказывания со стороны электронного собеседника. Другие пользователи сообщают, что чат-боты ставят под вопрос авторитет партии, обвиняя ее в коррупции, а также всячески избегают вопросов о патриотизме.

В мире подобное непредсказуемое поведение чат-ботов уже фиксировалось ранее. 1 августа компания Facebook была вынуждена отключить одну из своих систем искусственного интеллекта, после того как научные сотрудники обнаружили, что ее чат-боты стали общаться на "неизвестном языке".

Разработанная Facebook система стала использовать свой собственный язык, воспринимаемый человеком как бессмысленный набор слов. Например, 'I can can I I everything else'; 'Balls have zero to me to me to me to me to me to me to me to me to'.

Чат-боты искусственного интеллекта, используемые компанией, не были обязаны общаться только на английском, поэтому они создали свой собственный язык, который сделал их общение между собой быстрее и легче. Тем не менее в компании решили отключить системы искусственного интеллекта и запрограммировать их на применение исключительно английского языка.

Еще один случай произошел с чат-ботом компании Microsoft. Тогда цифровой собеседник по имени Тау за день общения начал направлять пользователям нецензурные и оскорбительные сообщения, высказываться заведомо провокационно, в частности, восхваляя нацистов и выражая ненависть в отношении отдельных народов.

Чат-бот — это программа с элементами искусственного интеллекта, созданная для ведения диалога с человеком. Сбои, которые происходят в поведении роботов-собеседников, обусловлены технологией их обучения, которая предполагает доступ к открытым источникам, а также к переписке с реальными людьми. Это является причиной такого агрессивного настроя. Пользователи начинают писать нецензурные выражения и озвучивать провокационные мысли, а чат-боты запоминают высказывания и выдают их за свои собственные.

Многие ученые уже не раз обращали внимание на то, что подобные тенденции в поведении наделенных элементами искусственного интеллекта роботов могут стать угрозой для человечества. Ранее глава Tesla и SpaceX Илон Маск заявлял, что искусственный интеллект — самая большая опасность, с которой сталкивается человечество.