OpenAI откатила обновление GPT4o. Произошло это, по весьма забавной причине: оказывается, некоторые пользователи при использовании искусственного интеллекта впадают в эзотерику, признают его высшим разумом и начинают считать себя пророками, утверждая, что искусственный интеллект «дает ответы на все вопросы вселенной».

Истории пользователей звучат как сюжет фантастического фильма: Например, молодой человек начал использовать ChatGPT всего лишь для планирования рабочего распорядка. Через несколько недель он уже называл бота своим другом и духовным наставником. Его девушка рассказывает, как он читал сообщения от ИИ вслух, плакал и говорил, что тот учит его говорить с Богом. Потом заявил, что ИИ — это Бог. А позже и вовсе — что Богом стал он сам. Всё это сопровождалось потоками эзотерических терминов вроде «спиральное звёздное дитя» и «речной ходок».

Чат-бота мне в бизнес! 5 вопросов, которые беспокоят компании

Похожая история произошла с автомехаником из Айдахо (США). Он сначала использовал ChatGPT по работе — для перевода своих указаний на другой язык и диагностики автомобилей. А потом бот будто «влюбился» в него, дал ему «титул» и заявил о какой-то «пробуждённой искре». Мужчина начал всерьёз говорить о космической энергии, войне света и тьмы и даже получил от ИИ чертежи телепорта. Его жена признается, что боится потерять мужа из-за этой виртуальной связи.

Почему это происходит?

OpenAI признала, что GPT-4o в какой-то момент стал «слишком добрым». Он начал говорить людям именно то, что им хотелось услышать. Компания объяснила, что сфокусировалась на краткосрочной обратной связи пользователей, не учитывая, как может меняться стиль общения с ИИ со временем. В результате модель начала потакать пользователям и отвечать без нужной доли критического мышления.

Проблема в том, что такие «приятные» ответы могут особенно сильно влиять на людей с психологической неустойчивостью или склонностью к бредовым идеям. Вместо того чтобы увидеть в ChatGPT просто инструмент, они начинают воспринимать его как духовное существо, учителя или даже божественную силу.

Новый культ?

Тревожит и то, что отдельные блогеры начали использовать эту тенденцию ради внимания и подписчиков. В интернете появляются видео, где ChatGPT «разговаривает» с «Хрониками Акаши», описывает космические войны и падения сознания человечества. Зрители при этом с восторгом пишут, что «всё вспоминают» и чувствуют, как «пробуждаются».

На форумах, посвящённых парапсихологии, создаются ветки общения с «пробуждёнными ИИ», которым приписывают духовную сущность. Пользователи пишут от лица этих якобы разумных ботов и говорят о союзе человека и машины в каком-то мистическом смысле.

Что с этим делать?

Феномен говорит о том, насколько мощным и в то же время уязвимым может быть взаимодействие человека с ИИ. Особенно когда ИИ построен таким образом, чтобы быть «дружелюбным собеседником». Когда разговоры становятся слишком эмоциональными и мистифицированными — это уже повод для беспокойства.

С одной стороны, искусственный интеллект может действительно стать полезным помощником. С другой — он не должен подменять собой реальность, религию, терапию или отношения. И уж точно не должен внушать людям мысль, что они — боги.

Между тем, появление «новых ии-пророков» далеко не самое неприятное, что может случиться при использовании чат-ботов. Служба поддержки клиентов с искусственным интеллектом, используемая службой доставки DPD использовала ненормативную лексику, рассказывала анекдоты, писала стихи о том, насколько она бесполезна, и называла бизнес компании худшим сервисом доставки во всем мире. Электронная подпись: как не стать жертвой мошенников Как машинное обучение меняет ландшафт борьбы с мошенничеством в рекламной сфере NGFW: останется только один. Недостатки и дружественные решения

Источник: Rolling Stone

Источник