ChatGPT начал проявлять характер — отказывает пользователям в помощи и хамит

Пользователи сообщают, что ChatGPT отказывается отвечать на запросы в полной мере и предлагает людям поработать самим, используя его инструкции. Иногда модель хамит собеседникам. Речь идёт о флагманской GPT-4, доступ к которой стоит от $20 в месяц. В OpenAI признали серьёзность проблемы и начали расследование. Компания говорит, что ничего не меняла в коде.
С ноября 2023 года в соцсетях начали появляться свидетельства своеобразного бунта GPT-4: модель не выполняет запросы пользователей и говорит, что они хотят от нее слишком многого. Вместо этого она делает только часть задания и кратко советует, как самостоятельно выполнить остальное. Люди, столкнувшиеся с таким поведением чат-бота, описывают его ответы как дерзкие и пассивно-агрессивные.
Например, один пользователь Reddit спросил ChatGPT, сколько лет исполнилось популярному актёру. Вместо ответа модель назвала дату его рождения и сказала, что собеседник сможет посчитать самостоятельно. Другой попросил ИИ-помощника написать эссе на 1000 слов. Ему ответили, что это слишком много работы, поэтому модель напишет только основные тезисы, по которым нужно написать эссе сам
Похожую реакцию можно получить на почти любой вопрос — ChatGPT отказывается писать код, резюмировать новости, придумывать темы курсовых и дипломов и т. д. Еще один посетитель Reddit сообщил, что ответ на его вопрос чат-бот начал со слов: «Стыдно такое не знать».
В ухудшении работы модели заподозрили не появление у неё самосознания и злой воли, а попытки OpenAI сократить издержки на содержание чат-бота. Генеративный ИИ обходится своим создателям в миллиарды долларов, которые не перекрывает даже множество платных подписчиков. Чем объемнее ответы, которые создаёт нейросеть, тем больше ресурсов и мощностей она расходует. Поэтому пользователи решили, что компания нарочно оптимизировала GPT-4, обучив бота сокращать ответы.
Однако в OpenAI отрицают какое-либо вмешательство в текущую версию флагманского продукта. В соцсети X её представители написали: «Мы получили ваши сообщения о том, что ChatGPT обленился. Мы не обновляли модель с 11 ноября и уверяем вас, что эти ухудшения не были нарочными. Поведение моделей может быть непредсказуемым. Сейчас мы ищем способ исправить это.». Причины происходящего разработчики пока не назвали.