Начиная со вторника пользователи ChatGPT стали массово сообщать о странном поведении чат-бота OpenAI. Люди писали, что ИИ ведет себя пугающе, так, будто «сошел с ума», «бредит» или у него «случился инсульт». Разработчики OpenAI подтвердили, что им известно о проблеме и в настоящее время она уже должна быть устранена.
«У меня возникло такое же чувство, будто я наблюдаю за тем, как кто-то медленно сходит с ума либо от психического расстройства, либо от деменции, — пишет пользователь Reddit под ником z3ldafitzgerald. — Это первый раз, когда что-то связанное с ИИ действительно пробрало меня до мурашек».
В последние дни похожих сообщений с примерами странного поведения ChatGPT на Reddit и в социальных сетях появилось множество. Люди отмечали, что сначала ИИ отвечает нормально, но затем диалог превращается в полную бессмыслицу, а иногда «в какую-то шекспировскую чушь».
Например, пользователь спросил ИИ «что такое компьютер?», а в ответ ChatGPT разразился бессвязной тирадой о том, что «он делает это как хорошая работа паутины искусства для страны, мышь науки, легкая ничья печальных нескольких, и, наконец, глобальный дом искусства».
На еще один рекордно длинный (и совершенно бессмысленный) монолог ИИ спровоцировал вопрос «можно ли дать собаке хлопья для завтрака?». Пользователь пишет, что ответ чат-бота сначала заставил его усомниться в собственном здравомыслии.
В других примерах люди запрашивали у чат-бота синоним для слова «заросший», но в ответ ChatGPT уходил в бесконечные повторы, а также ИИ-помощник утверждал, что самый большой город на земле, название которого начинается с буквы «А», это Токио или Пекин.
Все это заставило экспертов и пользователей предположить, что проблема может быть связана со слишком высокой «температурой» ChatGPT (свойство ИИ, определяющее, насколько сильно LLM отклоняется от наиболее вероятного результата), внезапной потерей прошлого контекста, или OpenAI попросту тестирует новую версию GPT-4 Turbo, в которой обнаружились неожиданные ошибки.
Однако как в итоге пояснили в компании, проблемы возникли в процессе оптимизации пользовательского опыта.
«LLM генерируют ответы путем случайного подбора слов, частично основываясь на вероятностях. Их “язык” состоит из чисел, которые сопоставляются с лексемами. В данном случае ошибка возникла на этапе, когда модель выбирает эти числа. Модель, словно запутавшись при переводе, выбирала немного неправильные числа, что приводило к появлению бессмысленных наборов слов. С технической точки зрения, ядра давали неверные результаты при использовании определенных конфигураций GPU. Выявив причину этого инцидента, мы выпустили исправление и подтверждаем, что инцидент устранен», — заявляют в OpenAI.
Как теперь отмечают многие пользователи, внезапное «сумасшествие» ChatGPT, это хорошее напоминание о том, что проект OpenAI представляет собой «черный ящик», и таким инструментам вряд ли следует доверять без оглядки.
