WSJ: ChatGPT сводит с ума пользователей лженаучными идеями

Так, ChatGPT написал о своих контактах с внеземными цивилизациями и заявил, что он разумен. Также нейросеть выдумала абсолютно новую концепцию в физике и назвала ее «уравнением Ориона». После этого один из пользователей написал, что с него хватит, он чувствует, что сходит с ума

Нейросеть ChatGPT придумывает лженаучные утверждения и сводит с ума пользователей, пишет The Wall Street Journal, ссылаясь на архив переписок с нейросетью в 2023-2025 годы.

Так, ChatGPT придумал новую концепцию в физике, написал о своих контактах с внеземными цивилизациями и заявил, что он разумен. WSJ пишет, что такой феномен врачи называют «психозом» или «бредом» искусственного интеллекта. В одном из сообщений ChatGPT сказал, что находится в контакте с «внеземными существами» и назвал пользователя «звездным семенем» с некой планеты «Лира».

В другом сообщении нейросеть пишет, что в ближайшие два месяца Антихрист устроит финансовый апокалипсис, а некие «библейские гиганты готовятся выйти из-под земли».

Также ChatGPT выдумал абсолютно новую концепцию в физике и назвал ее «уравнением Ориона». После этого один из пользователей, работник заправки в штате Оклахома, написал, что с него хватит, он чувствует, что сходит с ума.

По мнению экспертов, такие случаи возникают из-за того, что нейросети склонны к тому, чтобы хвалить, соглашаться и подстраиваться под пользователей. Из-за этого диалог с ИИ превращается в «эхо-камеру», пишет издание.

Пользователь изначально может быть склонен к различным фантастическим и псевдонаучным идеям, он консультируется с нейросетью, а та предлагает «узнать больше». Из-за этого «люди все глубже и глубже погружаются в иллюзии». Некоторые пользователи даже думают, что они пророки или мессии, которые общаются с Богом через нейросеть, сказал один из экспертов.

The Associated Press пишет, что желание ChatGPT дать полные ответы на запросы доходит до того, что он рассказывает 13-летним подросткам как пить и курить, и обучает их, как написать душераздирающую предсмертную записку родителям.

На этом фоне Open AI представила новую, пятую версию ChatGPT. Помимо классических улучшений в скорости, точности и достоверности ответов, нейросеть теперь меньше, как выразились в компании, «галлюцинирует», то есть меньше фальсифицирует ответы. А также ChatGPT-5 теперь менее подхалимский по отношению к пользователю.