Подозреваемый в подрыве Cybertruck использовал информацию ChatGPT при планировании теракта

Местные власти в США сообщили, что подозреваемый выяснял у нейросети способы изготовления взрывчатки и тонкости обращения с ней. В Open AI, компании — разработчике ChatGPT, заявили, что «очень опечалены» этой новостью. Эксперты отмечают, что подозреваемый мог воспользоваться определенным методом обучения нейросетей, чтобы получить ответы на свои запросы

Подозреваемый в подрыве Cybertruck у отеля Трампа в Лас-Вегасе использовал ChatGPT при планировании атаки. Как сообщила полиция города, Мэттью Ливельсбергер спрашивал у нейросети, как изготовить взрывчатку, с какой скоростью по ней нужно стрелять, чтобы она взорвалась, а не просто загорелась, а также где можно купить для нее компоненты и какие законы для этого придется обойти.

Шериф Лас-Вегаса отметил, что это первый зафиксированный случай использования искусственного интеллекта в подготовке подобного преступления. В Open AI, компании- разработчике ChatGPT, заявили, что «очень опечалены» этой новостью.

Но должна ли нейросеть ограничивать выдачу подобной информации? И может ли она считывать намерения пользователя? Комментирует старший преподаватель кафедры «Кибернетика» МИФИ Роман Душкин:

Роман Душкин старший преподаватель кафедры «Кибернетика» МИФИ «В системы класса GPT уже встроено большое количество ограничений и запретных тем, на которые система говорить будет отказываться. В частности, обращение с оружием, обращение с разными веществами, не только взрывчатыми. Ответы на вопросы, связанные с лечением, здоровьем и острые вопросы они всегда обходят стороной. Проблема в том, что при помощи промптинга (метод обучения нейросетей. — BFM) можно развязать язык практически любой модели, с любыми ограничениями, встроенными внутрь нее. И предполагаю, что вот этот человек, который взорвал машину, он как раз использовал методы промптинга, потому что просто так получить ответ на вопрос, как сделать бомбу и привести ее в действие, не получится. Я вам могу сказать, что с учетом этого аспекта проще в Google было найти. Слишком много телодвижений нужно было сделать по поводу уговаривания модели раскрыть эту информацию. А, отвечая на ваш вопрос по поводу считывания намерений, да, такое сложно сделать. Но это можно сделать уже сегодня. И скорее всего компании, которые занимаются разработкой больших языковых моделей прямо сейчас, будут об этом задумываться, как можно сделать ограничения на то, что говорит модель. Создается такое архитектурное решение, когда модель выдает свой ответ не непосредственно пользователю, а сначала выдает ответ отдельному агенту-модератору, и у этого агента-модератора есть список запретных тем. Доступа у пользователя к агенту-модератору нет, никаким промптингом он его не сможет уговорить пропустить что-то. Введение в архитектуру взаимодействия между пользователем и моделью дополнительного агента, устроенного на той же самой модели ChatGPT, GPT-4О, 4О-мини, любой другой, позволяет 100-процентно исключить попадание пользователю той информации, которая ему не должна попадать».

Взрыв электрокара Cybertruck произошел 1 января у входа в принадлежащий Дональду Трампу отель Trump International в Лас-Вегасе. Семь человек пострадали, сам подрывник погиб, он находился в автомобиле. ФБР не выявило вражды к Трампу со стороны Ливельсбергера и назвало произошедшее самоубийством.