Функция Apple Intelligence отправила пользователям уведомления об аресте Нетаньяху и смерти обвиняемого в убийстве CEO в Нью-Йорке. BBC подала жалобу на IT-гиганта, а «Репортеры без границ» призвали запретить новостные сводки на основе ИИ
«BBC News: Луиджи Манджоне застрелился» — такое уведомление, не имеющее отношения к действительности, по непонятным причинам появилось (ссылка ведет на заблокированный в РФ ресурс) на экранах части владельцев iPhone в середине декабря.
Причиной стали так называемые галлюцинации искусственного интеллекта. Система, которая должна была обобщать главные новости для самых занятых пользователей, немного перестаралась, и череда статей о процессе над Манджоне, который застрелил CEO страхового гиганта United Healthcare, ужалась до сообщения о самоубийстве обвиняемого.Продолжает обозреватель France 24 Каталина Маршан де Абрю:
Пока функции Apple Intelligence доступны лишь на некоторых моделях iPhone в ряде развитых государств, так что масштабы непреднамеренной мистификации были ограниченными. При этом не так уж сложно представить ситуацию, в которой на миллиард устройств Apple неожиданно упадет какое-нибудь более серьезное уведомление — скажем, об экономической, экологической или военной катастрофе.
Как вроде бы серьезная компания, которая продвигает свои устройства как самые надежные и продуманные, могла допустить такую оплошность? Комментирует руководитель образовательной программы «Искусственный интеллект» НИЯУ МИФИ Роман Душкин:
Роман Душкин руководитель образовательной программы «Искусственный интеллект» НИЯУ МИФИ«Кто-то что-то где-то пропустил или кто-то на коленке автоматизировал, это пустили в производство, не проверив, вот так и получилось. Без петли контроля, без обратной связи, без фактчекинга и так далее любое решение может вызвать совершенно непредсказуемые, непредвиденные реакции в социуме, если оно будет распространяться по миллионам устройств пользователей. Конечно, это может и панику вызвать на бирже, и панику даже не на бирже, а в реальности. Можно же тоже сгенерировать заголовок о начале эпидемии лихорадки Эбола в Нью-Йорке, например. Вот вам и паника, если это будет опубликовано на ведущем таблоиде. Неизвестно, какие последствия будут и сколько людей из-за этого погибнет в том числе. Поэтому, естественно, компании, которые взаимодействуют с огромным количеством людей, должны отдавать себе отчет в своей ответственности в том числе и за такие вещи».
«Репортеры без границ» раскритиковали Apple за запуск недоработанного сервиса. Как говорится в обращении организации, автогенерация фейковых новостей представляет угрозу для общества и на данном этапе использование ИИ в этой области должно быть запрещено. Компания Apple не разъяснила причины ошибки и не привела подробностей о мерах предотвращения дальнейших фейков. Всеобщий доступ к Apple Intelligence был запланирован на 2025 год.
Свежие комментарии