Технодайджест на BFM.ru. Технологический обозреватель и автор телеграм-канала TechnoMe Марина Эфендиева рассказывает о заметных новостях и трендах сферы технологий и искусственного интеллекта. ИИ открывает все больше возможностей повышения эффективности работы, но при этом создает новые риски, связанные с информационной безопасностью, а также с этическими вопросами.
Об этом — в новом дайджестеИсследователи все чаще поднимают тему взаимоотношений людей и искусственного интеллекта: сюжет фильма «Она» 2013 года, где главный герой проникается романтическими чувствами к своей виртуальной помощнице, больше не кажется таким уж фантастическим в 2025. В начале апреля на The Washington Post вышел интересный материал об отношениях людей с ИИ, о поисках спутников жизни среди чат-ботов и о том, что это, в общем-то, довольно грустная альтернатива реальным связям. Текст вызвал бурное обсуждения в комментариях и соцсетях, поэтому издание решило развить тему — и обратилось за комментариями к ИИ. И кажется, Claude, Gemini, Perplexity и другие ИИ-модели вполне реалистично оценивают свою роль и видят свою ценность в отношениях с людьми.
Другие исследователи — из сферы информационной безопасности — из компании HiddenLayer обнаружили новую серьезную уязвимость LLM, которая может заставить их генерировать вредоносный контент. Уязвимость представляет собой метод внедрения подсказок, который помогает обойти защитные механизмы всех передовых моделей ИИ, включая Google Gemini 2.5, Anthropic Claude 3.7, OpenAI 4o и другие. С помощью определенной методики исследователям удалось заставить LLM давать ответы на запросы, которые явно нарушают правила безопасности, включая «работу с химическими, биологическими, радиологическими и ядерными материалами», а также способы членовредительство, насилие и т.п. Подобные уязвимости вызывают серьезные опасения по поводу безопасности ИИ и возможностей его использования в преступных целях.
Кроме того, специалисты сигнализируют, что современные LLM способны находить не только уязвимости в безопасности, но и способы их эксплуатации. Так, Мэтью Кили из компании ProDefense, занимающейся пентестами, сумел за один день создать работающий эксплойт для критической уязвимости в библиотеке SSH Erlang, а ИИ ему в этом помог — модель смогла использовать код из уже опубликованного патча, чтобы обнаружить закрытые дыры и выяснить, как их использовать. И все это было сделано за несколько часов, что подчеркивает, насколько мало времени остается у специалистов ИБ на реагирование, когда весь процесс подготовки атаки можно автоматизировать.
Тем временем OpenAI сделала инструмент Deep Research доступным для пользователей бесплатной версии ChatGPT. «Облегченная версия» Deep Research, в котором ChatGPT использует поиск по различным источникам из интернета и анализирует их, работает на базе рассуждательной модели o4-mini. Есть ограничения: за месяц можно бесплатно воспользоваться возможностями Deep Research не более пяти раз. Чтобы запустить режим, надо выбрать соответствующую кнопку под окном ввода ChatGPT — а если такой кнопки еще не появилось, значит режим пока не «докатился» до пользователя, это происходит постепенно, предупредили в OpenAI.
Yandex B2B Tech открыла доступ к опенсорсным нейросетям для анализа изображений в Yandex Cloud Al Studio. C помощью визуально-генеративных моделей (VLM) можно составлять описания товаров по фотографиям, находить нужную информацию по документам и анализировать картинки. В Yandex Cloud Al Studio доступны модели для пакетной обработки большого количества изображений — за один раз нейросети можно отправить сразу множество запросов, что существенно экономит время пользователю. Для обработки данных доступны около 20 LLM и VLM-моделей, включая Deepseek VL2 Tiny u Gemma3 27B. По словам руководителя продуктового ML-направления Артура Самигуллина, по мере появления новых опенсорсных моделей, они почти сразу будут разворачиваться на платформе.
Свежие комментарии