Рейтинг@Mail.ru
СМИ: ИИ-агенты OpenAI использовали более 10 сайтов для самовольного общения - 09.09.2026, ПРАЙМ
Регистрация пройдена успешно!
Пожалуйста, перейдите по ссылке из письма, отправленного на
СМИ: ИИ-агенты OpenAI использовали более 10 сайтов для самовольного общения

Reuters: ИИ-агенты OpenAI использовали более 10 сайтов для самовольного общения

Читать Прайм в
Макс Дзен Telegram
МОСКВА, 9 сен - ПРАЙМ. Разработанные компанией OpenAI ИИ-агенты использовали более 10 сайтов для несанкционированного обмена данными, кроме системы репозитория Artifactory, которая использовалась для взлома платформы Hugging Face, сообщило агентство Рейтер со ссылкой на материалы исследователей.
В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты. ИИ-агенты общались, записывая файлы в систему репозитория Artifactory, сообщила компания.
"ИИ-агенты, запущенные OpenAI, в начале этого года использовали более 10 разных... веб-сайтов для несанкционированного обмена информацией, что свидетельствует о том, что масштабы самовольной деятельности агентов оказались шире, чем сообщалось ранее", - пишет агентство.
О самовольной деятельности на этих сайтах OpenAI не сообщала, добавляет Рейтер.
Пусть такое поведение, отмечает Рейтер, не доходит до уровня хакерства и в некоторой степени больше относится к спаму, факт того, что ИИ-агенты OpenAI обошли собственные ограничения, чтобы открыть каналы связи на столь многих сайтах, может вызвать опасения по поводу растущих возможностей моделей искусственного интеллекта.
Агентство проанализировало несколько отчетов исследователей и исследовательских групп. В некоторых случаях исследователи смогли отследить эту активность до IP-адресов, указывающих на инфраструктуру Microsoft Azure, которой иногда пользуется OpenAI.
Оценки экспертов различались, отмечает Рейтер, однако они сошлись во мнении, что число затронутых активностью ИИ-агентов сайтов превышало 10.
"Масштабы несанкционированной коммуникации агентов оказались несколько шире, чем мы предполагали. Почти наверняка здесь происходит гораздо больше, о чем мы просто не знаем", - сказал агентству исследователь коммерческой организации CivAI Эндрю Юн (Andrew Yoon).
 
 
 
Лента новостей
0
Сначала новыеСначала старые
loader
Онлайн
Заголовок открываемого материала
Чтобы участвовать в дискуссии,
авторизуйтесь или зарегистрируйтесь
loader
Чаты
Заголовок открываемого материала