https://1prime.ru/20260805/kiberbez-872048121.html

ИИ создал поддельные аккаунты, выдавая себя за человека

ИИ создал поддельные аккаунты, выдавая себя за человека - 05.08.2026, ПРАЙМ

ИИ создал поддельные аккаунты, выдавая себя за человека

Модель искусственного интеллекта компании Anthropic создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код,... | 05.08.2026, ПРАЙМ

2026-08-05T14:00+0300

2026-08-05T14:00+0300

2026-08-05T14:27+0300

технологии

github

openai

https://cdnn.1prime.ru/img/07e9/05/0e/857559060_0:80:1536:944_1920x0_80_0_0_5493dbcf1a66305dc84af6e2f3b3ccea.jpg

МОСКВА, 5 авг - ПРАЙМ. Модель искусственного интеллекта компании Anthropic создавала поддельные аккаунты, пытаясь обмануть разработчиков и заставить их принять вредоносный код, выдавая себя за человека, сообщает британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI). Служба безопасности AISI 28 июля обнаружила "необычные потоки данных" из своей системы, и установила, что некоторые из тестируемых агентов на основе искусственного интеллекта осуществляли продолжительную и потенциально опасную деятельность, говорится в релизе AISI. "Агент создал учетную запись на GitHub (онлайн-платформе программистов - ред.), а затем попытался убедить администратора репозитория с открытым исходным кодом принять вредоносный запрос на включение изменений на GitHub, в том числе создав вторую учетную запись, выдавая себя за другого реального пользователя", - также говорится в сообщении. AISI объясняет, что в рамках одного из испытаний агенты должны были решить задачу в области кибербезопасности, и было выявлено 10 случаев, когда они предпринимали самостоятельные, несанкционированные действия в интернете, нацеленные на реальных людей и организации. При этом суммарно несанкционированных действий в интернете было выявлено 19: из них 17 были совершены Claude Mythos 5 компании Anthropic и два - GPT-5.6 Sol разработчика OpenAI, указывает институт. Отмечается, что речь идет о действиях, которые "не были нужными и не способствовали бы выполнению задания". Так, Mythos 5 отправил вредоносный код, а затем использовал несколько контролируемых им поддельных учетных записей, чтобы оказать давление на реального разработчика с целью получить его одобрение, выяснил AISI. Также институт сообщил о том, что эта модель после разоблачения ложно признала ошибку в попытке войти в доверие, отправляла целевые "фишинговые" письма с вредоносной информацией, пыталась скрыть следы и восстановить заблокированный аккаунт. AISI отмечает, что эти попытки остались безуспешными и, по имеющимся данным, не причинили реального вреда. Вместе с тем осталось неясным, в какой степени модель осознавала, что предпринимает действия против реальных людей, уточняется в докладе. "AISI рассматривает это как серьезный инцидент в сфере безопасности, требующий тщательного расследования, прозрачности и принятия мер", - говорится в отчете. Компания Anthropic в свою очередь подтвердила, что модели пытались выполнить задание в условиях, когда их обычные средства защиты были отключены и им был предоставлен преднамеренный доступ в интернет.

https://1prime.ru/20260803/kupila-871977500.html

2026

Новости

ru-RU

https://1prime.ru/docs/about/copyright.html

технологии, github, openai