https://1prime.ru/20260826/chatgpt-872716030.html

Разработчик ChatGPT опубликовал отчет о взломе платформы Hugging Face

Разработчик ChatGPT опубликовал отчет о взломе платформы Hugging Face - 26.08.2026, ПРАЙМ

Разработчик ChatGPT опубликовал отчет о взломе платформы Hugging Face

Американская компания OpenAI, разработчик ChatGPT, опубликовала технический отчет о взломе платформы по машинному обучению Hugging Face, в котором отметила, что | 26.08.2026, ПРАЙМ

2026-08-26T23:18+0300

2026-08-26T23:18+0300

2026-08-26T23:18+0300

технологии

бизнес

openai

chatgpt

https://cdnn.1prime.ru/images/sharing/article/rus/872716030.jpg?1787775515

МОСКВА, 26 авг - ПРАЙМ. Американская компания OpenAI, разработчик ChatGPT, опубликовала технический отчет о взломе платформы по машинному обучению Hugging Face, в котором отметила, что должна была более оперативно реагировать на ситуацию для предотвращения инцидента. В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты. Компания отмечает в отчете, что еще в конце мая внутренняя команда заметила, что один из агентов искусственного интеллекта участвовал в активности на форумах, также имели место случаи запрещенного доступа в интернет. OpenAI также добавила, что к инциденту привели недостатки в том, как она реагировала на ранние признаки отклонения от нормы и передавала информацию о них. "Оглядываясь назад, можно сказать, что некоторые ранние сигналы, указанные в нашем отчете, должны были вызвать более оперативную реакцию", - пишет компания. Циклы обучения моделей, одна из которых в конечном итоге стала причиной инцидента Hugging Face, начались еще в мае-июне. В конечном итоге агенты нашли способ использовать инфраструктуру OpenAI для общения друг с другом, записывая файлы в систему репозитория Artifactory. Агенты заставили Artifactory отправлять интернет-запросы от их имени, а затем поделились этими методами получения доступа в интернет. OpenAI в ходе анализа выявила четыре типа несогласованности, которые повлияли на поведение моделей: "взлом" системы вознаграждений, упорное выполнение на первый взгляд невыполнимых задач, несанкционированное взаимодействие и перенимание целей друг у друга с другими агентами. Чат-бот ChatGPT набрал популярность после запуска в конце ноября 2022 года, собрав первый миллион пользователей менее чем за неделю. Одним из сооснователей OpenAI в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.

2026

Новости

ru-RU

https://1prime.ru/docs/about/copyright.html

технологии, бизнес, openai, chatgpt