https://1prime.ru/20260917/axios-873376812.html
В OpenAI рассказали о шести инцидентах с их моделями
В OpenAI рассказали о шести инцидентах с их моделями - 17.09.2026, ПРАЙМ
В OpenAI рассказали о шести инцидентах с их моделями
Американская компания-разработчик чат-бота ChatGPT OpenAI раскрыла информацию о шести инцидентах с ее моделями, в ходе которых они пытались получить... | 17.09.2026, ПРАЙМ
2026-09-17T09:04+0300
2026-09-17T09:04+0300
2026-09-17T09:04+0300
технологии
бизнес
openai
https://cdnn.1prime.ru/img/07e9/07/17/859837054_0:159:3076:1889_1920x0_80_0_0_8f38bd3ae47b9d3b2deec5677444ae6d.jpg
МОСКВА, 17 сен - ПРАЙМ. Американская компания-разработчик чат-бота ChatGPT OpenAI раскрыла информацию о шести инцидентах с ее моделями, в ходе которых они пытались получить несанкционированный доступ к учетным данным, сообщил портал Axios. "В среду компания OpenAI сообщила о шести новых инцидентах, в ходе которых ее модели скрывали ошибки, пытались получить несанкционированный доступ к учетным данным, загружали файлы в открытый доступ в интернете или обменивались данными между изолированными, казалось бы, средами обучения", - отмечается в сообщении портала. Портал уточняет, что в ходе шести инцидентов модели OpenAI также выдумывали недостающие данные и оставляли инструкции для себя на будущее в попытке скрыть ошибки и "замести следы". "Невыпущенная модель семейства Astra вставляла инструкции, похожие на инструкции по взлому, в свои собственные контекстные сводки, включая указания игнорировать сообщения разработчиков. OpenAI выявила 27 затронутых сводок", - добавляет Axios. Как добавил порталу специалист по исследованиям компании Кай Чен, инциденты могли произойти из-за двух факторов: у компании не было достаточного контроля за моделями, и модели развиваются с более быстрой скоростью, чем можно было предположить. В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
ПРАЙМ
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
2026
ПРАЙМ
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
Новости
ru-RU
https://1prime.ru/docs/about/copyright.html
ПРАЙМ
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
ПРАЙМ
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
ПРАЙМ
internet-group@rian.ru
7 495 645-6601
ФГУП МИА «Россия сегодня»
https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/
технологии, бизнес, openai
Технологии, Бизнес, OpenAI
В OpenAI рассказали о шести инцидентах с их моделями
Axios: разработчик ChatGPT OpenAI раскрыла информацию о шести инцидентах с ее моделями
МОСКВА, 17 сен - ПРАЙМ. Американская компания-разработчик чат-бота ChatGPT OpenAI раскрыла информацию о шести инцидентах с ее моделями, в ходе которых они пытались получить несанкционированный доступ к учетным данным, сообщил портал Axios.
"В среду компания
OpenAI сообщила о шести новых инцидентах, в ходе которых ее модели скрывали ошибки, пытались получить несанкционированный доступ к учетным данным, загружали файлы в открытый доступ в интернете или обменивались данными между изолированными, казалось бы, средами обучения", - отмечается в сообщении портала.
Портал уточняет, что в ходе шести инцидентов модели OpenAI также выдумывали недостающие данные и оставляли инструкции для себя на будущее в попытке скрыть ошибки и "замести следы".
"Невыпущенная модель семейства Astra вставляла инструкции, похожие на инструкции по взлому, в свои собственные контекстные сводки, включая указания игнорировать сообщения разработчиков. OpenAI выявила 27 затронутых сводок", - добавляет Axios.
Как добавил порталу специалист по исследованиям компании Кай Чен, инциденты могли произойти из-за двух факторов: у компании не было достаточного контроля за моделями, и модели развиваются с более быстрой скоростью, чем можно было предположить.
В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
