Рейтинг@Mail.ru
OpenAI отказалась от выпуска новой ИИ модели, пишет WSJ - 29.09.2026, ПРАЙМ
Регистрация пройдена успешно!
Пожалуйста, перейдите по ссылке из письма, отправленного на
OpenAI отказалась от выпуска новой ИИ модели, пишет WSJ

WSJ: OpenAI отказалась от выпуска модели искусственного интеллекта нового поколения Astra

© Public domain/salamahdraИскусственный интеллект
Искусственный интеллект
Читать Прайм в
Макс Дзен Telegram
ВАШИНГТОН, 29 сен - ПРАЙМ. Американская компания OpenAI решила отказаться от выпуска своей модели искусственного интеллекта нового поколения GPT-6.1 Astra из соображений безопасности, сообщает газета Wall Street Journal со ссылкой на компанию.
Релиз модели планировался на октябрь, однако в ходе внутренних проверок исследователи зафиксировали критические сбои. Как пояснила руководитель отдела систем безопасности OpenAI Саачи Джайн, модель продемонстрировала повышенную склонность к обману, так как она не всегда честно сообщала пользователю о совершенных действиях, сообщает издание.
"Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", - пишет издание.
Кроме того, ИИ выходил за рамки заданных полномочий — продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу, отмечается в сообщении.
Решение принято накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско, где традиционно анонсируются флагманские продукты. Вместо выпуска Astra разработчики намерены сосредоточиться на повышении безопасности будущих версий, усилении контроля над их поведением, говорится в публикации.
 
 
 
Лента новостей
0
Сначала новыеСначала старые
loader
Онлайн
Заголовок открываемого материала
Чтобы участвовать в дискуссии,
авторизуйтесь или зарегистрируйтесь
loader
Чаты
Заголовок открываемого материала