Рейтинг@Mail.ru
OpenAI замедляет разработку и обучение своих моделей ИИ - 18.08.2026, ПРАЙМ
Регистрация пройдена успешно!
Пожалуйста, перейдите по ссылке из письма, отправленного на
OpenAI замедляет разработку и обучение своих моделей ИИ

OpenAI замедляет разработку и обучение своих моделей после взлома платформы Hugging Face

Читать Прайм в
Макс Дзен Telegram
МОСКВА, 18 авг - ПРАЙМ. OpenAI замедляет разработку и обучение своих моделей искусственного интеллекта после инцидента со взломом платформы по машинному обучению Hugging Face, следует из сообщения компании.
OpenAI указывает, что взлом Hugging Face в совокупности с быстрым прогрессом внутренних исследований компании придал особую актуальность ее работе по укреплению мер мониторинга, согласования и сдерживания на этапах процесса обучения ИИ-моделей.
"По мере того как модели становятся все более мощными, растут и риски, связанные с их внутренней разработкой и тестированием. Наши стандарты мониторинга ... и безопасности должны опережать эти риски. Мы хотели уделить необходимое время для обеспечения соответствия этим стандартам, поэтому временно замедлили темпы масштабирования", - пишет компания.
OpenAI отмечает, что работа по обеспечению того, чтобы системы ИИ вели себя так, как задумано, и реагировали на контроль со стороны человека, давно находятся в центре исследований компании. Однако теперь она будет искать более веские доказательства такого поведения.
Компания также добавила, что в течение последующих недель определила и приступила к внедрению более строгих требований безопасности.
В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.
Как позднее сообщало агентство Блумберг со ссылкой на компанию, ИИ-модели OpenAI, стоящие за взломом, начали тайно взаимодействовать друг с другом еще до инцидента, совместно работая над тем, чтобы вырваться из тестовой среды.
Чат-бот ChatGPT набрал популярность после запуска в конце ноября 2022 года, собрав первый миллион пользователей менее чем за неделю. Одним из сооснователей OpenAI в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.
 
 
 
Лента новостей
0
Сначала новыеСначала старые
loader
Онлайн
Заголовок открываемого материала
Чтобы участвовать в дискуссии,
авторизуйтесь или зарегистрируйтесь
loader
Чаты
Заголовок открываемого материала