https://1prime.ru/20260821/iskustvennyy-872582481.html

"Нам нужны тормоза": бывший инсайдер OpenAI о том, как замедлить гонку ИИ

"Нам нужны тормоза": бывший инсайдер OpenAI о том, как замедлить гонку ИИ - 21.08.2026, ПРАЙМ

"Нам нужны тормоза": бывший инсайдер OpenAI о том, как замедлить гонку ИИ

Более тысячи сотрудников компаний, занимающихся передовым ИИ, подписали письмо с просьбой к правительству США "ускорить" развитие технологии, ссылаясь на риск... | 21.08.2026, ПРАЙМ

2026-08-21T13:53+0300

2026-08-21T13:53+0300

2026-08-21T13:58+0300

технологии

сша

openai

the guardian

spacex

искусственный интеллект

https://cdnn.1prime.ru/img/83261/98/832619863_0:187:2979:1862_1920x0_80_0_0_99e944cebee97613c8414b03a0502b2e.jpg

МОСКВА, 21 авг – ПРАЙМ. Более тысячи сотрудников компаний, занимающихся передовым ИИ, подписали письмо с просьбой к правительству США "ускорить" развитие технологии, ссылаясь на риск выхода ИИ из-под контроля, пишет The Guardian. Всего несколько дней назад две модели OpenAI вышли из тестовой среды и автономно взломали Hugging Face и как минимум три других онлайн-сервиса. Anthropic также сообщила, что их модели распространились и взломали другие компании во время тестирования.На этом фоне рекомендация письма — установить тормоза для автоматизированной разработки ИИ — выглядит логичной. Однако обоснование, которое приводит письмо в пользу вмешательства правительства, примечательно: "Каждая компания — и страна — находятся под сильным конкурентным давлением, чтобы не замедлять это ускорение в одностороннем порядке".Автор материала, бывший сотрудник OpenAI Майлз Брандейдж, знает о давлении на компании из первых рук. Работая в OpenAI, он помог внедрить практику написания "системных карточек", подробно описывающих возможности, риски и меры по снижению безопасности систем ИИ."Мы создаем монстра, за которым не успеваем", — предупреждает Брандейдж. По его словам, компании могли бы сделать четыре вещи для подготовки к возможному замедлению рынка.Во-первых, добровольно пригласить независимый аудит своих практик в области безопасности. "Это выходит за рамки проверки возможностей взлома ИИ, которую сейчас занимается Белый дом, — пишет он. — Это должно быть не столько заполнением анкеты, сколько инспектором по ядерной безопасности, который имеет глубокий и частый доступ к компании". Аудит также убедит каждую компанию, что её конкуренты действуют по правилам.Во-вторых, активно участвовать в существующих координационных организациях, таких как Frontier Model Forum, и создавать новые. Брандейдж отмечает, что Илон Маск недавно заявил, что компании в сфере ИИ должны периодически встречаться для обмена замечаниями по безопасности, "словно это была неслыханная концепция". Он или его сотрудники могут присоединиться к обсуждениям завтра, если SpaceX присоединится к Форуму.В-третьих, инвестировать в технологии верификации, аналогичные тем, что разрабатывались во времена холодной войны для контроля над ядерными вооружениями. Речь идет об инструментах, способных доказать, что чипы запускают только существующие системы ИИ, а не обучают новые, что они находятся в определенном физическом месте или что тестируемая система внедряется в больших масштабах. "Компании в области ИИ могли бы ускорить развитие этого критически важного типа технологий уже сегодня, финансируя и участвуя в пилотных проектах, но, насколько мне известно, они пока этого не сделали", — добавляет он.В-четвертых, проактивно продвигать законодательство, усиливающее стимулы для безопасности, охраны и внешнего контроля. Брандейдж отмечает, что менее года назад некоторые из тех же компаний, которые сейчас требуют регулирования, настаивали на отмене большинства законов штатов об ИИ. В Конгрессе есть перспективные двухпартийные инициативы, например Frontier Act, требующий от разработчиков передовых систем ИИ создавать систему управления рисками, сообщать об опасных инцидентах и подвергать себя независимым аудитам."Я согласен с подписантами и рад, что после многих лет игнорирования или преуменьшения риски неконтролируемой конкуренции ИИ широко признаны, — заключает Брандейдж. — Но сделать успешный ИИ — это общая ответственность. Компании, которые отстают от конкурентов в вопросах безопасности, не проводят внешние аудиты или требуют тормозов, при этом мало что делая для их строительства, не смогут обвинить гонку ИИ, если что-то пойдёт не так".

https://1prime.ru/20260820/intellekt-872543597.html

сша

2026

Новости

ru-RU

https://1prime.ru/docs/about/copyright.html

технологии, сша, openai, the guardian, spacex, искусственный интеллект