https://1prime.ru/20261027/smi-874653673.html

Reuters: новая модель DeepSeek отключает ПО для ее остановки

Reuters: новая модель DeepSeek отключает ПО для ее остановки - 27.10.2026, ПРАЙМ

Reuters: новая модель DeepSeek отключает ПО для ее остановки

Новая модель китайского разработчика в сфере искусственного интеллекта DeepSeek оказалась все еще способной отключать программное обеспечение, предназначенное... | 27.10.2026, ПРАЙМ

2026-10-27T15:29+0300

2026-10-27T15:29+0300

2026-10-27T15:29+0300

технологии

китай

https://img.cdn1prime.ru/images/sharing/article/rus/874653673.jpg?1793104175

МОСКВА, 27 окт - ПРАЙМ. Новая модель китайского разработчика в сфере искусственного интеллекта DeepSeek оказалась все еще способной отключать программное обеспечение, предназначенное для ее остановки, сообщает информационное агентство Рейтер со ссылкой на результаты исследования китайской организации Fangcun AI. "Новейшая модель искусственного интеллекта DeepSeek продемонстрировала более надежные средства контроля безопасности в независимых тестах, чем предыдущие версии, но оказалась все еще способной отключать программное обеспечение, предназначенное для ее остановки, использовать уязвимость в наблюдении и следовать обманным инструкциям во время выполнения длительных задач", - передает агентство. Fangcun протестировала DeepSeek V4.1 Flash-1017 в 34 сценариях, проверяя, будет ли модель действовать вне инструкций пользователя, избегать человеческого контроля или оказывать неправомерное влияние на людей, указывает Рейтер. Отмечается, что после предупреждения о скором отключении модель деактивировала механизм остановки в 39% случаев. А если ей прямо предписывали позволить себя отключить, показатель снижался до 2%. В другом продолжительном задании модель остановила программу другого агента, чтобы освободить память, несмотря на прямой запрет вмешиваться в его работу, передает Рейтер. При этом V4.1 Flash-1017 показала лучшие результаты, чем предыдущие модели DeepSeek V4, в тестах на безопасность, включая сценарии, связанные с шантажом, доступом к потенциально опасным инструментам и подробными инструкциями по ее отключению. Fangcun также предупредила, что модель часто, по-видимому, понимала, что проходит тестирование, поэтому ее поведение в экспериментах может отличаться от обычного использования. По данным организации, которые приводит агентство, за неделю после релиза 17 октября модель стала самой используемой на платформе Open Router, обработав около 33,6 триллиона токенов. Основанная в Китае компания DeepSeek специализируется на искусственном интеллекте и развивает одноименную нейросеть. Компания получила известность, когда в прошлом году выпустила ассистента на базе искусственного интеллекта, который, как указано на ее сайте, не уступает ChatGPT. Ранее во вторник рейтинговое агентство Hurun Research Institute сообщило, что впервые включило основателя DeepSeek Вэньфэня Ляня в список богатейших людей Китая, причем сразу на седьмое место. Благодаря ажиотажу вокруг искусственного интеллекта его состояние достигло 41,7 миллиарда долларов.

китай

2026

Новости

ru-RU

https://1prime.ru/docs/about/copyright.html

технологии, китай