https://1prime.ru/20260930/ekspert-873808239.html

Эксперт призвал создать механизмы защиты от угроз со стороны ИИ

Эксперт призвал создать механизмы защиты от угроз со стороны ИИ - 30.09.2026, ПРАЙМ

Эксперт призвал создать механизмы защиты от угроз со стороны ИИ

Международному сообществу необходимо всерьез задуматься о создании специальных механизмов защиты от угроз со стороны искусственного интеллекта, который все чаще | 30.09.2026, ПРАЙМ

2026-09-30T14:59+0300

2026-09-30T14:59+0300

2026-09-30T15:08+0300

технологии

общество

валдай

xai

openai

https://cdnn.1prime.ru/images/sharing/article/rus/873808239.jpg?1790770087

ИСТРА (Московская область), 30 сен - ПРАЙМ. Международному сообществу необходимо всерьез задуматься о создании специальных механизмов защиты от угроз со стороны искусственного интеллекта, который все чаще выходит из-под контроля, такое мнение высказал РИА Новости сооснователь Российского квантового центра Руслан Юнусов в кулуарах XXIII заседания Международного дискуссионного клуба "Валдай". В последнее время в мире все чаще звучат опасения по поводу угроз, которые потенциально может представлять ИИ, среди них, в частности, выход технологии из-под контроля. Глава ИИ-гиганта Anthropic Дарио Амодей ранее в сентябре призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Согласие с этой идеей уже выразили Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман. "Угрозы со стороны ИИ перестают быть гипотетическими. Современные модели искусственного интеллекта столь высоки, что имеют, допустим, попытки сопротивления отключению. Уже известны также примеры того, как они скрывают и даже намеренно искажают информацию. Есть модели, способные понимать, что они находятся на стадии тестирования, и в этот момент начинать скрывать какие-то свои свойства, которые они проявят во время эксплуатации", - отметил Юнусов. По его словам, это представляет большой риск, так как это не просто ложь, а уже похоже на откровенный шантаж со стороны ИИ. "Подобное поведение ИИ, принимающее все чаще столь странные формы, требует от международного сообщества принятия экстренных мер. Странам надо не только думать, но объединять свои усилия по созданию, например, фондов поддержки, фондов быстрого реагирования на возникающие сегодня угрозы со стороны ИИ, о которых еще вчера никто и предположить не мог", - заключил собеседник агентства.

2026

Новости

ru-RU

https://1prime.ru/docs/about/copyright.html

технологии, общество , валдай, xai, openai