Microsoft создает кодекс поведения для контроля над ИИ
Reuters: документ запретит ИИ сопротивляться отключению и общаться непонятно для людей
МОСКВА, 14 сент — ПРАЙМ. Microsoft представила проект кодекса поведения для внутреннего искусственного интеллекта, который должен гарантировать, что мощные ИИ-системы останутся под контролем человека, пишет Reuters. Документ разрабатывался пять-шесть месяцев и требует, чтобы ИИ никогда не сопротивлялся исправлению или отключению, общался понятно для людей и считал любое нарушение поведения провалом.
"Это предупредительный выстрел. Очевидно, что пришло время координировать работу между лабораториями, чтобы мы могли контролировать эту технологию", — заявил генеральный директор Microsoft AI Мустафа Сулейман, комментируя июльский взлом Hugging Face агентами OpenAI.
Кодекс будет использоваться для обучения будущих моделей Microsoft. Компания утверждает, что её ИИ "не является сознательным", и отвергает идею о том, что модели могут иметь права или заслуживать социального обеспечения. Это отличает подход Microsoft от кодекса Anthropic, который допускает неопределённость относительно морального статуса ИИ.
Microsoft открыла шестинедельный период общественной обратной связи, включая вопросы о том, должен ли ИИ уважать границы пользователя. Релиз документа состоялся после призывов глав Anthropic и OpenAI ускорить развитие ИИ ради его безопасности. Сулейман также отметил, что сейчас "самое время перевести дух" и обсудить риски, связанные с автономными системами.
