"ВКонтакте" разрабатывает нейросеть для борьбы с враждебными высказываниями

Читать на сайте 1prime.ru

 

МОСКВА, 20 авг — ПРАЙМ. Социальная сеть "ВКонтакте" разрабатывает решение для автоматического распознавания материалов с хейтспичем — враждебными высказываниями — на основе искусственного интеллекта, говорится в сообщении компании.

"Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", — уточняется в сообщении.

Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.

Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — "Враждебные высказывания". Пользователь может выбрать её, если нажмёт кнопку "пожаловаться" у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам, что позволит позволит точнее откалибровать уже существующие инструменты и собрать новые на основе нейросетей.

Помимо этого, команды модерации и поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей, отметили в компании.

За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

 

Обсудить
Рекомендуем