МОСКВА, 20 авг — ПРАЙМ. Социальная сеть "ВКонтакте" разрабатывает решение для автоматического распознавания материалов с хейтспичем — враждебными высказываниями — на основе искусственного интеллекта, говорится в сообщении компании.
"Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", — уточняется в сообщении.
Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.
Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — "Враждебные высказывания". Пользователь может выбрать её, если нажмёт кнопку "пожаловаться" у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам, что позволит позволит точнее откалибровать уже существующие инструменты и собрать новые на основе нейросетей.
Помимо этого, команды модерации и поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей, отметили в компании.
За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.