МОСКВА, 4 ноя — ПРАЙМ. Крупнейшая российская соцсеть "ВКонтакте" запустила масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях, говорится в сообщении компании.
В частности, в ходе эксперимента будут протестированы две функции, которые помогут пользователям реже сталкиваться с нетерпимостью, в том числе травлей по национальному признаку, оскорблениями на почве религиозной принадлежности и угрозами. У администраторов появится возможность включить специальный фильтр враждебных высказываний в настройках сообщества, а комментаторы увидят предложение отказаться от обидных реплик.
В сообщении уточняется, что оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.
Нейросеть удаляет комментарии, в которых содержатся угрозы — например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в черный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент.
Результаты эксперимента будут использованы для дальнейшего обучения нейросети и доработки фильтра.
Также "ВКонтакте" масштабирует прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений, и, если находят их, автор получает совет не тратить время на агрессию и отказаться от обидной реплики.
"ВКонтакте" уточняет, что в прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%.
"В этот раз функция будет определять более широкий спектр оскорблений и угроз. Среди них — проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. По результатам эксперимента команда "ВКонтакте" примет решение о дальнейшем использовании функции", — говорится в сообщении.
Кроме того, как и раньше, любой пользователь может сообщить об оскорбительных публикациях службе модерации с помощью кнопки "Пожаловаться". Она есть у записей, комментариев, фотографий, видео, историй и клипов. Чтобы усилить модерацию, "ВКонтакте" добавила отдельную причину для жалоб на оскорбительные материалы — "Враждебные высказывания". Также можно добавить профиль недоброжелателя в черный список. В сообщении отмечается, что "ВКонтакте" не только рассматривает поступающие жалобы, но и самостоятельно отслеживает появление вредоносного контента.
