Нейросеть фильтрует враждебные высказывания

Цифровая трансформация
Москва, 09.11.2020
«Эксперт Урал» №45-46 (833)

Социальная сеть «ВКонтакте» запустила масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях. Он прошел ровно сутки — в День народного единства 4 ноября. В течение этого времени тестировались две функции, которые должны помочь пользователям реже сталкиваться с нетерпимостью, — в том числе травлей по национальному признаку, оскорблениями на почве религиозной принадлежности и угрозами. У администраторов появилась возможность включить или выключить специальный фильтр враждебных высказываний в настройках сообщества, а комментаторы стали видеть предложения отказаться от обидных реплик.

 011_expert_ural_45-3.jpg

«Оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления, — пояснили в пресс-службе ВКонтакте. — Нейросеть удаляет комментарии, в которых содержатся угрозы, — например, пожелания смерти или обещания причинить вред здоровью. Нейросеть продолжает развиваться: результаты эксперимента будут использованы для ее дальнейшего обучения и доработки фильтра».

Кроме того, как и раньше, любой пользователь может сообщить об оскорбительных публикациях службе модерации — с помощью кнопки «Пожаловаться». Она есть у записей, комментариев, фотографий, видео, историй и клипов. Чтобы усилить модерацию, ВКонтакте добавила отдельную причину для жалоб на оскорбительные материалы — «Враждебные высказывания». Также можно добавить профиль недоброжелателя в черный список.

Не трать время на агрессию

 

Сергей Лукьяненко (род. в 1968 г.), российский писатель-фантаст, автор романов известной серии «Дозоры» 011_expert_ural_45-1.jpg
Сергей Лукьяненко (род. в 1968 г.), российский писатель-фантаст, автор романов известной серии «Дозоры»

Также ВКонтакте масштабирует прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений. Если да, автор получает совет не тратить время на агрессию и отказаться от обидной реплики. В прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%. В этот раз функция стала определять более широкий спектр оскорблений и угроз. Среди них — проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. 4 ноября предупреждение смогли увидеть все пользователи, а позже начнется долгосрочный тест, рассчитанный на часть аудитории. По результатам эксперимента Команда ВКонтакте примет решение о дальнейшем использовании функции.    

«Когда мир переворачивается, друг мой, самое важное — первым встать на голову» Сергей Лукьяненко (род. в 1968 г.), российский писатель-фантаст, автор романов известной серии «Дозоры»

Новости партнеров

«Эксперт Урал»
№45-46 (833) 9 ноября 2020
Турист отмороженный
Содержание:
Реклама