Соцсеть «ВКонтакте» запустила нейросеть для защиты пользователей от оскорблений

Социальная сеть «ВКонтакте» запустила в режиме тестирования новые функции, призванные помочь в борьбе с оскорблениями и травлей в комментариях к сообщениям в социальной сети. Оба инструмента действуют на основе специальных алгоритмов, в том числе нейросети, которая распознает оскорбления. Об этом сообщает ТАСС со ссылкой на компанию.

Администраторы сообщества соцсети смогут включить фильтр враждебных высказываний, после чего нейросеть будет удалять комментарии, содержащие различные виды угроз и агрессии. При этом администраторы увидят все удаленные комментарии и смогут либо восстановить их, либо добавить автора в черный список. Результаты эксперимента будут учитываться при дальнейшем обучении нейросети и ее доработке.

Соцсеть расширила эксперимент, запущенный в прошлом году. Он предполагает определение с помощью алгоритмов наличия в комментариях признаков агрессии. Если при написании текста система определяла использованные слова как агрессивные, пользователю отправлялся совет не публиковать их. В прошлом году, по информации «ВКонтакте», эта функция помогла сократить количество оскорблений в комментариях на 36%. Теперь фильтр будет определять более широкий спектр оскорблений и угроз, включая травлю по национальному признаку, оскорбления на почве религиозной принадлежности, возраста и пола и другие характеристики.

Эксперимент приурочен ко Дню народного единства и будет длиться в течение суток. Возможность включения фильтров на постоянной основе представители компании изучат по результатам тестирования.

Ранее сообщалось, что около 40% россиян ищут работу через соцсети.