Российская соцсеть «ВКонтакте» запустила в тестовом режиме нейросеть для защиты пользователей от оскорблений в комментариях.

В День народного единства 4 ноября 2020 года соцсеть «ВКонтакте» протестирует две новых функции: фильтр враждебных высказываний и рекомендацию отказаться от оскорблений. Оба алгоритма работают на основе нейросетей. Прошлый подобный эксперимент проводился ровно год назад, 4 ноября 2019 года.

Соцсеть «ВКонтакте» с помощью фильтра враждебных высказываний будет удалять комментарии, содержащие угрозы смерти или обещания причинить вред здоровью. Администраторы сообщества смогут увидеть все эти комментарии и при необходимости отправить пользователя в «черный список». Фильтр можно будет включить или выключить в любой момент.

Также «ВКонтакте» будет определять, когда в комментарии есть признаки оскорблений и будет призывать пользователя не тратить время на агрессию и отказаться от обидной реплики. В этот раз функция будет определять враждебные высказывания, в том числе на почве религиозной принадлежности, возраста, пола и других характеристик. Также теперь соцсеть «ВКонтакте» добавила возможность пожаловаться модераторам на пользователя из-за «враждебных высказываний».

Как заявили в соцсети, благодаря прошлогоднему эксперименту количество оскорблений за сутки в комментариях удалось сократить на 36%. После 4 ноября начнется долгосрочный тест, рассчитанный на часть аудитории. По результатам эксперимента соцсеть «ВКонтакте» примет решение о дальнейшем использовании функции.