В основе нового фильтра для администраторов, который будет бороться с онлайн-угрозами, лежит нейросеть. Фильтр можно регулировать в настройках сообщества в любое время. Стоит отметить, что по умолчанию он отключен. Новая функция «ВКонтакте» появилась уже у администраторов 50% пабликов. В ближайшее время фильтр появится в общем доступе.
Сейчас алгоритмы умеют определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики «ВКонтакте» на этом не остановятся и продолжат тестирование фильтра. В будущем он научится распознавать и другие признаки нетерпимости. Он не пропустит травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают не более 1% случаев.
Тестирование фильтра запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ «ВКонтакте». Кстати, это 13 млн публичных страниц, групп и мероприятий.
Для создания алгоритмов, которые хорошо понимают разговорную речь, использовалось большое количество текстов на русском языке — например, субтитры из фильмов, сериалов и видео. Нейросеть содержит в себе специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций.
Читайте также
Физики создали аналог черной дыры и подтвердили теорию Хокинга. К чему это приведет?