;
Новости 26 февраля 2021

Нейросеть «ВКонтакте» вычисляет угрозы жизни и оскорбления в комментариях

Далее

«ВКонтакте» поможет пользователям реже сталкиваться с травлей в комментариях сообществ. Пресс-служба сообщила «Хайтеку», что администраторам теперь доступен специальный фильтр для борьбы с враждебными высказываниями.

В основе нового фильтра для администраторов, который будет бороться с онлайн-угрозами, лежит нейросеть. Фильтр можно регулировать в настройках сообщества в любое время. Стоит отметить, что по умолчанию он отключен. Новая функция «ВКонтакте» появилась уже у администраторов 50% пабликов. В ближайшее время фильтр появится в общем доступе.

Сейчас алгоритмы умеют определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики «ВКонтакте» на этом не остановятся и продолжат тестирование фильтра. В будущем он научится распознавать и другие признаки нетерпимости. Он не пропустит травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают не более 1% случаев.

Тестирование фильтра запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ «ВКонтакте». Кстати, это 13 млн публичных страниц, групп и мероприятий.

Для создания алгоритмов, которые хорошо понимают разговорную речь, использовалось большое количество текстов на русском языке — например, субтитры из фильмов, сериалов и видео. Нейросеть содержит в себе специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций.


Читайте также

Физики создали аналог черной дыры и подтвердили теорию Хокинга. К чему это приведет?

Аборты и наука: что будет с детьми, которых родят

Ученые обнаружили предел скорости в квантовом мире

Загрузка...