«ВКонтакте» запускает удивительный эксперимент для борьбы с оскорблениями и травлей в комментариях. С его помощью ИИ обучат для более качественной работы с оскорблениями в комментариях. Знаменательно, что руководство платформы решило обратить внимание пользователей на проблему травли в интернете именно в День народного единства. Об эксперименте «Хайтеку» рассказали в пресс-службе «ВКонтакте».
За 24 часа «ВКонтакте» протестирует целых две новые функции. По задумке разработчиков, нововведение поможет пользователям платформы реже сталкиваться с различными видами нетерпимости. Речь идет, в том числе, о травле по национальному признаку, оскорблениях на почве религиозной принадлежности и угрозах. Администраторы платформы смогут включить специальный фильтр враждебных высказываний в настройках сообщества. Что же касается комментаторов, то они увидят предложение отказаться от обидных реплик. Оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.
Сегодня, 4 ноября, на сутки, в течении которых и будет проходить эксперимент по введению новых алгоритмов, в настройках сообществ появится возможность включить фильтр враждебных высказываний. Нейросеть удалить комментарии, в которых содержатся прямые угрозы для жизни и здоровья человека. Однако администратор увидит все комментарии, которые отсеял фильтр. У него будет выбор — восстановить удаленные реплики или отправить автора в чёрный список сообщества. Стоит сказать, что новый, экспериментальный фильтр враждебных высказываний можно включить или выключить в любой момент.
Нейросеть платформы продолжает учиться и развиваться. Как отметили в «ВКонтакте», результаты эксперимента будут использованы для её дальнейшего обучения и улучшения работы фильтра.
Похожая функция есть уже во многих соцсетях. К примеру, Instagram распознает враждебный комментарий и, перед тем, как пользователь его опубликует, платформа предлагает ему отказаться от публикации, предупреждая о возможном удалении оскорбительного контента.
Проблема оскорблений в интернете давно привлекла внимание ученых и исследователей, однако в последние годы ей уделяется особенного много внимания.
Читать также
Годовая миссия в Арктике закончилась, и данные неутешительны. Что ждет человечество?
Ученые пытаются понять, сколько живет нейтрон. Почему это так сложно и важно?