Группы с потенциально опасным контентом искали при помощи системы мониторинга социальных медиа «Крибрум». Алгоритму задали слова с негативной коннотацией и он выдавал сообщества, которые используют в своих постах подобную лексику. По результатам исследования ученые сформировали 12 деструктивных направлений: «жесть» (кровь, избиение, окровавленные органы), «национализм», «оружие» и другие. Алгоритм проанализировал около 60 тыс. пользователей «ВКонтакте» — это школьники 14–17 лет и взрослые от 18 до 23 лет.
Исследователи выяснили, что потребление потенциально деструктивного контента распространено в возрасте от 14 до 23 лет. У 37% ребят в возрасте 14–17 лет встречаются подписки на исследуемые сообщества, среди них большая часть — девушки. В возрастной группе 18–23 года около 42% пользователей подписаны на опасные сообщества, большинство из них мужчины. Алгоритм можно использовать для поиска людей, которым потенциально нужна психологическая помощь.
Прототип алгоритма по выявлению потенциально опасных подписок, разработанный в ТГУ, находится на портале Университетского консорциума исследователей больших данных. Программа находится в открытом доступе, ее могут использовать родители, педагоги или сотрудники психологических служб.
Результаты исследования будут представлены на международной конференции International Conference on Education and New Learning Technologies в июле 2020 года.
Разработанный веб-сервис превосходит по широте и точности аналоги, например, российскую систему мониторинга, которая в режиме реального времени проводит анализ опасных групп из специальной базы. Так, она у одного пользователя нашла по 1 сообществу в 6 разных тематических категориях. Наш веб-сервис нашел у этого же пользователя 146 маркерных сообществ из 12 категорий и показал экстремально высокую долю вредного контента в общих подписках (17,4%, при норме — ниже 2%).
Артем Фещенко, зав. лабораторией компьютерных средств обучения Института дополнительного образования ТГУ
Читать также:
Астрономы нашли планету, похожую на Землю. Она вращается вокруг звезды, похожей на Солнце
Новая технология позволила рассмотреть самых странных существ океана