Исследователи из Квинслендского технологического университета (QUT) в Австралии разработали алгоритм, он может автоматически удалять и блокировать публикации в Twitter, которые оскорбляют женщин. Команда разработала систему, обучив ее на миллионе твитов. Затем они доработали массив данных, вручную добавляя туда оскорбительные выражения, которые часто используются на этой платформе.
Затем они классифицировали оставшиеся твиты как женоненавистнические, исходя из их контекста. Затем эти твиты подали в обучающий машинный классификатор, который использовал образцы для создания своей модели оценок.
В системе используется алгоритм глубокого изучения для корректировки знаний. После того, как ИИ нарастил свой словарный запас, исследователи отслеживали контекст, чтобы помочь алгоритму разделить оскорбления, сарказм и «дружелюбное использование агрессивной терминологии».
По словам исследователей, теперь система понимает контекст просто анализируя текст, без помощи ученых. «Мы были очень рады, когда наш алгоритм определил твит «твое место на кухне» как женоненавистнический — это показало, что контекстное обучение работает», — отметили они.
Исследователи добавили, что модель идентифицирует оскорбительные твиты с точностью в 75%. В будущем модель можно применить и к тому, чтобы выявлять расизм, гомофобию или другие формы оскорблений. Команда отмечает, что их модель пока не предложили внедрить в социальные сети, но они должны ввести похожие инструменты самостоятельно.
Читайте также:
— Посмотрите, как может выглядеть Proxima b. Это планета ближайшей к нам звезды
— Создано устройство, за секунды самостоятельно заполняющее документы в МФЦ
— Симптомы коронавируса у детей. На что стоит обратить внимание?