У Facebook уже есть сервисы, которые позволяют обнаружить суицидальные наклонности у пользователя и предложить ему варианты помощи. Теперь компания расширяет их возможности. Алгоритмы на основе ИИ будут изучать не только посты в ленте, но и видео-стримы и личные сообщения пользователей, пишет Reuters.
Суициды, так или иначе связанные с социальными сетями, явление не только российское. В США нет «голубых китов» и «групп смерти», но за последние месяцы уже несколько подростков покончили с жизнью прямо в эфире видеотрансляции на Facebook. Раньше в соцсети работал алгоритм, который учитывал только посты в ленте, но этого, как оказалось, не достаточно.
Теперь алгоритм перейдет на видеозаписи, видеотрансляции и чтение переписки. Он будет анализировать не только посты, но и комментарии к ним. В FB говорят, что система гораздо точнее определяет суицидальные наклонности, чем человек, который так же может отправить уведомление о возможном суициде.
Большую часть времени система будет работать в фоновом режиме. В случае обнаружения реальной угрозы для жизни: подготовка к суициду, нанесение увечий в прямом эфире, рассказ о планах покончить с собой — прямо в эфире пользователю будет предложено связаться с близкими, на контакт выйдут представители специальных организаций. Возможен сценарий при котором близким человека, находящегося в опасности, будут посланы специальные уведомления, чтобы они обратили на него внимание. В этом случае пользователь даже не узнает, что система сообщила о нем.
Продолжительность жизни биологически не ограничена
Идеи
Ранее Facebook запустила систему предотвращения суицидов в Instagram. Если пользователь своими публикациями и хештегами к ним создаст впечатление, что хочет совершить самоубийство, система предложит ему несколько вариантов помощи. Но ее работа основывалась в первую очередь на жалобах подписчиков.