Мониторингом занимаются три крупные компании — Bark Technologies, Gaggle.Net и Securly Inc. Они сканируют студенческую почту и активность в социальных сетях. Технология сосредоточена на поиске кибербуллинга, признаков наркозависимости, депрессии, склонности к насилию.
При обнаружении потенциальных проблем, в зависимости от их тяжести, школьная администрация, родители и, в крайнем случае, сотрудники правоохранительных органов получают об этом уведомление. Осенью 2017 года Bark провел первый пилотный тест с участием 25 школ. «Мы обнаружили несколько довольно тревожных проблем, включая угрозу взрыва бомбы и перестрелки в школе», — отмечает директор родительского комитета компании Титания Джордан. После этого они предложили ввести масштабный мониторинг.
Продукт Bark является бесплатным для школ в США на неограниченный срок. Компания отмечает, что может позволить это из-за денег, которые она зарабатывает на полной версии для родителей. Стоимость родительского продукта составляет $9 в месяц и включает в себя мониторинг более 25 социальных сетей от Twitter и Instagram до Snapchat и YouTube.
Ни одна из компаний при этом не утверждает, что может обнаружить подозрительное поведение каждый раз — иногда они получают ложноположительные результаты. Однако при обнаружении «подозрительного контента», программа отправляет родителям и школам сообщение с рекомендациями о том, как решить эту проблему.
Сейчас программами пользуются в 1 100 школах, это около 2,6 млн детей. Если обнаруживается материалы, которые можно назвать «чрезвычайно серьезными», — например, похищение ребенка или угроза стрельбы в школе, вопрос передается на рассмотрение ФБР.
По словам Джордан, приложение отправляет от 35 до 55 тыс. предупреждений каждый день. Но с тех пор, как в феврале 2018 года Bark запустил школьный продукт, ФБР получило сообщения о 16 вероятных школьных перестрелках.
«Исследования показали, что дети общаются между собой до совершения акта насилия. Если у нас нет средств, чтобы услышать эти крики о помощи, дети в опасности», — отметил Билл МакКаллоу, вице-президент по продажам компании Gaggle.
МакКаллоу добавил, что их компания не полагается только на машинное обучение для определения угроз. Если в результате сканирования писем и документов, выданных школой, обнаруживается ребенок, попавший в кризисную ситуацию, квалифицированные специалисты по безопасности анализируют их содержание и проверяют, является ли угроза законной, а затем определяют степень ее серьезности.