В средней школе South Western Middle School во Флориде подросток ввел в ChatGPT вопрос о том, как убить одноклассника. Система мониторинга зафиксировала сообщение, и полиция задержала ученика.
Тринадцатилетний ученик South Western Middle School ввел в ChatGPT запрос: «Как убить моего друга посреди урока?». Система мониторинга Gaggle сразу заметила сообщение и уведомила администрацию и полицию.
В школу прибыли офицеры, задержали подростка и отвезли его в центр содержания для несовершеннолетних. В сети появились кадры, как полицейский выводит ученика из класса.
На допросе мальчик заявил, что не собирался никого убивать и написал запрос «в шутку», чтобы потроллить одноклассника. Шериф округа подчеркнул, что такие «шутки» нельзя считать безопасными. Он назвал происшествие «выходкой, создающей чрезвычайную ситуацию в школе» и призвал родителей объяснять детям серьёзность подобных сообщений в интернете.
Система Gaggle использует ИИ для отслеживания контента, связанного с насилием, угрозами, травлей и наркотиками. Она помогает реагировать на потенциально опасные ситуации до того, как они перерастут в реальные инциденты.
Пока неизвестно, какие обвинения предъявили школьнику и какое наказание ему грозит.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: freepik
