В Facebook заявили, что с помощью новой технологии машинного обучения они удалили 8,7 миллионов публикаций, которые нарушили правила социальной сети об «эксплуатации детей». Компания разрабатывала и внедряла алгоритм в течение года и теперь удалила 99% «подозрительных» публикаций до того, как пользователи пожаловались на них. Однако среди них были и те, которые не нарушали правила Facebook.
Новая технология сконцентрировалась на публикациях, где могут присутствовать обнаженные фотографии детей и другая потенциально эксплуататорская информация. В некоторых случаях система не просто удаляет их, а отправляет данные о фотографиях и учетных записях пользователей Национальному центру по пропавшим без вести и эксплуатируемым детям. Facebook уже использует технологию сопоставления фотографий с известными ей публикациями, но новые инструменты предназначены для предотвращения распространения ранее неизвестного контента.
Технология не идеальна, отметили в компании — они получили несколько жалоб родителей, когда система удалила «безобидные фотографии детей». Однако модераторы социальной сети добавили, что для «избежания даже потенциального злоупотребления, мы принимаем меры по несексуальному контенту, например, кажущимся доброкачественными фотографиями детей в ванне».
Facebook разрешит публиковать в ленте 3D-фотографии
Идеи
При этом в социальной сети считают, что предыдущая технология модерации работала менее эффективно. В дополнение к семейным снимкам, Facebook критиковали за удаление контента, который казался администрации «спорным». Например, знаковой фотографии 1972 года «Napalm Girl», где вьетнамская девушка бежит от воздушной атаки на свою деревню.
В прошлом году политика компании в области модерации контента также подверглась критике со стороны Национального общества Великобритании по предотвращению жестокого обращения с детьми. Оно призвало социальную сеть ввести независимую модерацию, а также денежные штрафы за нарушение правил пользователями. В частности, запуск Facebook Live иногда перегружал платформу запрещенными публикациями сексуального характера, о самоубийствах и убийствах.