Социальная сеть Instagram разработала нейросеть, которая позволит искать фотографии с оскорблениями или угрозами и блокировать их. Об этом говорится в сообщении компании.
Искусственный интеллект будет сканировать фотографии и подписи под ними, а при обнаружении оскорбительных высказываний или угроз в адрес конкретного пользователя или социальной группы — направлять их на рассмотрение модератора-человека.
По словам генерального директора компании Адама Моссери, большая часть пользователей, которые сталкиваются с угрозами или оскорблениями, не обращается с жалобами к руководству социальной сети. Ожидается, что алгоритм, который позволит справиться с этой проблемой, заработает в ближайшие несколько недель.
Instagram будет делиться данными о локации пользователей с Facebook
Кейсы
Ранее инженеры из Facebook и Instagram представили искусственный интеллект Rosetta, который может распознавать мемы и позволит модераторам понять их смысл. Технология поможет идентифицировать спам или оскорбительный контент на изображениях.