Новости 26 октября 2019

Facebook обучил ИИ обманывать системы распознавания лиц

Далее

Дочерняя компания социальной сети Facebook разработала инструмент, который изменяет черты лиц человека и не позволяет идентифицировать его системам для распознавания. Однако инженеры пока не планируют использовать его в своих продуктах.

По данным издания VentureBeat, компания Facebook AI Research разработала современную систему «деидентификации», которая работает даже для видео. Она меняет «ключевые черты лица» человека в режиме реального времени, чтобы заставить систему распознавания лиц неправильно идентифицировать объект.

Эта технология «деидентификации» существовала в прошлом, и целые компании, такие как израильская компания AI и D-ID, специализируются на них. Существует также целая категория изображений для распознавания лиц, которыми, используя слабые места систем, можно обманывать инструменты для распознавания лиц.

«Распознавание лиц может привести к потере конфиденциальности, а технологии замены лиц могут быть использованы не по назначению для создания фейк-видео, — отмечает издание VentureBeat. — Поэтому для тех, кто не готов к потере конфиденциальности, нужен абсолютно другой инструмент защиты».

Facebook пока не намерен использовать эту технологию ни в одном из своих коммерческих продуктов, сообщает VentureBeat. Однако сама система может повлиять на разработки для защиты частной жизни людей.