По словам подрядчика, взаимодействия пользователей с Siri отправляют специальным работникам, которые слушают записи и оценивают их по нескольким критериям. Например, нужно оценить, была ли запись преднамеренной или ложноположительной. Также нужно отметить, что спровоцировало срабатывание системы.
Однако Apple не говорит клиентам, что другие люди слушают их записи. О них есть короткий текст в политике конфиденциальности, однако авторы материала уверены, что ее практически никто не читал. На своей странице Apple отмечает, что они прослушивают записи для «распознавания произношения, которое повлияет на корректные ответы Siri». Чтобы помочь распознать произношение и обеспечить лучшие ответы, работникам также отправляются имя, контакты, музыка, которую слушает пользователь. Однако в тексте не отмечено, что эти записи слушают люди, а не анализирует система.
В своем обращении к The Guardian компания признала, что «небольшая часть запросов Siri анализируется с целью улучшения качества и диктовки. Ответы анализируются в защищенных помещениях, и все эксперты обязаны соблюдать строгие требования конфиденциальности Apple».
То же самое делают и другие компании — Amazon и Google, где реальные люди слушают записанные разговоры, чтобы улучшить эти системы. Они отмечали, что умные помощники не всегда могут отличить ложноположительные срабатывания от реальных запросов.
По словам источника The Guardian, эта практика компании привела к тому, что сотрудники слушали личные разговоры клиентов. Например, среди них были беседы с докторами, бизнес-переговоры и даже сцены секса. Эти записи сопровождаются данными пользователя с указанием местоположения и контактных данных.