ИИ оценивает кредитоспособность китайских заемщиков и ворует их данные

В последние годы жители Китая подсаживаются на микро-займы в конторах онлайн-кредитования, как на азартные игры. В основном, деньги они занимают на текущие расходы и инвестиции в небольшой бизнес. Для оценки платежеспособности клиентов онлайн-платформы используют ИИ и персональные данные. И зачастую критерии «благонадежности» довольно странные. Так, приложение Yongqianbao от компании Smart Finance учитывает, как быстро человек набирает сообщения на смартфоне, как часто он ест фастфуд, какой был уровень заряда батареи его телефона на момент запроса на ссуду и внимательно ли он читал пользовательское соглашение. Всего используется около 1200 различных критериев, чтобы составить рейтинг платежеспособности. Кредит с помощью ИИ могут одобрить буквально за 8 секунд.

Неудивительно, что такая оценка дает сбои, и должники, набрав займов в 30 разных компаниях, впоследствии не могут их выплатить. На сегодняшний день более 8600 компаний предлагают различные формы микро-кредитования, и по данным Народного банка Китая, неоплаченными остаются около $145 млрд этих займов. Boston Consulting Group называет другую цифру — $392 млрд. Правительство не отслеживает реальный размер кредитных ставок в таких конторах, а сами они нечасто предоставляют отчетность.

Еще одна проблема, связанная с платформами онлайн-кредитования — это вопиющее нарушение приватности. Они без разрешения используют персональные данные со смартфонов клиентов, и правительство ничего не может с этим поделать, поскольку вся информация уже находится на серверах этих компаний и активно применяется против должников. В одной только провинции Гуандун выявлено более дюжины приложений, которые позволяют ИИ-платформам воровать личные данные с телефонов.

Например, приложение Paipaidai без разрешения использует контактные данные заемщиков. Один из них, мистер Лин, регулярно получает звонки и письма с угрозами от конторы Yongsheng Outsourcing. В них говорится, что «компания будет действовать любыми методами», если он не выплатит свой долг Paipaidai. Когда журналисты New York Times позвонили по номеру, с которого приходили сообщения с угрозами, человек на другом конце провода не смог ответить на прямой вопрос, работает он в Paipaidai или в сторонней конторе. Очевидно, Paipaidai передает номера телефонов неплательщиков коллекторским агентствам, что является прямым нарушением приватности.

А мистер Баи, заемщик Yongqianbao, рассказал New York Times, что как только у него возникла задолженность, компания начала изводить звонками его близких. Сперва с требованиями выплатить долг звонили по «экстренным» номерам его телефонной книги, а потом вообще всем, кто был в его контакт-листе. Общий долг мистера Баи составляет около $5000 разным онлайн-платформам, и некоторые из них присылают сообщения, в которых говорится, что они могут отследить его местоположение по геолокации смартфона.

Обеспокоенный сложившейся ситуацией, Народный банк Китая запретил гражданам и организациям открывать новые онлайн-платформы быстрого кредитования. А Комиссия по регулированию банковской деятельности заявила, что будет бороться с нелицензированными компаниями и запретит устанавливать необоснованно завышенные процентные ставки по микро-займам.

Проблема внедрения ИИ в бизнес волнует не только жителей Китая. Согласно исследованиям консалтинговой компании Genpact, 75% потребителей считают, что ИИ слишком глубоко внедряется в частную жизнь, причем без их ведома. А 60% клиентов ожидают от государства более активных действий по ограничению использования подобных технологий для добычи персональных данных.