«ИИ делает бедных еще беднее»

Вирджиния — автор книги Automating Inequality («Автоматизируя неравенство»), которая поступит в продажу на следующей неделе. Она исследовала историю развития помощи бедным в США и то, как сейчас реализуют три программы в этой сфере в разных частях страны: заявки на медстраховку Medicaid в Индиане, услуги для бездомных в Лос-Анджелесе и работу службы опеки в Питтсбурге. О своем опыте она поговорила с MIT Tecnology Review.

Вопреки расхожему мнению, что алгоритмизация стала играть большую роль 1980-х или даже 1990-х годах, Эубанкс уверена, что основы были заложены до этого — поколением чиновников, которые работали в конце 1960-х и в 1970-х годах. В это время США столкнулись с рецессией, общественное мнение было настроено на сокращение программ помощи бездомным и безработным, а государство щедро финансировало войну во Вьетнаме. Писательница уверяет, что это отношение к бедным перекочевало и в алгоритмы.

Она описывает свой опыт лишения медстраховки. Ее партнера избили, а после выписки из больницы, когда они пришли в аптеку за сильнодействующим обезболивающим, фармацевт сказала, что полис больше не действует. В страховой ей заявили, что она не работала и во время лечения в больнице, так что придется оплатить счет за медицинские услуги — $60 тысяч.

Позже по результатам переговоров в страховой компании признали, что произошла техническая ошибка — «видимо, кто-то стер данные». Но Эубанкс, которая некоторое время сама работала с темой страховых мошенничеств, в это не верит. «У нас были (в наличии) главные показатели мошенничества: полис, который начал действовать пару дней назад, гражданский брак и попытка купить обезболивающие». Вирджиния уверена, что ее страховка на основе этих маркеров была автоматически приостановлена.

Для нее это был единичный опыт. Кроме того, у нее было время на переговоры и наличные для немедленного продолжения лечения. Однако для беднейших жителей США, которые зависят от соцпомощи намного больше, последствия от таких автоматических решений могут быть намного тяжелее. «Эти системы уже работают, часто они невидимо сопровождают услуги, которыми мы пользуемся каждый день — и бедные, и богатые… Но влияют они на нас с разной силой», — подчеркивает Эубанкс.

Систему детской опеки в Питтсбурге она исследовала, так как именно она считается одной из самых продвинутых в США: якобы заявки и статистику там анализирует система ИИ. Эбунакс говорит, что работает там простая регрессионная модель, а никакой не искусственный разум. Но внедрение компьютеров заставляет людей думать, что они не в силах разобраться «с этими техническими фокусами». А чиновников может сделать более черствыми.

Одна из бездомных, которых Вирджиния интервьюировала для своей книги, рассказала, что каждый раз, когда она приходит получать продовольственные карточки, в соцслужбе просматривают ее историю покупок. «Вам бы надо обратить внимание на то, что происходит с нами. Вы — следующие», — заявила женщина.

Впрочем, в автоматизации есть и сильная сторона — это собираемые данные. Эубанкс уверена, что при желании они позволяют высветить проблемы очень конкретно, с широкой доказательной базой и намеченными путями помощи. Она надеется, что благодаря росту внимания к этой теме будет создано достаточное давление на власти, чтобы те инициировали реформы, которые сделают эту сферу более гуманной.

Гордиев узел системы соцпомощи можно разрубить одним ударом — на это ориентирован безусловный оcновной доход. Такой подход делает ненужной тщательную дифференциацию, слежку за использованием пособий и работу миллионов чиновников. Считается, что именно 2018 год будет прорывным, а единичные пока эксперименты в этой области могут выйти на национальный уровень.