На фоне коррупционных скандалов по всему миру искусственный интеллект становится действенным оружием против нечистых на руку чиновников. ИИ невозможно подкупить или убедить, а его решения обусловлены непрозрачными алгоритмами, которые тяжело изменить. Исследователи уже научились не только определять по подозрительной банковской активности потенциальную взятку, но и прогнозировать развитие коррупции за три года до ее появления. ИИ также помогает найти в финансовых бумагах причастные к коррупционному кейсу доказательства, а китайская система социального доверия с помощью ИИ определит взяточника и накажет его. «Хайтек» сделал к Международному дню борьбы с коррупцией подборку уже существующих инструментов против взяток на базе ИИ, а также рассказал, почему правительства их не спешат использовать.
Искоренить нельзя, но можно бороться
Несмотря на то, что существующие инструменты замера уровня коррупции в разных странах мира несовершенны и являются орудиями политической и экономической борьбы, нет никакого сомнения в том, что это явление широко распространено практически во всех странах мира и не поддается полному искоренению. Прежде всего, в силу человеческого фактора.
В 2014 году исследователи из Университета Сан-Паулу показали, что средняя стоимость безалкогольного напитка, компенсированная чиновнику правительством штата, составляла от 50 центов до $2500. Это яркий пример того, что траты отдельно взятого сотрудника пока никак не поддаются тщательному отслеживанию и анализу.
Системы отслеживания транзакций и вывода средств с помощью ИИ могут охватить практически все нецелевые траты. Все то, что раньше требовало колоссальных финансовых и трудозатрат — проверка тонн деклараций, запросов в необходимые ведомства, выявление и сопоставление несоответствий в доходах и расходах — может взять на себя машинный интеллект. Например, при выходе того или иного чиновника за рамки допустимых трат он может автоматически сигнализировать соответствующим службам о необходимости проведения проверки. К примеру, AI for Good Foundation работает на нескольких фронтах, чтобы поддержать создание стандартизированных решений и внедрение аналитических слоев, основанных на ИИ, поверх данных о продукции и транзакциях, а также структурных и реляционных данных.
AI for Good Foundation — благотворительная организация с отделениями Нью-Йорке, Бостоне, Сан-Франциско, Лондоне, Любляне и Крайстчерче. Основана в 2015 году группой исследователей по компьютерному обучению и социальным наукам в США и Европе. Фонд играет ведущую роль в решении проблем на стыке научных исследований, социальных последствий и устойчивого развития.
Спрогнозировать взятку за три года до
Исследователи из испанского Университета Вальядолида создали компьютерную модель, основанную на искусственных нейронных сетях. Она вычисляет вероятность коррупции в испанских провинциях, а также условия, которые ее поддерживают. Эта система оповещения подтверждает: например, если одна и та же партия остается в правительстве более года, то показатели предрасположенности к такому мошенничеству растут.
Авторы утверждают, что могут спрогнозировать коррупцию на период до трех лет в зависимости от характеристик конкретного региона. В некоторых это можно сделать задолго до ее проявления, и принять профилактические меры, в других — время прогнозирования гораздо меньше, и требуются срочные меры по ее ликвидации.
Но почему-то международное сообщество не спешит внедрять в свои структуры такого уникального «наводчика» на преступления. По словам одного из создателей системы Феликса Лопеса-Итурриага, все не так просто, как кажется: «Наша система не универсальна. В ее основе исключительно испанский опыт. Его нельзя автоматически переносить на другие страны. Конечно, можно предположить, что какие-то из причин коррупции будут работать и в другой стране, но, чтобы утверждать, в какой степени они станут значимыми и весомыми, нужно тестировать данные по конкретной стране. А значит, машину надо заново обучать на большом объеме данных этой страны, затем тестировать и только потом выпускать в «массы»».
Правда, и в самой Испании систему в ближайшее время внедрять не планируют.
Команда ученых во главе с Маттиасом Перцем из Мариборского университета в Словении и Харольдо Рибейро из Университета Маринга в Бразилии опубликовали документ об анализе политической коррупции с использованием ИИ-алгоритмов. Они пришли к выводу, что ИИ способен вычислить не только саму преступную схему, но и роли злоумышленников в ее претворении в жизнь.
Если взятку уже дали
В деле Rolls-Royce британское Бюро по борьбе с мошенничеством в особо крупных размерах (SFO) впервые применило автоматизированную систему Ravn ACE, предназначенную для отбора и индексирования документов и извлечения из них знаний. Ранее такую работу проделывали люди, но ИИ справляется с ней быстрее и не допускает свойственных человеку ошибок. С помощью ACE команда из семи человек обработала порядка 30 млн документов, анализируя по 600 тыс. каждый день. Основная задача ACE заключалась в сортировке документов на «важные» и «неважные». По словам гендиректора Ravn Дэвида Ламсдена, процедура была «экспоненциально ускорена» по сравнению с ручной обработкой данных.
По данным журналистов, сотрудники Rolls-Royce предлагали взятку представителям двух китайских авиакомпаний, что якобы было связано с контрактами на закупку двигателей, производимых британцами. Это косвенно подтвердили и в самой Rolls-Royce, где сообщили об установлении фактов «коррупции в Китае, Индонезии и на других зарубежных рынках».На фоне разгоревшегося скандала своего поста лишился давний председатель совета директоров Саймон Робертсон, позднее ушел в отставку и президент авиационно-космического подразделения Rolls-Royce Марк Кинг. Тем не менее это не спасло компанию от начала официального расследования.
Между SFO и Ravn ведутся переговоры об использовании опробованной системы в других расследованиях. Одно из таких расследований было начато в августе 2016 года в отношении подразделения гражданского авиатранспорта корпорации Airbus, сотрудники которого подозреваются в мошенничестве, подкупе и коррупции. После завершения расследования по Rolls-Royce директор SFO Дэвид Грин сообщил журналистам, что ACE умеет обучаться и пополнять свою базу знаний и за счет этого правильно отличать значимые материалы от незначимых. «Система делает это эффективнее и точнее, чем люди», — утверждает Грин.
Прокуратура Мюнхена предъявила авиаконцерну Airbus обвинение в даче более 100 взяток официальным лицам. По информации следствия, Airbus прибегал к услугами сторонних консультантов при заключении сделок, используя так называемую систему черных касс. В связи с этим налоговые органы не знали об использовании части денежных средств концерна. Прокуратура подозревает, что, прибегая к коррупционным схемам, компания в 2016 году продала определенное количество самолетов в ряд стран, в том числе в Казахстан, Китай и Индонезию.
Ravn Systems — британский стартап, разрабатывающий технологии для отбора и индексирования документов и извлечения из них знаний. Он был создан семь лет назад, не привлекает финансирования со стороны и достаточно прибылен. В Ravn всего работают 47 человек, а выручка в 2017 году составила $3 млн.
Борьба с подпольным аспирином
Гунжан Брадва, основатель и генеральный директор Innoplexus, ведущей компании в области искусственного интеллекта и аналитики, предложил использовать технологии ИИ для противодействия коррупции в области медицины и фармацевтики.
Интеграция ИИ и блокчейна в фармацевтическую отрасль значительно сократит возможности компаний получать доход любой ценой — законным или незаконным способом. Блокчейн также улучшит подотчетность и смягчит проблему контрафактных лекарств. Это, в свою очередь, вызовет позитивные изменения для фармацевтических компаний и регулирующих органов, которые теряют $200 млрд в год из-за контрафактной продукции. Решатся и проблемы безопасности пациентов. Кроме того, появится журнал учета всей цепочки поставок, который может быть реализован при помощи блокчейна.
И технологии ИИ, и блокчейн помогут предоставить необходимую информацию пациентам, повысить уровень их осведомленности и уменьшить зависимость от врачей, что приведет к снижению коррупции во всей отрасли. Эти же инструменты помогут врачам: им больше не придется выполнять план по назначению лекарств, которыми их снабжают фармацевтические компании.
Отобрать подозрительные транзакции
Оксфордский университет сотрудничает с Microsoft в области усовершенствованного ИИ и машинного обучения, чтобы исследовать потенциал прогнозирования коррупции и идентифицировать наборы данных, которые оказались самыми весомыми при обнаружении проблем.
Способность ИИ обрабатывать большие объемы данных позволяет людям сосредоточиться на деталях. По мере того, как все больше и больше данных доступны для антикоррупционных организаций, провернуть какую-то мошенническую схему становится все труднее. Программы ИИ используют в качестве аналитиков для компаний, которые не обладают большим капиталом и могут работать в режиме реального времени. Например, Citibank инвестировал в платформу машинного обучения, которая маркирует подозрительные транзакции по мере их возникновения. Если ИИ можно использовать для усиления, углубления и ускорения рутинного анализа данных, то люди не будут участвовать в анализе подозрительных контрактов или платежей. Это поможет избежать ошибок, связанных с человеческим фактором, исключит подкуп и ускорит наступление санкций со стороны государства.
В интервью The Guardian группа ведущих менеджеров обозначила главные шаги по противодействию коррупции с помощью ИИ и других автоматизированных решений:
- Лучшее решение — превентивные меры.
- Использование технологий для развития доверия среди населения.
- Автоматизация сбора налогов.
- Межгосударственный обмен опытом.
- Создание инструментов для демонстрации бюджетных расходов в режиме реального времени.
- Благотворное сотрудничество между странами для разработки новых инструментов.
- Недопущение пренебрежения национальными особенностями.
- Убеждение общества и правительства в необходимости размещения антикоррупционных кампаний в СМИ.
- Демократизация механизмов по борьбе с коррупцией.
Большой брат следит за тобой
В Китае создается «система социального доверия». Так называется правительственная программа оценки по ряду параметров, позволяющая поощрять граждан, а также принимать меры в отношении тех, кто нарушает закон либо просто попадает в поле зрения правоохранительных органов. По данным на конец апреля 2018 года, более 15 млн китайцев, то есть каждый сотый житель страны, подверглись административным взысканиям ввиду «низкого уровня социального рейтинга». В ее основе лежат технологии ИИ, распознавание лиц в режиме реального времени и машинное обучение.
Впервые о «системе социального доверия», «рейтинге» или «системe социального кредита» заговорили в 2014 году, когда Госсовет КНР обнародовал документ «Программа создания системы социального кредита (2014–2020)».
Граждане зарабатывают или, напротив, теряют баллы, исходя из оплаты кредитов, соблюдения ПДД, поведения в Chinanet — китайском сегменте интернета, который, как известно, существует достаточно автономно под защитой Firewall, «Огненной стены». Хотя непреодолимость ее достаточно условна (желающие устанавливают VPN и заходят, куда им нужно), в китайском виртуальном пространстве все же существует ряд непреложных требований: регистрация под своим настоящим именем, размещение только легального контента, не содержащего призывов к свержению властей, а также материалов, подрывающих общественный строй. Посты не должны носить экстремистский, сепаратистский характер, содержать вкрапления насилия и порнографии. Сайты-нарушители запрещаются, а их создатели подпадают под штрафные санкции «системы общественного доверия».
Система способна не только выступать в качестве социального посредника, но и жестко ограничивать граждан. Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Китайский блогер Расул Маджид поделился, что всерьез считает инициативу полезной. Если человек знает, как именно за ним следят, то он сумеет и выкрутиться. Кроме того, инструменты этой системы прекрасно работают в борьбе с коррупцией и ее превентивным устранением.
«Предложенный Китаем социальный рейтинг — только подтверждение тому, что Китай превращается в полностью полицейское государство», — убежден Анураг Лал, бывший директор американской Национальной группы по исследованию широкополосной связи при администрации бывшего президента США Обамы.
В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. Точная методология держится в секрете, но среди примеров нарушений упоминается плохое вождение, курение в запрещенных местах, покупка слишком большого количества видеоигр и распространение лживых новостей. «Если вы проводите за видеоиграми по десять часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле, может быть, просто выполняли свою работу».
В мире, безусловно, было бы гораздо спокойнее, если бы преступления сфере мошенничества и коррупции можно было предотвратить до их возникновения. Для этого можно привлечь ИИ. Но, во-первых, как и люди, технологии, как известно, допускают ошибки, демонстрируя несправедливое и предвзятое отношение к людям определенных национальностей. Иногда это смещение отражает вклад самих создателей таких алгоритмов. Это не просто неэтично, но и неприемлемо для людей, которые окажутся в неблагоприятном положении при применении этих систем в массовом масштабе.
Так или иначе, успешность борьбы с коррупцией с привлечением технологий ИИ и созданием систем, основанных на рейтингах доверия, покажет лишь время. Уже внедренные технологии крайне неоднозначны, а разработки, которые ожидают нас в будущем, еще невозможно оценить с критической точки зрения.