У глубокого обучения машин есть и обратная, негативная, сторона — с его помощью создают поддельные видео с политиками, подделывают результаты голосования и влияют на общественное мнение. Исследования показывают — из-за деятельности хакеров люди все больше разочаровываются в институте власти, все меньше ему доверяют. «Хайтек» адаптировал и дополнил статью VentureBeat, чтобы понять, насколько современные технологии опасны для общества, и как улучшить взаимоотношения между людьми и властью с помощью ИИ.
Искусственный интеллект, без сомнения, стал угрозой для современного демократического общества. Вредоносные боты оказали особое влияние на президентские выборы в 2016 году в США. Они же вмешались и в мексиканские выборы, состоявшиеся 1 июля 2018 года.
Сразу несколько западных СМИ после победы на выборах президента США Дональда Трампа опубликовали инсайды о вмешательстве российских хакеров и ботов в выборы. Согласно данным Advertising Age на рекламную кампанию в ходе выборов 2016 года было потрачено $9,8 млрд, из них $100 тысяч досталось российской «фабрике тролей», с которой были заключены партнерские соглашения. Живые блогеры и автоматизированные боты распространяли среди американцев в Facebook негативные сообщения о Демократической партии и кандидате от них — Хиллари Клинтон. Информационный уровень этих сообщений крайне низкий, однако эмоциональность успешно изменяла настроение аудитории. Кроме того, боты активно ретвитили сообщения Трампа, игнорируя Клинтон.
«То, что якобы совершили русские тролли, было военным актом, атакой с помощью методов 21 века», — пишет обозреватель Карен Тумилти.
Еще более тревожным стало исследование, опубликованное в июне 2018 года. Большинство людей в демократических обществах по всему миру не верят, что их голоса реально имеют вес. В последние годы наступило разочарование в современных системах государственного управления. Причина кроется в изменениях самих этих институтов. Но свою роль в этом сыграло и использование иностранными хакерами искусственного интеллекта в преступных целях.
ИИ часто представляют злодеем, из-за которого многие лишились работы. Но судя, по мнению Мануэля Маццара, работу потеряют только низкоквалифицированные работники, тогда как появление и распространение ИИ создаст новые рабочие места для более высокой квалификации. И его, в том числе, можно использовать для улучшения жизни. VentureBeat составил подборку идей для использования ИИ в развитии демократии.
В поиске deepfake
В начале 2018 года, когда приложение Deepfake по перемещению лица одного человека на тело другого стало главной новостью в СМИ, возможности злоупотребления такой технологией стали очевидны.
Deepfake — метод синтеза изображения человека на основе ИИ. Название образовано от deep learning, «глубокое обучение», и fake, «фальшивка». Приложения на основе этого метода использовались для создания поддельных порновидео со знаменитостями, а также ненастоящих роликов с участием политиков. «Жертвой» кибершутников стал Барак Обама, который якобы говорит нецензурные слова в своем обращений, а также канцлер Германии Ангела Меркель, которая выступала перед парламентом с лицом Трампа.
Сценарий, в котором люди вставлены в видео без их согласия, не заставил себя долго ждать. На тематических форумах появились ролики с голливудскими звездами Скарлетт Йоханссон и Галь Гадот. Их лица «приклеили» к телам порнозвезд. Легкость, с которой ищутся эти порновидео онлайн, все еще шокирует. И что же произойдет, если такой фейк с президентом США получит широкое распространение в интернете? Многие поймут, что это подделка, но вдруг нет? Как избежать обмана в новостях и иных источниках, если приложение даже имитирует человеческую речь и мимику?
Предугадывая неминуемую угрозу независимые компании и правительственные агентства разработали инициативы для предотвращения потенциально опасных последствий.
Стартап Truepic, работающий с Reddit для идентификации проплаченного и фейкового контента, недавно закрыл сбор на $8 млн и в скором времени начнет разрабатывать методы борьбы с видеофейками. Также в июне 2018 года исследователи из Государственного университета Нью-Йорка (SUNY) объявили: они разработали модель компьютерного зрения, чтобы отслеживать, как люди моргают в видео с заменой лиц.
Этим летом Агентство перспективных исследований обороны (DARPA) профинансировало конкурс для ведущих специалистов в области судебной экспертизы, чтобы найти способы определения измененных образов.
Выборы в нижнюю палату Конгресса США, которые состоятся в ноябре 2018 года, скорее всего, станут испытательным полигоном для дополнительного вмешательства в избирательный процесс со стороны иностранных противников. Журналист VentureBeat Кари Джонсон надеется, что люди окажутся готовы более осторожно воспринимать информацию. Как сказал комик Джордан Пил, используя лицо Барака Обамы: «Это может показаться очевидным, но то, как мы ведем себя в этот век информации, определит, сможем ли мы выжить или превратимся в чертову антиутопию».
Анализ языка
Стэнфордский профессор Дэн Журафски, из Школы компьютерных наук и NLP Group, объединился с профессором психологии Дженнифер Эберхардт. Вместе они используют обработку живой речи для сканирования стенограмм. Объектом их исследования стали 100 часов записанных разговоров между полицией и людьми, которых они останавливают для проверки документов на дороге. Результаты исследований неутешительны — полицейские из раза в раз разговаривают с чернокожими водителями менее уважительно, чем с белыми.
Работа Журафски и Эберхардт — это один из первых экспериментов по анализу общего поведения и языка тела по камерам видеонаблюдения. Они продолжат свое исследование и классифицируют тон, с которым полицейские разговаривают с людьми. Устройства для записи разговоров были первоначально установлены многими полицейскими управлениями в качестве доказательств достоверности показаний. Поводом для этого, в частности, стали многочисленные случаи стрельбы в невооруженных чернокожих мужчин.
Но анализ полученных кадров при иных обстоятельствах дает информацию, помогающую правоохранительным органам лучше понять, когда изменение речевого поведения может спасти ситуацию.
Как мы говорим друг с другом, манера речи и интонации действительно многое определяют. А в интересах государства поддерживать здоровые отношения между полицией и обществом. Какой бы ни была конструктивная критика в адрес исследований Журафски и Эберхардт, это кажется позитивным шагом.
Голосовой помощник для связи с властью
В 2017 году «Хайтек» писал о приложении Alexa в Лос-Анджелесе. Оно было задумано, чтобы оповещать жителей о часах работы библиотеки, новостях местных органов власти и о последних действиях, предпринятых городским советом. Цель Alexa, как сказал представитель администрации Лос-Анджелеса, заключается в том, чтобы умные пользователи наладили работу всех служб города.
Сегодня Alexa или Google Assistant, управляемые администрацией муниципалитета, рассказывают жителям о днях сбора мусора или часах работы бассейна, но правительство стремится к более амбициозным приложениям.
Как заработать на Alexa-экономике
Кейсы
Частота использования виртуального помощника растет. А большинство домов США, как ожидается, в течение 5 лет приобретут дополнительный модуль Smart Speaker — одну из самых простых форм ИИ. Что примечательно, устройство сразу готово к использованию. Пользователю не нужно знать и объяснять прибору, как правильно читать или писать. Он просто открывает рот и говорит.
Если администрации городов будут использовать платформы голосовых приложений, чтобы привлечь большую аудиторию, это изменит отношение к правительству к лучшему.
Будет еще лучше и полезнее, если платформа Amazon примет и запустит простые в использовании фразы типа «Alexa, спросите город …», чтобы сделать запросы максимально простыми для жителей города.
Жители смогут напрямую пообщаться с местными учреждениями — для решения проблем важнейших городских служб, таких как контроль животных и вывоз мусора, а также для сокращения бюрократии и предоставления гражданам возможности высказывать мнение.
Если администрации городов пойдут по разумному пути, по примеру Северо-Восточного университета США, где ученики этой осенью получат Amazon Echo Dot, и будут оперативно сообщать жителям об информации, они изменят отношение людей к своему управлению, уменьшат разочарование в бюрократии и, возможно, даже заставят правительство более оперативно реагировать на потребности граждан.
Прямая демократия
Прямая демократия всегда казалась недостижимой по целому ряду причин. Начиная с того, что у людей банально не так много свободного времени для голосования или нет нужного технического оснащения, необходимого для голосования по законам каждого отдельно взятого штата.
Цезарь Идальго из MIT Media Lab предлагает странам прогностические алгоритмы для изучения модели поведения людей. ИИ, в свою очередь, будет голосовать от их имени, принимая во внимание реальные предпочтения. Он видит в этом возможность осуществления прямой демократии.
Этот подход определенно устраняет иллюзию, что человек — политик или нет — голосует, принимая во внимание сиюминутные заслуги, не учитывая того, что было раньше. Такая четкая выборка сделает правительство более восприимчивым к потребностям электората.
Но этот способ вряд ли будет серьезно рассмотрен политиками в ближайшем будущем. Такой подход даст толчок исследователям ИИ для изучения законодательных возможностей или рассмотрения различных вариантов применения виртуального помощника для голосования.
Не так сложно уже сейчас представить себе помощника, вроде экспериментального приложения Project Debate, который поможет остроумно парировать в дебатах, будет бороться с фальшивыми новостями и объективно спорить за или против определенных поправок в законодательстве.