Сообщить об ошибке на сайте
URL
Ошибка
Тренды

У глубокого обучения машин есть и обратная, негативная, сторона — с его помощью создают поддельные видео с политиками, подделывают результаты голосования и влияют на общественное мнение. Исследования показывают — из-за деятельности хакеров люди все больше разочаровываются в институте власти, все меньше ему доверяют. «Хайтек» адаптировал и дополнил статью VentureBeat, чтобы понять, насколько современные технологии опасны для общества, и как улучшить взаимоотношения между людьми и властью с помощью ИИ.

Искусственный интеллект, без сомнения, стал угрозой для современного демократического общества. Вредоносные боты оказали особое влияние на президентские выборы в 2016 году в США. Они же вмешались и в мексиканские выборы, состоявшиеся 1 июля 2018 года.


Сразу несколько западных СМИ после победы на выборах президента США Дональда Трампа опубликовали инсайды о вмешательстве российских хакеров и ботов в выборы. Согласно данным Advertising Age на рекламную кампанию в ходе выборов 2016 года было потрачено $9,8 млрд, из них $100 тысяч досталось российской «фабрике тролей», с которой были заключены партнерские соглашения. Живые блогеры и автоматизированные боты распространяли среди американцев в Facebook негативные сообщения о Демократической партии и кандидате от них — Хиллари Клинтон. Информационный уровень этих сообщений крайне низкий, однако эмоциональность успешно изменяла настроение аудитории. Кроме того, боты активно ретвитили сообщения Трампа, игнорируя Клинтон.

«То, что якобы совершили русские тролли, было военным актом, атакой с помощью методов 21 века», — пишет обозреватель Карен Тумилти.


Еще более тревожным стало исследование, опубликованное в июне 2018 года. Большинство людей в демократических обществах по всему миру не верят, что их голоса реально имеют вес. В последние годы наступило разочарование в современных системах государственного управления. Причина кроется в изменениях самих этих институтов. Но свою роль в этом сыграло и использование иностранными хакерами искусственного интеллекта в преступных целях.

ИИ часто представляют злодеем, из-за которого многие лишились работы. Но судя, по мнению Мануэля Маццара, работу потеряют только низкоквалифицированные работники, тогда как появление и распространение ИИ создаст новые рабочие места для более высокой квалификации. И его, в том числе, можно использовать для улучшения жизни. VentureBeat составил подборку идей для использования ИИ в развитии демократии.

В поиске deepfake

В начале 2018 года, когда приложение Deepfake по перемещению лица одного человека на тело другого стало главной новостью в СМИ, возможности злоупотребления такой технологией стали очевидны.


Deepfake — метод синтеза изображения человека на основе ИИ. Название образовано от deep learning, «глубокое обучение», и fake, «фальшивка». Приложения на основе этого метода использовались для создания поддельных порновидео со знаменитостями, а также ненастоящих роликов с участием политиков. «Жертвой» кибершутников стал Барак Обама, который якобы говорит нецензурные слова в своем обращений, а также канцлер Германии Ангела Меркель, которая выступала перед парламентом с лицом Трампа.


Сценарий, в котором люди вставлены в видео без их согласия, не заставил себя долго ждать. На тематических форумах появились ролики с голливудскими звездами Скарлетт Йоханссон и Галь Гадот. Их лица «приклеили» к телам порнозвезд. Легкость, с которой ищутся эти порновидео онлайн, все еще шокирует. И что же произойдет, если такой фейк с президентом США получит широкое распространение в интернете? Многие поймут, что это подделка, но вдруг нет? Как избежать обмана в новостях и иных источниках, если приложение даже имитирует человеческую речь и мимику?


Предугадывая неминуемую угрозу независимые компании и правительственные агентства разработали инициативы для предотвращения потенциально опасных последствий.

Стартап Truepic, работающий с Reddit для идентификации проплаченного и фейкового контента, недавно закрыл сбор на $8 млн и в скором времени начнет разрабатывать методы борьбы с видеофейками. Также в июне 2018 года исследователи из Государственного университета Нью-Йорка (SUNY) объявили: они разработали модель компьютерного зрения, чтобы отслеживать, как люди моргают в видео с заменой лиц.

Этим летом Агентство перспективных исследований обороны (DARPA) профинансировало конкурс для ведущих специалистов в области судебной экспертизы, чтобы найти способы определения измененных образов.


Выборы в нижнюю палату Конгресса США, которые состоятся в ноябре 2018 года, скорее всего, станут испытательным полигоном для дополнительного вмешательства в избирательный процесс со стороны иностранных противников. Журналист VentureBeat Кари Джонсон надеется, что люди окажутся готовы более осторожно воспринимать информацию. Как сказал комик Джордан Пил, используя лицо Барака Обамы: «Это может показаться очевидным, но то, как мы ведем себя в этот век информации, определит, сможем ли мы выжить или превратимся в чертову антиутопию».

Анализ языка

Стэнфордский профессор Дэн Журафски, из Школы компьютерных наук и NLP Group, объединился с профессором психологии Дженнифер Эберхардт. Вместе они используют обработку живой речи для сканирования стенограмм. Объектом их исследования стали 100 часов записанных разговоров между полицией и людьми, которых они останавливают для проверки документов на дороге. Результаты исследований неутешительны — полицейские из раза в раз разговаривают с чернокожими водителями менее уважительно, чем с белыми.

Работа Журафски и Эберхардт — это один из первых экспериментов по анализу общего поведения и языка тела по камерам видеонаблюдения. Они продолжат свое исследование и классифицируют тон, с которым полицейские разговаривают с людьми. Устройства для записи разговоров были первоначально установлены многими полицейскими управлениями в качестве доказательств достоверности показаний. Поводом для этого, в частности, стали многочисленные случаи стрельбы в невооруженных чернокожих мужчин.

Но анализ полученных кадров при иных обстоятельствах дает информацию, помогающую правоохранительным органам лучше понять, когда изменение речевого поведения может спасти ситуацию.

Как мы говорим друг с другом, манера речи и интонации действительно многое определяют. А в интересах государства поддерживать здоровые отношения между полицией и обществом. Какой бы ни была конструктивная критика в адрес исследований Журафски и Эберхардт, это кажется позитивным шагом.

Голосовой помощник для связи с властью

В 2017 году «Хайтек» писал о приложении Alexa в Лос-Анджелесе. Оно было задумано, чтобы оповещать жителей о часах работы библиотеки, новостях местных органов власти и о последних действиях, предпринятых городским советом. Цель Alexa, как сказал представитель администрации Лос-Анджелеса, заключается в том, чтобы умные пользователи наладили работу всех служб города.

Сегодня Alexa или Google Assistant, управляемые администрацией муниципалитета, рассказывают жителям о днях сбора мусора или часах работы бассейна, но правительство стремится к более амбициозным приложениям.

Частота использования виртуального помощника растет. А большинство домов США, как ожидается, в течение 5 лет приобретут дополнительный модуль Smart Speaker — одну из самых простых форм ИИ. Что примечательно, устройство сразу готово к использованию. Пользователю не нужно знать и объяснять прибору, как правильно читать или писать. Он просто открывает рот и говорит.

Если администрации городов будут использовать платформы голосовых приложений, чтобы привлечь большую аудиторию, это изменит отношение к правительству к лучшему.

Будет еще лучше и полезнее, если платформа Amazon примет и запустит простые в использовании фразы типа «Alexa, спросите город ...», чтобы сделать запросы максимально простыми для жителей города.

Жители смогут напрямую пообщаться с местными учреждениями — для решения проблем важнейших городских служб, таких как контроль животных и вывоз мусора, а также для сокращения бюрократии и предоставления гражданам возможности высказывать мнение.

Если администрации городов пойдут по разумному пути, по примеру Северо-Восточного университета США, где ученики этой осенью получат Amazon Echo Dot, и будут оперативно сообщать жителям об информации, они изменят отношение людей к своему управлению, уменьшат разочарование в бюрократии и, возможно, даже заставят правительство более оперативно реагировать на потребности граждан.

Прямая демократия

Прямая демократия всегда казалась недостижимой по целому ряду причин. Начиная с того, что у людей банально не так много свободного времени для голосования или нет нужного технического оснащения, необходимого для голосования по законам каждого отдельно взятого штата.

Цезарь Идальго из MIT Media Lab предлагает странам прогностические алгоритмы для изучения модели поведения людей. ИИ, в свою очередь, будет голосовать от их имени, принимая во внимание реальные предпочтения. Он видит в этом возможность осуществления прямой демократии.

Этот подход определенно устраняет иллюзию, что человек — политик или нет — голосует, принимая во внимание сиюминутные заслуги, не учитывая того, что было раньше. Такая четкая выборка сделает правительство более восприимчивым к потребностям электората.

Но этот способ вряд ли будет серьезно рассмотрен политиками в ближайшем будущем. Такой подход даст толчок исследователям ИИ для изучения законодательных возможностей или рассмотрения различных вариантов применения виртуального помощника для голосования.

Не так сложно уже сейчас представить себе помощника, вроде экспериментального приложения Project Debate, который поможет остроумно парировать в дебатах, будет бороться с фальшивыми новостями и объективно спорить за или против определенных поправок в законодательстве.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Тихий убийца: как микропластик вызывает болезни и останавливает репродукцию живых организмов
Тренды
Гонка для JavaScript-разработчиков: как постоянные обновления мешают работе
Тренды
Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
Тренды
Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
Кейсы
Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
Тренды
Идеи
Человек и квантовая теория: существует ли то, что мы не наблюдаем
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
Тренды
Как через 20 лет будет выглядеть армия будущего
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
Тренды
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Идеи
Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
Тренды
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды
Кейсы
«Педиатр 24/7»: как телемед-стартап подарил родителям спокойствие, а врачам — работу
Вас снова обманули: как человечество учит компьютеры определять фейки в интернете
Тренды
БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая
Мнения
Артем Геллер, lab.ag: делая сервис для государства, ты помогаешь своей бабушке
Мнения
Акселераторы и инкубаторы: что выбрать стартапу на раннем этапе развития
Мнения
Вопрос доверия: как и почему изменилось отношение к телемедицине в России
Тренды
Правительственные криптопесочницы: как освободить финтех от давления закона и защитить потребителей
Тренды
Роман Нестер, Segmento: я верю корпорациям больше, чем маленьким компаниям
Кейсы
Суперагенты в недвижимости: как блокчейн и большие данные заменяют риелторов
Тренды
СМИ будущего: вертикальные видео, новости по запросу и смерть сайтов
Тренды
Тренды
Колонизация отменяется: почему терраформирование невозможно на Марсе
Сет Стивенс-Давидовиц: у людей гораздо больше непристойных и скверных мыслей, чем мы думали
Мнения
Умные города подвергают своих жителей опасности из-за датчиков освещения и радиации
Тренды
Мнения
Геронтолог Обри ди Грей: жизнь длиной в тысячу лет — это побочный эффект поиска вечного здоровья
Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
Тренды
Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
Кейсы
Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
Кейсы
Эдвин Диндер, Huawei Technologies: умный город — это ничто
Мнения
«Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
Мнения
Feature engineering: шесть шагов для создания успешной модели машинного обучения
Тренды
Мнения
Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
Тренды
Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
Кейсы
Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
Идеи
Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
Идеи
Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
Мнения
Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
Блокчейн