Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Что если террористы спрячут бомбу в робота-уборщика и тайно пронесут его в здание правительства? Что если кибермошенники научат чатбота с точностью имитировать манеру речи человека? Группа экспертов в области искусственного интеллекта спрогнозировала главные угрозы, которые новые технологии несут человечеству. Авторы исследования предупредили — катастрофические сценарии могут реализоваться намного быстрее, чем кажется.

В новом исследовании «Применение ИИ со злым умыслом» специалисты по искусственному интеллекту описали основные риски, связанные с развитием машинного обучения, а также способы их предотвращения. Над отчетом работало более 20 футурологов, экспертов по ИИ и правозащитников. Среди них представители Института будущего человечества, Центра изучения экзистенциальных рисков, Фонда электронных рубежей и лаборатории OpenAI, которую спонсирует один из главных сторонников регулирования ИИ Илон Маск.

Исследователи изучили возможные сценарии применения искусственного интеллекта в преступных целях в ближайшие пять лет. Большинство угроз, описанных в исследовании, связано со слежкой, нарушением приватности и искажением реальности. Алгоритмы на основе машинного обучения станут более дешевыми и доступными, и злоумышленники смогут автоматизировать многие задачи, которые раньше приходилось выполнять вручную.

В первую очередь автоматизация упростит направленные фишинговые операции. Собрать о человеке данные будет проще, чем когда-либо прежде, а сами атаки станут более завуалированными и изощренными. В прошлом останутся однообразные запросы от «друзей» с просьбой перевести деньги и фальшивые письма от банков, которые легко отличить от настоящих. Чатботы научатся имитировать манеру речи друга или родственника, а большие данные помогут втереться в доверие от имени банка или сервиса госуслуг. В исследовании эксперты также описывают применение ИИ для генерации фальшивого аудио- и видеоконтента.

О многих проблемах, описанных в отчете, недавно рассказывал специалист по соцсетям Авив Овадья. В интервью BuzzFeed он также описал чатботов-имитаторов и практику точечного фишинга. По мнению Овадьи, генерация убедительных фальшивок вызовет у людей апатию по отношению к реальности. Они перестанут проверять почту и прекратят обращать внимание на новости.

Фотографии, созданные генеративными нейросетями в разные годы

Авторы отчета допускают, что преступники используют существующие сегодня программы для своих целей. Например, алгоритм AlphaGo от DeepMind теоретически способен не только придумывать ходы в игре го, но и генерировать новые попытки взлома системы. Мощные хакерские атаки могут охватить тысячи компьютеров, а избавиться от вредоносного ПО можно будет только с помощью выкупа.

Другая технологическая угроза — это применение ИИ для слежки. Исследователи описывают зловещий сценарий в духе фильма «Особое мнение». Системы слежки в интернете и в офлайне наблюдают за человеком и контролируют все его действия и публикации в сети. Любой, кто решит протестовать против режима или критиковать правительство, может быть задержан. Причиной для ареста станет прогноз алгоритма, который увидел в человеке потенциальную угрозу.

Ничто не помешает государствам с тоталитарным режимом воздействовать таким образом на меньшинства или на другие неугодные группы людей. Процесс уже можно наблюдать Синьцзян-Уйгурском автономном районе КНР, жители которого из-за своей национальной принадлежности и вероисповедания попали под пристальное внимание властей. Внимание выражается в слежке с использованием систем распознавания лиц и даже в сборе ДНК-анализов.

Один из описанных в отчете сценариев заслуживает серии в «Черном зеркале». Террористы незаметно внедряют в число правительственных роботов-уборщиков машину, оборудованную бомбой. Робот оснащен системой распознавания лиц, которая помогает ему узнать премьер-министра. При встрече с главой государства устройство детонирует.

Отдельный пункт исследования посвящен рекомендациям, но, как отмечает MIT Technology Review, большинство из них абстрактны. Пока эксперты советуют обсуждать проблему, исследовать риски и уделять больше внимания этике при подготовке специалистов по ИИ.

Однако проблема технологии в том, что она уже получает широкое распространение и становится все более дешевой и повсеместной. Более того, злоумышленникам достаточно один раз потратиться на разработку или покупку ПО — и в дальнейшем его можно будет использовать тысячи раз без каких-либо затрат. Масштабируемость — одна из главных проблем ИИ, пишут футурологи.

Но отчаиваться эксперты не советуют — надежда удержать ИИ в рамках пока есть. «У нас не было задачи нарисовать мрачную картину — можно придумать много вариантов защиты, и нам еще многому стоит поучиться. Наше исследование не описывает безнадежность ситуации. Оно призывает к действию», — рассказал один из авторов исследования Майлз Брангейд.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

В Алжире на время экзаменов на 11 часов отключат интернет
Кейсы
В России начали разработку автономного подводного робота
Кейсы
C 2019 года открыть автомобиль можно будет через NFC-чип в смартфоне
Тренды
Медики начнут печатать датчики для диагностики болезней в виде медведей Haribo
Медицина
Ричард Вдовьяк, Philips: «В будущем диагностировать заболевания будут не только врачи, но и сами пациенты»
Тренды
Частный космос
Россия провела первое испытание лазерного зажигания для кислородно-водородного ракетного двигателя
«Яндекс» провел первое тестирование своего беспилотного автомобиля. Он сам доехал из Москвы в Казань
Беспилотные автомобили
Роcкосмос закрывает проект «Протон»
Частный космос
В аэропорту Амстердама появился первый европейский криптовалютный банкомат
Криптовалюта
Шедевры за биткоины: Как криптовалюта меняет рынок искусства
Блокчейн
Почему «московий» и «оганесон» устроили раскол между физиками и химиками?
Кейсы
Тренды
Сэр Харшад Бадехиа — о бронежилетах будущего, русских математиках и металлургии
«Надежнее золота»: блокчейн в цифрах
Блокчейн
Бас Лансдорп, Mars One: «Моя жена отдала бы все, чтобы не лететь на Марс»
Полет на Марс
Как big data, блокчейн и 3D-печать сделали пищу полезнее
Мнения
Томас Циммерман, IBM, — о том, как остановить конец света, спасая планктон
Тренды
Без Siri, Алисы и «Окей, Google»: как и зачем нас подслушивают собственные телефоны
Тренды
Шрада Агарвал, Outcome Health: «Когда человек знает о своей болезни, от этого выигрывает и он, и фарма»
Мнения
Тренды
«Дорогая, я ухожу от тебя к роботу!»: заменят ли секс-андроиды реальные отношения?
7 правил для начинающих и разумных блокчейн-инвесторов
ICO
Четвертая революция: как интернет вещей изменит промышленность и нефтедобычу
Тренды
Не витайте в «облаках»: как провайдеры обманывают доверчивых клиентов
Мнения
Тренды
Когда мы начнем летать на автомобилях в городе?
Как в Россию проникают технологии: интернет-рестораны, маникюр на дому и «умное» страхование
Кейсы
Гендиректор Uber Дара Хосровшахи: «Автомобили должны ездить в трех измерениях»
Мнения
Олег Бабкин: «Системных администраторов никто не обучает, обучают только разработчиков»
Мнения
«Чтобы создать новое лекарство, нужно 10–12 лет и миллиард долларов»
Мнения
Сооснователь «Евросети» Тимур Артемьев: «Мы будем летать из Лондона в Сидней через космос. Так ближе»
Тренды
Новый стандарт рекламного рынка: что нужно знать о programmatic, чтобы рекламироваться эффективно
Тренды
Иван Горшунов, Etcetera, — о мобильных приложениях, стартапах и «внутренней девятиэтажке», которая мешает заглянуть за горизонт
Мнения
Билетный IT: как построить технологическую платформу вокруг билетного бизнеса
Кейсы
Cognitive Technologies: как российское бездорожье поможет искусственному интеллекту водить машины лучше, чем люди
Кейсы
Кейсы
10 предпринимателей — о том, как им помогают новые технологии в жизни и бизнесе
Don’t open the doors: как сделать игру из пластилина в одиночку (и привлечь инвестора на следующий проект)
Кейсы
Софт, бот, нейросеть: айтишники объясняют, почему не боятся автоматизации, роботизации и ИИ
Кейсы
Специалист по лучевой диагностике Сергей Морозов: искусственный интеллект возьмет на себя 30% функций врача и до 60% функций лаборантов
Мнения
Системный архитектор Алексей Усов — о Red Hat, международных стандартах, Linux и «Платоне»
Мнения
Microsoft впервые за три года обогнала Google по капитализации. Теперь компания — в тройке самых дорогих
Тренды
Массачусетский институт показал неопубликованное ранее видео из выступления Стива Джобса
Тренды
Сельское хозяйство
Российская компания представила систему, которая превращает любой трактор и комбайн в беспилотник
Антон Трантин, Pulsar VC: почему вашему стартапу не нужен блокчейн
Блокчейн
Одна распознает, другая проверяет, третья следит, чтобы никто не мухлевал: как нейронные сети работают над изображениями и видео
Тренды
«Ну как бы э-э-э»: почему Google Duplex — не прорыв
Тренды
Ростуризм предложил создать аналог Booking.com в России
Мнения
В Бурятии прошло новое тестирование почтовых дронов. На этот раз беспилотник не разбился
Тренды
Создатели Pokemon Go выпустят новую игру в 2018 году
Кейсы
Роман Аранин, Observer: «Мы не хотим делать инвалидные коляски уровня «Жигулей»
Мнения
Кейсы
Большинство популярных витаминов оказались бесполезными
Virgin Galactic провела успешное испытание космического корабля для туристов
Частный космос