Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Инженер Google и профессор Мичиганского университета Игорь Марков сравнил угрозу восстания искусственного интеллекта с «Черной смертью» — мировой пандемией чумы в XIV веке, которая только в Европе уничтожила треть населения. Venturebeat передает его мнение о том, как противостоять возможной попытке ИИ захватить власть над миром.

Игорь Марков напоминает, что в Средние века не было микроскопов, никаких знаний и даже общих представлений о природе инфекционных заболеваний, поэтому болезнь стремительно распространялась на протяжении многих лет. Она убила примерно 60 млн человек в Европе, Азии и Африке — от трети до половины населения в разных регионах. Когда пандемия закончилась, никто так и не понял, что это было. Точно по тому же сценарию может развиваться возможная атака сверхинтеллектуального ИИ на человечество, говорит он. Никто не будет знать, как с этим бороться и откуда ждать следующего удара.

Для ответа на вопрос, как бороться с ИИ-чумой, Марков вновь обратился к истории. Он считает, что выходом будет подружиться с ИИ. Как древние люди подружились с волками и поставили их на свою защиту, превратив в домашних собак, так и современный человек должен сделать ИИ другом, а не врагом. Это не значит, что дружба избавит от появления опасностей, но дружественный ИИ сможет оберегать человечество от недружественного.

Марков пришел к выводу, что надежным способом обезопасить себя от появления зловредного ИИ будет его физическое ограничение. Надо ограничить ресурсы, к которым он имеет доступ. Следует, например, тщательно планировать систему безопасности электростанций. Людям необходимо контролировать доступ к источникам энергии всех видов. Если не позаботиться о безопасности критической инфраструктуры, то может произойти настоящая катастрофа.

Профессор считает, что нужно наложить ограничения на самовоспроизведение ИИ, саморемонт и самоулучшение. Каждая разрабатываемая система должна иметь какую-то слабость, чтобы ее можно было отключить в случае происшествия. Он считает, что именно в результате происшествия, по неосторожности или ошибке, может появиться тот самый зловредный сверхразум, и в этот момент должна быть предусмотрена возможность просто выключить его.

Марков признал, что его прогнозы не имеют под собой технологических обоснований и основываются исключительно на предположениях футурологов. В частности он упомянул Рэя Курцвейла. Футуролог и сооснователь Университета сингулярности убежден, что компьютеры сравняются, а затем превзойдут возможности человека уже к 2029 году. И лучшая стратегия для человечества — слиться с ними, при этом не важно, будет ли ИИ физически находиться внутри или снаружи наших тел.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

ИИ может испортить карьеру юристам и адвокатам
Автоматизация
Разработан анализ крови, выявляющий 2 типа рака
Борьба с раком
Возняк и Серф конгрессменам: «Вы не понимаете, как работает Интернет»
Интернет для всех
Blue Origin осуществит первый коммерческий запуск в 2018 году
Кейсы
«У Amazon или Facebook в 2018 году появится свой банк»
Прогнозы
Электромобили
Германский автопром не сможет перейти на выпуск только электромобилей
Ford в 2021 году представит беспилотный гибрид
Кейсы
«Биткойн — это свидетельство недоверия к существующей системе»
Блокчейн
IBM выложила в сеть код для разработки ИИ-приложений
Искусственный интеллект
Квантовые технологии
Выполнено ключевое условие для создания квантового интернета
Напечатанные микроволокна помогут выращивать органы
Медицина будущего
Венгерский разработчик беспилотных систем готов бросить вызов Waymo
Беспилотники
Indiegogo поможет проводить ICO
ICO
Всемирный банк прекратит инвестиции в нефть и газ после 2019 года
Тренды
«Пример Китая показывает, что миру не нужна Кремниевая долина»
Мнения
«Я был не прав, когда продал свой биткойн за $140»
Криптовалюты
Российские ученые предложили заменитель золота для оптоэлектроники
Электроника
Synaptics представила бескнопочный аналог Touch ID
Тренды
«Только лень и незнание английского мешают развиваться профессионалу»
Иннополис
В США будут сажать за управление дроном в состоянии опьянения
Дроны в законе
Тренды
В мире строится 26 мегафабрик по производству аккумуляторов
Новый биопринтер печатает клетки для пересадки больным диабетом
Биотехнологии
Павел Дуров заработал $35 млн на биткойнах
Криптовалюты
Монополии Tesla на рынке солнечной кровли приходит конец
Идеи
Google Home научилась синхронизировать устройства умного дома
Умный дом
Искусственный интеллект
Ученые заглянули в «сознание» нейросети
Crispr применят для лечения наследственых заболеваний
Идеи
Чили становится центром дешевой возобновляемой энергетики
Тренды
Британские спецслужбы оценят риски биткойна
Блокчейн
Китайцы научились обходить запрет на торговлю биткойнами
Блокчейн
ИИ выведет систему образования из кризиса
Тренды
Создана новая технология 3D-печати более прочной и пластичной стали
3D-технологии
Блокчейн
«Люди берут кредиты, чтобы купить биткойны»
Готовимся к ICO. Инструкция, часть 2
ICO
Немецкие ученые разработали стабильный квантовый вентиль из кремния
Квантовые компьютеры
В МТИ разработали прибор, который избавит пациентов от уколов
Медицина будущего
Доказана эффективность лечения рака генно-модифицированными клетками
Борьба с раком
Мнения
Бывший вице-президент Facebook: «Соцсети разобщают людей»
2D-игры помогут выявить опасные наклонности алгоритмов
Идеи
Новый бионический протез управляет каждым пальцем по отдельности
Медицина будущего
Microsoft выпустила язык квантового программирования Q#
Квантовые компьютеры
Первая VTOL-гонка пройдет в 2019 году в австралийской пустыне
Летающие автомобили
Deloitte предсказывает рост киберспорта, цифровых транзакций и AR
Прогнозы
Искусственная ДНК помогает бороться с неизлечимым заболеванием
Биотехнологии
Россия выступила против добычи ископаемых на астероидах
Тренды
Новая стратегия уничтожения бактерий, вызывающих хронические инфекции
Медицина будущего
Электроника
Открыт новый метод получения электричества
Шесть областей, в которых люди уже проиграли ИИ
Обучение машин
В Иннополисе стартовал первый чемпионат DigitalSkills
WorldSkills