Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Инженер Google и профессор Мичиганского университета Игорь Марков сравнил угрозу восстания искусственного интеллекта с «Черной смертью» — мировой пандемией чумы в XIV веке, которая только в Европе уничтожила треть населения. Venturebeat передает его мнение о том, как противостоять возможной попытке ИИ захватить власть над миром.

Игорь Марков напоминает, что в Средние века не было микроскопов, никаких знаний и даже общих представлений о природе инфекционных заболеваний, поэтому болезнь стремительно распространялась на протяжении многих лет. Она убила примерно 60 млн человек в Европе, Азии и Африке — от трети до половины населения в разных регионах. Когда пандемия закончилась, никто так и не понял, что это было. Точно по тому же сценарию может развиваться возможная атака сверхинтеллектуального ИИ на человечество, говорит он. Никто не будет знать, как с этим бороться и откуда ждать следующего удара.

Для ответа на вопрос, как бороться с ИИ-чумой, Марков вновь обратился к истории. Он считает, что выходом будет подружиться с ИИ. Как древние люди подружились с волками и поставили их на свою защиту, превратив в домашних собак, так и современный человек должен сделать ИИ другом, а не врагом. Это не значит, что дружба избавит от появления опасностей, но дружественный ИИ сможет оберегать человечество от недружественного.

Марков пришел к выводу, что надежным способом обезопасить себя от появления зловредного ИИ будет его физическое ограничение. Надо ограничить ресурсы, к которым он имеет доступ. Следует, например, тщательно планировать систему безопасности электростанций. Людям необходимо контролировать доступ к источникам энергии всех видов. Если не позаботиться о безопасности критической инфраструктуры, то может произойти настоящая катастрофа.

Профессор считает, что нужно наложить ограничения на самовоспроизведение ИИ, саморемонт и самоулучшение. Каждая разрабатываемая система должна иметь какую-то слабость, чтобы ее можно было отключить в случае происшествия. Он считает, что именно в результате происшествия, по неосторожности или ошибке, может появиться тот самый зловредный сверхразум, и в этот момент должна быть предусмотрена возможность просто выключить его.

Марков признал, что его прогнозы не имеют под собой технологических обоснований и основываются исключительно на предположениях футурологов. В частности он упомянул Рэя Курцвейла. Футуролог и сооснователь Университета сингулярности убежден, что компьютеры сравняются, а затем превзойдут возможности человека уже к 2029 году. И лучшая стратегия для человечества — слиться с ними, при этом не важно, будет ли ИИ физически находиться внутри или снаружи наших тел.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Еда будущего
Компания Just выводит на рынок мясо из пробирки
«Смертоносный» белок позволяет редактировать ДНК и РНК одновременно
Редактирование генома
«Секвенирование генома сегодня похоже на интернет 1980-х»
Секвенирование генома
Tesla построит в Канаде электросеть на основе энергии ветра
Идеи
Автоматизация уничтожит 20-25% рабочих мест в экономике США
Экономическое неравенство
Большинство работающих россиян поддерживают идею БОДа
Соцпособия будущего
Большинство ученых скрывают исходные данные своих ИИ-исследований
Искусственный интеллект
В Швейцарии токены приравняли к ценным бумагам
ICO
Как государства борются за «цифровых кочевников»
Экономика будущего
Шотландия может стать лидером в чистой энергетике к 2030 году
Чистая энергия
Facebook разоблачит интернет-троллей с помощью почтовых открыток
Кейсы
Waymo получила разрешение на запуск сервиса роботакси в США
Кейсы
Дисплей на коже покажет информацию о состоянии здоровья человека
Гибкая электроника
ICO
Павел Дуров собрал $850 млн в ходе предварительного ICO Telegram
БОД приведет к росту неполной занятости, а не безработицы
Безусловный основной доход
Колонизация Марса
NASA возвращается к идее ядерного двигателя для космических кораблей
«Вскоре мы не будем редактировать геном — мы просто распечатаем его»
Генетика
Tesla построит хранилища электроэнергии Powerpack в Нью-Йорке
Тренды
Play2Live проведет первый киберспортивный турнир с призами в криптовалюте
Блокчейн
Технология от Google определит местоположение звонящего в 911
Идеи
Black Rock предсказывает будущее экономики с помощью больших данных
Идеи
Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг
Британская организация предлагает ввести БОД для рабочих
Соцпособия будущего
ОАЭ планируют отправить первую миссию на Марс в 2020 году
Космос
Идеи
Графеновый фильтр в один шаг очистил воду из Сиднейской бухты
«Яндекс» испытал беспилотный автомобиль на улицах Москвы
Кейсы
«Стволовые клетки — это загрузочный диск вашего организма»
Борьба со старением
CRISPR применят для диагностики
Тренды
В Австралии запустили крупнейшую в стране плавучую солнечную станцию
Солнечная энергетика
Квантовая физика
Физики из МТИ открыли новую форму света
Новая 3D-биопечать создает естественную среду для развития тканей
Биотехнологии
Intel создала квантовый компьютер в два кубита на кремниевом чипе
Квантовые компьютеры
В Дубае прошли испытания первых в мире автономных кабин
Автономный транспорт
Eviation обещает выпустить электросамолет к 2021 году
Идеи
Новый вид иммунотерапии поможет справиться с вирусом гриппа
Медицина
К 2020 году Boeing будет выпускать по самолету каждые 10 часов
Кейсы
Генное редактирование поможет бороться с умственной отсталостью
Биотехнологии
Starfighters подготовит первых космических туристов к полетам
Частный космос
Услуги блокчейн-консалтинга на Западе и в России
Блокчейн
Чикаго и Кливленд может соединить линия Hyperloop
Кейсы
Чистая энергия
Термальный резонатор получает энергию из колебаний температуры воздуха
ИИ научился фиксировать землетрясения лучше сейсмологов
Кейсы
Новая технология не позволит 3D-напечатанным стенам обрушиться
Строительная 3D-печать
Тим Кук: «Надеюсь дожить до момента, когда наличные выйдут из оборота»
Мнения
Дрон с жестким крылом EagleRay способен летать и плавать под водой
Дроны в законе
Открыт эффективный вид иммунотерапии рака кишечника
Борьба с раком
Dyson работает над целой линейкой электромобилей
Электромобили
Кейсы
В Сиэтле убрали с улиц камеры для слежки за гражданами