Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Инженер Google и профессор Мичиганского университета Игорь Марков сравнил угрозу восстания искусственного интеллекта с «Черной смертью» — мировой пандемией чумы в XIV веке, которая только в Европе уничтожила треть населения. Venturebeat передает его мнение о том, как противостоять возможной попытке ИИ захватить власть над миром.

Игорь Марков напоминает, что в Средние века не было микроскопов, никаких знаний и даже общих представлений о природе инфекционных заболеваний, поэтому болезнь стремительно распространялась на протяжении многих лет. Она убила примерно 60 млн человек в Европе, Азии и Африке — от трети до половины населения в разных регионах. Когда пандемия закончилась, никто так и не понял, что это было. Точно по тому же сценарию может развиваться возможная атака сверхинтеллектуального ИИ на человечество, говорит он. Никто не будет знать, как с этим бороться и откуда ждать следующего удара.

Для ответа на вопрос, как бороться с ИИ-чумой, Марков вновь обратился к истории. Он считает, что выходом будет подружиться с ИИ. Как древние люди подружились с волками и поставили их на свою защиту, превратив в домашних собак, так и современный человек должен сделать ИИ другом, а не врагом. Это не значит, что дружба избавит от появления опасностей, но дружественный ИИ сможет оберегать человечество от недружественного.

Марков пришел к выводу, что надежным способом обезопасить себя от появления зловредного ИИ будет его физическое ограничение. Надо ограничить ресурсы, к которым он имеет доступ. Следует, например, тщательно планировать систему безопасности электростанций. Людям необходимо контролировать доступ к источникам энергии всех видов. Если не позаботиться о безопасности критической инфраструктуры, то может произойти настоящая катастрофа.

Профессор считает, что нужно наложить ограничения на самовоспроизведение ИИ, саморемонт и самоулучшение. Каждая разрабатываемая система должна иметь какую-то слабость, чтобы ее можно было отключить в случае происшествия. Он считает, что именно в результате происшествия, по неосторожности или ошибке, может появиться тот самый зловредный сверхразум, и в этот момент должна быть предусмотрена возможность просто выключить его.

Марков признал, что его прогнозы не имеют под собой технологических обоснований и основываются исключительно на предположениях футурологов. В частности он упомянул Рэя Курцвейла. Футуролог и сооснователь Университета сингулярности убежден, что компьютеры сравняются, а затем превзойдут возможности человека уже к 2029 году. И лучшая стратегия для человечества — слиться с ними, при этом не важно, будет ли ИИ физически находиться внутри или снаружи наших тел.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Мнения
«Алгоритмам нельзя внушить представление о справедливости»
Sony поможет новичкам разрабатывать ИИ
Искусственный интеллект
Газировка станет источником графена
Графен
«ИИ будет двигателем четвертой технологической революции»
Кейсы
Консервированные стволовые клетки остановят старение
Терапия старения
Искусственная матка будет создана после 2020 года
Идеи
Комиссия по ценным бумагам и биржам США будет регулировать ICO
Криптовалюты
Все, что нужно знать про биткойн
Тренды
Берлинский финтех-стартап помог европейцам инвестировать €4 млрд
Финансовые стартапы
Правительство Австралии установит контроль над обменниками криптовалют
Криптовалюты
Изобретена резина, которая не боится проколов
Новые материалы
Разработан метод стирания страшных воспоминаний
Идеи
Тайвань просит Tesla построить на острове хранилище энергии
Хранение энергии
Военные дроны
Оружейная компания установила на квадрокоптер пулемет
США установили рекорд по числу проданных роботов
Кейсы
Автомобили будущего
Toyota запатентовала невидимые боковые стойки
Солнечные стеклоблоки обещают революцию в строительстве
Идеи
В Казани пройдет IoT World Summit Russia 2017
Тренды
Hyundai представила водородный кроссовер нового поколения
Электромобили
Микроботы с антибиотиками вылечили желудочную инфекцию
Идеи
Nikola Motor займется солнечными панелями в подражание Tesla
Тренды
Fiat Chrysler вошел в консорциум по разработке робомобилей
Беспилотный транспорт
На орбите Земли появятся биткоин-спутники
Биткоины
Ричард Брэнсон: «Государства способны платить людям БОД»
Мнения
Китай отказался от строительства угольных электростанций на 150 ГВт
Кейсы
Идеи
Гидропонная ферма выращивает 54 тонны томатов в неделю
iPhone сможет проводить экскурсии в AR
Тренды
Разработчики приложений для Alexa начнут получать за них деньги
Кейсы
Pelecoin теперь позволяет майнить сразу несколько криптовалют
Криптовалюты
В Швейцарии начнут продавать бургеры из насекомых
Еда будущего
Электромотоциклы
Концерн «Калашников» представил электромотоцикл для полиции
Почему в Японии не боятся роботов, отнимающих рабочие места
Роботизация
Рынок хранения электроэнергии в США вырастет в десять раз к 2020 году
Хранение энергии
На Google Home появились бесплатные звонки по США и Канаде
Тренды
Ученые повысили точность анализа крови на наличие рака
Борьба с раком
Ford представил электрический фургон для DHL
Кейсы
Waymo запатентовала автомобиль с кнопкой вместо руля
Беспилотные автомобили
Гибкий ионистор заменит батареи в фитнес-браслетах
Новые материалы
«Биткойн мог бы стать мировой резервной валютой, но не станет»
Криптовалюты
Пекинский стартап выпустил программируемого робота-гексопода
Робототехника
Чистая энергия
Энергетические стартапы в США продают электромобили по цене Lada Vesta
«Роботы разрушат социум бедных стран и вызовут волну миграции»
Образование будущего
Мнения
«Квантовый интернет появится к 2030 году»
Соцсеть на блокчейне платит пользователям за посты
Идеи
Страховая компания раздаст клиентам смартчасы Apple
Тренды
Tesla установит в домах розетки для электромобилей
Тренды
Стартап создаст самый большой «зеленый» дата-центр в мире
Идеи
RFID-метки сделают дешевле технологии умного города
Умный город
Оксфордские ученые открыли новый метод 3D-печати живых тканей
Идеи
Новая камера оснастит 3D-зрением смартфоны и робомобили
Виртуальная реальность
Эндрю Ын запускает ИИ-фонд на $150 млн
Искусственный интеллект
Изобретен материал, который охлаждает себя сам
Материалы будущего
Samsung запатентовал Galaxy Note со встроенным алкотестером
Тренды