Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Независимые исследователи из Университета города Луисвилл пришли к выводу, что враждебный человеку искусственный интеллект, о появлении которого говорили Стивен Хокинг и Илон Маск, может возникнуть только при определенных обстоятельствах. Им удалось описать эти условия.

Одним из наиболее явных признаков должно быть отсутствие надзирающего органа при развитии систем ИИ. «Если группа решает создать враждебный искусственный интеллект, успешность ее действий будет зависеть от того, насколько ей удастся скрыть это от внимания надзирающих организаций», — говорят Федерико Пистоно и Роман Ямпольский.

Такая группа должна принижать значение своей работы и исходящие от нее угрозы и даже распространять ложные слухи. «Стратегия состоит в том, чтобы сеять противоречивую информацию, которая будет порождать сомнения в общественном мнении об опасностях и возможностях ИИ», — объясняют они.

Google Deep Mind, создатель ИИ, победившего человека в го, утверждает, что у компании есть отдел по контролю за этикой, но не сообщает, кто в него входит.

Второй важный признак — наличие закрытого исходного кода ИИ. «Хорошо известно среди экспертов по криптографии и компьютерной безопасности, что программы и алгоритмы с закрытым кодом менее безопасны, чем открытые и свободные», — говорят Пистоно и Ямпольский. — Само существование не открытого программного и аппаратного обеспечения ставит человечество под большую угрозу".

Эксперты по безопасности давно осознали степень угрозы от вредоносных программ, и всеми силами стараются защитить компьютерные системы — особенно критически важные для безопасности людей: АЭС, транспорт, жизнеобеспечение и т. д. — от ошибок и проникновения злоумышленников.

Но в области ИИ подобных защитных механизмов нет. Это может быть не важно, пока искусственный интеллект пребывает в зачаточном состоянии, но ситуация быстро меняется, пишет MIT Technology Review.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Cтартап использует поезда для хранения энергии
Хранение энергии
Солнечный самолет совершит первый полет в стратосферу в 2018 году
Транспорт будущего
В США криптовалюты хотят приравнять к доллару
Тренды
«Ледяные батареи» сократят потребление энергии на 95%
Чистая энергия
Uber предложили объединить с Tesla
Технологические компании
В Великобритании создали самого маленького робота-хирурга
Робот-врач
Мобильные технологии
Топ-5 функций Oreo — новой ОС Android
Ford может полностью перейти на электромобили
Электромобили
«Из-за ИИ придется пересмотреть отношение к образованию и карьере»
Искусственный интеллект
Открыт новый класс химических реакций
Научные открытия
«Роботы уничтожат средний класс»
Мнения
Энди Рубин: «ИИ-смартфон станет виртуальной копией пользователя»
Мнения
Транспорт будущего
«Дни двигателя внутреннего сгорания сочтены»
Wal-Mart запатентовала летающий склад-дирижабль
Идеи
Криптовалюты
Один день на крупнейшей в мире китайской биткойн-шахте
Японские ученые продлили срок службы солнечных модулей из перовскитов
Идеи
Найден способ предотвращения нестабильности термоядерной реакции
Термоядерный синтез
«Дети должны обучаться программированию с двух лет»
Образование
К 2021 году в России будет использоваться 12,8 млн VR-шлемов
Мнения
ИИ научился видеть скрытые аналогии
Обучение машин
В России разработано оптоволокно с квадратной сердцевиной
Оптика
Тренды
Илон Маск и другие ИТ-лидеры требуют запретить военных роботов
«Блокчейн передаст власть над играми в руки геймеров»
Технологии игр
В Китае начал работу киберсуд по интернет-делам
Идеи
Система распознавания речи Microsoft установила новый рекорд
Распознавание речи
ИИ научился считывать намерения людей
Искусственный интеллект
Возобновляемая энергетика принесла экономике США до $113 млрд
Чистая энергетика
Facebook запатентует очки дополненной реальности
Тренды
NuTonomy запустит в Сингапуре сервис роботакси в 2018 году
Беспилотные автомобили
Южная Корея построит в Египте гигантскую умную ферму за $10 млрд
Тренды
Испытан первый в мире электрогенератор на океанических течениях
Возобновляемая энергетика
Sony поможет новичкам разрабатывать ИИ
Искусственный интеллект
Мнения
«Алгоритмам нельзя внушить представление о справедливости»
«ИИ будет двигателем четвертой технологической революции»
Кейсы
Стартап Made in Space напечатал радиационный щит прямо на борту МКС
Обитаемый космос
В 2018 году мировая солнечная энергетика прибавит 100 ГВт
Мнения
Термомагнитная стимуляция мозга заставила мышей двигаться против воли
Идеи
В Шотландии построят самую большую в регионе солнечную электростанцию
Солнечная энергетика
Глава Ford: «До полноценных робомобилей пока далеко»
Мнения
Искусственная матка будет создана после 2020 года
Идеи
Комиссия по ценным бумагам и биржам США будет регулировать ICO
Криптовалюты
Тренды
Все, что нужно знать про биткойн
Берлинский финтех-стартап помог европейцам инвестировать €4 млрд
Финансовые стартапы
Правительство Австралии установит контроль над обменниками криптовалют
Криптовалюты
Изобретена резина, которая не боится проколов
Новые материалы
Разработан метод стирания страшных воспоминаний
Идеи
Тайвань просит Tesla построить на острове хранилище энергии
Хранение энергии
Военные дроны
Оружейная компания установила на квадрокоптер пулемет
США установили рекорд по числу проданных роботов
Кейсы
Автомобили будущего
Toyota запатентовала невидимые боковые стойки
Солнечные стеклоблоки обещают революцию в строительстве
Идеи
В Казани пройдет IoT World Summit Russia 2017
Тренды