Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Независимые исследователи из Университета города Луисвилл пришли к выводу, что враждебный человеку искусственный интеллект, о появлении которого говорили Стивен Хокинг и Илон Маск, может возникнуть только при определенных обстоятельствах. Им удалось описать эти условия.

Одним из наиболее явных признаков должно быть отсутствие надзирающего органа при развитии систем ИИ. «Если группа решает создать враждебный искусственный интеллект, успешность ее действий будет зависеть от того, насколько ей удастся скрыть это от внимания надзирающих организаций», — говорят Федерико Пистоно и Роман Ямпольский.

Такая группа должна принижать значение своей работы и исходящие от нее угрозы и даже распространять ложные слухи. «Стратегия состоит в том, чтобы сеять противоречивую информацию, которая будет порождать сомнения в общественном мнении об опасностях и возможностях ИИ», — объясняют они.

Google Deep Mind, создатель ИИ, победившего человека в го, утверждает, что у компании есть отдел по контролю за этикой, но не сообщает, кто в него входит.

Второй важный признак — наличие закрытого исходного кода ИИ. «Хорошо известно среди экспертов по криптографии и компьютерной безопасности, что программы и алгоритмы с закрытым кодом менее безопасны, чем открытые и свободные», — говорят Пистоно и Ямпольский. — Само существование не открытого программного и аппаратного обеспечения ставит человечество под большую угрозу".

Эксперты по безопасности давно осознали степень угрозы от вредоносных программ, и всеми силами стараются защитить компьютерные системы — особенно критически важные для безопасности людей: АЭС, транспорт, жизнеобеспечение и т. д. — от ошибок и проникновения злоумышленников.

Но в области ИИ подобных защитных механизмов нет. Это может быть не важно, пока искусственный интеллект пребывает в зачаточном состоянии, но ситуация быстро меняется, пишет MIT Technology Review.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

«Настроить системы умного дома уже не сложнее, чем установить Windows»
Умный дом
«WorldSkills — отличный пункт в резюме»
Иннополис
Китайцы с высоким рейтингом смогут арендовать электрокар у Alibaba
Тренды
ИИ-рынок вакансий обещает каждому найти работу
Идеи
Крупнейшие компании помогут IBM коммерциализировать квантовый компьютер
Тренды
Чистый транспорт
В Австралии запустят первый поезд на солнечной энергии
Робот-морская звезда мгновенно адаптируется к неожиданным повреждениям
Робототехника
BAIC прекратит производство автомобилей с ДВС к 2025 году
Тренды
Криптовалюты
«Биткойн провалился как валюта»
Илон Маск: «Общественный транспорт — это полный отстой»
Мнения
ИИ-версия поттерианы: «Гарри отвел глаза от головы и бросил их в лес»
Искусственный интеллект
Во Франции запретят Facebook детям до 16 лет
Социальные сети
В США отменили сетевой нейтралитет
Кейсы
Новая технология Alphabet X подключит к интернету миллионы индийцев
Интернет для всех
Разработан устойчивый электровелосипед для пожилых
Транспорт будущего
Биотех-стартап Ginkgo Bioworks стал «единорогом»
Биотехнологии
В Китае с поддельной едой будут бороться с помощью блокчейна
Блокчейн
Daimler начал поставки городских электрогрузовиков в Европе
Тренды
Дания использует криптовалюту для помощи развивающимся странам
Блокчейн
Эндрю Ын займется внедрением ИИ на фабриках
Искусственный интеллект
Распознавание лиц
Китайские камеры слежения засекли журналиста ВВС за 7 мин
Thor Trucks — новый конкурент электрогрузовика Tesla Semi
Электротранспорт
К 2021 году самолеты на 75% будут состоять из напечатанных деталей
Кейсы
«Биологические часы» помогут подобрать персональное лечение
Медицина будущего
Создан микрочип, который почти невозможно взломать или разрушить
Кибербезопасность
Кейсы
Российские инженеры напечатали компактный двигатель для дронов
В Нью-Йорке создадут первую в мире цифровую систему энергоснабжения
Идеи
«Батареи для электрокаров перестанут дешеветь после 2020 года»
Электромобили
Сотрудники Tesla: «90% автомобилей Model S и Model X выходят с дефектами»
Мнения
В России учет алкоголя переводят на блокчейн
Тренды
Термоядерный синтез
«Реактор на основе водорода и бора будет готов в течение 10 лет»
Китай собирает ДНК граждан под видом бесплатной меддиагностики
Тренды
Стартап ObEN создает реалистичных 3D-аватаров
Кейсы
Робототехника вызвала бум электродвигателей
Робототехника
«До Скайнета еще далеко, но все же лучше к нему подготовиться»
Мнения
Идеи
Светящиеся растения заменят фонари и светильники
Вертикальные фермы Local Roots обещают прокормить космонавтов
Еда будущего
Ученые из МГУ разработали и протестировали квантовый телефон
Квантовые технологии
Солнечная энергетика в США заменит 10 ГВт газовых электростанций
Тренды
Toyota и Panasonic объединились для разработки батарей для EV
Аккумуляторы
Создан новый тип вентиля для квантового компьютера
Квантовые технологии
Технологию автономных имплантов подсмотрели у электрических угрей
Импланты
Aurora передала военным систему автопилота для вертолетов
Беспилотная авиация
Блокчейн
Криптокотята на блокчейне выгоднее, чем пенсионные накопления
«ИИ разрушает нашу свободу воли»
Искусственный интеллект
Южная Корея запретит банкам проводить операции с криптовалютами
Блокчейн
Китай собирается создать в стране 290 «умных городов»
Умные города
Криптомания привела к рекордному росту эфира и лайткойна
Криптовалюты
ЗОЖ предотвращает смертность раковых больных на 40%
Борьба с раком