Мнения 15 декабря 2016

«Если ООН не запретит роботов-убийц, они начнут войну против людей»

Далее

Эксперт по искусственному интеллекту Тоби Уолш считает, что ООН следует как можно скорее ввести запрет на боевых роботов. Если этого не сделать, то развернется гонка вооружений, роботы-убийцы попадут в руки террористов и начнут войну против людей.

Роботы-убийцы находятся на повестке дня на совещании Организации Объединенных Наций на этой неделе. И ООН следует немедленно запретить использование такого вида летального оружия, считает Тоби Уолш, профессор Университета Нового Южного Уэльса и эксперт по искусственному интеллекту. Его мнение приводит IEEE Spectrum.

После трех лет неофициальных дискуссий завтра в рамках конференции по разоружению страны-участницы ООН примут решение о том, стоит ли начать официальное обсуждение запрета на летальное автономное оружие.

В июле прошлого года тысячи исследователей и экспертов в области робототехники и ИИ выступили с открытым письмом, призывая к запрету такого оружия. Одним из организаторов этого письма стал Тоби Уолш, который уже третий раз выступает на заседании ООН с аналогичным призывом.

Google-Переводчик изобрел собственный язык

Он считает, что если запрета не будет, то начнется гонка вооружений. И конечной точкой этой гонки будет то самое мрачное будущее, которое предсказывают нам фантастические фильмы, такие как «Терминатор». Но еще до того момента, как этот сценарий осуществится, оружие попадет в руки террористов. И они используют его против мирных людей. Это не будет война роботов с роботами — это будет война роботов против людей.

Ранее на этой неделе международная организация IEEE — Институт инженеров электротехники и электроники — объявила об инициативе по созданию этических стандартов для разработчиков автономных систем. Согласно отчету, опубликованному IEEE, автономное оружие дестабилизирует систему международной безопасности, может привести к непреднамеренной военной эскалации и даже войне. А потому необходимо установить контроль над таким оружием.

Многие поддерживают запрет летального автономного оружия. Уже девять членов Конгресса США высказались в пользу этой инициативы. Есть и те, кто считает, что лучший способ остановить восстание машин — это вовремя нажать «большую красную кнопку», над созданием которой работают, к примеру, в Google.

Стивен Хокинг: «Человечеству на Земле осталось жить всего 1000 лет»

А вот Джинни Рометти, гендиректор IBM полагает, что человечеству можно не опасаться восстания машин. Дело в том, что под термином «искусственный интеллект» мы сейчас понимаем не совсем то, что есть на самом деле. Это не интеллект как таковой, а когнитивные системы, которые не являются ни автономными, ни разумными. И они никак не смогут восстать.