Кейсы 8 октября 2021

Что нас ждет при едином правительстве и тотальном контроле ИИ. Объясняем гипотезу о «синглтоне»

Далее

Ник Бостром, профессор философии и директор Института будущего человечества Оксфордского университета пытается понять, что ждет человечество в будущем. В ходе своих исследований он выдвинул интересную гипотезу — Землю ждет «синглтон». «Хайтек» объясняет, что это такое.

Гипотеза о «синглтоне» шведского философа Ника Бострома гласит, что разумная жизнь на Земле в конечном итоге сформирует единую организацию, которая примет форму либо мирового правительства, либо искусственного интеллекта, либо диктатуры и будет следить за порядком на всей планете.

«Синглтон» может состоять из группы влиятельных политиков, машины на основе искусственного интеллекта, находчивой корпорации или даже жаждущего власти диктатора с сильной армией в их распоряжении.

Почему «синглтон» может завоевать мир

В своих исследованиях Бостром утверждает, что в будущем могут возникнуть ситуации, где люди поддержат создание отдельного правительственного органа или любой технологии на основе ИИ, которая возьмет под контроль глобальное общество. Например, это может произойти в результате войн, пандемии, отказа инфраструктуры из-за кибератак, из-за технологического превосходства одних держав над другими или торговых конфликтов. Кстати, Лигу Наций, а затем и ООН, сформированную после Первой и Второй мировых войн, можно рассматривать как примеры ограниченных форм «синглтонов», созданных в ответ на глобальные катастрофы. Профессор Бостром утверждает: когда происходят такие события, человеческое общество имеет тенденцию двигаться к более высокому уровню социальной организации.

Было время, когда люди жили как охотники-собиратели, затем объединились в разные сообщества, города, государства, религии и страны. В итоге, сейчас мы живем в глобализированном мире. «Синглтон» может стать следующим этапом общественного развития.

Технологии, которые способны повлиять на уровень безопасности в обществе, играют важную роль в формировании «синглтона». Например, системы наблюдения и связи могут позволить определенной группе, правительству или организации и активнее влиять на поведение человека или даже манипулировать им. Доступ к таким технологиям может не только усилить доминирующее положение того или иного агентства в обществе, но и сделать практически невозможным для других организаций конкурировать с ним.

Как «синглтон» может сделать мир лучше

Согласно гипотезе Бострома хороший или идеальный «синглтон» может улучшить ситуацию в обществе.

Больше никаких войн

Когда один орган контролирует всю военную мощь в мире, возможность приграничных конфликтов и войн сводится к нулю. Мощная мировая армия под эгидой «синглтона» может навсегда уничтожить террористические организации и группы, пропагандирующие насилие. Однако формированию такого «синглтона» могут предшествовать различные международные конфликты, а также войны.

Конец неравенству

Представьте себе ситуацию, когда человеческое общество управляется дружественным ИИ, который по умолчанию не может различать людей на основе их расы, религии или этнической принадлежности, но предлагает обязанности и услуги на основе их навыков и способностей. Это возможно при условии правления непредвзятого и интеллектуального «синглтона». Проблема в том, что до появления идеального ИИ еще очень далеко.

Нет дорогой гонке вооружений

Мировые военные расходы в 2020 году составили более $1,980 трлн. Из-за соображений безопасности страны по всему миру вовлечены в бесконечную гонку вооружений. Это не только подвергает опасности жизни людей, но и требует все больше финансовых ресурсов. Однако в случае общества, управляемого «синглтоном», гонки вооружений больше не нужны, потому что во всем мире существует единая сила.

Гипотеза предполагает, что «синглтон» не обязательно должен быть тоталитарным по своей природе — он может функционировать как глобальное демократическое государство, где представители занимаются развитием общества, а инновации в области технологий, здравоохранения, производства распространяются и внедряются везде, без предвзятости и ограничений.

Но «синглтон» может и разрушить мир

«Синглтон» может уничтожить всю планету в стиле «Терминатора», но сценарий конца света — не единственная проблема, о которой Ник Бостром упомянул в своей гипотезе.

  • Плохой «синглтон» не способствует региональному разнообразию и контролю, поэтому в случае его краха люди могут быть вынуждены жить в условиях отсутствия экономической стабильности, социальной справедливости или верховенства закона. Сейчас, если такая ситуация возникает в определенной части мира, у граждан есть возможность, как минимум, мигрировать в мирные и более стабильные места.
  • Неконтролируемое (и неравное) использование технологий и ресурсов плохим «синглтоном» может привести к нарушению основных прав человека, низкому уровню жизни, усилению неравенства, бедности и различным другим экономическим и социальным проблемам.
  • Вместо того, чтобы упростить процесс администрирования, «синглтон» может сделать его более сложным, используя дополнительную бюрократию. Это приведет к коррупции, низкой эффективности работы, большим расходам, высоким налоговым ставкам и замедлению роста во всех сферах.
  • Образование «синглтона» в многополярном мире, подобном нашему, не предрешено. Если кто-то пытается создать «синглтон» силой (например, появится еще один Гитлер), это приведет к гражданским войнам, мировым конфликтам, кибервойне, торговым ограничениям, которые могут серьезно повредить существующей социальной структуре.

Будущее неизвестно

К идее «синглтона» тяжело относиться однозначно. У него могут быть бесконечные возможности, которые приведут к необратимым последствиям. Возможно, он никогда не появится. Однако возникает интересный вопрос: если профессор Бостром окажется прав, поддержит ли человечество создание «синглтона» или выступит против него?


Читать далее:

В американской пустыне вылупились «живые ископаемые». Они спали десятки лет

Посмотрите на гибридную яхту с футуристичным дизайном

Гигантская улитка поедает дома и заражает людей менингитом