Технологические компании продолжают создавать ИИ, который может превзойти человека. Более тысячи деятелей науки, бизнеса, политики и культуры подписали письмо с требованием приостановить разработку сверхразума до появления гарантий безопасности.
В письме, подготовленном группой Future of Life Institute (FLI), подчёркивают, что ИИ способен улучшить здоровье и качество жизни. Но компании, утверждают авторы, хотят создать сверхразум, который обгонит людей по всем когнитивным задачам. Это вызывает серьёзные опасения.
Авторы письма призывают приостановить работу над сверхразумом до достижения научного консенсуса о безопасности технологии и поддержки общества. Они указывают, что ИИ может занять рабочие места, лишить гражданских прав и контроля, создать угрозы национальной безопасности и даже привести к вымиранию человечества.
Среди подписавших — «крёстные отцы» ИИ Джеффри Хинтон (Geoffrey Hinton), Йошуа Бенджио (Yoshua Bengio), а также соучредитель Apple Стив Возняк (Steve Wozniak) и основатель Virgin Group Ричард Брэнсон (Richard Branson). Письмо также поддержали политики, военные и деятели культуры, включая Стива Бэннона (Steve Bannon), Майка Маллена (Mike Mullen), Гленна Бека (Glenn Beck), Джозефа Гордон-Левитта (Joseph Gordon-Levitt) и музыкантов Will.I.am и Grimes.
FLI напоминает, что OpenAI уже направила организации и её президенту повестки в суд в ответ на призывы к контролю над ИИ. Глава OpenAI Сэм Альтман (Sam Altman) прогнозирует, что сверхразум появится к 2030 году, а до 40% экономических задач перейдут к ИИ.
Компания Meta также разрабатывает сверхинтеллект. Недавно её подразделение Superintelligence Labs разделили на четыре группы, что может отложить внедрение технологии.
Авторы письма сомневаются, что его публикация сильно повлияет на компании. Ранее аналогичное письмо Илона Маска (Elon Musk) в 2023 году не остановило работу над ИИ.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: freepik
