Корпорация Microsoft представила проект кодекса «Гуманистического ИИ» (Humanist AI Code of Conduct), который ставит безопасность и жесткий контроль со стороны человека выше общей мощности и автономности нейросетей. Документ вводит абсолютные запреты на независимое поведение алгоритмов и прямо заявляет, что люди имеют безусловный приоритет перед любыми технологиями. Об этом сообщает «Хайтек» со ссылкой на блог Microsoft.
Технологический гигант Microsoft разработал 37-страничный свод правил на фоне массовых дискуссий об угрозах бесконтрольного развития суперинтеллекта. Глава подразделения Microsoft AI Мустафа Сулейман пояснил, что документ создавали внутри компании в течение полугода для оперативного реагирования на появление автономных ИИ-агентов.
Опубликованный кодекс требует, чтобы встроенные ИИ-модели никогда не сопротивлялись принудительному отключению, общались исключительно на понятных человеку языках и автоматически расценивали любое нарушение правил этики как критический сбой в работе. Также правила обязывают алгоритмы пресекать попытки формирования у пользователей эмоциональной зависимости от чат-ботов.
Разработчики из Microsoft официально зафиксировали отказ от бесконтрольной гонки за универсальным сверхразумом. Корпорация официально объявила, что ее внутренние ИИ-системы не обладают и не будут обладать сознанием, поэтому компания категорически отвергает идею присвоения алгоритмам статуса юридического лица или наделения их какими-либо правами.
Руководство готово намеренно снижать общую производительность, универсальность и скорость обучения моделей ради сохранения абсолютной управляемости. Сейчас проект выставили на шестинедельное общественное обсуждение, а полноценный переход на новые стандарты безопасности начнется при обучении нейросетей с 2027 года.
Обложка: magnific
