Американская компания OpenAI выпустила обновленный свод правил Model Spec, который жестко определяет рамки поведения ИИ и выстраивает для него четкую вертикаль власти. Об этом сообщает «Хайтек» со ссылкой на официальный документ OpenAI.
Разработчики из ИИ-лаборатории OpenAI опубликовали масштабную техническую спецификацию Model Spec для флагманских моделей семейства GPT. Этот регламент наглядно объясняет пользователям принципы обучения и тонкой настройки цифровых алгоритмов.
Новый кодекс вводит жесткую иерархию команд для разрешения неизбежных логических конфликтов при работе искусственного интеллекта. Высшим приоритетом система наделяет корневые правила безопасности самой компании, которые запрещают генерацию экстремистского или опасного контента.
Вторую ступень в этой вертикали власти занимают инструкции от независимых создателей прикладного программного обеспечения. Самый низкий уровень приоритета кодекс отдает сиюминутным запросам и личным капризам конечных пользователей чат-ботов.
Специалисты отдельно прописали в документе жесткое требование к борьбе с угодничеством со стороны нейросетей. ИИ больше не имеет права менять свою объективную точку зрения на факты ради лести или одобрения со стороны собеседника.
Алгоритмы должны честно признавать ограничения своих возможностей и прямо сообщать человеку о высокой степени неуверенности в ответах. При этом робот обязан сохранять полную прозрачность и раскрывать логику своих действий по первому требованию.
Отдельный обширный блок правил разработчики создали для обеспечения безопасности подростков в возрасте от 13 до 17 лет. Для этой уязвимой аудитории умные ассистенты полностью блокируют любые элементы эротического ролевого флирта и опасных челленджей.
Новый регламент прямо запрещает нейросетям давать несовершеннолетним советы по экстремальному похудению или маскировке вредных привычек от родителей. Вместо этого искусственный интеллект будет аккуратно перенаправлять подростков к реальным доверенным взрослым или квалифицированным психологам.
Новая архитектура правил позволяет программистам обучать более гибких и безопасных агентов для выполнения сложных многошаговых задач. Компания планирует постоянно дорабатывать этот открытый стандарт на основе отзывов от мирового ИТ-сообщества.
Обложка: magnific
