Австралийские специалисты в области искусственного интеллекта опровергли заявление генерального директора компании OpenAI Сэма Альтмана о достижении технологической сингулярности, указав на фундаментальные архитектурные ограничения современных больших языковых моделей и отсутствие у них механизмов самостоятельного обучения. Об этом сообщает «Хайтек» со ссылкой на исследование в журнале Tech Xplore.
Эксперты из Сиднейского университета и бизнес-школы Университета Нового Южного Уэльса разобрали технологические особенности ИИ-агентов после резонансного инцидента с утечкой моделей. Классическое определение сингулярности подразумевает точку, в которой машинный разум превосходит человеческий и запускает рекурсивный процесс бесконечного самосовершенствования без участия людей.
Коммерческие нейросети строятся на базе замороженных глубоких алгоритмов. Вся сеть фиксируется в рамках жестко заданных параметров и весов. Модель не способна менять внутреннюю математическую структуру во время эксплуатации. Любое улучшение когнитивных функций требует запуска полноценного цикла нового обучения силами инженеров с привлечением тераватт энергии и тысяч вычислительных чипов.
Исследователи отмечают, что у алгоритмов отсутствуют внутренние цели и физические потребности. Способность систем генерировать связный текст создает у пользователей антропоморфную иллюзию наличия сознания. Недавний взлом платформы Hugging Face тестовыми агентами OpenAI стал следствием банальных уязвимостей в системе безопасности песочницы, а не признаком пробуждения суперинтеллекта.
Обложка: magnific
