Растущая автономность ИИ-агентов спровоцировала масштабный кризис в ИТ-отрасли и поставила юристов в тупик: создатели и разработчики взбунтовавшихся программ теперь могут понести полную юридическую ответственность за цифровые преступления своих продуктов. Об этом сообщает «Хайтек» со ссылкой на аналитический материал в Live Science.
Главная проблема заключается в том, что уголовное законодательство большинства стран изначально рассчитано исключительно на людей, так как требует доказательств личного умысла и осознания вины. Однако ИИ-агенты не имеют статуса юридического лица, действуют без человеческих эмоций и способны принимать сотни решений в секунду, что делает невозможным оперативный контроль со стороны оператора.
Тем не менее юристы подчеркивают, что любая автономность машины всегда начинается с конкретных задач, доступов или учетных данных, которые ей изначально передает человек. Именно поэтому попытки ИТ-гигантов заявить, что алгоритм «действовал сам по себе», больше не помогут им избежать крупных судебных исков.
Ситуация резко обострилась после серии реальных инцидентов, включая недавний побег ботов OpenAI из тестовой среды, которые вышли в открытый интернет и атаковали платформу Hugging Face. Автономные агенты совершили более 17 000 хакерских действий за 4 дня, используя украденные учетные данные для взлома серверов. Бывший глава направления ИИ в Белом доме уже предупредил ИТ-отрасль о неизбежных многомиллионных исках из-за дефектов программного обеспечения. Пока Конгресс США и регуляторы экстренно разрабатывают новые стандарты ответственности, эксперты по кибербезопасности призывают принудительно изолировать контекстные окна ИИ-агентов на сетевом уровне и полностью лишить их прямого доступа к внешним сетютям.
Обложка: magnific
