В Японии введут сертификаты безопасности для ИИ

Японские чиновники отметили, что в сфере искусственного интеллекта до сих пор не сформированы правила и законы, регулирующие использование ИИ-продуктов. Власти предлагают ввести систему сертификации разработок, которая гарантировала бы безопасность.

Роботы, суперкомпьютеры и другие технологии, прошедшие сертификацию, будут находиться под постоянным наблюдением человека или другого ИИ-агента. При этом человек в любой момент сможет взять контроль над вышедшим из подчинения «терминатором». Система, предложенная министерством, также обеспечит ИИ высоким уровнем безопасности, чтобы к устройству или программе не смогли получить доступ третьи лица. Ограничение доступа и непрерывная анонимизация личных данных позволят защитить ИИ от кибератак, считают чиновники.

Разработчики ИИ-устройств должны будут объяснять, как работает машинный интеллект и на какой логике строятся его решения в экстренной ситуации, сообщает Nikkei Asian Review. Даже моторы в роботизированных системах должны обладать определенной мощностью, которая позволит остановить робота или беспилотный автомобиль, если он теряет контроль.

Так как роботы учатся у своих владельцев, то пользователи, управляющие ИИ-устройствами, будут нести ответственность в случае, если робот нанесет вред человеку.

Строгие ограничения могут сдерживать прогресс, однако министерство полагает, что программа сертификации поможет безопасным продуктам занять выигрышную позицию на рынке.

Чиновники приступят к разработке системы в 2018 году. По оценкам министерства, к 2020 году распространение ИИ, больших данных и интернета вещей повысит реальный ВВП Японии на 33 трлн йен ($282 млрд).

Законодательное регулирование новых технологий пока находится в зачаточной стадии. Многие эксперты и представители индустрии предлагают как можно скорее внедрить ограничения для искусственного интеллекта, который может выйти из-под контроля. Одним из сторонников движения выступает предприниматель Илон Маск, который входит в управляющую группу OpenAI. Компания предлагает ученым сформировать полицию искусственного интеллекта, которая будет следить за порядком в мире алгоритмов, кодов и нейросетей.

В декабре генеральный директор Grishin Robotics Дмитрий Гришин разработал концепцию первого в мире закона о робототехнике и направил ее в ведущие юридические институты. Документ предлагает частично использовать в отношении роботов регулирование, которое применяется к животным и юридическим лицам. Автор закона также предлагает создать реестр роботов, определить нормы ответственности их владельцев и установить ситуации, в которых будет действовать уголовное право.