«Роботы должны подчиняться тем же правилам, что и люди»

Современные регуляторы не идут далеко в том, что касается ограничений для ИИ, цитирует ученых Sciencealert. Нет законов, которые бы что-то жестко запрещали алгоритмам. Но авторы статьи считают, что на ИИ должны распространяться те же законы, что действуют на его создателей.

Исследователи говорят, что есть сразу несколько факторов, которые в дальнейшем могут привести к проблемам. ИИ сегодня развивается в разных направлениях. По своей специфике у этих систем отсутствует прозрачность, что не дает понять механизм принятия ими решений. Они могут принимать дискриминационные и несправедливые решения, предупреждают ученые. Такие алгоритмы в какой-то момент будут повести себя непостижимым и непредсказуемым способом.

И это наступит, убеждены авторы статьи, еще задолго до эры разумных человекоподобных роботов. Уже сейчас идут споры о том, кто виновен в случае аварии с беспилотным автомобилем: как алгоритм решает в какую сторону свернуть в критической ситуации, если есть выбор между старушкой и ребенком? И приводят менее трагичные примеры с банковскими и судебными алгоритмами.

При этом ученые понимают, что это очень тонкая сфера. Увеличение прозрачности систем может напрямую сказаться на их эффективности. Компании, разрабатывающие собственные решения не будут определенно против раскрытия механизмов работы их алгоритмов. Так что ученые предлагают постепенно заниматься решением этого вопроса, разделив алгоритмы на различные группы.

Разговоры о контроле ИИ идут самого начала его разработок. В свое время Илон Маск призывал создать специальную полицию для ИИ. Футурологи прогнозируют, что через 3-5 лет роботы сами потребуют предоставить им права. Ранее Европейский парламент предлагал присвоить роботам-рабочим юридический статус электронных лиц и внести их в правовое поле. До этого ученые призвали создать специальную должность — следователя по делам ИИ, который будет расследовать преступления с участием алгоритмов. Например, те же автомобильные аварии с участием автопилотов.