Роботы могут стать расистами и сексистами из-за интернета

Айзек Азимов сформулировал, как должен вести себя хороший робот: не вредить людям, выполнять приказы и уметь защитить себя. Британский институт стандартов опубликовал более официальные правила, которые помогут в разработке роботов, пишет The Guardian.

В документе под названием «BS8611 Robots and robotic devices» описано, какими должны быть роботы, чтобы соблюдать защиту здоровья и безопасность людей. По словам Алана Уинфилда, профессора робототехники в Университете Западной Англии, эти стандарты станут первым шагом к внедрению этических норм в роботов и искусственный интеллект.

Это первый стандарт по этическим нормам разработки роботов. Документ начинается с того, что роботы не должны создаваться с целью наносить вред людям. И еще — за робота всегда несет ответственность человек.

В документе рассматриваются вопросы самообучающихся систем и того, что, порой, создатели не могут и сами до конца знать, как пойдет обучение робота. Также при обучении чаще всего используется информация из интернета, большая часть которой ориентирована на белых мужчин среднего возраста. А это может создать предпосылки к тому, что робот станет сексистом или расистом.

Другая потенциальная проблема, которая рассматривается в документе, — чрезмерная зависимость от роботов. К примеру, человек взаимодействует какое-то время с роботом, который ему помогает. И в итоге, когда человек становится слишком ленивым, чтобы принимать решения самому, робот дает неверный совет. Но в тексте не дается ответов, как разрабатывать роботов, чтобы избежать этого.

Этические вопросы создания роботов начинают волновать разработчиков все больше и больше. Предполагается, что роботизация коснется 6% рабочих мест США уже к 2021 году. И исследователи уже задумываются над тем, что у роботов, как и у людей, должны быть свои права.