Роботам нужны принципы, а людям — новое образование

Технологии позволяют людям справляться с задачами, которые в прошлом казались неосуществимыми. «Сверхинтеллект даст нам сверхчеловеческие способности, — говорит Том Грубер, главный разработчик виртуального помощника Siri, со сцены конференц-зала TED 2017. — Вместе с машинами будем умнеть и мы».

Не так охотно приветствует будущее, в котором машины будут умнее людей, Стюарт Рассел, профессор информатики из Калифорнийского университета в Беркли и соавтор книги «Искусственный интеллект: современный подход». Он называет это «проблемой горилл», когда более умные люди превзошли своих менее развитых предков, и уверен, что «создавать нечто более умное, чем твой собственный вид, — плохая идея».

Для сдерживания ИИ требуется ввести правила, напоминающие законы робототехники Айзека Азимова. Например, машина получает приказ принести кофе. Если она не сдерживается принципами поведения, она будет выполнять свою задачу во что бы то ни стало, даже действуя во вред другим живым существам, и сопротивляться, если люди захотят ее отключить. Первым шагом к совместимости человека и ИИ должна стать разработка принципов альтруизма и приоритета человеческих ценностей, считает Рассел. «Рядом с такой машиной нам будет гораздо лучше», — уверен он.

Появление ИИ угрожает и гегемонии человека в области накопления знаний и требует пересмотра системы образования, говорилось на конференции. Профессор Норико Араи несколько лет готовила робота к сдаче экзамена в самый престижный вуз Японии, Токийский университет. Робот показал неплохие результаты, обойдя 80% абитуриентов и войдя в 1% лучших по математике. Однако, вместо законной гордости профессор Араи испытала тревогу. «Этот робот, который не умеет читать, смог превзойти тысячи выпускников школ», — рассказала она участникам TED 2017.

Это заставило Араи, вместе с министерством образования Японии, изучить навыки чтения и письма учеников школ. «Большинство учеников собирают знания, не понимая их. Это просто запоминание», — считает профессор. И поскольку искусственный интеллект справляется с этой задачей явно лучше, нам нужен другой тип образования.

Пессимистично настроен по отношению к ИИ и эксперт по глубокому обучению Юрген Шмидхубер. К 2030 году, считает он вслед за Хокингом и Маском, роботы будут строить между собой отношения, колонизировать Галактику и жить своей жизнью, а на людей смотреть как на муравьев.