Иннополис 3 апреля 2018

Кибернетик Джозеф Браун: Мы строим роботов, потому что нам нужны рабы

Далее

Профессор в области программной инженерии Джозеф Браун, защитивший кандидатскую диссертацию и преподававший в канадском Университете Брока, несколько лет назад перебрался в Университет Иннополис, чтобы возглавить лабораторию искусственного интеллекта в разработке игр. Он рассказал «Хайтеку», как популярные игры связаны с войнами, из-за чего российская наука отстает от мировой и почему человечеству не грозит восстание машин.   <br/>

«Я работал целыми днями, только чтобы сэкономить миллион долларов какому-то парню»

— Как вы пришли к робототехнике и искусственному интеллекту?

 Я всегда хотел стать ученым, в этом никогда не сомневался. В детстве у меня был лабораторный халат с полными ручек и карандашей карманами. Это была старая рубашка моего дедушки, которую мои родители назвали «рубашкой ученого». Такой подарок я попросил у Санты на Рождество.

Я хотел заниматься биологией. Особенно прикладной биологией в криминалистике. В то время много говорили о ДНК. Идея «кода жизни» сильно меня притягивала. Когда я начал разбираться в этом, то решил заняться криминалистикой. Правда, очень скоро понял, что я не большой поклонник вида чужой крови.

Потом я занимался на курсах по созданию сайтов и начал их самостоятельно делать. Даже просто иметь компьютер было очень круто в то время. Интернет становился все более популярной и модной штукой.

Я получил бакалавра в области программной инженерии, а когда пошел учиться на магистра, как раз подвернулся проект по биоинформатике. Мы анализировали большие объемы генетических данных модифицированной кукурузы.

После того как я получил PhD, работал аналитиком систем производства в Magna International — крупном производителе запчастей в Канаде. Там я собирал данные для людей, которые чинили роботов, чтобы они не ошибались. Чтобы работать с такими объемами данных, нужен автоматизированный поиск, это привело меня в область искусственного интеллекта — генетические алгоритмы поиска и то, что сейчас известно как «слабый искусственный интеллект».


Джозеф Браун

PhD, University of Guelph, Канада и доцент Института информационных систем Университета Иннополиса, глава Лаборатории искусственного интеллекта в разработке игр. Обладатель премии Graduate TA Award (Брокский университет), автор 25 рецензируемых публикаций и участник конференций по IEEE.

Я вернулся в университет, потому что хорошо знал эту работу, но она не делала меня счастливым. Получается, я работал целыми днями без выходных, только чтобы сэкономить миллион долларов какому-то парню.

— И все?

— И все.

Через какое-то время я начал работать инструктором в университете, в котором учился на бакалавра. Раз в неделю по четвергам я брал вечером машину, ехал полтора часа до университета, три часа читал лекцию, час встречался со студентами и еще полтора часа ехал домой. Моя смена на заводе начиналась около пяти утра, а преподавание заканчивалось в десять вечера. Так что я возвращался домой около полуночи, чтобы встать в 4 утра и работать еще десять часов. В университете я анализировал большие объемы генетических данных модифицированной кукурузы — это был проект по биоинформатике.

— И вы решили, что это слишком?

— Вовсе нет! Никогда я не испытывал такого удовлетворения, как после восьмичасовой смены, полутора часов езды на машине и лекции. Так я осознал, что работа на предприятии с девяти до пяти — не для меня, и начал искать работу в университете.

«Меня привлекла возможность привнести мировые стандарты образования туда, где их не было»

— Как вы оказались в Иннополисе?

— Я увидел пост на LinkedIn с описанием открытой позиции. Что зацепило меня в этом… Последний канадский университет был построен в шестидесятые. С тех пор у нас не появлялось «новых» университетов. Это вообще очень, очень редкое явление в академической среде.

— То есть это было для вас вызовом?

— Меня привлекла возможность привнести мировые стандарты образования туда, где их до этого не было. Я хотел участвовать в создании чего-то совершенно нового. Когда приходишь в большинство университетов, если ты новенький, с тобой не считаются, тебе не позволят вносить какие-либо изменения. В Иннополисе, как и везде, если ты хочешь что-то изменить, тебе придется побороться. Но у нас есть пространство для экспериментов. Это уже немало. Чуть ли не в любом другом университете доцента моего уровня даже не пустили бы в комнату для совещаний. А здесь я могу что-то придумать и реализовать. Например, предложил и разработал интенсив по преподавательским навыкам для младшего профессорского состава. Сейчас это часть базового тренинга для всех новых сотрудников определенного уровня.

— Каков, по-вашему, потенциал России в искусственном интеллекте и робототехнике?

— Я думаю, потенциал у нас огромный. На мой взгляд, главное, что мешало ему реализоваться, — это закрытость, оставшаяся со времен «железного занавеса». В советское время в физике и математике международные научные связи были не столь тесные и активные, как ныне. Я знаю много примеров британских исследователей, которые просто переводили статьи с русского и публиковали их в международных изданиях как свои собственные. Потому что никто в США и Европе не читал по-русски.

Сейчас английский — это лингва франка в IT и академической среде. И здесь, я думаю, Иннополис делает то, что не делал никто до нас. У нас есть международный факультет, где все говорят по-английски и используют мировые практики в образовании. Здесь учат публиковаться не только на русском, но также в международных англоязычных изданиях, участвовать в зарубежных конференциях и вовлекать студентов во все это.

— Эксперты и чиновники признают, что в робототехнике мы сильно отстаем от стран-лидеров. Что нужно сделать в первую очередь, чтобы преодолеть это отставание?

— Я думаю, большая часть этих проблем — системные и касаются любых исследований, которые проводятся в России, не только исследований в робототехнике и ИИ.

Например, у меня два разрешения на работу. Одно для доцента — дает мне право учить студентов. И другое — руководитель лаборатории, оно дает мне право заниматься исследованиями. Весь остальной мир рассматривает преподавание и исследования как составляющие одного и того же занятия. Но в России существует разделение между преподаванием и исследованиями. И я думаю, это очень плохо. Исследователи не думают о том, как представить свои результаты, а преподаватели не создают новых результатов, которые они могли бы продемонстрировать, и не следят за тем, что происходит в науке.

Компьютерные науки, включая науку об искусственном интеллекте, развиваются настолько быстро, что за год, который проходит с момента написания статьи до ее издания, она уже успевает устареть. Если вы хотите следить за происходящим, нужно выделять время — даже если вы просто преподаватель, — чтобы каждый день следить за тем, что происходит на переднем крае науки. Но преподаватели в России настолько перегружены лекционными часами, у них просто нет времени читать, что происходит в их области. С другой стороны, есть исследователи, которые очень хорошо разбираются в своей области, очень узкой, но никогда не представляют ее студентам. Из-за этого у студентов нет возможности общаться с лучшими исследователями.

Есть еще одна вещь, которая меня беспокоит. Это мое личное мнение. Я заметил, что в России стало популярно мерить успех науки численными метриками, такими как индекс цитирования, решая кто получит тот или иной грант например. Но если вы посмотрите на индекс цитирования Эйнштейна, то окажется, что он не подходит под критерии этих агентств по распределению грантов! Я не знаю, как это исправить, но здесь нужен системный процесс. В целом, я думаю, что решение о финансировании должны принимать не чиновники, а сами исследователи. Сейчас это зачастую не так.

«Большая часть того, что мы сейчас называем играми, было частью военной тренировки»

— Вы возглавляете Лабораторию искусственного интеллекта в разработке игр. Расскажите о каких-нибудь разработках Лаборатории.

— В основном мы занимаемся процедурной генерацией контента, технологиями создания игровых уровней «на лету». Думаю, это лучше всего определить как «создание систем, которые создают игровые объекты». То есть вы не напрямую создаете эти объекты, но вы создаете нечто, что создает их. Это особенно актуально для независимых разработчиков или мобильных игр.

— Почему?

— В мобильных играх уровни гораздо проще. И команды гораздо меньше. Но вам нужно создать сотни тысяч игровых уровней, чтобы каждый раз, когда вы берете в руки телефон, там был новый уровень, который можно пройти.

— А вы сами играете в игры?

— Играю, да. Поэтому-то я так люблю свою работу! (Смеется.)

— Любимая игра?

— В последнее время я много играю в Titanfall 2… Я большой поклонник Diablo 2. Это один из тех блестящих примеров процедурной генерации, чтобы в нее можно было играть много раз. Создатели Diablo очень много работали над алгоритмами процедурной генерации. На самом деле, моя собственная первая работа в этой области была посвящена тому, как сделать генератор уровней лучше, чем в Diablo.

— Какие технологии игрового ИИ могут стать прорывными?

— В игровом ИИ есть два интересных направления. Одно — это то, чем занимаемся мы, — процедурная генерация контента. В последние годы многие игры включают в себя эту технологию. Сейчас студии ее прекрасно освоили. Поэтому стоит ожидать появления множества игр, где применение этой технологии выйдет на новый уровень. Сейчас еще многие занимаются адаптивной игрой, где вы записываете то, что делает пользователь, анализируете собранные данные и создаете новый уровень, который будет лучше соответствовать предпочтениям игрока и его игровому стилю.

Другое интересное направление — это метод Монте-Карло для поиска по дереву, который используется в AlphaGo — программе, которая не так давно победила профессионального игрока в го, и в некоторых других играх. Но большая проблема с этим методом состоит в том, что он очень сильно нагружает процессор. А для обычного ПК он пока слишком медленный.

— Насколько полезны игровые разработки в других сферах, где применяется искусственный интеллект?

— Есть целая дисциплина, известная как «серьезные игры», которая занимается тем, как использовать игровые техники тренинга за пределами игр. На самом деле, большая часть того, что мы сейчас называем играми, были частью военных тренировок.

— Интересно.

— Шахматы — это симуляция войны. Го — это симуляция войны. Кригшпиль — предок современных настольных игр и стратегий — был разработан командирами Прусской армии во время Наполеоновских войн. У них были карты, свод правил, ведущий, игровой кубик, пешки и фишки. С помощью этих игр они учили офицеров тактике боя. Это как «Вархаммер», но для настоящей армии!

— Есть ли более мирные применения?

— Да, серьезные игры включают в себя симуляторы. У нас есть симуляторы, чтобы тренировать пилотов — их можно считать видеоиграми. Один из моих студентов работает над проблемой строительства лагерей для беженцев — например, как расположить здания внутри лагеря оптимальным образом. Вы расставляете различные постройки с разными связями между собой и симулируете людей, которые между ними ходят. Как SimCity, но для беженцев.

Другой пример в контексте процедурной генерации — это продуктовый дизайн, проблемы расположения для продуктов, для создания новых тканей например. Я видел интересные работы по созданию рисунков для ткани, где использовалась процедурная генерация.

«Робот никогда не будет выглядеть как человек»

— Вы как-то сказали, что фантастические истории о нападении роботов на людей далеки от реальности. Почему?

— Давайте посмотрим на историю с Терминатором. Весь сюжет вращался вокруг идеи, что компьютер или робот собирается сделать сделать с нами что-то плохое. Я спрашиваю: «Кто его создал? И почему они воткнули его в удлинитель, который нельзя отключить?»

Меня смущают заявления вроде тех, что делали Илон Маск и Стивен Хокинг. Во-первых, по их словам можно предположить, что мы — те, кто работают с ИИ, — делаем все для уничтожения мира. А это не так. Во-вторых, возможности технологий преувеличены. Мы даже близко не подошли к созданию Терминатора. Меня гораздо больше беспокоят люди, которые все контролируют, а не машины.

— Какой из фантастических фильмов достовернее всего показывает ИИ?

— Мне на ум не приходит ни одного подходящего фильма, но если мы посмотрим в сторону литературной фантастики, то все, что писал Уильям Гибсон, неплохо соответствует действительности. Книги Брюса Стерлинга тоже хороший пример.

— Владимир Путин сказал, что «тот, кто станет лидером в сфере искусственного интеллекта, будет властелином мира». Согласны?

— Google уже это делает. Я вообще не думаю, что государства будут доминировать в мире будущего.

— То есть вы думаете, это будет корпорация, как Google?

— Да, здесь мы возвращаемся к моему примеру с романами Уильяма Гибсона. Мегакорпорации управляют миром, и государства становятся не нужны. Я думаю, это близко к тому, в какую сторону движется мир.

— Вы думаете, возникнут ли в будущем роботы, которые действительно будут похожи на человека?

— Здесь мы касаемся темы «сильного ИИ». У меня всегда была проблема с этим «давайте построим робота, который будет таким, как человек». Потому что люди гораздо дешевле. Японцы лучше всех в строительстве человекоподобных роботов, потому что они не любят мигрантов. Поэтому они строят все эти гигантские компьютеры, развивают другие технологии и создают роботов, похожих на человека. Но если они просто упростят эмиграцию, они смогут делать все то же самое дешевле и с меньшим количеством ресурсов.

Мы строим роботов, потому что нам нужны рабы, чтобы делать за нас работу. Само слово «робот» происходит от слова «работа». И это должна быть работа, которую мы сами не хотим делать. Поэтому лучшие исследования и технологии сделаны в тех областях, в которых люди работать не должны, — например автоиндустрия. Повторяющиеся операции на конвейере наносят огромный урон здоровью работников, краска, которой красят кузова, ужасно токсична, и много других проблем. А сейчас люди не должны все это делать — роботы это делают.

— То есть робот, который будет все это делать, никогда не будет выглядеть как человек, верно?

— Да. Человек эволюционировал в соответствии с требованиями среды, в которой мы живем. Роботы создаются для специфических задач, можно даже сказать, что они «эволюционировали» для этих задач, потому что было много итераций в дизайне и тому подобного. Люди очень хороши в том, чтобы быть людьми. И я думаю, мы должны делать роботов, которые были бы очень хороши в том, чтобы быть не-людьми, в тех областях, в которых нам нужны не-люди.