БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая

Элемент случайности

— Как сейчас развивается технологическая сторона AR?

— Сегодня все равно необходимо устройство-посредник: в данный момент мы все еще на стадии смартфонов. Это хорошо, потому что людям не нужен новый девайс, он уже в кармане. Но графика все равно не потрясающая. А весь процесс сложен — нужно достать телефон, загрузить приложение, потом ходить с телефоном и смотреть на экран. Не очень удобно. Мы начали заниматься этим около десяти лет назад с четким пониманием, что мобильный телефон — это не конечная точка для AR. Далее это перейдет к очкам. Они еще не выглядят как обычные очки, но скоро будут такими. Сторона «железа» должна догнать сторону софта.

Все перейдет в очки, у которых будет режим AR, VR и режим обычных очков, если вы не хотите видеть цифровой контент. Потом, возможно, импланты, которыми пугают людей сегодня.

Эта технология невозможна без AR Cloud (цифровая копия мира, оптимизированная для умных устройств — «Хайтек»). Что нам надо — это универсальный визуальный браузер (UVB). Сегодня, чтобы использовать AR, вам нужно скачивать приложение для каждого конкретного случая. А необходимо что-то вроде интернета, только для AR-контента — единая точка входа. Мы как индустрия приближаемся к этому.

Сейчас виден большой прогресс в трекинге объектов, «облаках точек», появились ARKit и ARCore. Уже легче распознавать окружающую среду в режиме реального времени. Создавать облако точек 3D-пространства, накладывать на него контент. Но как браузер поймет, какой контент накладывать, и на что? Что релевантно для вас лично? И здесь мы сталкиваемся с преградой со стороны этики.

— Потому что для этого нужно собирать данные?

— Да, но это уже происходит. Здесь, конечно, есть проблема приватности. Потом этот браузер будет в зависимости от вашего поведения давать новый контент, релевантный прошлому поведению. Но также необходим и случайный контент, который не весь запрограммирован. Должен быть некий элемент случая. Как в реальном мире.

— Как случайность действий и несовершенство человека?

— Да. Но здесь мы сталкиваемся с парадоксом. Как можно запрограммировать случайность? Это отдельная большая дискуссия, в которую сейчас, наверное, не стоит уходить. Но это большой вопрос, если обсуждать сторону контента будущего, — то, что вы будете видеть.

— Про случайность: вы считаете, что это необходимо? Нужно запрограммировать ее в ИИ, чтобы технологии были более человечными?

— Я так думаю. Может, это плохая формулировка, но совершение ошибок должно быть запрограммировано. Люди развивались и учились на ошибках. Если мы запрограммируем совершенство, то столкнемся с преградами естественного пути развития. В системе должно быть какое-то трение, потому что оно позволяет нам расти. Это — как ветер против деревьев. Мы обычно предпочитаем избавляться от трения в нашей жизни, чтобы все вокруг было просто и радостно. Я не думаю, что UVB должен быть запрограммирован, как розовые очки, чтобы давать нам только визуальные сладости, чтобы удовлетворять все наши желания. И сейчас мы видим, как это происходит в интернете.

Предвзятость и другие слабости ИИ

— Но сегодня мы в основном создаем ИИ, чтобы он помогал. Значит, необходимо гарантировать отсутствие ошибок. А если создадим ИИ с функцией случайности, появится новое сознание и мы не сможем полагаться на него.

— Это все равно может случиться. Мы говорим о двух разных вещах — о сильном ИИ и слабом ИИ. Слабый уже существует. Сильный — это какое-то отдельное сознательное существо, живущее отдельно от нас. Если, например, ИИ ищет опухоли, исследуя рак, вы захотите сделать его максимально точным. А если ИИ создается скорее для тех задач, о которых говорю я, — тут уместна дискуссия о запрограммированном несовершенстве.

— Но ИИ-инженеры сейчас создают наше будущее по собственному усмотрению. То же самое происходило с интернетом и социальными сетями. И их создатели уже начали извиняться за это перед миром. Должны ли устанавливаться правила перед созданием новых технологий?

— Да, и я участвую в этих обсуждениях. Я член IEEE — это старейшая организация в мире, определяющая инженерные стандарты, а также работающая с вопросами этики. Состою в рабочей группе Algorithmic Bias, где мы прямо обсуждаем аспекты существования человеческих предубеждений и предвзятостей в алгоритмах ИИ. Например, предубеждения касательно расы, если мы говорим про судебную практику. Это большая проблема. Предвзятости касательно медицины, если мы говорим про страховые компании: кто получит выплаты, кто — нет и почему.

Эти дискуссии существуют. Люди осознают мощность ИИ. И важно обсуждать это заранее, а не ретроактивно. Но несмотря на это, всегда побеждают деньги. Если можно извлечь прибыль, этика в технологиях отодвигается в сторону. Знало ли руководство Facebook о всех проблемах, которые сейчас вылезли на поверхность? Может, нет, а может, они знали все это время и сейчас притворяются удивленными. Потому что случае Facebook — они не хотят контролироваться как медиакомпания.

Одно дело — вести эти дискуссии, а другое — внедрять их результаты на законодательном уровне. Посмотрим, произойдет это или нет.

— Боитесь того, что могут принести нам технологии?

— Я бы не сказал, что боюсь, скорее, обеспокоен. Не знаю ни одного примера в истории, когда технология использовалась этически верно всеми стейкхолдерами на протяжении цикла ее существования. Я прагматик — и понимаю, что как только ящик Пандоры будет открыт, мы уже не сможем его закрыть. А его уже открыли, если говорить про ИИ.

Интерактивные городские пространства

— Вы в основном работаете с AR в сфере искусства. Как AR изменит взаимодействие с городами?

— Люди не считают это частью AR, но уже давно существуют технологии видеомаппинга — проецирования на городское пространство, которое может видоизменяться с помощью сбора данных. Мне кажется, городские пространства станут более интерактивными — с ними можно будет взаимодействовать с помощью жестов, прикосновений. Это зависит от определенного места в городе.

Можно назвать примеры, связанные с биометрическими данными. Например, вы идете по городу, он реагирует на ваше биологическое состояние. Если холестерин слишком высокий, определенные вывески ресторанов могут приглушаться, другие будут светиться ярче — в зависимости от еды, которая вам больше нужна в данный момент. Тут есть вопросы со стороны этики сбора и использования данных, но это — потенциальное использование технологий.

— Вы говорите о городе, будто это независимое существо с доброй волей. Но сейчас города контролируются — правительствами, компаниями, людьми. Считаете, что город надо оградить от контроля, — и он должен стать независимым?

— Не обязательно. Мне кажется, это все можно связать — монетизация не должна отменять общественные блага. Зарабатывание денег само по себе не является злом. Иногда можно получать больше прибыли, заботясь о людях. Если они будут здоровее, от этого выиграют многие.

Заставить людей думать

— Что вы делаете с AR в сфере искусства?

— Расскажу, как пришел к этому. Я также занимаюсь академическими исследованиями. Исследовал граффити, стрит-арт и их связь с рекламой на билбордах в Южной Калифорнии, откуда я сам. И смотрел на юридическую пропасть между ними.

Высокоприбыльное коммерческое размещение билбордов тоже может быть незаконным, но городские власти часто закрывают на это глаза. Например, кто-то может прийти к владельцу здания и заплатить ему напрямую, чтобы установить рекламу. Не лицензируя. Это незаконно, но в таких случаях люди не получают большие штрафы. Когда я начал изучать этот вопрос, около десяти лет назад, в Лос-Анджелесе было три человека, которые должны были инспектировать 11-12 тыс. билбордов. Очень небольшой процент этой рекламы лицензировался по официальным каналам. С остальным городской совет ничего не делал, а этот совет частично финансировался рекламной индустрией. Не обязательно быть гением, чтобы увидеть тут связь.

И с другой стороны — стрит-арт. Даже за санкционированные граффити люди получали большие штрафы, некоторые даже попадали в тюрьмы. Откуда этот разрыв? Одно — прибыльно, другое — нет. Стрит-арт создается личностями, которые обычно маргинализируются. У них нет денег заплатить за билборды, поэтому они создают все сами.

Я встретился с одним другом в Нью-Йорке, его зовут Джордан Сайлер, мы разговаривали об AR. Он создал проект The Public Ad Campaign, в рамках которого физически вынимал коммерческую рекламу — в основном на автобусных остановках — и ставил на ее место работы уличных художников со всего мира. Он все еще этим занимается. Это вид протеста. Мы начали делать это в AR — цифровое замещение коммерческой рекламы кураторскими подборками стрит-арта. Сначала сделали это на Таймс-сквер. Дальше начали работать с другими художниками, чтобы перенести их работы в AR, и создали собственные.

Мы никогда не собирались делать бизнес, до сих пор не до конца считаю это бизнесом. Целью было заставить людей задумываться об общественых местах и их природе. Также было интересно заставить людей оторваться от компьютеров — в техническом смысле. Выйти из своих домов, пойти в определенную точку, чтобы увидеть этот AR. И нам понравилось это, как своего рода протестная форма искусства, которую создавали по ходу.

— Может ли зритель взаимодействовать с этим искусством?

— В идеале — да. Мы все еще на начальных стадиях построения механизма этого диалога. Цель — создать возможность для таких дискуссий внутри искусства, потому что AR позволяет это сделать. Зритель может поменять что-то в AR-проекции, предоставить ей что-то новое.

Это все для нас — эксперимент в прогрессе. Ни один из проектов мы не оставили с ощущением, что это — именно то, что хотели сделать. Каждый проект нам кажется хорошим стартом, хорошей идеей, над которой можно еще поработать.

— Один из ваших проектов переносил в AR уже существующее искусство из прошлого — работы Дженни Хольцер. Насколько AR будет возвращать прошлое?

— Проект с Дженни Хольцер предполагал не только цифровую реконструкцию, как раз в нем было пространство для взаимодействия. Зритель мог менять сообщение Хольцер. Мы думали, что она не согласится на это, но ей понравилась идея.

Реконструкция прошлого — один из самых ранних примеров использования AR. Пройдитесь по Венеции и посмотрите, как она выглядела раньше. Для меня магия AR заключается в том, что вам нужно быть непосредственно в конкретном месте и то, что вы видите, сочетается с физическим пространством. Не всегда получается так сделать, но в идеале цифровой контент и физический мир должны быть контекстуально связаны.

Цифровой протест

— Многие проекты, в том числе Ad Takeover на Таймс-сквер, сильно связаны с культурой граффити. Но вы переформатируете городские пространства в телефоне. Как в связи с этим относите себя с культурой стрит-арта?

— Есть два отдельных пространства — физическое и цифровое. То, чем мы занимаемся в цифровом пространстве, — никто не может сказать, легально это или нет, так как законы еще не были написаны. У нас не было разрешений на проект на Таймс-сквер. Другая команда делала AR выставку в музее MOMA в Нью-Йорке — художники наполнили пространство цифровым искусством и сделали что-то вроде несанкционированного шоу диджитал-арта в его здании. Люди помещают объекты в AR над Белым домом. Я один раз делал это над ареной Staples Center во время игры NBA. Свобода этого пока что не ограничена пространством, но есть, конечно, и минусы. Потому что не все могут это увидеть. Это абсолютно легитимная критика, и я тоже думаю над этими вопросами. Предполагаю, что однажды это станет абсолютно вездесущим — визуальным фоном, который все делят между собой.

— Можете ли заставить людей думать, если те, кто скачивает ваши приложения, уже готовы к этому?

— Текущий ответ на это: нет. Не тогда, когда основано на приложениях. Нельзя автоматически сталкивать людей с сообщением в общественном пространстве, если они не могут его увидеть. А они не могут, если у них нет телефона и приложения. Но то, что люди скачали приложение, не значит, что они знают о содержимом этого приложения.

Мне нравится, что можно поместить сообщение в общественное пространство, и люди будут его видеть. Хотя это, конечно, немного лицемерно. Потому что наша главная претензия касательно рекламы в общественных пространствах заключается в том, что ее нельзя выключить. Вы должны смотреть на нее. Это проблема коммерческой рекламы, но граффити и стрит-арт сталкиваются с тем же вопросом. Так что мы разрываемся. Потому что говорим: смотрите, мы можем предоставить цифровое наслоение контента на реальность, которое вы можете включить. И одновременно считаем, что не должны блокировать всю неприятную реальность.

— Думаете, в UVB появятся свои нелегальные художники?

— Я надеюсь на это. Например, если вы хотите, то сможете разрешить появление нелегального искусства в своем UVB.

— Тогда оно уже не будет нелегальным.

— Будет — в том смысле, что вы не сможете контролировать участников. Вы только допускаете или нет появление этих сообщений в собственном визуальном мире — сообщений, с которыми можете быть не согласны.

Эхо-камеры и поколение AI natives

— Вы хотите дать людям возможность закрыть всю рекламу в их дополненной реальности. Ролан Барт в его «Мифологиях» тоже обращался к коммерческой рекламе. Но его целью была деконструкция сообщения — раскрытие его искусственности. Вы же хотите просто скрыть все эти сообщения. Кажется, что это правильный способ?

— Блокирование рекламы — это своего рода ее деконструкция. Вы и так знаете, что там. Мы не хотим блокировать все. И если вы не знаете, что везде общественные пространства используются для трансляции сообщений, то вы просто не жили. Если есть несколько сообщений, реклам, билбордов, которые перекрыты цифровым искусством, то акт этого перекрытия сам по себе является результатом мышления. Согласился бы с вашим тезисом, если бы мы перекрывали все.

— Но это не перекроет все?

— Думайте шире: в этом не будет потребности. Например, помещение рекламы на Таймс-сквер стоит $100 тыс, а мы можем использовать эту рекламную площадку как слой для графического контента, для нас это практически бесплатно. И кто угодно может поместить поверх этой рекламы что угодно. Тогда в чем заключается стоимость физической рекламы? У нее все еще есть стоимость, но она точно будет намного ниже.

— Одна из ваших целей — дать людям возможность закрывать эту рекламу. Но не думаете, что когда такая технология появится, люди будут закрывать все, что им не нравится? Реальное пространство превратится в такой же маленький пузырь, эхо-камеру (echo chamber — «Хайтек»), как ленты социальных сетей.

— Это возможно. Мы возвращаемся к вопросу об алгоритме, который будет управлять этим. Если признаем необходимость какой-то силы трения как условия для развития человека, то алгоритм будет запрограммирован так, чтобы показывать долю случайного контента. Если вы не захотите видеть граффити, некоторые виды архитектуры, и что-то еще, — ИИ поймет это и заблокирует их, наложит другое изображение. Это большая опасность — никто не может гарантировать, что так не произойдет. Мне кажется, что это плохая идея — создание цифровой сказочной страны, где вы видите только то, что хотите.

— Но думаете ли, что это произойдет?

— Пессимист во мне говорит «да», это случится на каком-то уровне. Но я вижу — и не видел этого какое-то время назад, что сейчас такие вопросы обсуждаются всеми стейкхолдерами. Потому что очевидно: когда ИИ совместится с AR, это изменит нашу жизнь. Вместо digital natives появятся AI natives — люди, которые вырастут в этом мире и не будут задумываться об этом. Как только это будет интегрировано в ткань нашего общества, обсуждать этические вопросы станет труднее. Так что одновременно надеюсь на лучшее и остаюсь реалистом — понимая, что такие технологии будут использоваться в первую очередь для коммерческой выгоды и продажи людям товаров.

— Почему вы занимаетесь искусством?

— Искусство помогает понять себя как людей и личностей, а не просто кучу данных, — которой мы постепенно становимся с точки зрения рекламодателей. Когда общество слишком близко подходит к какой-то грани, искусство возвращает к настоящему, корректирует курс, когда нам это надо. Поэтому в искусстве есть перманентные темы, встречающиеся во всех культурах. Не важно, из какой точки мира вы. Мы все разделяем, например, общее культурное понимание музыки. Музыка помогает преодолеть политические различия, которые разрывают социальную ткань. Искусство в целом тяготеет к общности — люди в своем роде собираются вокруг него, как в первобытные времена собирались вокруг костра.

— Вы сказали, что мы превращаемся в набор данных. Что тогда делает нас людьми? И в чем будет различие между ИИ и человеком, когда ИИ будет достаточно развит? Будет ли это искусство?

— Не знаю, даже слабые ИИ уже делают успехи в искусстве. Сценарии, визуальное искусство, музыка. Может, на самом деле это наше несовершенство.

— Вы же хотели встроить это в ИИ?

— Да, и может, в конечном итоге стоит это сделать. Я не уверен, что можно в течение жизни одного поколения создать реплику миллионов лет эволюции. Люди развивались из-за несовершенства, из-за совершаемых ошибок, из-за этой силы трения жизни. Креативность — это упрямство несовершенности. Я не уверен, что это может быть запрограммировано.

Когда говорю о случайности алгоритмов ИИ, скорее имею в виду, что они не должны создавать вокруг нас эту эхо-камеру из всего, что нам нравится. Я не хотел бы жить в таком мире и не буду использовать такие ИИ, AR, UVB, если они будут доступны. Мне нравится путешествовать, потому что знакомлюсь со случайными людьми, неожиданно. Случайно ли это? Это уже более серьезный философский вопрос. По крайней мере, выглядит случайным.