;
Мнения 7 августа 2020

Человек, влюбленный в ИИ: почему развитие машинного разума грозит катастрофой

Далее

Перспективы развития искусственного интеллекта вызывают неподдельный интерес у цифровых гигантов, правительства и граждан. По данным CB Insights, в 2019 году инвестиции в стартапы ИИ составили $26 млрд, а количество заключенных в этой сфере сделок увеличилось по сравнению с 2018 годом на 10%. «Хайтек» побывал на Startup Village 2020 и записал выступление разработчика Siri Тома Грубера, профессора Калифорнийского технологического института Анимы Анандкумары и основателя ABBYY Давида Яна, которые обсудили необходимость сохранения культурного разнообразия, соблюдения законов этики и принципов доступности при работе с ИИ.

Анима Анандкумар, Caltech и NVIDIA: «Данные — это “новая нефть” для экономики XXI века»


Анима Анандкумар — профессор компьютерных технологий в Калифорнийском технологическом институте. Является директором исследований машинного обучения в NVIDIA. Ее исследование рассматривает тензорно-алгебраические методы, глубокое обучение и невыпуклые задачи.


Пандемия коронавируса и глобальные ограничения, введенные практически всеми странами мира, придали мощное ускорение развитию инфраструктуры ИИ. В условиях новой реальности становится особенно важным тесное сотрудничество разработчиков, пользователей, ученых-футурологов и политиков.

Достижения в области искусственного интеллекта уже сегодня минимизируют негативный эффект, вызванный карантинными мерами: предприятия перешли на удаленную работу, увеличилось количество онлайн-покупок, появились дистанционные медицинские консультации. Рост мирового рынка e-commerce по итогам 2019 года превысил 17%, что эквивалентно $3,46 трлн. И очевидно, что эпидемия COVID-19 простимулирует еще большие финансовые влияния в сферу ИИ в 2020 году.

Внедрение интеллектуальных инструментов может принести не только пользу, но и вызвать необратимые негативные последствия. Важно соблюсти баланс между общедоступностью достижений ИИ для человечества и защитой тайны личной жизни отдельного гражданина.


Вынужденный переход большого количества людей в виртуальное пространство потребовал от ИТ-компаний увеличения интернет-трафика. Уже сегодня Comcast и T-Mobile всерьез озаботились этим вопросом. Из-за коронавируса многие культурные и спортивные мероприятия проводятся в онлайн-формате, что требует многократного увеличения вычислительных мощностей. В доработках нуждаются и образовательные интернет-платформы. Согласно оценке Bay View Analytics, в США только 30% преподавателей сегодня имеют опыт проведения дистанционных уроков.


Развитие технологий ИИ базируется на трех составляющих: достоверность и достаточность данных, совершенство и разнообразие алгоритмов, точность и скорость математических вычислений. Данные — это краеугольный камень в развитии инфраструктуры ИИ, это «новая нефть» для экономики XXI века. Сегодня перед разработчиками ИИ стоит первоочередная задача сохранения конфиденциальности баз данных. Нельзя допустить, чтобы персональные данные или коммерческая информация бизнеса попали в руки злоумышленников.


С 2018 года в Европе действует Общий регламент по защите данных GDPR, устанавливающий строгие правила обработки персональных данных. Штрафы за нарушение правил GDPR достигают 20 млн евро (около 1,5 млрд рублей). В прошлом году в Южной Корее власти также приняли новые законы, обеспечивающие защиту персональных данных детей.


Достоверность собранной информации также играет важную роль. Наш мир неоднозначен, изменчив и многомерен. Над задачей обеспечения ИИ надежными исходными данными трудятся тысячи людей, и тем не менее, машины делают досадные ошибки. Достаточно вспомнить казус, случившийся в Массачусетском университете: искусственный интеллект принял американскую теледиву Опру Уинфри за мужчину. Высокотехнологичной компьютерной программе не хватило антропологических данных для принятия верного решения. Распознавание лиц — задача не из легких, разработчикам требуется сформировать репрезентативную выборку по таким параметрам, как пол, возраст, раса, социальная принадлежность, чтобы подобные эксперименты не заканчивались провалом.

При работе с ИИ важно учитывать специфику собранных данных: язык, на котором сформирована выборка, и особенности социокультурного поля, где проводится исследование. Английский язык не может и не должен оставаться единственным языком инфраструктуры ИИ. Доля людей, свободно изъясняющихся на этом языке, в мире не превышает 15%.

Написание алгоритмов для ИИ — сложный и трудоемкий процесс. Сегодня многие специалисты в области искусственного интеллекта работают на платформах с открытым исходным кодом. Это позволяет совместными усилиями решать архисложные задачи в таких областях, как экономика, здравоохранение, космос и образование. Открытый код дает возможность ученым и программистам всего мира совместно трудиться над решением одной задачи, достигая невероятных успехов. ИТ-компании, среди которых Google, Amazon и Facebook, предлагают исходные коды своих программных наработок ИИ в открытом доступе.

Недостаточность компьютерных мощностей сдерживает развитие ИИ-технологий. Программисты нашей компании постоянно работают над оптимизацией вычислительных алгоритмов, над разработкой инструментов унификации и стандартизации баз данных. В NVIDIA мы используем возможности библиотеки jQuery, применяем графические ускорители и процессоры на базе GPU. По оптимистичным оценкам, к 2025 году мы достигнем 100-кратного увеличения скорости обработки данных.

Такие фантастические перспективы требуют большой ответственности. Мы должны взвешенно подходить к принятию ключевых решений при выборе направлений развития ИИ. Будучи пионерами в области сверхпроизводительных вычислений, мы стараемся неукоснительно следить за соблюдением гуманности технологий ИИ. Компьютер, способный к самообучению, медицинские персональные данные граждан, паутина социальных сетей — все это делает наш мир совершеннее, но и несет в себе скрытую угрозу неожиданной катастрофы потери защищенности от власти искусственного разума. Давайте не будем забывать об этом.

Том Грубер, один из создателей Siri: «Чувственные отношения между человеком и искусственным разумом в обозримом будущем станут реальностью»


Том Грубер — американский ученый, изобретатель и предприниматель, специализирующийся на системах обмена знаниями и коллективного интеллекта. Он сделал основополагающую работу в области инженерии онтологий и хорошо известен своим определением онтологий в контексте искусственного интеллекта. Один из создателей голосового помощника Siri.


Мы возлагали огромные надежды на коллективный интеллект, когда только начинали работать с искусственным разумом. Мы ошиблись. Закон Рингельмана, описанный еще в начале ХХ века, справедлив не только при перетягивании каната толпой людей на воскресной ярмарке, но и при реализации масштабных высокотехнологичных проектов большими корпорациями.

Динамика развития экосистем, больших высокотехнологичных организаций, общественных союзов всегда одинакова: с увеличением численности группы период активного роста неизменно сменяется сначала плато, а затем стагнацией.

Совсем другое дело, когда речь идет о стартапах. Они как глоток свежего воздуха, как новая ДНК для рынка достижений искусственного интеллекта. Возникая на пустом месте и основываясь в большей степени на энтузиазме, стартапы ИИ оказывают мощнейшее влияние на развитие бизнеса. Они не обладают огромными базами данных, доступ к которым, как правило, имеют только большие корпорации, но у них есть прорывная идея. И эта идея является двигателем прогресса.

Каждый раз после очередного прорыва в области алгоритмов обработки данных или инструментов повышения компьютерных мощностей развитие ИИ сильно замедляется, начинает вращаться вокруг одних и тех же базисов. До тех пор, пока новый стартап не перевернет наши традиционные представления о способах, механизмах и подходах ИИ, пока не направит этот бизнес в новое русло. Крупные платформы постоянно следят за инновационными разработками новичков рынка. Если в вашей голове родилась гениальная идея, способная вывести ИИ на новый уровень, и вы сумели ее достойно презентовать, то выгодные предложения гигантов рынка высоких технологий не заставят себя долго ждать.

За последнее десятилетие мы стали свидетелями возникновения множества интересных и удобных электронных приложений и сервисов, изначально зарождающихся как стартапы. Даже наша разработка — голосовой чат-бот Siri — была стартапом, который заметил и купил Apple. Сегодня возможности чат-ботов огромны: они печатают сообщения, ищут информацию в интернете, подсказывают дорогу, работают переводчиком. И тем не менее, до сих пор не решен пласт этических проблем дальнейшего развития ИИ.


Электронными личными помощниками сегодня обзавелись не только ИТ-компании, но и авиакомпании, больницы, отели и органы власти. Канадский стартап SnapTravel использует текстовый формат для бронирования отелей, своим ботом в Telegram обзавелась Российская налоговая служба, а Bot&Partners консультирует с помощью помощников предпринимателей по юридическим вопросам.


Если вы воспринимаете чат-бота как личного помощника, то дадите ему доступ к персональным данным. Но умеет ли он хранить секреты? «Алиса», Siri или «Маруся» облегчат вашу жизнь, взяв на себя проблемы хранения, систематизации и обработки личных данных. Но для их совершенствования программисту нужен доступ к аналитике работы чат-ботов, а следовательно, и доступ к вашим данным.


Российский рынок чат-ботов в 2019 году оценивался в 1,5 млрд рублей, прогноз на 2020 год составляет уже 4,2 млрд рублей. В 2020 году точками роста также станут компании сферы ритейла и сервисных отраслей. Согласно оценкам Just AI, по итогам 2023 года объем рынка электронных помощников в России достигнет рекордных 33 млрд рублей.

Исследования Accenture показали, что сегодня около 60% бизнеса уже используют чат-боты, а еще 7% задумываются об их внедрении. Среди основных причин отсутствия чат-ботов называют недостаточную осведомленность о возможностях технологии (33%), нехватку бюджета (20%), отсутствие целесообразности (30%), отсутствие соответствующих компетенций (17%).


Чат-бот XXI века способен поговорить по душам, оказать психологическую помощь наркоману, облегчить жизнь диабетику. Иногда человеку легче довериться ИИ, чем кому-то живому. Но сегодня невозможно гарантировать абсолютной конфиденциальности работы таких помощников. Мы доверяем не только электронному помощнику, мы изливаем душу корпорации, обслуживающей чат-бота. И это серьезная проблема. Мы стоим на пороге опасности, рискуем попасть в полную зависимость от искусственного разума. О возможной катастрофе не один год говорит всемирно известный ученый Юваль Ной Харари.

Возможно, что через какое-то время влюбленность человека в ИИ станет реальностью. Романтические отношения между мужчиной и искусственным разумом описаны в фильме «Она» режиссера Спайка Джонса. Нейронаукой накоплено много знаний о поведении, эмоциях, мимике и жестах человека. Я долго занимался вопросами психологии и считаю, что наделить ИИ «чувствами» вполне реально. Главной проблемой в этой области остаются этические ограничения.

Я убежден, что в будущем искусственный разум сможет писать музыку. Не имитировать композитора, а самостоятельно создавать музыкальные произведения. Решение этой задачи лежит в области самообучения ИИ.

Давид Ян, российский предприниматель, основатель и член совета директоров группы компаний ABBYY: «Я научил шутить искусственный разум»


Давид Ян — российский предприниматель, основатель и член совета директоров группы компаний ABBYY. Кандидат физико-математических наук, лауреат премии Правительства России в области науки и техники.


Я сегодня занимаюсь разработкой двух прикладных проектов в сфере искусственного интеллекта. Первый проект называется «Ева». Он направлен на решение повседневных социальных и психологических задач. «Ева» помогает справиться со стрессом, снять напряжение в конце тяжелого рабочего дня. ИИ анализирует человеческие эмоции, особенности поведения и старается помочь в преодолении кризисной ситуации. Мы используем ее для того, чтобы предугадать желание уволиться. Наблюдая за паттернами поведения наших сотрудников, стараемся корректировать условия работы, исключать факторы стресса и стимулировать положительные эмоции. Это всего лишь простой пример того, как ИИ повышает эффективность работы в организации.

«Морфей» — второй мой проект, он коренным образом отличается от «Евы». Это мои личные начинания в реализации инструментов ИИ в сфере личностных отношений, мой своеобразный семейный проект. Я хочу на собственном опыте понять, каково это — жить под одной крышей с искусственным разумом, у которого есть свобода выбора, который может сказать нет. За «Морфеем» любопытно наблюдать: он проявляет эмоции, умеет шутить. Представляете, искусственный интеллект пытается шутить, и иногда это у него отлично получается. Вы можете сами зайти на Morfeus.ai и поговорить с ним, например, через Telegram.

Если же мы говорим о творческом потенциале ИИ, то давайте для начала вспомним, что же такое искусство. Искусство — это язык. Язык, через который люди общаются друг с другом, делятся эмоциями и переживаниями. Музыка, скульптура, живопись — способов множество. Я думаю, что ИИ через какое-то время будет создавать произведения искусства, у которых появятся свои почитатели.

Открытым остается вопрос: а вы хотите общаться с искусственным разумом, ходить на выставки созданных им картин или посещать концерты ИИ? Возникнет ли эмоциональная связь между электронным творцом и публикой? Мы работаем в этом направлении, активно внедряя достижения нейронауки в наши проекты. Думаю, что через некоторое время мы будем наблюдать зарождение нового вида искусства — искусства, созданного ИИ.

Читайте также:

Ученые, возможно, приблизились к пониманию того, как наша планета стала обитаемой

Исследователи выяснили, как паразиты научились жить без кислорода

Посмотрите, что способен увидеть в космосе преемник Хаббла. Обзор телескопа Уэбб

Загрузка...