«Настоящий ИИ может и не появиться»

Маркус говорит, что пока нам обещали общий ИИ, способный адаптироваться и обучаться самостоятельно, в реальности появились лишь алгоритмы, способные сообщать о том, остались ли продукты в холодильнике и какие приборы включены в доме. Но даже развитие ИИ в этих бытовых областях ограничено.

По мнению ученого, самый популярный подход к совершенствованию ИИ — глубокое обучение — нельзя воспринимать как решение всех проблем. Так, не стоит думать, что «глубокое» в этом словосочетании отсылает к концептуальному значению слова. На самом деле речь идет просто об архитектуре нейронных сетей. Это слово означает лишь то, что у нейронных сетей такого формата много слоев, но ни о какой глубине «мышления» алгоритмов речи не идет.

ИИ по-прежнему трудно делать обобщения, поэтому алгоритм может распознать дорожный знак как мяч только потому, что он тоже круглый. И уж точно нельзя говорить о том, что ИИ, натренированный с помощью глубокого обучения, когда-нибудь научится оперировать абстрактными понятиями. Ему никогда не понять, что такое «честность», «справедливость» и так далее.

Маркус объясняет успехи ИИ в играх тем, что он хорошо работает только на статических наборах данных. Поэтому алгоритмам подвластны, например, шашки и го. Когда же речь заходит о применении ИИ в медицине, финансах и экономике, то появляется ряд проблем. Например, непрозрачность. Алгоритмы глубокого обучения используют миллионы и даже миллиарды параметров. Человеку сложно идентифицировать их привычным для себя способом, что в конечном итоге может привести к тому, что неправильный диагноз или финансовый прогноз будет выдан за правильный.

Эта непрозрачность приводит к тому, что ИИ трудно корректировать, у него нет готового языка программирования. Настроить алгоритм нельзя, залезть внутрь тоже нельзя. Зато ИИ можно обмануть. Часто алгоритм просто неправильно истолковывает данные реального мира. Другими словами, подход глубокого обучения очень ограничен и мало вероятности, что именно он приведет к созданию так называемого общего ИИ, то есть алгоритма, способного имитировать работу человеческого сознания. Маркус говорит, что дать пояснения его заставило желание умерить разрастающиеся ожидания по отношению к ИИ. Сегодня во всем, что касается ИИ, определенно больше ажиотажа, чем реальных свершений, считает он.