Одной из ключевых особенностей сильного ИИ является то, что он осознает мир вокруг себя и вырабатывает собственное суждение обо всем, что его окружает. Без этого мы получаем нынешние программы с ИИ, в которых всякое суждение вложено создателем приложения. ИИ не понимает, что происходит, и обладает узким кругозором.
Проблема осознания — самая фундаментальная в философии ИИ, и она до сих пор не решена. Она распадается на четыре вопроса:
Как структурируется информация, которую агент (человек или ИИ) получает из мира?
Что касается первой проблемы, здесь мы делаем большие успехи, используя алгоритмы глубокого обучения. И AlplhaGo этому пример.
Как эта структурированная информация привязывается к миру? Другими словами, как создается «осознание» у агента?
Вторая проблема — соединение информации с реальным миром — неразрывно связана с роботами. Поскольку для взаимодействия с миром нужно тело. Большинство современных исследователей согласны — интеллект и «воплощенность» идут рука об руку. У каждого тела свой тип интеллекта, это хорошо видно на примере животных.
Как синхронизируется осознание с другими агентами? (В противном случае, нет никакой коммуникации, и мы получаем изолированную форму интеллекта.)
Третья проблема затрагивает вопрос происхождения культуры. У животных тоже есть зачатки культуры, но только человек достиг такого порога экспоненциального роста овладения знанием, которое мы называем культурой. Она является важнейшим катализатором интеллекта, и ИИ без способности взаимодействовать культурно не более чем академический курьез. Однако, культуру нельзя запрограммировать в машину. Она должна стать результатом процесса обучения. Эта концепция выражается в применении к роботам тех же педагогических методов, что и к детям.
По какой причине агент предпочитает действие бездействию? Как заставить все это работать?
Четвертая проблема касается так называемой «внутренней мотивации». Почему некто делает что-либо, вместо того, чтобы не делать ничего? Требования выживания недостаточны для того, чтобы объяснить человеческое поведение. Люди делают массу всего, помимо поиска пищи и убежища. ИИ нужно нечто вроде любопытства, которое заставило бы его пройти через три предыдущих шага, чтобы затем выбрать наиболее «коммуникативно-эффективный» путь для создания обобщенной культуры, которая и позволит ИИ общаться. Это и есть программа сильного ИИ.
Поэтому успехи программ вроде AlphaGo являются всего лишь частью решения проблемы. Глубокое обучение не сможет привести нас к настоящему искусственному интеллекту, к состоянию, когда машины способны научиться жить и взаимодействовать с нами, понимая всю сложность нашей культуры и помогая нам строить лучший мир.