Группа исследователей из Калифорнийского университета в Лос-Анджелесе, Калифорнийского университета в Сан-Диего, Пекинского университета и Пекинского института общего искусственного интеллекта (BIGAI) разработала новую систему искусственного интеллекта, которая может объяснить свои процессы принятия решений пользователю-человеку. Эта система, представленная в журнале Science Robotics, может стать новым шагом на пути к созданию более надежного и понятного ИИ.
Целью системы XAI, созданной доктором Луяло Юанем и его коллегами, является достижение так называемого выравнивания ценностей. Это означает ситуацию, при которой пользователь-человек сможет понять, почему робот или машина действуют определенным образом или приходят к определенным выводам, а машина или робот смогут понять действия пользователя и его ход мысли. Это поможет значительно улучшить коммуникацию между человеком и роботом.
Недавняя статья команды основана на одной из их предыдущих работ, также опубликованной в Science Robotics, где команда исследовала влияние, которое «объяснимые системы» (модели, которые способны объяснять принцип собственной работы) могут оказать на доверие пользователя к ИИ во время совместной работы.
Исследователи надеются, что их новая «объяснимая система» улучшит сотрудничество между людьми и машинами в решении многочисленных прикладных задач. Кроме того, они считают, что использование таких систем повысит доверие людей к роботам на основе искусственного интеллекта, широко используемым в повседневной жизни: умные помощники, бытовые роботы и другие.
За последние несколько десятилетий системы ИИ становятся все более продвинутыми, достигая значительных результатов во многих реальных задачах. Тем не менее, большинство существующих систем искусственного интеллекта не делятся своими размышлениями с пользователями-людьми, что может сделать оценку их надежности чрезвычайно сложной задачей.
Читать далее:
Предсказание Эйнштейна может сбыться: как эксперимент с невидимыми атомами изменит физику
На пирамиде в Китае нашли портрет «царя предков». Он правил более 4 000 лет назад
«Это научная фантастика»: ученые создают принципиально новый тип квантовых компьютеров