Голос в голове, который говорит нам «мне кажется, спрыгнуть со скалы — не самая лучшая идея» или «разве ты сможешь выпить три литра молока?» — наша неуверенность. Именно она помогает нам оставаться в живых.
Но у роботов нет этого инстинкта самосохранения. Однако, чтобы существовать в реальном мире, им нужно чувствовать свои границы и знать, что им можно, а что нельзя. Робот не должен теряться в темноте или пытаться пройти сквозь стену.
Исследователи Университета Карнеги-Меллон решили наделить роботов интроспекцией, или чувством неуверенности в себе, пишет Popular Science. Вероятность неудачного стечения событий будет подсказывать им искусственный интеллект. Так роботы станут более внимательными и безопасными.
Российский студент создал робота для ямочного ремонта дорог
Кейсы
Принимая решения, люди предполагают, с какой вероятностью что-то может пойти не так. Аналогично будут поступать и роботы. К примеру, заложенный в дрона алгоритм будет анализировать видео, поступающее с камеры, и предупредит его, если возможен сбой.
Это не совсем похоже на уже существующую систему обнаружения потенциально опасных объектов, которая работает по принципу «если впереди что-то не так, не ходи туда». Это скорее сценарий, который позволяет понять, может ли быть нанесен какой-то ущерб в результате того или иного действия. Он включает в себя и анализ погодных условий, наличия или отсутствия света, исправность датчиков. Это осознание потенциальной угрозы, а не просто алгоритм реагирования на предполагаемую ситуацию.
Подобными разработками занимаются не только в Университете Карнеги-Меллон. Исследователь Microsoft Эрик Хорвиц работает над этим в течение многих лет. Его цель — научить несколько алгоритмов принятия решений работать сообща.
И если существует способ сделать роботов осознанными, то это возможно только через обучение самоанализу, и в том числе неуверенности в себе. Конечно, футурологи могут предсказывать восстание машин и выход их из-под контроля людей, но пока роботы едва могут увернуться от стоящего на их пути дерева. Так что в ближайшие несколько лет человечество может об этом не беспокоиться.