«Только кооперация ИИ с человеком предотвратит восстание машин»

Финансируемая Илоном Маском лаборатория OpenAI помогает искусственному интеллекту обучаться самостоятельно. Однако самообразование часто заставляет алгоритмы вести себя необдуманно и даже рискованно. Главная задача разработчиков компании - научить ИИ получать новые знания и навыки, но при этом держать его под контролем.

Разработчики лаборатории OpenAI не позволяют искусственному интеллекту осваивать задачи самостоятельно, как это делают в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.

После серии экспериментов с применением этого метода эксперты обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться цели. Пока это явление можно проследить на примере видеоигр. В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу первым, а старательно собирал любые доступные бонусы, создавая опасные ситуации.

В OpenAI создают математические методики, которые не позволят ИИ совершать разрушительные действия и, в перспективе, защитят человечество. В лаборатории алгоритмам не дают обучаться самостоятельно — с недавних пор они учатся под чутким руководством человека. Сотрудники OpenAI уверены, что именно в кооперации человека и машины заключается секрет безопасности в будущем.

«ИТ-компаниям нужны гуманитарии, а не STEM-специалисты»

Недавно совместно с DeepMind лаборатория опубликовала исследование, в котором описала метод обучении ИИ с участием человека. С помощью нового метода разработчики научили бота по имени Hopper делать сальто и приземляться на «ноги». Процесс потребовал много времени и сил — бот обучался 70 часов, а человеку приходилось оценивать его действия 900 раз в час.

Однако эксперты уверены, что такой подход при всей его сложности поможет обезопасить человечество от нашествия роботов. Главный инвестор OpenAI Илон Маск опасается, что ИИ захватит мир и уничтожит человечество. Недавно Маск даже сравнил искусственный интеллект с военной угрозой со стороны Северной Кореи, причем не в пользу КНДР. Такое сопоставление он сделал после того, как алгоритм OpenAI одержал победу над лучшими игроками в Dota 2.

ИИ, прогнозирующие преступления, сократили число убийств на 33%

Как отмечает The New York Times, над проблемой безопасного развития искусственного интеллекта работают многие ученые. При этом не все эксперты согласны с Маском. Некоторые отмечают, что восстание машин возможно только при стечении специфических обстоятельств. И вероятность такого совпадения пока минимальна. К тому же ИИ развивается медленнее, чем предполагалось ранее, а наступление сингулярности в принципе не гарантировано.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Врачи пересадили мужчине стволовые клетки для борьбы с бесплодием
Наука
Китайские ученые создали 32-битный процессор толщиной в одну молекулу
Новости
«Пьяные» самцы привлекательнее для самок дрозофил, показало исследование
Наука
Midjourney запустила новый генератор изображений после вирусного обновления ChatGPT
Новости
Самокаты только по биометрии: какие изменения планируют в России
Новости
Студенты разработали приложение для баланса работы и личной жизни
Новости
Неуловимую «обреченную» пару звезд нашли вблизи Солнечной системы
Космос
Как защитить доступ к «Госуслугам» от мошенников: появился новый способ
Новости
«Уэбб» поставил астрономов в тупик: какую аномалию он нашел во Вселенной
Космос
Физики собрали «квантовый сэндвич» из невозможных материалов
Наука
Российский военный спутник выпустил новый объект на орбите: неизвестно, что это
Кейсы
Эта черная дыра поглощает материю и выбрасывает часть еды в космос
Космос
«Уэбб» раскрыл тайну центра Млечного Пути: почему там формируется слишком мало звезд
Космос
Рак распространяется как сеть: российские ученые наблюдали в 3D особенности развития опухолей
Наука
Солнечная буря сдавила магнитное поле Юпитера «как гигантский мяч для сквоша»
Космос
Анализ крови определяет стадию болезни Альцгеймера с точностью 92%: это поможет подобрать терапию
Наука
ИИ впервые прошел тест Тьюринга: GPT-4.5 обманул людей в 73% случаев
Новости
В Сколтехе нашли способ увеличить емкость суперконденсаторов для электромобилей
Наука
ИИ ускорил поиск дефектов трубопроводов в 30 раз
Новости
Под пирамидами Гизы нашли «скрытый город», но с учеными согласны не все
Наука