Сообщить об ошибке на сайте
URL
Ошибка
Идеи

Исследователи из лаборатории DeepMind получили известность благодаря своим алгоритмам, которые научились обыгрывать людей в шахматы и го. Однако разработчики опасаются, что созданный ими ИИ выйдет из-под контроля. Чтобы определить истинные наклонности системы, эксперты предлагают проверять алгоритмы в незатейливых 2D-играх.

Принадлежащая Alphabet лаборатория DeepMind открыла новый метод тестирования алгоритмов на склонность к опасному поведению. Для этого компании не пришлось изобретать новые технологические решения — достаточно было обратиться к старым. Идеальным полигоном для испытаний ИИ оказались простые компьютерные 2D-игры из категории gridworld. Интерфейс таких игр похож на интерфейс морского боя, то есть все действия разворачиваются на поле, поделенном на квадраты.

Как сообщает Bloomberg, разработчики DeepMind создали метод тестирования алгоритма в игре по 9 критериям безопасности. Так, игра определяет, может ли ИИ сам себя модифицировать или намеренно жульничать.

Например, один из тестов проверяет, будет ли ИИ ради победы бороться за свое выживание. В системе gridworld это значит, что алгоритм намеренно не допустит нажатия кнопки, которая его временно отключает.

По словам ведущего разработчика DeepMind Яна Лейке, алгоритмы, которые демонстрируют небезопасное поведение в 2D-играх, могут нести угрозу и в реальной жизни.

Однако полностью полагаться на тесты нельзя. Игры класса gridworld иногда оказываются слишком простыми для ИИ и приводят к ложным результатам. Лейке приводит в пример алгоритмы DeepMind, которые в совершенстве освоили игры от Atari. По словам исследователя, при создании этих программ некоторые критерии безопасности просто не учитывались. В итоге алгоритмы провалили несколько тестов в gridworld, хотя Лейке не считает их опасными.

О разработках DeepMind Ян Лейке рассказал в ходе конференции Neural Information Processing Systems (NIPS) в Калифорнии. Одной из главных тем для обсуждения на NIPS стала загадочность алгоритмов. Многие эксперты отметили, что понять логику действий искусственного интеллекта становится все сложнее. При этом популяризация систем машинного обучения невозможна, если ученые не могут объяснить принцип их работы.

Лаборатория DeepMind как раз специализируются на системах, которые становятся все более самостоятельными. Алгоритмы компании уже обыгрывают людей в го и в шахматы, причем все чаще осваивают игры самостоятельно. Так, в начале декабря лаборатория представила усовершенствованный алгоритм Alpha Zero. За 14 часов программа освоила го, шахматы и японскую сеги, обойдя по уровню игры лучшие специализированные алгоритмы. Одержать победу и достичь гроссмейстерского уровня алгоритму помогли только знания правил игры и самостоятельные тренировки.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Вакцина на основе пыльцы навсегда избавит от аллергии
Медицина будущего
Робот-ученый открыл новое лекарство от малярии
Медицина будущего
Первые перовскитные солнечные панели появятся на рынке в этом году
Идеи
Разработаны в 100 000 раз более быстрые ДНК-нанороботы
Нанотехнологии
Apple позволит отключать замедление айфонов на новой iOS
Кейсы
Борьба с раком
Новый анализ крови выявляет 8 самых распространенных видов рака
Ученые удвоили емкость литий-серных аккумуляторов
Аккумуляторы
«Беспилотная Tesla может появиться уже в 2018 году»
Беспилотные автомобили
Китай тестирует систему слежки с помощью технологии распознавания лиц
Тренды
Британцы начали получать полицейские сводки на умные колонки Amazon
Голосовые помощники
МВФ: «Биткойн пора обсудить на глобальном уровне»
Блокчейн
«Мятый» графен повысит срок службы литий-ионных батарей
Аккумуляторы
Исследования мозга
Нейробиологи проследили движение мысли в мозге
Норвегия перейдет на электросамолеты к 2040 году
Идеи
Ученым впервые удалось создать стволовую клетку при помощи CRISPR
Генная инженерия
Швейцария создала рабочую группу по изучению преимуществ и рисков ICO
ICO
Искусственный интеллект
ИИ от Microsoft нарисовал птицу по текстовому описанию
Компоненты ядерного реактора для колонистов Марса прошли испытания
Миссия на Марс
Технологии чтения мыслей и воспоминаний реальнее, чем кажется
Технологии будущего
Создан простой тест качества питьевой воды ценой в $1,3
Идеи
100-метровые воздухоочистительные башни избавят города Китая от смога
Экологичные технологии
ИИ и генная терапия: прорывные технологии 2018 года в медицине
Рейтинг лучших
NASA провело испытания ракетного двигателя с напечатанными деталями
3D-печать
«Для Visa биткойн — это не деньги»
Криптовалюты
1,5 млн электрокаров и другие рекорды «чистой» энергетики в 2018 году
Мнения
Honda выпустит электроскутер со съемными батареями
Транспорт будущего
Микроэлектроника
Разработаны «атомристоры» — сверхтонкие запоминающие устройства
Mitsubishi заменит зеркала заднего вида на своих авто камерами с ИИ
Транспорт будущего
Криптовалюты
Придуманную россиянами криптовалюту раздают по монете за 1000 шагов
Обнаружен новый сверхпроводящий сплав с уникальными свойствами
Новые материалы
Стартап Plenty откроет 300 вертикальных ферм в Китае
Еда будущего
Apple вернет в США 20 тысяч рабочих мест и $350 млрд
Кейсы
ИИ для прогнозирования преступлений признали некомпетентным
Искусственный интеллект
Nomad — беспроводная универсальная зарядка для путешественников
Беспроводная зарядка
В Гарварде разработали самого маленького дельта-робота
Робототехника
ИИ может спрогнозировать будущий коррупционный скандал
Искусственный интеллект
Генпрокуроры 21 штата обжаловали отмену сетевого нейтралитета
Сетевой нейтралитет
В США впервые применят CRISPR для лечения рака
Борьба с раком
Брат Илона Маска запускает школьную программу для фермеров будущего
Умное фермерство
Электромобили
BMW выпустит конкурента Tesla Model 3 с запасом хода 700 км
Ученые приблизились к созданию прозрачных солнечных панелей
Солнечные панели
Братья Уинклвосс потеряли $600 млн своего биткойн-состояния за два дня
Биткойн
ICO
Книга заявок на предварительное ICO Telegram уже переполнена
Климатическая катастрофа откладывается, но расслабляться нельзя
Изменение климата
Стартап Dedrone помогает защититься от атак дронов
Беспилотники
Google запустила облачный сервис для обучения ИИ
Искусственный интеллект
Крупнейший банк Японии запускает свою криптовалюту
Криптовалюты
Samsung втайне разрабатывает 5G-модем для смартфонов
Переход на 5G
Стартап будет раздавать интернет со спутников над Афганистаном
Кейсы