Сообщить об ошибке на сайте
URL
Ошибка
Автономный транспорт

Исследование Института когнитивных наук при Оснабрюкском университете (Германия) утверждает, что беспилотники могут принимать основанные на нравственном выборе решение. Другими словами, что человеческую мораль можно смоделировать.

Участников эксперимента, который проходил в условиях виртуальной реальности, просили вести машину по улицам типичного пригорода в туманный день. Внезапно перед водителем вставал неизбежный выбор — ситуации, в которых он должен был принять решение, направить автомобиль на других людей, на животных или на неодушевленный объект.

Результаты обрабатывались в виде статистики. Оказалось, что принятые водителями в непредвиденных ситуациях решения можно легко объяснить и превратить в модель. По словам Леона Штюфельда, первого автора статьи, опубликованной в Frontiers in Behavioral Neuroscience, до сих пор считалось, что нравственный выбор сильно зависит от контекста и поэтому не может быть смоделирован или описан алгоритмически. «Но мы обнаружили нечто совершенно обратное. Поведение человека в затруднительной ситуации можно уместить в довольно простую модель ценности жизни, которая применяется участниками исследования к каждому человеку, животному и неодушевленному предмету». И этим алгоритмом может воспользоваться машина.

Следующий шаг, по мнению ученых, заключается в том, чтобы привлечь общество к обсуждению серьезного вопроса: должны ли автономные системы машин перенимать моральные суждения людей и если да, то должны ли они поступать так, как поступают люди, должны ли придерживаться этических теорий и если да, то каких именно? И главное — если что-то пойдет не так, то кто будет виноват?

Например, если на дорогу выбежал ребенок, который создает серьезный риск для автомобиля и пассажиров, то должна ли система квалифицировать его как менее приоритетную для спасения цель, чем взрослого, стоящего на тротуаре и не мешающего движению?

Автономный транспорт, а также медицинские роботы и другие системы ИИ нуждаются в четких правилах поведения, и если не предоставить им таковых, они изобретут собственные без нашего участия, пишет EurekAlert.

О проблемах этики в связи с ИИ ученые и предприниматели задумываются не в первый раз. В декабре прошлого года институт IEEE опубликовал результаты дискуссии более сотни экспертов по ИИ и этике, которые обсудили вопросы нравственности в обучении машинного интеллекта. В январе этого года группа филантропов и специалистов в области ИТ сформировала фонд, призванный привнести в процесс разработки искусственного интеллекта вопросы морали и общечеловеческих ценностей.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Дмитрий Филатов, Sistema_VC: стартапы — это в первую очередь про людей, а во вторую — про деньги
Мнения
Эра Data Science: как меняется бизнес с приходом big data и новых технологий
Тренды
Народ против транспорта: почему люди недовольны, когда в городах строят новые станции метро
Идеи
«Лиза Алерт»: как беспилотники и краудсорсинг помогают искать пропавших людей
Кейсы
Беспилотники против велосипедистов: как безопасные автомобили сделают жизнь людей хуже
Идеи
Кейсы
SONM: как люди будут зарабатывать на собственных компьютерах с помощью блокчейна
Егор Матешук, ostrovok.ru: проблемы big data можно решить, закидывая пачки денег в топку
Мнения
Художник-граффитист Миша Most: технология — это кисть, которая создает будущее
Мнения
Лунная гонка: как мировые державы собираются присвоить себе спутник Земли
Идеи
Итоги Нобелевской недели. За что дали Нобелевскую премию в 2018 году?
Тренды
Руслан Шагалеев, Иннополис: война между корпорациями и городами ведется за человеческий капитал
Идеи
Кристина Хаверкамп, DENA: цена на электроэнергию должна сильнее коррелировать c погодой: много солнца и ветра — дешево, мало — дорого
Тренды
Тренды
7 лучших книг о технологиях и науке на русском языке, вышедших в 2018 году
Микрореволюция: фермеры с помощью микробов спасут мир от голода
Идеи
Мнения
Александр Тормасов, Университет Иннополис: мозги людей могут быть совершенно не готовы к восприятию новых идей
Одежда, которая поможет миру: костюм-помощник, майка-тренер и носок-няня
Тренды
В ожидании первого удара: как США готовятся к атаке со стороны России и Китая
Тренды
Страшнее метана: какие еще промышленные выбросы разрушают озоновый слой
Тренды
Интеллект большого города: как данные и умные алгоритмы улучшают качество жизни в мегаполисах
Тренды
На защите европейцев: как GDPR стал дырой в бюджете российских ИТ-компаний
Мнения
Игорь Балк, Global Innovation Labs: в XXI веке приватности нет и не будет
Тренды
Deneum: как заниматься холодным ядерным синтезом и бороться с сомнениями ученых
Кейсы
Расист, оружие и предвзятый судья — каким станет искусственный интеллект в будущем
Тренды
На совести информаторов: как громкие скандалы вокруг АНБ, Facebook и Tesla изменили мир
Тренды
NativeOS: нативная реклама в видео без репутационных потерь и терроризма от режиссера короткометражек
Кейсы
Тренды
Тихий убийца: как микропластик вызывает болезни и останавливает репродукцию живых организмов
Гонка для JavaScript-разработчиков: как постоянные обновления мешают работе
Тренды
Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
Тренды
Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
Кейсы
Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
Тренды
Идеи
Человек и квантовая теория: существует ли то, что мы не наблюдаем
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
Как через 20 лет будет выглядеть армия будущего
Тренды
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
Тренды
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
Тренды
Идеи
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
«Педиатр 24/7»: как телемед-стартап подарил родителям спокойствие, а врачам — работу
Кейсы
Вас снова обманули: как человечество учит компьютеры определять фейки в интернете
Тренды