Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Ученый и предприниматель выступили в поддержку нового кодекса ИИ, представленного на Асиломарской конференции в Калифорнии. В документе описаны правила ведения исследований в области искусственного интеллекта, а также варианты решения этических вопросов и проблем, которые возникнут в будущем.

Новый свод законов для искусственного интеллекта получил название «Асиломарские принципы ИИ», так как был сформулирован на конференции в Асиломаре. Авторами документа выступили эксперты из Института будущего жизни (Future of Life Institute). Кодекс описывает основные правила изучения и внедрения ИИ, в частности автономного вооружения и самовоспроизводящихся интеллектуальных систем, сообщает Business Insider.

Кодекс делится на три части: исследования, этические вопросы и долгосрочная перспектива. В каждой из частей описаны принципы развития ИИ с пользой для общества. Авторы документа подчеркивают, что при разработке ИИ-систем ученые должны взаимодействовать с регулирующими органами и открыто делиться своими разработками с другими учеными, чтобы избежать «гонки искусственных интеллектов» и тайных разработок. Особенно это касается гонки ИИ-вооружений.

При поломке ИИ-системы должно быть понятно, почему это произошло, а сам факт поломки должен быть заметным. Вынесенные искусственным интеллектом суждения следует подвергать независимой оценке с участием человека. Кроме того, разработчики обязаны внушать ИИ человеческие представления о ценностях, правах, свободе, достоинстве и культурном разнообразии.

Кодекс также упоминает прибыль, которую способен принести ИИ. Как гласит 14-й принцип, «создаваемое ИИ экономическое процветание должно быть равномерно распределено так, чтобы нести пользу всему человечеству».

Самосовершенствующиеся системы необходимо контролировать особенно строго. В целом авторы кодекса советуют максимально внимательно отнестись к новым технологиям, которые могут «кардинально изменить ход жизни на Земле».

Свод законов сформулировали по итогам серии дискуссий, в которых приняли участие глава DeepMind Демис Хассабис, эксперт по ИИ из Facebook Ян Лекун и предприниматель Илон Маск. Все они подписались под новыми принципами для развития ИИ. Всего проект поддержало 877 разработчиков в сфере искусственного интеллекта и робототехники и 1392 экспертов вне этой области, среди которых предприниматель Сэм Альтман, актер Джозеф Гордон-Левитт и ученый Стивен Хокинг.

Стивен Хокинг неоднократно выражал свое беспокойство в отношении стремительного прогресса технологий искусственного интеллекта. По мнению ученого, ИИ может стать самым худшим или самым лучшим явлением в истории человечества.

Глава Tesla и SpaceX Илон Маск также отмечал риски, связанные с неконтролируемым искусственным разумом. Он входит в число основателей проекта OpenAI, цель которого — создание условий для максимально безопасного развития ИИ. В частности эксперты OpenAI предлагают создать полицию искусственного интеллекта. Британские ученые поддерживают эту идею и предлагают ввести должность следователя по делам ИИ. Разработкой кодекса искусственного интеллекта также занимаются в Японии, России и в Европе.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
Тренды
Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
Кейсы
Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
Тренды
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Идеи
Человек и квантовая теория: существует ли то, что мы не наблюдаем
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
Как через 20 лет будет выглядеть армия будущего
Тренды
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
Тренды
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
Идеи
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
Тренды
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды
«Педиатр 24/7»: как телемед-стартап подарил родителям спокойствие, а врачам — работу
Кейсы
Вас снова обманули: как человечество учит компьютеры определять фейки в интернете
Тренды
БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая
Мнения
Артем Геллер, lab.ag: делая сервис для государства, ты помогаешь своей бабушке
Мнения
Акселераторы и инкубаторы: что выбрать стартапу на раннем этапе развития
Мнения
Вопрос доверия: как и почему изменилось отношение к телемедицине в России
Тренды
Правительственные криптопесочницы: как освободить финтех от давления закона и защитить потребителей
Тренды
Кейсы
Роман Нестер, Segmento: я верю корпорациям больше, чем маленьким компаниям
Суперагенты в недвижимости: как блокчейн и большие данные заменяют риелторов
Тренды
СМИ будущего: вертикальные видео, новости по запросу и смерть сайтов
Тренды
Тренды
Колонизация отменяется: почему терраформирование невозможно на Марсе
Сет Стивенс-Давидовиц: у людей гораздо больше непристойных и скверных мыслей, чем мы думали
Мнения
Умные города подвергают своих жителей опасности из-за датчиков освещения и радиации
Тренды
Геронтолог Обри ди Грей: жизнь длиной в тысячу лет — это побочный эффект поиска вечного здоровья
Мнения
Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
Тренды
Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
Кейсы
Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
Кейсы
Эдвин Диндер, Huawei Technologies: умный город — это ничто
Мнения
«Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
Мнения
Feature engineering: шесть шагов для создания успешной модели машинного обучения
Тренды
Мнения
Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
Тренды
Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
Кейсы
Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
Идеи
Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
Идеи
Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
Мнения
Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
Блокчейн
Иннополис
Russian Robot Olympiad: как дети строят роботов и решают реальные инженерные проблемы
MyGenetics: ДНК-тесты, помогающие «взломать» организм, как компьютер
Тренды