Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Джон Джаннандреа, глава поискового бизнеса Google, не боится восстания разумных роботов. Вместо этого он обеспокоен предвзятостью алгоритмов машинного обучения, которые принимают миллионы решений каждую минуту.

«Настоящая проблема безопасности, если вам угодно так ее называть, состоит в том, что если мы дадим этим системам необъективные данные, они сами станут необъективны», — сказал Джаннандреа на конференции Google, посвященной отношениям между людьми и системами искусственного интеллекта.

Проблема наличия в машинном обучении систематической ошибки становится тем значительнее, чем больше технология проникает в такие области, как медицина или юриспруденция, и чем больше людей без технического образования начинают ее использовать. Некоторые эксперты считают, что алгоритмические ошибки уже наносят вред многим областям, и что почти никто не обращает на это внимания и не исправляет их.

«Важно, чтобы мы соблюдали прозрачность относительно данных, которые мы используем для обучения ИИ, и искали в них неточности, иначе мы создадим предвзятые системы, — говорит Джаннандреа. — Если кто-то пытается продать вам черный ящик, который ставит медицинский диагноз, а вы не знаете, как он работает или на каких данных его обучали, то я бы не стал ему доверять».

К сожалению, недостаточно просто опубликовать использованные данные или алгоритмы. Большинство наиболее мощных систем машинного обучения сегодня настолько сложны, что даже внимательное изучение не принесет результатов. Для решения этой проблемы ученые работают над системами, которые могли бы создавать аппроксимации (упрощенного объяснения) для инженеров и конечных пользователей, сообщает MIT Technology Review.

Что же касается ИИ, способного захватить власть над людьми, об опасности которого предупреждает Илон Маск, то тут Джаннандреа настроен критически. «С чем я не согласен, так это с предположением, что мы внезапно перейдем к какой-то сверхинтеллектуальной системе, которая сможет обходиться без людей. Я понимаю, почему люди так обеспокоены этим, но думаю, что этому вопросу уделяют слишком много внимания. Я не вижу никакого технологического основания, почему это вообще должно произойти», — говорит он.

Платформу, которая поможет идентифицировать необъективность алгоритма, разработали в Институте Алана Тьюринга в Лондоне. Расовые и гендерные признаки нельзя игнорировать, но они должны рассматриваться в комплексе с другими факторами, а не определять решение алгоритма.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Как европейский регламент по защите персональных данных GDPR повлияет на нашу жизнь
Тренды
Как развивается рынок умных домов в России и почему мы еще не живем в них
Умный дом
Падение астероида привело к потеплению на Земле. Оно продолжалось более 100 тыс. лет
Тренды
Киберспортсмен Данил Решетников — об изнуряющих тренировках, культовых играх и будущем киберспорта
Тренды
Астрономы создали проект «Горизонт событий», чтобы получить новые снимки черной дыры Стрелец А*
Частный космос
Alexa
Alexa от Amazon самостоятельно записала домашний разговор и отправила его другому человеку
Pornhub запустил свой VPN
Кейсы
Офис в VR, тесты от всех болезней и селфи с эмоциями: Эксперты рассказали, чего ждать в будущем от технологий
Технологический рывок
X5 Retail Group и Иннополис разработают магазин без продавцов
Иннополис
Мнения
Джейкоб Биамонте, Сколтех, — о том, что квантовые компьютеры могут уже сейчас
Плутон может оказаться скоплением более 1 млрд маленьких комет
Тренды
В американских солдат встроят датчики, рассказывающие о состоянии их здоровья
Тренды
Ученые прогнозируют снижение питательности риса из-за изменения климата. Рис едят миллиарды людей ежедневно
Тренды
Facebook представил искусственный интеллект, который превратит любой трек в симфонию
Тренды
Кейсы
Дачные ворота блогера самостоятельно подписались на платные услуги МТС
Южная Корея постепенно заменит солдат роботами
Тренды
IBM создала карманный детектор поддельных товаров
Кейсы
Чек-лист: как выбрать надежный магазин софта
Тренды
SpaceX запустила спутники, которые будут изучать гравитационное поле Земли
Тренды
Марк Цукерберг рассказал европейским парламентариям о работе Facebook
Утечка личных данных пользователей Facebook
В России могут запретить Booking.com
Блокировка интернета
Sony открыла предзаказ на «бесконечный блокнот» — планшет Digital Paper
Тренды
Мнения
Пять книг, которые Билл Гейтс рекомендует прочитать этим летом
8 лет назад программист купил две пиццы за 10000 биткоинов. Сейчас они стоят 83 миллиона долларов
Кейсы
Великобритания откроет центр для внедрения искусственного интеллекта в военную сферу
Тренды
Ученые придумали лекарство, которое предотвратит потерю памяти у космических путешественников
Тренды
Siri получит совершенно новый голос
Тренды
Вспышки сверхновых миллионы лет назад подтолкнули эволюцию на Земле
Как развивалась Вселенная
Лекарства из принтера и испытания на роботах: как новые технологии изменили фарму
Тренды
Тренды
Илон Маск предсказал возможное банкротство Tesla из-за дешевых Model 3
Российские ученые предлагают назвать следующий открытый элемент Антарктидием
Тренды
Microsoft и Google снова нашли массовую уязвимость в процессорах Intel
Хакеры
НАСА создаст в космосе температуру, ниже самой холодной во Вселенной
Тренды
Контейнеры, гибриды и туман: 5 трендов в облачных технологиях
Тренды
Facebook в 2019 году начнет вводить проект беспроводного интернета по всему миру
Технологический рывок
Роботы построили самый маленький дом в мире — размером с кончик волоса
Тренды
Идеи
Ученые выяснили, почему при высокой температуре запускается иммунитет и происходит выздоровление
Инвестор Виталий Голомб — об искусственном мясе и том, почему не нужно получать патенты
Тренды
Первая плавучая атомная электростанция «Ломоносов» завершила свой первый выход в море
Тренды
Посмотрите, как выглядит обожаемый всеми инженерами робот София
Доброжелательные роботы
Искусственные интеллекты тоже не смогли решить, что звучит на записи — «Янни» или «Лорел»
Искусственный интеллект
Астрономы нашли еще одно подтверждение наличия девятой планеты в Солнечной системе
Кейсы
Томские ученые представили сенсоры на основе органических молекул
Тренды
The Boring Company Илона Маска доставит огнеметы первым покупателям уже в начале лета
Кейсы
Инженеры собрали тактильного робота — его кожа может покрываться мурашками
Доброжелательные роботы
Билет в электробус The Boring Company Илона Маска будет стоить всего $1
Тренды
Тренды
Константин Носков возглавит новое министерство цифрового развития, связи и массовых коммуникаций
Китайские ученые создали из картона наноматериал для очищения воды от тяжелых металлов
Экология
Давид Ян запустил сервис «умной» корпоративной аналитики Yva
Кейсы