Ученые призывают ввести должность следователя по делам с участием ИИ

Алгоритмы постоянно принимают решения, которые влияют на наши жизни. Пора проводить независимые расследования действий ИИ, приведших к нарушению прав, а то и гибели людей, считают ученые.

Искусственный интеллект работает на службе у банков, полиции, частных компаний. Традиционно внутреннее устройство алгоритмов скрыто от посторонних глаз ради охраны интеллектуальной собственности. Поэтому не ясно, как именно ИИ принимает решения, не все из которых являются безобидными.

Например, каждую неделю более 1000 человек в аэропортах по ошибке причисляются алгоритмами к террористам. The Guardian пишет про пилота American Airlines, которого за год задерживали 80 раз. Тут же история про молодого диджея из Азии, которому отказывали в визе в Новую Зеландию, потому что алгоритм не мог поверить в то, что глаза парня на фото открыты. Автоматическая система по контролю за выплатой алиментов по ошибке прислала счет на $200 000 Волтеру Волмеру из США — его жена подумала, что муж ведет двойную жизнь и покончила жизнь самоубийством.

Группа ученых из Оксфорда и института Алана Тьюринга в Лондоне призывают дать возможность независимым организациям проводить расследования в отношении алгоритмов. Если человек заявляет о дискриминации со стороны ИИ, специально обученный следователь должен разобраться в ситуации. Предложение ученых не говорит о полном раскрытии всех технических секретов и ноу-хау. Создатели алгоритмов как минимум должны четко объяснить, на чем основаны решения ИИ. Будь то отказ в выдаче паспорта и кредита или решения автопилота, приведшие к аварии. Следователь должен видеть последовательность принятых перед тем или иным происшествием решений, чтобы понимать полную картину.

Маск расскажет о «нейронном кружеве» в феврале

Дискуссия не нова. В прошлом году Илон Маск призвал создать полицию для ИИ. Позже мы писали о том, что алгоритмы уже дошли до того уровня, когда решают кому жить, а кому умереть.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Nvidia готовит ARM-процессоры для настольных ПК: названы сроки выхода
Новости
Появились ультралегкие и сверхтонкие солнечные батареи на основе кремния
Новости
На «Госуслугах» появилась форма для регистрации блогеров: как она работает
Новости
Астрономы рассмотрели необычно «гладкий» околозвездный диск
Космос
ИИ превращает скучные картинки и схемы в учебниках в анимацию
Наука
Посмотрите, как видеоблогер превратил старый трактор в электромобиль
Новости
Следы темной материи предложили искать в древних камнях на Земле
Наука
Ученые посчитали, за сколько лет обезьяна напишет «Гамлет»
Новости
Фотоны «задерживают» вблизи кремния, чтобы улучшить солнечные панели
Новости
Посмотрите на таинственные острова из космоса: чем они уникальны
Космос
В Windows нашли опасную уязвимость нулевого дня: что делать пользователям
Новости
Туринскую плащаницу тщательно изучили: касалась ли она Иисуса Христа
Наука
Госдума предложила поднять цены на iPhone: как будет работать закон
Новости
Ученые зафиксировали рекордную частоту вращения нейтронной звезды
Космос
«Вояджер» отправил на Землю сигнал: его передатчик не включался 40 лет
Космос
В России запретят майнинг криптовалют:: каких регионов это затронет
Новости
Скоро Telegram станет полноценной видеоплатформой: Павел Дуров раскрыл детали
Новости
OpenAI сделала свой поисковик на базе ChatGPT: как он будет работать
Новости
В Японии создали гибрид клеток растений и животных
Наука
Очень большой телескоп показал Темного волка на небе
Космос