;
Мнения 25 апреля 2017

«Специалистам по компьютерным технологиям нужны гуманитарные науки»

Далее

Специалисты по компьютерным наукам так увлекаются математическими расчетами и написанием алгоритмов, что забывают об этических вопросах. Пренебрежение гуманитарными науками со стороны ученых может принести вред миллионам людей, считает аспирантка Стэнфордского университета Эмма Пирсон.

В своей колонке в WIRED исследовательница компьютерных наук Эмма Пирсон обращает внимание на проблему современного преподавания компьютерных технологий. Студенты и молодые ученые лучших американских вузов не изучают этические и социальные проблемы, связанные с компьютерными науками. Некоторые университеты вводят факультативные курсы, но большой популярностью они не пользуются. Молодые специалисты не воспринимают их всерьез и чувствуют себя некомфортно в непривычной гуманитарной среде.

При этом решать моральные дилеммы экспертам по компьютерным наукам приходится в самом начале карьеры. Пирсон сама сталкивалась с этическими вопросами, когда работала на платформе онлайн-образования Coursera. Исследовательница создала алгоритм, который рекомендует курсы в зависимости от пола пользователей. Оказалось, что программа советует курсы по компьютерным технологиям только мужчинам. В юридической сфере предвзятость алгоритмов уже доказана: они чаще видят угрозу в афроамериканцах и чаще подозревают их в преступлениях.

Работу специалистов по компьютерным науками могли бы курировать эксперты с гуманитарным образованием, но, по мнению Пирсон, такой подход неэффективен. Программисты выпускают новые продукты с рекордной скоростью и чаще всего в условиях полной секретности. Пока регулирующий орган будет создан, могут пострадать миллионы людей.

Электросамолет вертикального взлета и посадки совершил первый полет

Исследовательница приводит в пример врачей и юристов, которые, не будучи экспертами по этике, следуют этическому кодексу. Сформировать собственный кодекс должны сами ученые, ведь только они обладают необходимыми экспертными знаниями. «Сложно регулировать предвзятость алгоритмов при использовании векторного представления, если вы понятия не имеете, что такое векторное представление», — пишет Пирсон.

Изучение этических норм должно начинаться еще в университете, и немалую роль в этом играют преподаватели. Они должны объяснить студентами, каким влиянием обладают их разработки. Тогда студенты смогут понять, что их знания способны не только приносить богатство, но и разрушить чужие жизни.

Аспирантка также считает, что технологические компании должны принимать на работу специалистов-гуманитариев и тех, кого их алгоритмы часто исключают из поля зрения или дискриминируют. При этом Пирсон признает, что такой подход замедлит работу «машины Кремниевой долины». Но, сбавив темпы, можно будет избежать потерь, уверена исследовательница.

Илон Маск создаст нейронное кружево до 2027 года

Вопросы этики чаще всего возникают в связи с развитием искусственного интеллекта. Так в феврале на Асиломарской конференции в Калифорнии был представлен кодекс ИИ. В документе описаны правила ведения исследований в области ИИ. Проект поддержали многие ученые и предприниматели, включая Стивена Хокинга и Илона Маска. Разработкой кодекса искусственного интеллекта также занимаются в Японии, России и Европе. Собственный свод этических правил вводят некоторые компании, например, Facebook. В январе основатели eBay и LinkedIn инвестировали $10 млн в Фонд этики и регулирования ИИ. Фонд будет работать с образовательными организациями.

Загрузка...