Ученые разного профиля объединятся на базе AI Now Institute для решения глобальных социально-экономических проблем, с которыми общество может столкнуться из-за неправильного использования ИИ, пишет Quartz.
На сегодняшний день почти нет исследований, которые показывают, каким образом ИИ влияет на общество. Могут ли алгоритмы, задействованные в работе правоохранительных органов, дискриминировать людей по цвету кожи? Содержались ли в материалах, на которых обучали нейросети, предубеждения против женщин или меньшинств? Пока ни корпорации, ни научно-исследовательские институты не предоставили достаточное количество данных на этот счет.
Исследователь Microsoft Research Кейт Кроуфорд и основатель Open Research Мередит Уиттэкер решили вплотную заняться этой проблемой. Они объявили об открытии AI Now Institute — исследовательской организации, которая будет изучать влияние ИИ на общество. Междисциплинарный институт объединит ученых, юристов, социологов и экономистов — только в ближайшее время на работу в AI Now примут около 100 специалистов.
В консультативный совет института войдут судья Верховного суда Калифорнии Марьяно-Флорентино Куэллар, президент NAACP Legal Defense Fund Шерилин Айффил, в прошлом советник по технологиям Белого дома Николь Вонг, сооснователь DeepMind Мустафа Сулейман и создатель концепции «дифференциальной приватности» Синтия Дворк. Институт будет базироваться в Нью-Йоркском университете, который своими исследованиями подстегнул нынешний бум ИИ.
Илон Маск пообещал, что электрогрузовик Tesla Semi «вынесет мозг»
Кейсы
AI Now сфокусируется на четырех основных вопросах:
1) Предвзятость (как данные, содержащие в себе расовые и гендерные предрассудки могут дискредитировать людей);
2) Работа и автоматизация (кого ИИ может не принять на службу);
3) Права и свободы (что будет, если правительство начнет использовать ИИ в своих целях);
4) Безопасность и критически важные объекты инфраструктуры (можем ли мы быть уверены, что в вопросах здравоохранения ИИ принимает решения безопасно и непредвзято).
По мнению Кроуфорд и Уиттэкер, все эти проблемы изначально возникли лишь потому, что ИИ разрабатывался в отрыве от реальной жизни, а между обществом и разработчиками практически отсутствует культура диалога. AI Now будет налаживать взаимодействие между ними, чтобы в дальнейшем эта ситуация не усугублялась.
Экс-президент Facebook признался, что помог вырастить монстра
Кейсы
Об этом же на саммите Fortune заявила бывший советник президента Барака Обамы по технологиям Меган Смит. Она уверена: необходимо определиться с тем, какие ценности мы будем прививать искусственному интеллекту.