Директора британских школ опасаются предвзятости ИИ-инспектора

Группа британских специалистов по большим данным из Behavioural Insights Team (BIT), организации, частично принадлежащей государству, использует ИИ для того, чтобы проводить инспекции в школах. Национальная ассоциация школьных директоров выступает против.

В течение года BIT разрабатывает модели машинного обучения по автоматизации принятия решений для Управления по стандартам в сфере образования Ofsted, инспектирующего школы Британии, и Комиссии по контролю за медицинским обслуживанием (CQC), которая занимается здравоохранением и социальной помощью. Алгоритмы будут готовы в начале следующего года, пишет Wired UK.

«Нескольким маргиналам удалось создать технологию, меняющую мир»

BIT использует данные, опубликованные Ofsted и CQC, а также материалы переписи населения. Вся эта информация находится в открытом доступе. По словам главного разработчика программы Майкла Сандерса, алгоритмы будут использоваться прежде всего для того, чтобы выбирать, какую школу инспектировать. Машины принимают во внимание информацию о том, сколько учеников питается в столовых бесплатно, сколько платят учителям, сколько в школе учителей по каждому предмету. Затем эти данные сопоставляются с отзывами о школах, полученных от родителей через систему Parent View. «Мы обнаружили, что наша модель способна определить 65% школ из тех 10%, которые входят в группу риска как требующие улучшений или не отвечающих общим требованиям», — говорится в пресс-релизе BIT.

Данные о национальности и вероисповедании учеников были сознательно исключены из наборов, во избежание алгоритмической предвзятости. Хотя некоторые данные влияют на принятие решений машинами сильнее остальных, Сандерс отказался их назвать. Отчасти оттого, что не хотел, чтобы школы знали, как принимаются решения по инспектированию и могли на это повлиять, а отчасти оттого, что сам точно не уверен, как это происходит. «Весь процесс немного напоминает черный ящик», — признается он.

Именно это и настораживает Ассоциацию школьных директоров, по мнению которой инспекция школ не должна быть основана на выводах ИИ. «Важно, чтобы весь процесс был прозрачным, и чтобы школы понимали и учились на основании любых оценок. Руководители и учителя должны иметь полную уверенность в том, что система инспектирования будет относиться к ним одинаково справедливо».

Ученые перестали понимать, как работает ИИ

По мнению главы поискового бизнеса Google Джона Джаннадреа, бояться стоит не восстания машин, а их предвзятости. Для того чтобы этого избежать, недостаточно просто опубликовать использованные данные. Большинство систем машинного обучения сегодня настолько сложны, что даже внимательное изучение не принесет результатов.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Названы специалисты, которых действительно не хватает в ИТ-сфере
Новости
Google раскрыла уязвимость в процессорах AMD: какие из них затронуты
Новости
Трамп придумал, как сохранить TikTok в США
Новости
Появился первый вирус для кражи данных с фото в iPhone
Новости
Шимпанзе используют разные диалекты для общения с самками
Наука
Tesla запустит беспилотные такси с роботами для уборки салона
Новости
Говорят ли женщины больше мужчин, проверили ученые
Наука
Закон Евросоюза позволил обойти запрет Apple на фильмы для взрослых
Новости
Ученые выяснили, на каком расстоянии инопланетяне заметят жизнь на Земле
Космос
На Марсе нашли «сейсмическое шоссе»: оно распространяет марсотрясения
Космос
Ледяной щит Гренландии разрушается быстрее, чем считалось
Наука
В Калтехе создали «умные» биосенсоры для непрерывного мониторинга здоровья
Новости
Немецкие инженеры создали «искусственные жабры» для глубоководных роботов
Наука
Уязвимость DeepSeek R1: китайский ИИ провалил 100% тестов на безопасность
Новости
Под Северным морем нашли гигантский след древнего ледника
Наука
Deep Research от OpenAI набрал рекордный балл в «Последнем экзамене человечества»
Новости
Глава OpenAI публично высказался после запуска DeepSeek
Новости
В России запустят в серийное производство контроллеры «ПЛК-Эльбрус»  
Новости
Гнев может повысить креативность, но с оговорками: новое исследование  
Новости
Только 10% людей могут управлять этими мышцами: как они работают
Наука