Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
Години наред британското Министерство на вътрешните работи използва тайна „система за подреждане по риск“, автоматично присвояваща по-висок рисков резултат на кандидати за виза от определени националности. На 4 август 2020 г., след правни действия на Foxglove и Съвета за подпомагане на имигрантите (JCWI), властите се съгласяват да прекратят използването ѝ — първият успешен съдебен контрол над държавна алгоритмична система във Великобритания.[1]
Скрит списък от „подозрителни“ националности
Алгоритъмът поддържаше таен списък от националности, автоматично получаващи „червен“ светофарен рисков резултат, което правеше отказа на виза много по-вероятен — система, страдаща от проблем на „обратна връзка“, при който предишни пристрастия подхранват бъдеща дискриминация.
Академични и неправителствени организации съобщават, че вече дори не са „опитвали да канят колеги от определени държави да посетят Великобритания за работа“ — ефект на самоцензура, породен пряко от алгоритмичния риск профил.[2]
„вече дори не се опитваха да канят колеги от определени държави да дойдат във Великобритания, за да работят с тях“[4]
Правна победа за алгоритмичната отчетност
Foxglove и JCWI подават молба за съдебен контрол, искайки алгоритъмът да бъде обявен за незаконен и спрян; на 3 август 2020 г. юристите на Министерството на вътрешните работи отстъпват, преди делото да стигне до заседание.
От 7 август 2020 г. системата за подреждане по риск е официално прекратена, а министърката на вътрешните работи Прити Пател обещава пълен преглед за „несъзнателно пристрастие“ — случай, определен като „първият успешен съдебен контрол над алгоритмична система за вземане на решения на британското правителство“.[3]
„първият успешен съдебен контрол над система на британското правителство за алгоритмично вземане на решения“[5]
Вижте също
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- САЩ: федерален съд признава съдебен имунитет за решение, за което се твърди, че е изцяло написано от AI
- Австрия: забраненият алгоритъм на бюрото по труда AMS
- Нидерландия: алгоритъмът, който събори правителство
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- Алгоритми в държавното управление
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
- Полша: конституционният край на профилирането на безработните
Доказателства към твърденията
-
Home Office says it will abandon its racist visa algorithm — after we sued them
прекратяване на системата
дата на прекратяване
Отвори източника -
Home Office says it will abandon its racist visa algorithm — after we sued them
ефект на самоцензура
свидетелства на организации
Отвори източника -
Home Office says it will abandon its racist visa algorithm — after we sued them
правно значение
оценка на прецедента
Отвори източника - Home Office says it will abandon its racist visa algorithm — after we sued them Отвори източника
- Home Office says it will abandon its racist visa algorithm — after we sued them Отвори източника