Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
Години наред британското Министерство на вътрешните работи използва тайна „система за подреждане по риск“, автоматично присвояваща по-висок рисков резултат на кандидати за виза от определени националности. На 4 август 2020 г., след правни действия на Foxglove и Съвета за подпомагане на имигрантите (JCWI), властите се съгласяват да прекратят използването ѝ — първият успешен съдебен контрол над държавна алгоритмична система във Великобритания.[1]
#Великобритания #алгоритмична отчетност #имиграция #съдебен контрол
Скрит списък от „подозрителни“ националности
Алгоритъмът поддържаше таен списък от националности, автоматично получаващи „червен“ светофарен рисков резултат, което правеше отказа на виза много по-вероятен — система, страдаща от проблем на „обратна връзка“, при който предишни пристрастия подхранват бъдеща дискриминация.
Академични и неправителствени организации съобщават, че вече дори не са „опитвали да канят колеги от определени държави да посетят Великобритания за работа“ — ефект на самоцензура, породен пряко от алгоритмичния риск профил.
no longer even tried to have colleagues from certain countries visit the UK to work with them
Правна победа за алгоритмичната отчетност
Foxglove и JCWI подават молба за съдебен контрол, искайки алгоритъмът да бъде обявен за незаконен и спрян; на 3 август 2020 г. юристите на Министерството на вътрешните работи отстъпват, преди делото да стигне до заседание.
От 7 август 2020 г. системата за подреждане по риск е официално прекратена, а министърката на вътрешните работи Прити Пател обещава пълен преглед за „несъзнателно пристрастие“ — случай, определен като „първият успешен съдебен контрол над алгоритмична система за вземане на решения на британското правителство“.
the first successful judicial review of a UK government algorithmic decision-making system
Вижте също
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
- Австрия: забраненият алгоритъм на бюрото по труда AMS
- Полша: конституционният край на профилирането на безработните
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- Нидерландия: алгоритъмът, който събори правителство
- COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
Доказателства към твърденията
-
Home Office says it will abandon its racist visa algorithm — after we sued them
прекратяване на системата
дата на прекратяване
Отвори източника -
Home Office says it will abandon its racist visa algorithm — after we sued them
ефект на самоцензура
свидетелства на организации
Отвори източника -
Home Office says it will abandon its racist visa algorithm — after we sued them
правно значение
оценка на прецедента
Отвори източника