MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
Внедрена през 2013 г., автоматизираната система MiDAS на щата Мичиган погрешно обвинява около 40 000 души в измама с обезщетения за безработица, налагайки глоби в четворен размер и запори на заплати без съдебен преглед — с грешка, засягаща близо 93% от случаите.[1]
#САЩ #алгоритмична отчетност #социални помощи #съдебен процес
Мащаб на вредата
Според водещата делото адвокатка по граждански права Дженифър Лорд системата „беше грешна в 93 процента от случаите“ — щатът налагаше обратно плащане на обезщетения плюс четворна санкция, запориране на данъчни възстановявания и удръжки от заплати без съдебен преглед.
Последиците са тежки и лични: поне 11 000 семейства обявяват фалит, а една жена губи позицията си като полицай в Детройт, след като фалшивото обвинение проваля проверката ѝ за назначаване.
was wrong 93 percent of the time
Дългата правна битка
През 2017 г. Мичиган приема закон, изискващ ръчна проверка на решенията за измама, и обещава 20,8 милиона долара обезщетение — сума, която юристите на пострадалите смятат за недостатъчна, тъй като не покрива загубените работни места и фалитите.
През юли 2022 г. Върховният съд на Мичиган постановява, че неправомерно обвинените работници могат да съдят щата за нарушаване на конституционни права — дело, което адвокат Лорд определя без конкретен краен срок: „никога не се знае с съдебните дела, но няма присъща причина това да отнеме повече време от кой да е друг случай“.
You never know with litigation, but there's no inherent reason for this to take any longer than any other case
Вижте също
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
- Масачузетс: сенатор внася законопроект, написан с помощта на ChatGPT, за регулиране на ИИ
- Voatz: уязвимостите на мобилното блокчейн гласуване в САЩ
- Австрия: забраненият алгоритъм на бюрото по труда AMS
- Полша: конституционният край на профилирането на безработните
- Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“
Доказателства към твърденията
-
The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
обхват на грешката
оценка на щетите
Отвори източника -
The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
цитат на адвокатката
оценка на Дженифър Лорд
Отвори източника -
The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
решение на Върховния съд
юли 2022
Отвори източника