MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
Внедрена през 2013 г., автоматизираната система MiDAS на щата Мичиган погрешно обвинява около 40 000 души в измама с обезщетения за безработица, налагайки глоби в четворен размер и запори на заплати без съдебен преглед — с грешка, засягаща близо 93% от случаите.[1]
Мащаб на вредата
Според водещата делото адвокатка по граждански права Дженифър Лорд системата „беше грешна в 93 процента от случаите“ — щатът налагаше обратно плащане на обезщетения плюс четворна санкция, запориране на данъчни възстановявания и удръжки от заплати без съдебен преглед.[2]
Последиците са тежки и лични: поне 11 000 семейства обявяват фалит, а една жена губи позицията си като полицай в Детройт, след като фалшивото обвинение проваля проверката ѝ за назначаване.
„е грешала в 93% от случаите“[4]
Дългата правна битка
През 2017 г. Мичиган приема закон, изискващ ръчна проверка на решенията за измама, и обещава 20,8 милиона долара обезщетение — сума, която юристите на пострадалите смятат за недостатъчна, тъй като не покрива загубените работни места и фалитите.
През юли 2022 г. Върховният съд на Мичиган постановява, че неправомерно обвинените работници могат да съдят щата за нарушаване на конституционни права — дело, което адвокат Лорд определя без конкретен краен срок: „никога не се знае с съдебните дела, но няма присъща причина това да отнеме повече време от кой да е друг случай“.[3]
You never know with litigation, but there's no inherent reason for this to take any longer than any other case[3]
Вижте също
- Алгоритми в държавното управление
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
- Австрия: забраненият алгоритъм на бюрото по труда AMS
- Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
- Нидерландия: алгоритъмът, който събори правителство
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- PredPol и предиктивното полицейско дежурство в САЩ
- Великобритания: алгоритъмът за матурите, отменен след масов протест
Доказателства към твърденията
-
The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
обхват на грешката
оценка на щетите
Отвори източника -
The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
цитат на адвокатката
оценка на Дженифър Лорд
Отвори източника -
The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
решение на Върховния съд
юли 2022
Отвори източника - The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account Отвори източника