Алгоритми в държавното управление

Европа

• Нидерландия: алгоритъмът, който събори правителство: Между 2013 и 2019 г. нидерландските данъчни служители погрешно обвиняват в измама хиляди работещи семейства и ги задължават да връщат детски надбавки.^[1]
• Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“: Конституционният съвет на Франция постановява, че университетите могат да пазят методологията в тайна по време на процедурата, но са длъжни да публикуват критериите след нейното приключване.^[2]
• Великобритания: алгоритъмът за матурите, отменен след масов протест: Организацията за алгоритмична справедливост Foxglove, заедно с Парфит-Форд, изпраща предизвестие за съдебен контрол, в което твърди, че системата „е надхвърлила законовите си правомощия и е нарушила основни принципи на защита на данните“.^[3]
• SyRI: холандският алгоритъм за борба с измами, забранен от съда: Окръжният съд в Хага я забранява, като приема, че нарушава правото на неприкосновеност на личния живот.^[4]
• X-Road: невидимата цифрова инфраструктура зад естонската е-държава: Технологията впоследствие се възприема в повече от 25 държави и територии по света, а сходни системи — като украинската „Трембита“ — се разработват по подобен модел за сигурен обмен на данни между държавни институции.^[5]
• Скандалът с компютърната система „Хоризонт“ на британската Пощенска служба: Групов иск, воден от началника на пощенска станция Алън Бейтс, установява през 2019 г., че системата „Хоризонт съдържа грешки, дефекти и пропуски“, и завършва със споразумение от 57,75 милиона британски лири, от които само около 11 милиона стигат до 555-те ищци след правни разноски.^[6]

Северна Америка

• MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама: Внедрена през 2013 г., автоматизираната система MiDAS на щата Мичиган погрешно обвинява около 40 000 души в измама с обезщетения за безработица, налагайки глоби в четворен размер и запори на заплати без съдебен преглед — с грешка, засягаща близо 93% от случаите.^[7]
• AskCA: калифорнийският AI асистент за навигация в държавните услуги, изграден с Anthropic Claude: AskCA е асистент с изкуствен интелект, който предлага на калифорнийците единна входна точка за по-лесна навигация в програмите на щатското и местното управление.^[8]

Азия

• Китай: „умните съдилища“ и изкуственият интелект в правосъдието: Ханджоуският интернет съд, открит на 18 август 2017 г. на базата на Ханджоуския железопътен транспортен съд, е първият съд в Китай, специализиран в дела, свързани с интернет.^[9]

Океания

• Нова Зеландия: първата национална харта за алгоритмите в управлението
• „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи: От юли 2015 до ноември 2019 г. австралийското правителство използва автоматизирана система за „осредняване на дохода“, с която са поискани незаконни дългове за 1,73 милиарда австралийски долара от над 400 000 получатели на социални помощи.^[10]

Доказателства към твърденията

1. Dutch government resigns after childcare benefits scandal
   CNBC, 15 януари 2021
   хронология
   Отвори източника
2. Décision n° 2020-834 QPC du 3 avril 2020
   Conseil constitutionnel, 3 април 2020
   правно основание
   Отвори източника
3. We put a stop to the A Level grading algorithm!
   Foxglove Legal, 17 август 2020
   правни действия
   Отвори източника
4. Netherlands: Court Prohibits Government's Use of AI Software to Detect Welfare Fraud
   Library of Congress, Global Legal Monitor
   обобщение на делото
   Отвори източника
5. Why digital sovereignty matters and how X-Road makes it happen
   Nortal
   международно приемане
   Отвори източника
6. Post Office Horizon scandal explained: Everything you need to know — Computer Weekly
   обзорна статия
   Отвори източника
7. The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account
   The Markup
   обхват на грешката
   Отвори източника
8. Government Made Easier: Governor Newsom Introduces AskCA — Office of Governor Gavin Newsom
   Официално прессъобщение на щата Калифорния за представянето на AskCA.
   Описание на инструмента
   Отвори източника
9. Hangzhou Internet Court
   Wikipedia
   основаване
   Отвори източника
10. Royal commission finds Robodebt scheme ‘cruel and crude’
    Broker Daily · 2023-07-07
    Отвори източника