Алгоритми в държавното управление ================================= Държавите използват алгоритми и автоматизирани системи за социални помощи, данъци, образование и правосъдие. Някои от тях водят до масови грешни обвинения, съдебни забрани и дори оставка на правителство. Обзорът събира описаните в WikiB казуси, подредени по региони. Европа ------ • Нидерландия: алгоритъмът, който събори правителство: Между 2013 и 2019 г. нидерландските данъчни служители погрешно обвиняват в измама хиляди работещи семейства и ги задължават да връщат детски надбавки. • Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“: Конституционният съвет на Франция постановява, че университетите могат да пазят методологията в тайна по време на процедурата, но са длъжни да публикуват критериите след нейното приключване. • Великобритания: алгоритъмът за матурите, отменен след масов протест: Организацията за алгоритмична справедливост Foxglove, заедно с Парфит-Форд, изпраща предизвестие за съдебен контрол, в което твърди, че системата „е надхвърлила законовите си правомощия и е нарушила основни принципи на защита на данните“. • SyRI: холандският алгоритъм за борба с измами, забранен от съда: Окръжният съд в Хага я забранява, като приема, че нарушава правото на неприкосновеност на личния живот. • X-Road: невидимата цифрова инфраструктура зад естонската е-държава: Технологията впоследствие се възприема в повече от 25 държави и територии по света, а сходни системи — като украинската „Трембита“ — се разработват по подобен модел за сигурен обмен на данни между държавни институции. • Скандалът с компютърната система „Хоризонт“ на британската Пощенска служба: Групов иск, воден от началника на пощенска станция Алън Бейтс, установява през 2019 г., че системата „Хоризонт съдържа грешки, дефекти и пропуски“, и завършва със споразумение от 57,75 милиона британски лири, от които само около 11 милиона стигат до 555-те ищци след правни разноски. Северна Америка --------------- • MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама: Внедрена през 2013 г., автоматизираната система MiDAS на щата Мичиган погрешно обвинява около 40 000 души в измама с обезщетения за безработица, налагайки глоби в четворен размер и запори на заплати без съдебен преглед — с грешка, засягаща близо 93% от случаите. • AskCA: калифорнийският AI асистент за навигация в държавните услуги, изграден с Anthropic Claude: AskCA е асистент с изкуствен интелект, който предлага на калифорнийците единна входна точка за по-лесна навигация в програмите на щатското и местното управление. Азия ---- • Китай: „умните съдилища“ и изкуственият интелект в правосъдието: Ханджоуският интернет съд, открит на 18 август 2017 г. на базата на Ханджоуския железопътен транспортен съд, е първият съд в Китай, специализиран в дела, свързани с интернет. Океания ------- • Нова Зеландия: първата национална харта за алгоритмите в управлението • „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи: От юли 2015 до ноември 2019 г. австралийското правителство използва автоматизирана система за „осредняване на дохода“, с която са поискани незаконни дългове за 1,73 милиарда австралийски долара от над 400 000 получатели на социални помощи. Вижте също ----------- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи: https://wikib.online/article/robodebt-afera-avstralia SyRI: холандският алгоритъм за борба с измами, забранен от съда: https://wikib.online/article/syri-algoritam-holandia MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама: https://wikib.online/article/midas-algoritam-michigan-sasht Нова Зеландия: първата национална харта за алгоритмите в управлението: https://wikib.online/article/novozelandska-harta-za-algoritmi Великобритания: алгоритъмът за матурите, отменен след масов протест: https://wikib.online/article/ofqual-algoritam-matura-obedinyoto-kralstvo Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“: https://wikib.online/article/parcoursup-frantsia-algoritam Нидерландия: алгоритъмът, който събори правителство: https://wikib.online/article/hollandia-afera-detski-nadbavki Китай: „умните съдилища“ и изкуственият интелект в правосъдието: https://wikib.online/article/kitay-internet-sadilishta-ai Скандалът с компютърната система „Хоризонт“ на британската Пощенска служба: https://wikib.online/article/uk-post-office-horizon-skandal X-Road: невидимата цифрова инфраструктура зад естонската е-държава: https://wikib.online/article/estonia-x-road-tsifrova-infrastruktura Доказателства към твърденията ----------------------------- 1. Dutch government resigns after childcare benefits scandal Място: хронология https://www.cnbc.com/2021/01/15/dutch-government-resigns-after-childcare-benefits-scandal-.html 2. Décision n° 2020-834 QPC du 3 avril 2020 Място: правно основание https://www.conseil-constitutionnel.fr/en/decision/2020/2020834QPC.htm 3. We put a stop to the A Level grading algorithm! Място: правни действия https://www.foxglove.org.uk/2020/08/17/we-put-a-stop-to-the-a-level-grading-algorithm/ 4. Netherlands: Court Prohibits Government's Use of AI Software to Detect Welfare Fraud Място: обобщение на делото https://www.loc.gov/item/global-legal-monitor/2020-03-13/netherlands-court-prohibits-governments-use-of-ai-software-to-detect-welfare-fraud/ 5. Why digital sovereignty matters and how X-Road makes it happen Място: международно приемане https://nortal.com/insights/why-digital-sovereignty-matters-and-how-x-road-makes-it-happen 6. Post Office Horizon scandal explained: Everything you need to know — Computer Weekly Място: обзорна статия https://www.computerweekly.com/feature/Post-Office-Horizon-scandal-explained-everything-you-need-to-know 7. The Seven-Year Struggle to Hold an Out-of-Control Algorithm to Account Място: обхват на грешката https://themarkup.org/newsletter/hello-world/the-seven-year-struggle-to-hold-an-out-of-control-algorithm-to-account 8. Government Made Easier: Governor Newsom Introduces AskCA — Office of Governor Gavin Newsom Място: Описание на инструмента https://www.gov.ca.gov/2026/09/09/government-made-easier-governor-newsom-introduces-askca-a-new-ai-powered-tool-for-californians/ 9. Hangzhou Internet Court Място: основаване https://en.wikipedia.org/wiki/Hangzhou_Internet_Court 10. Royal commission finds Robodebt scheme ‘cruel and crude’ https://www.brokerdaily.au/regulation/18122-royal-commission-finds-robodebt-scheme-cruel-and-crude Каноничен URL: https://wikib.online/article/algoritmi-v-darzhavnoto-upravlenie Ревизия: 1 Статус: published Език: bg Лиценз: CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/)