Нидерландия: алгоритъмът, който събори правителство
Между 2013 и 2019 г. нидерландската данъчна служба използва самообучаващ се алгоритъм за откриване на измами с детски надбавки, който погрешно обвинява хиляди работещи семейства — непропорционално много от тях с втора националност. На 15 януари 2021 г. цялото правителство на Марк Рюте подава оставка заради скандала.[1]
#Нидерландия #алгоритмична отчетност #детски надбавки #оставка на правителство
Алгоритъм с вграден риск профил
Системата присъждаше по-висок рисков резултат на кандидати с двойно гражданство, което на практика вграждаше етническо профилиране в автоматизирано административно решение — категоризирано впоследствие от парламента като „безпрецедентна несправедливост“.
Хиляди семейства бяха принудени да връщат десетки хиляди евро надбавки без ясна възможност за обжалване, а част от тях изпаднаха в тежки дългове, загубиха жилищата си или бяха раздалечени от децата си от социалните служби.
unprecedented injustice
Политически последици
Скандалът избухна по време на пандемията от COVID-19, но премиерът Марк Рюте прие, че отговорността трябва да бъде поета въпреки риска това да затрудни управлението на кризата, и обяви колективната оставка на кабинета на 15 януари 2021 г.
Случаят се превърна в еталонен пример за опасностите на алгоритмичното управление в европейската публична дискусия и беше цитиран многократно при изготвянето на Регламента на ЕС за изкуствения интелект.
Вижте също
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
- „Blueprint for an AI Bill of Rights“: необвързващата рамка на Белия дом
- Perspective API: AI срещу токсичност в политическия дебат
- „Nexus“ на Юval Ноа Харари: AI и бъдещето на демокрацията
- Принципите на ОИСР за изкуствен интелект
Доказателства към твърденията
-
Dutch government resigns after childcare benefits scandal
описание на скандала
оценка на парламента
Отвори източника -
Dutch government resigns after childcare benefits scandal
хронология
обхват на засегнатите семейства
Отвори източника -
Dutch government resigns after childcare benefits scandal
оставка на кабинета
дата: 15 януари 2021
Отвори източника