Нидерландия: алгоритъмът, който събори правителство
Между 2013 и 2019 г. нидерландската данъчна служба използва самообучаващ се алгоритъм за откриване на измами с детски надбавки, а служителите ѝ погрешно обвиняват в измама хиляди работещи семейства — непропорционално много от тях без нидерландско гражданство.[1][2] На 15 януари 2021 г. цялото правителство на Марк Рюте подава оставка заради скандала.[3]
Алгоритъм с вграден риск профил
Системата използваше нидерландското гражданство като рисков фактор и присъждаше по-висок рисков резултат на кандидатите без него, а самообучаващият се механизъм възпроизвеждаше тази дискриминация без реален човешки контрол — на практика етническо профилиране, вградено в автоматизирано административно решение.[2] Нидерландски депутати определят случилото се като „безпрецедентна несправедливост“.[4]
Хиляди семейства бяха принудени да връщат получените надбавки,[1] а враждебните проверки с твърди правила и безмилостно събиране на вземанията доведоха част от тях до дългове, безработица, изселване от жилищата им и разпад на семейството.[2]
„безпрецедентна несправедливост“[5]
Политически последици
Оставката идва по време на пандемията от COVID-19: Рюте дотогава твърди, че оставка на правителството не би била полезна в този момент, но кабинетът решава да поеме отговорността и на 15 януари 2021 г. подава колективна оставка, като продължава да ръководи справянето с пандемията като служебно правителство.[3]
Случаят се превърна в еталонен пример за опасностите на алгоритмичното управление в европейската публична дискусия; Amnesty International го определя като спешен сигнал за забрана на расистките алгоритми.[2]
Вижте също
- Алгоритми в държавното управление
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- Австрия: забраненият алгоритъм на бюрото по труда AMS
- Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
- Algoritmeregister — нидерландският регистър на държавните алгоритми
- Полша: конституционният край на профилирането на безработните
Доказателства към твърденията
-
Dutch government resigns after childcare benefits scandal
хронологияОтвори източника
-
Dutch childcare benefit scandal an urgent wake-up call to ban racist algorithms
прессъобщение за доклада „Xenophobic Machines“Отвори източника
-
Dutch government resigns after childcare benefits scandal
оставка на кабинетаОтвори източника
-
Dutch government resigns after childcare benefits scandal
описание на скандала
оценка на нидерландски депутати
Отвори източника - Dutch government resigns after childcare benefits scandal Отвори източника