Австрия: забраненият алгоритъм на бюрото по труда AMS
През 2019 г. австрийската служба по заетостта AMS въвежда автоматизирана система, разпределяща търсещите работа в три групи според вероятността да си намерят работа — система, която систематично поставя жени, хора с увреждания и лица над 30 години в по-неблагоприятна позиция. На 21 август 2020 г. австрийският орган за защита на данните обявява системата за незаконна.[1]
#Австрия #алгоритмична отчетност #трудова заетост #дискриминация
Как работеше системата
Външен изпълнител — Synthesis Forschung — разработва статистически модел на цена 240 000 евро, разпределящ хората в група А (не се нуждаят от подкрепа), група Б (кандидати за преквалификация) или група В (определени като „нископерспективни“ и получаващи минимална помощ).
Документацията показва, че „на жените се присвоява отрицателна тежест, както и на хора с увреждания и хора над 30 години“, а майките с деца биват санкционирани по начин, неприложим към бащите.
women are given a negative weight, as are disabled people and people over 30
Правна и академична критика
Ръководството на AMS първоначално защитава системата, твърдейки, че преценката на служителите предотвратява нарушения и че алгоритъмът е „в съответствие с всички антидискриминационни разпоредби“, но експерти по право като професор Катрин Барнард от Кеймбридж предупреждават, че подходът вероятно нарушава антидискриминационното законодателство на ЕС.
На 21 август 2020 г. австрийският орган за защита на данните обявява системата за незаконна и спира прилагането ѝ — виенският икономист Мириам Кулман обобщава спора кратко: „доколкото ми е известно, няма начин AMS алгоритъмът да бъде оправдан“.
As far as I know, there is no way to justify [the AMS algorithm]
Вижте също
- Полша: конституционният край на профилирането на безработните
- MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
- Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- Нидерландия: алгоритъмът, който събори правителство
- COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
Доказателства към твърденията
-
Austria's employment agency rolls out discriminatory algorithm, sees no problem
решение на органа за защита на данните
21 август 2020
Отвори източника -
Austria's employment agency rolls out discriminatory algorithm, sees no problem
механизъм на системата
документация на алгоритъма
Отвори източника -
Austria's employment agency rolls out discriminatory algorithm, sees no problem
академична оценка
цитат на Мириам Кулман
Отвори източника