Австрия: забраненият алгоритъм на бюрото по труда AMS
През 2019 г. австрийската служба по заетостта AMS обявява въвеждането на автоматизирана система, разпределяща търсещите работа в три групи според шансовете им да си намерят работа — система, която дава отрицателна тежест на жените, на хората с увреждания и на лицата над 30 години. През август 2020 г. австрийският орган за защита на данните обявява системата за незаконна, а внедряването ѝ трябва да бъде спряно.[1]
Как работеше системата
Външен изпълнител — Synthesis Forschung — разработва статистически модел на цена 240 000 евро, разпределящ хората в група А (не се нуждаят от подкрепа), група Б (кандидати за преквалификация) или група В (определени като „нископерспективни“ и получаващи минимална помощ).
Документацията показва, че „на жените се присвоява отрицателна тежест, както и на хора с увреждания и хора над 30 години“, а майките с деца биват санкционирани по начин, неприложим към бащите.[2]
„на жените се дава отрицателна тежест, както и на хората с увреждания и на хората над 30 години“[4]
Правна и академична критика
Ръководството на AMS първоначално защитава системата, твърдейки, че преценката на служителите предотвратява нарушения и че алгоритъмът е „в съответствие с всички антидискриминационни разпоредби“, но експерти по право като професор Катрин Барнард от Кеймбридж предупреждават, че подходът вероятно нарушава антидискриминационното законодателство на ЕС.
На 21 август 2020 г. австрийският орган за защита на данните обявява системата за незаконна и спира прилагането ѝ — виенският икономист Мириам Кулман обобщава спора кратко: „доколкото ми е известно, няма начин AMS алгоритъмът да бъде оправдан“.[3]
„Доколкото знам, няма начин [алгоритъмът на AMS] да бъде оправдан“[5]
Вижте също
- Полша: конституционният край на профилирането на безработните
- Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
- Нидерландия: алгоритъмът, който събори правителство
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- Алгоритми в държавното управление
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- Алгоритмични пристрастия
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
Доказателства към твърденията
-
Austria's employment agency rolls out discriminatory algorithm, sees no problem
решение на органа за защита на данните
21 август 2020
Отвори източника -
Austria's employment agency rolls out discriminatory algorithm, sees no problem
механизъм на системата
документация на алгоритъма
Отвори източника -
Austria's employment agency rolls out discriminatory algorithm, sees no problem
академична оценка
цитат на Мириам Кулман
Отвори източника - Austria's employment agency rolls out discriminatory algorithm, sees no problem Отвори източника
- Austria's employment agency rolls out discriminatory algorithm, sees no problem Отвори източника