Австрия: забраненият алгоритъм на бюрото по труда AMS ===================================================== През 2019 г. австрийската служба по заетостта AMS въвежда автоматизирана система, разпределяща търсещите работа в три групи според вероятността да си намерят работа — система, която систематично поставя жени, хора с увреждания и лица над 30 години в по-неблагоприятна позиция. На 21 август 2020 г. австрийският орган за защита на данните обявява системата за незаконна. Как работеше системата ---------------------- Външен изпълнител — Synthesis Forschung — разработва статистически модел на цена 240 000 евро, разпределящ хората в група А (не се нуждаят от подкрепа), група Б (кандидати за преквалификация) или група В (определени като „нископерспективни“ и получаващи минимална помощ). Документацията показва, че „на жените се присвоява отрицателна тежест, както и на хора с увреждания и хора над 30 години“, а майките с деца биват санкционирани по начин, неприложим към бащите. women are given a negative weight, as are disabled people and people over 30 Правна и академична критика --------------------------- Ръководството на AMS първоначално защитава системата, твърдейки, че преценката на служителите предотвратява нарушения и че алгоритъмът е „в съответствие с всички антидискриминационни разпоредби“, но експерти по право като професор Катрин Барнард от Кеймбридж предупреждават, че подходът вероятно нарушава антидискриминационното законодателство на ЕС. На 21 август 2020 г. австрийският орган за защита на данните обявява системата за незаконна и спира прилагането ѝ — виенският икономист Мириам Кулман обобщава спора кратко: „доколкото ми е известно, няма начин AMS алгоритъмът да бъде оправдан“. As far as I know, there is no way to justify [the AMS algorithm] Вижте също ----------- Полша: конституционният край на профилирането на безработните: https://wikib.online/article/polsha-profilirane-bezrabotni-sad MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама: https://wikib.online/article/midas-algoritam-michigan-sasht Великобритания: първата успешна съдебна атака срещу държавен алгоритъм: https://wikib.online/article/velikobritania-vizov-algoritam-hostile-environment SyRI: холандският алгоритъм за борба с измами, забранен от съда: https://wikib.online/article/syri-algoritam-holandia „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи: https://wikib.online/article/robodebt-afera-avstralia Великобритания: алгоритъмът за матурите, отменен след масов протест: https://wikib.online/article/ofqual-algoritam-matura-obedinyoto-kralstvo Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“: https://wikib.online/article/parcoursup-frantsia-algoritam Нова Зеландия: първата национална харта за алгоритмите в управлението: https://wikib.online/article/novozelandska-harta-za-algoritmi Нидерландия: алгоритъмът, който събори правителство: https://wikib.online/article/hollandia-afera-detski-nadbavki COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica: https://wikib.online/article/compas-algoritam-presadi-sasht Доказателства към твърденията ----------------------------- 1. Austria's employment agency rolls out discriminatory algorithm, sees no problem Място: решение на органа за защита на данните 21 август 2020 https://algorithmwatch.org/en/austrias-employment-agency-ams-rolls-out-discriminatory-algorithm/ 2. Austria's employment agency rolls out discriminatory algorithm, sees no problem Място: механизъм на системата документация на алгоритъма https://algorithmwatch.org/en/austrias-employment-agency-ams-rolls-out-discriminatory-algorithm/ 3. Austria's employment agency rolls out discriminatory algorithm, sees no problem Място: академична оценка цитат на Мириам Кулман https://algorithmwatch.org/en/austrias-employment-agency-ams-rolls-out-discriminatory-algorithm/ Каноничен URL: https://wikib.online/article/avstria-ams-algoritam-bezrabotni Ревизия: 1 Статус: published Език: bg