COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
COMPAS е търговски алгоритъм за оценка на риска от рецидив, използван от съдилища в САЩ при решения за освобождаване под гаранция и присъди. През 2016 г. разследване на ProPublica установява, че системата погрешно класифицира чернокожи подсъдими като „високорискови“ близо два пъти по-често, отколкото бели подсъдими — намерение, което задвижва десетилетие дебати за алгоритмична дискриминация в правосъдието.[1]
Методология на разследването
Журналистите анализираха резултатите на COMPAS и наказателните досиета на 11 757 подсъдими от окръг Бровард, Флорида, съпоставяйки прогнозирания риск с реалното поведение през следващите 24 месеца.
Дори при контролиране за предишни присъди, възраст и пол, изследването установи, че чернокожите подсъдими са с 45% по-голяма вероятност да получат по-висок рисков резултат от белите — а при насилствен рецидив разликата достига 77%.[2]
„почти два пъти по-вероятно да бъдат погрешно класифицирани като по-високорискови в сравнение с белите“[4]
Политическо и правно ехо
Разследването потвърди по-раншни опасения на бившия главен прокурор на САЩ Ерик Холдър, който предупреждаваше, че подобни инструменти „могат да задълбочат неоправдани и несправедливи диспропорции“ в системата на правосъдието.[3]
Случаят се превърна в най-цитирания пример за „алгоритмично пристрастие“ в академичната литература и публичната политика и подхрани движение за законодателна прозрачност на рисковите инструменти в над дузина американски щати.
„може да задълбочи неоправдани и несправедливи неравенства“[5]
Вижте също
- САЩ: федерален съд признава съдебен имунитет за решение, за което се твърди, че е изцяло написано от AI
- MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама
- Австрия: забраненият алгоритъм на бюрото по труда AMS
- Великобритания: първата успешна съдебна атака срещу държавен алгоритъм
- Нидерландия: алгоритъмът, който събори правителство
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- PredPol и предиктивното полицейско дежурство в САЩ
- Алгоритми в държавното управление
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
Доказателства към твърденията
-
How We Analyzed the COMPAS Recidivism Algorithm
основни находки
фалшиво положителни случаи
Отвори източника -
How We Analyzed the COMPAS Recidivism Algorithm
методология
контролирано сравнение
Отвори източника -
How We Analyzed the COMPAS Recidivism Algorithm
политически контекст
цитат на Ерик Холдър
Отвори източника - How We Analyzed the COMPAS Recidivism Algorithm Отвори източника
- How We Analyzed the COMPAS Recidivism Algorithm Отвори източника