COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica
COMPAS е търговски алгоритъм за оценка на риска от рецидив, използван от съдилища в САЩ при решения за освобождаване под гаранция и присъди. През 2016 г. разследване на ProPublica установява, че системата погрешно класифицира чернокожи подсъдими като „високорискови“ близо два пъти по-често, отколкото бели подсъдими — намерение, което задвижва десетилетие дебати за алгоритмична дискриминация в правосъдието.[1]
#САЩ #алгоритмична отчетност #наказателно правосъдие #разследваща журналистика
Методология на разследването
Журналистите анализираха резултатите на COMPAS и наказателните досиета на 11 757 подсъдими от окръг Бровард, Флорида, съпоставяйки прогнозирания риск с реалното поведение през следващите 24 месеца.
Дори при контролиране за предишни присъди, възраст и пол, изследването установи, че чернокожите подсъдими са с 45% по-голяма вероятност да получат по-висок рисков резултат от белите — а при насилствен рецидив разликата достига 77%.
nearly twice as likely to be misclassified as higher risk compared to their white counterparts
Политическо и правно ехо
Разследването потвърди по-раншни опасения на бившия главен прокурор на САЩ Ерик Холдър, който предупреждаваше, че подобни инструменти „могат да задълбочат неоправдани и несправедливи диспропорции“ в системата на правосъдието.
Случаят се превърна в най-цитирания пример за „алгоритмично пристрастие“ в академичната литература и публичната политика и подхрани движение за законодателна прозрачност на рисковите инструменти в над дузина американски щати.
may exacerbate unwarranted and unjust disparities
Вижте също
- SyRI: холандският алгоритъм за борба с измами, забранен от съда
- „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи
- Великобритания: алгоритъмът за матурите, отменен след масов протест
- Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“
- Нова Зеландия: първата национална харта за алгоритмите в управлението
- Нидерландия: алгоритъмът, който събори правителство
- „Blueprint for an AI Bill of Rights“: необвързващата рамка на Белия дом
- Колорадо: първият всеобхватен закон за AI в САЩ
- AI и претоварването на законодателния процес в Конгреса на САЩ
- Джеримандеринг
Доказателства към твърденията
-
How We Analyzed the COMPAS Recidivism Algorithm
основни находки
фалшиво положителни случаи
Отвори източника -
How We Analyzed the COMPAS Recidivism Algorithm
методология
контролирано сравнение
Отвори източника -
How We Analyzed the COMPAS Recidivism Algorithm
политически контекст
цитат на Ерик Холдър
Отвори източника