COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica ==================================================================== COMPAS е търговски алгоритъм за оценка на риска от рецидив, използван от съдилища в САЩ при решения за освобождаване под гаранция и присъди. През 2016 г. разследване на ProPublica установява, че системата погрешно класифицира чернокожи подсъдими като „високорискови“ близо два пъти по-често, отколкото бели подсъдими — намерение, което задвижва десетилетие дебати за алгоритмична дискриминация в правосъдието. Методология на разследването ---------------------------- Журналистите анализираха резултатите на COMPAS и наказателните досиета на 11 757 подсъдими от окръг Бровард, Флорида, съпоставяйки прогнозирания риск с реалното поведение през следващите 24 месеца. Дори при контролиране за предишни присъди, възраст и пол, изследването установи, че чернокожите подсъдими са с 45% по-голяма вероятност да получат по-висок рисков резултат от белите — а при насилствен рецидив разликата достига 77%. nearly twice as likely to be misclassified as higher risk compared to their white counterparts Политическо и правно ехо ------------------------ Разследването потвърди по-раншни опасения на бившия главен прокурор на САЩ Ерик Холдър, който предупреждаваше, че подобни инструменти „могат да задълбочат неоправдани и несправедливи диспропорции“ в системата на правосъдието. Случаят се превърна в най-цитирания пример за „алгоритмично пристрастие“ в академичната литература и публичната политика и подхрани движение за законодателна прозрачност на рисковите инструменти в над дузина американски щати. may exacerbate unwarranted and unjust disparities Вижте също ----------- SyRI: холандският алгоритъм за борба с измами, забранен от съда: https://wikib.online/article/syri-algoritam-holandia „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи: https://wikib.online/article/robodebt-afera-avstralia Великобритания: алгоритъмът за матурите, отменен след масов протест: https://wikib.online/article/ofqual-algoritam-matura-obedinyoto-kralstvo Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“: https://wikib.online/article/parcoursup-frantsia-algoritam Нова Зеландия: първата национална харта за алгоритмите в управлението: https://wikib.online/article/novozelandska-harta-za-algoritmi Нидерландия: алгоритъмът, който събори правителство: https://wikib.online/article/hollandia-afera-detski-nadbavki „Blueprint for an AI Bill of Rights“: необвързващата рамка на Белия дом: https://wikib.online/article/blueprint-za-ai-bill-of-rights-sasht Колорадо: първият всеобхватен закон за AI в САЩ: https://wikib.online/article/kolorado-zakon-za-ai-2024 AI и претоварването на законодателния процес в Конгреса на САЩ: https://wikib.online/article/ai-zakonodatelstvo-kongres-sasht Джеримандеринг: https://wikib.online/article/dzherimandering Доказателства към твърденията ----------------------------- 1. How We Analyzed the COMPAS Recidivism Algorithm Място: основни находки фалшиво положителни случаи https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm 2. How We Analyzed the COMPAS Recidivism Algorithm Място: методология контролирано сравнение https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm 3. How We Analyzed the COMPAS Recidivism Algorithm Място: политически контекст цитат на Ерик Холдър https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm Каноничен URL: https://wikib.online/article/compas-algoritam-presadi-sasht Ревизия: 1 Статус: published Език: bg