Технологии · Алгоритмична отчетност

Случаи, в които алгоритми на държави и институции вземат решения за хора, и съдебните и обществените реакции срещу грешките им.

Статии (19)

• COMPAS: алгоритъмът за риск от рецидив и разследването на ProPublica

  COMPAS е търговски алгоритъм за оценка на риска от рецидив, използван от съдилища в САЩ при решения за освобождаване под гаранция и присъди. През 2016 г. разследване на ProPublica установява, че системата погрешно…

• Нидерландия: алгоритъмът, който събори правителство

  Между 2013 и 2019 г. нидерландската данъчна служба използва самообучаващ се алгоритъм за откриване на измами с детски надбавки, който погрешно обвинява хиляди работещи семейства — непропорционално много от тях с втора…

• Нова Зеландия: първата национална харта за алгоритмите в управлението

  На 28 юли 2020 г. Нова Зеландия стана първата страна в света, приела официална харта, обвързваща държавните агенции с общи стандарти за справедливо, етично и прозрачно използване на алгоритми. Хартата е подписана от 21…

• Франция: Конституционният съвет и прозрачността на алгоритъма „Parcoursup“

  Parcoursup е френската национална платформа за прием във висше образование, която използва местни алгоритми за класиране на кандидатите. На 3 април 2020 г. Конституционният съвет на Франция постановява, че…

• Великобритания: алгоритъмът за матурите, отменен след масов протест

  През лятото на 2020 г., след отмяна на изпитите заради COVID-19, британският регулатор Ofqual въвежда алгоритъм за определяне на оценките от матурата, който понижава резултатите на хиляди ученици спрямо оценките на…

• „Robodebt“: австралийската автоматизирана схема за дългове по социални помощи

  Между 2015 и 2019 г. австралийското правителство използва автоматизирана система за „осредняване на дохода“, която издава фалшиви известия за дългове на стотици хиляди получатели на социални помощи. Кралска комисия…

• SyRI: холандският алгоритъм за борба с измами, забранен от съда

  System Risk Indication (SyRI) е алгоритмична система на нидерландското правителство, която свързва данни от различни държавни агенции — данъчни, трудови и социални — за да „изчислява“ риска от измами с обезщетения. На…

• Естония: планът за „AI съдия“ за дела с малък материален интерес

  През март 2019 г. Министерството на правосъдието на Естония възлага на държавния директор по данни Отт Велсберг разработването на система с изкуствен интелект, която да анализира документи по дела с малък материален…

• Китай: „умните съдилища“ и изкуственият интелект в правосъдието

  Основан на 18 август 2017 г., Ханджоуският интернет съд е първият специализиран съд в света за онлайн спорове, използващ изкуствен интелект за оценка на доказателства и прилагане на правни стандарти — модел, който…

• Великобритания: първата успешна съдебна атака срещу държавен алгоритъм

  Години наред британското Министерство на вътрешните работи използва тайна „система за подреждане по риск“, автоматично присвояваща по-висок рисков резултат на кандидати за виза от определени националности. На 4 август…

• Полша: конституционният край на профилирането на безработните

  От 2014 г. полската публична служба по заетостта използва автоматизирана система, разпределяща безработните в три профила въз основа на 24 показателя, включително пол, увреждане и продължителност на безработицата. През…

• Австрия: забраненият алгоритъм на бюрото по труда AMS

  През 2019 г. австрийската служба по заетостта AMS въвежда автоматизирана система, разпределяща търсещите работа в три групи според вероятността да си намерят работа — система, която систематично поставя жени, хора с…

• MiDAS: алгоритъмът на Мичиган, който фалшиво обвини 40 000 души в измама

  Внедрена през 2013 г., автоматизираната система MiDAS на щата Мичиган погрешно обвинява около 40 000 души в измама с обезщетения за безработица, налагайки глоби в четворен размер и запори на заплати без съдебен преглед…

• Скандалът с компютърната система „Хоризонт“ на британската Пощенска служба

  Между 1999 и 2015 г. над 700 началници на пощенски станции в Обединеното кралство са наказателно преследвани заради лъжливи данни за липси, генерирани от счетоводната система „Хоризонт“ на Fujitsu. Скандалът е…

• ShotSpotter и акустичното засичане на изстрели в САЩ

  ShotSpotter (по-късно преименувана на SoundThinking) е мрежа от акустични сензори, която известява полицията за предполагаеми изстрели в реално време. Чикаго прекратява договора си със системата през 2024 г. след…

• PredPol и предиктивното полицейско дежурство в САЩ

  PredPol (по-късно преименувана на Geolitica) е алгоритъм за предиктивно полицейско дежурство, адаптиран от модел за предсказване на вторични земетресения, използван от десетки полицейски управления в САЩ. Изследвания…

• Algoritmeregister — нидерландският регистър на държавните алгоритми

  Algoritmeregister е национален публичен регистър, в който нидерландските държавни органи публикуват описания на алгоритмите и системите с изкуствен интелект, които използват в работата си[^s1]. Той е предшестван от…

• Испания: Съдийският съвет приема обвързващи правила за използването на AI от съдиите

  Испанският Общ съдийски съвет (CGPJ) приема Инструкция 2/2026, обнародвана в Държавен вестник на 30 януари 2026 г. — обвързващо правило, забраняващо на съдии и магистрати да делегират съдебни решения на изкуствен…

• САЩ: федерален съд признава съдебен имунитет за решение, за което се твърди, че е изцяло написано от AI

  На 17 август 2026 г. федерален окръжен съд в щата Невада (по делото Phillips v. Parlade) постановява, че дори ако щатски съдия се е опрял изцяло на AI без собствена преценка при изготвянето на решение, това действие…