Habermas Machine: AI медиатор за групово съгласие

Какво представлява системата

Habermas Machine се състои от два езикови модела: първият генерира формулировки, отразяващи различните гледни точки в група, а вторият — персонализиран модел за оценка — преценява доколко предложена формулировка би получила съгласието на всеки отделен участник.^[2]

По думите на изследователя Майкъл Хенри Теслър, системата е „обучена да открива и представя припокриване“ между позициите, а не „да бъде убедителна, а да действа като медиатор“ — разграничение, което я отличава от AI инструменти, проектирани да убеждават или да печелят спорове.^[2]

Методология на изследването

В поредицата експерименти участват общо 5734 души от Великобритания, а последният етап е виртуална гражданска асамблея с демографски представителна извадка от жителите на страната — подход, сходен с описания в статията за гражданските асамблеи и в жребия като демократичен механизъм.^[3]

Участниците обсъждат спорни политически въпроси — например понижаване на избирателната възраст на 16 години или приватизация на Националната здравна служба (NHS) — в малки групи от около петима души, а при тестовете за медиация — в групи от по шестима.^[4]

Резултати

Участниците избират формулировките, генерирани от Habermas Machine, пред тези на човек-медиатор в 56% от случаите, оценявайки ги като по-качествени; след обсъждане с помощта на AI малките групи стават забележимо по-малко разделени в позициите си.^[5]

Изследването е публикувано в списание Science на 17 октомври 2024 г.; към момента на публикацията Google DeepMind не обявява планове системата да бъде пусната в публична употреба.^[1]

Значение и граници

Habermas Machine показва конкретен, измерен чрез контролирано изследване начин, по който изкуственият интелект може да подпомогне обмислената демокрация — не като заменя гражданите в решенията, а като синтезира разнородните им мнения в общи формулировки, аналогично по цел на процесите в vTaiwan, но приложено в контролирана изследователска обстановка, а не в реален политически процес.

Тъй като системата остава изследователски прототип без публично разгръщане, отворени остават въпросите доколко резултатите ще се възпроизведат при по-големи, по-поляризирани или по-малко доброволни групи — ограничение, което си струва да се чете заедно с критиките към прехода към пряка демокрация.

Нови рискове: манипулируемост и „AI санкция“ (2025)

Година след първоначалната публикация, самият изследователски екип на Habermas Machine признава неразрешен проблем: участниците биха могли стратегически да изопачат заявените си позиции, за да повлияят на крайния синтезиран резултат в своя полза, а „са нужни допълнителни изследвания и усилия за 'red teaming'“, за да се адресира този риск^[6]. Независима академична критика отива по-далеч, предупреждавайки за възможността „злонамерени участници да хакнат системата, за да насочат резултатите към предварително зададен дневен ред“, за риска подобни инструменти да бъдат използвани, за да се заобиколи истинската обществена делиберация чрез нейна симулация, и за опасността собствените политически пристрастия на самите езикови модели да се просмукат в синтезираните „консенсусни“ изявления^[7].

Отделен въпрос за легитимността на подобни системи повдига предварително регистриран експеримент с представителна извадка от 1850 души в Германия, публикуван през 2025 г.: участниците, на които е описано, че ключови задачи в делиберацията се изпълняват от AI, а не от хора, са по-малко склонни да участват и оценяват качеството ѝ по-ниско.^[8] Изследователите наричат ефекта „AI санкция“ и предупреждават за появата на нов вид „делиберативно разделение“, което за разлика от традиционните разлики в участието, свързани с образованието или демографските характеристики, се определя от нагласите към изкуствения интелект^[8]. С други думи, дори системи като Habermas Machine да постигат по-добри резултати по обективни показатели, доверието на гражданите в процеса може да пострада единствено заради знанието, че AI е част от него — предизвикателство, което остава неразрешено и в реално разгърнатите платформи като deliberation.io и Engaged California.

Доказателства към твърденията

1. MIT Technology Review — AI could help people find common ground during deliberations
   Publication details

   Публикувано в Science на 17 октомври 2024 г.; DeepMind няма планове за публично пускане.

   Отвори източника
2. MIT Technology Review — AI could help people find common ground during deliberations
   How it works — two language models

   Механизъм на действие: модел за генериране и персонализиран модел за оценка на съгласието.

   Отвори източника
3. Science — AI can help humans find common ground in democratic deliberation
   Structured Abstract

   5734 участници от Великобритания; последният етап — виртуална гражданска асамблея с демографски представителна извадка.

   Отвори източника
4. MIT Technology Review — AI could help people find common ground during deliberations
   Study questions and group sizes

   Теми като избирателна възраст 16 г. и приватизация на NHS; групи от 5–6 души.

   Отвори източника
5. MIT Technology Review — AI could help people find common ground during deliberations
   Results — preference over human mediators

   Основен резултат от изследването.

   Отвори източника
6. Google DeepMind — presentation at Columbia Knight First Amendment Institute (arXiv 2601.05904)
   Признание на екипа

   Самият екип на Habermas Machine признава, че участниците биха могли стратегически да изопачат позициите си, за да повлияят на резултата, и че са нужни допълнителни изследвания и 'red teaming'.

   Отвори източника
7. Revel & Pénigaud — AI-Enhanced Deliberative Democracy: risks and safeguards (arXiv 2503.05830)
   За риска от манипулация

   Академична критика предупреждава за риск от целенасочено хакване на подобни системи, за да се насочат резултатите към предварително зададен дневен ред, както и за просмукване на собствените политически пристрастия на езиковите модели в синтезираните консенсусни изявления.

   Отвори източника
8. Jungherr & Rauchfleisch — Artificial Intelligence in Deliberation: The AI Penalty and the Emergence of a New Deliberative Divide (arXiv препринт; публикувана в Government Information Quarterly, 2025)
   Abstract

   Експеримент в Германия (n=1850): по-ниска готовност за участие и по-ниска оценка за качество при AI-подпомогната делиберация; нов „делиберативен разрив“, определян от нагласите към AI.

   Отвори източника