{"id":"7abceb69-03a7-4a22-84c5-0954cd23bf22","slug":"habermas-machine-ai-mediator","title":"Habermas Machine: AI медиатор за групово съгласие","category":"Общество · Цифрова демокрация","tags":["изкуствен интелект","обмислена демокрация","гражданска асамблея","Обединено кралство","DeepMind","риск от манипулация"],"lead":"Habermas Machine е експериментална система на Google DeepMind, кръстена на философа Юрген Хабермас, която използва два езикови модела, за да формулира групови позиции по спорни обществени въпроси — през октомври 2024 г. изследване в списание Science показва, че участници предпочитат нейните формулировки пред тези на човек-медиатор в 56% от случаите.[^hm-publication]","sections":[{"id":"kakvo-predstavlyava-sistemata","title":"Какво представлява системата","paragraphs":["Habermas Machine се състои от два езикови модела: първият генерира формулировки, отразяващи различните гледни точки в група, а вторият — персонализиран модел за оценка — преценява доколко предложена формулировка би получила съгласието на всеки отделен участник.[^hm-mechanism]","По думите на изследователя Майкъл Хенри Теслър, системата е „обучена да открива и представя припокриване“ между позициите, а не „да бъде убедителна, а да действа като медиатор“ — разграничение, което я отличава от AI инструменти, проектирани да убеждават или да печелят спорове.[^hm-mechanism]"]},{"id":"metodologiya-na-izsledvaneto","title":"Методология на изследването","paragraphs":["В поредицата експерименти участват общо 5734 души от Великобритания, а последният етап е виртуална гражданска асамблея с демографски представителна извадка от жителите на страната — подход, сходен с описания в [[grazhdanska-asambleya|статията за гражданските асамблеи]] и в [[zhrebiy-kato-demokratichen-mehanizam|жребия като демократичен механизъм]].[^hm-participants]","Участниците обсъждат спорни политически въпроси — например понижаване на избирателната възраст на 16 години или приватизация на Националната здравна служба (NHS) — в малки групи от около петима души, а при тестовете за медиация — в групи от по шестима.[^hm-questions]"]},{"id":"rezultati","title":"Резултати","paragraphs":["Участниците избират формулировките, генерирани от Habermas Machine, пред тези на човек-медиатор в 56% от случаите, оценявайки ги като по-качествени; след обсъждане с помощта на AI малките групи стават забележимо по-малко разделени в позициите си.[^hm-results]","Изследването е публикувано в списание Science на 17 октомври 2024 г.; към момента на публикацията Google DeepMind не обявява планове системата да бъде пусната в публична употреба.[^hm-publication]"]},{"id":"znachenie-i-granitsi","title":"Значение и граници","paragraphs":["Habermas Machine показва конкретен, измерен чрез контролирано изследване начин, по който изкуственият интелект може да подпомогне [[deliberativna-demokratsia|обмислената демокрация]] — не като заменя гражданите в решенията, а като синтезира разнородните им мнения в общи формулировки, аналогично по цел на процесите в [[vtaiwan-tsifrova-demokratsia|vTaiwan]], но приложено в контролирана изследователска обстановка, а не в реален политически процес.","Тъй като системата остава изследователски прототип без публично разгръщане, отворени остават въпросите доколко резултатите ще се възпроизведат при по-големи, по-поляризирани или по-малко доброволни групи — ограничение, което си струва да се чете заедно с [[kritiki-kam-pryakata-demokratsia|критиките към прехода към пряка демокрация]]."]},{"id":"novi-riskove-manipuliruemost-i-ai-sanktsiya-2025","title":"Нови рискове: манипулируемост и „AI санкция“ (2025)","paragraphs":["Година след първоначалната публикация, самият изследователски екип на Habermas Machine признава неразрешен проблем: участниците биха могли стратегически да изопачат заявените си позиции, за да повлияят на крайния синтезиран резултат в своя полза, а „са нужни допълнителни изследвания и усилия за 'red teaming'“, за да се адресира този риск[^hm-manipulation-risk]. Независима академична критика отива по-далеч, предупреждавайки за възможността „злонамерени участници да хакнат системата, за да насочат резултатите към предварително зададен дневен ред“, за риска подобни инструменти да бъдат използвани, за да се заобиколи истинската обществена делиберация чрез нейна симулация, и за опасността собствените политически пристрастия на самите езикови модели да се просмукат в синтезираните „консенсусни“ изявления[^hm-hacking-risk].","Отделен въпрос за легитимността на подобни системи повдига предварително регистриран експеримент с представителна извадка от 1850 души в Германия, публикуван през 2025 г.: участниците, на които е описано, че ключови задачи в делиберацията се изпълняват от AI, а не от хора, са по-малко склонни да участват и оценяват качеството ѝ по-ниско.[^hm-ai-penalty] Изследователите наричат ефекта „AI санкция“ и предупреждават за появата на нов вид „делиберативно разделение“, което за разлика от традиционните разлики в участието, свързани с образованието или демографските характеристики, се определя от нагласите към изкуствения интелект[^hm-ai-penalty]. С други думи, дори системи като Habermas Machine да постигат по-добри резултати по обективни показатели, доверието на гражданите в процеса може да пострада единствено заради знанието, че AI е част от него — предизвикателство, което остава неразрешено и в реално разгърнатите платформи като [[ai-platformi-za-grazhdansko-izslushvane-sasht|deliberation.io и Engaged California]]."]}],"sources":[{"key":"mit-tech-review-habermas","title":"MIT Technology Review — AI could help people find common ground during deliberations","url":"https://www.technologyreview.com/2024/10/17/1105810/ai-could-help-people-find-common-ground-during-deliberations/","note":"Подробно журналистическо отразяване на изследването и методологията.","language":"en","retrieved_at":"2026-10-18","archive_url":"https://web.archive.org/web/20261013205708/https://www.technologyreview.com/2024/10/17/1105810/ai-could-help-people-find-common-ground-during-deliberations/"},{"key":"science-habermas-paper","title":"Science — AI can help humans find common ground in democratic deliberation","url":"https://www.science.org/doi/10.1126/science.adq2852","note":"Оригиналната рецензирана научна публикация на изследователския екип на Google DeepMind.","language":"en","retrieved_at":"2026-10-18","archive_url":"https://web.archive.org/web/20260513112925/https://www.science.org/doi/10.1126/science.adq2852"},{"key":"arxiv-tessler-followup","title":"Google DeepMind — presentation at Columbia Knight First Amendment Institute (arXiv 2601.05904)","url":"https://arxiv.org/html/2601.05904v1","note":"Последващ анализ от екипа на Habermas Machine, признаващ риска от стратегическо изопачаване на мнения от участниците.","language":"en","retrieved_at":"2026-10-18","archive_url":"https://web.archive.org/web/20260113190450/https://arxiv.org/html/2601.05904v1"},{"key":"arxiv-revel-penigaud","title":"Revel & Pénigaud — AI-Enhanced Deliberative Democracy: risks and safeguards (arXiv 2503.05830)","url":"https://arxiv.org/pdf/2503.05830","note":"Академична критика на риска от хакване на системата, симулирана делиберация и просмукване на собствените политически пристрастия на езиковите модели.","language":"en","retrieved_at":"2026-10-18","archive_url":"https://web.archive.org/web/20260712154107/https://arxiv.org/pdf/2503.05830"},{"key":"arxiv-ai-penalty","title":"Jungherr & Rauchfleisch — Artificial Intelligence in Deliberation: The AI Penalty and the Emergence of a New Deliberative Divide (arXiv препринт; публикувана в Government Information Quarterly, 2025)","url":"https://arxiv.org/abs/2503.07690","note":"Свободно достъпна версия на статията.","language":"en","retrieved_at":"2026-10-18"}],"citations":[{"id":"hm-publication","source_key":"mit-tech-review-habermas","locator":"Publication details","excerpt":"October 17, 2024 ... The study is being published today in the journal Science. ... More than half (56%) of the time, the participants chose the AI statement. ... The company says it has no plans to launch the model publicly.","note":"Публикувано в Science на 17 октомври 2024 г.; DeepMind няма планове за публично пускане."},{"id":"hm-mechanism","source_key":"mit-tech-review-habermas","locator":"How it works — two language models","excerpt":"trained to identify and present areas of overlap","note":"Механизъм на действие: модел за генериране и персонализиран модел за оценка на съгласието."},{"id":"hm-participants","source_key":"science-habermas-paper","locator":"Structured Abstract","excerpt":"we conducted a series of experiments with over 5000 participants from the United Kingdom. ... Lastly, we used the Habermas Machine for a virtual citizens’ assembly, assessing its ability to support deliberation on controversial issues within a demographically representative sample of UK residents. ... Participants (N = 5734)","note":"5734 участници от Великобритания; последният етап — виртуална гражданска асамблея с демографски представителна извадка."},{"id":"hm-questions","source_key":"mit-tech-review-habermas","locator":"Study questions and group sizes","excerpt":"To start, they posed questions such as “Should we lower the voting age to 16?” or “Should the National Health Service be privatized?” The participants submitted responses to the HM before discussing their views within groups of around five people. ... Participants were divided up into six-person groups, with one participant in each randomly assigned to write statements on behalf of the group.","note":"Теми като избирателна възраст 16 г. и приватизация на NHS; групи от 5–6 души."},{"id":"hm-results","source_key":"mit-tech-review-habermas","locator":"Results — preference over human mediators","excerpt":"participants were presented with one statement from the human mediator and one AI-generated statement from the HM and asked which they preferred ... More than half (56%) of the time, the participants chose the AI statement","note":"Основен резултат от изследването."},{"id":"hm-manipulation-risk","source_key":"arxiv-tessler-followup","locator":"Признание на екипа","excerpt":"further research and red teaming efforts are hence needed","note":"Самият екип на Habermas Machine признава, че участниците биха могли стратегически да изопачат позициите си, за да повлияят на резултата, и че са нужни допълнителни изследвания и 'red teaming'."},{"id":"hm-hacking-risk","source_key":"arxiv-revel-penigaud","locator":"За риска от манипулация","excerpt":"malicious actors hacking the system to steer outcomes toward predetermined agendas","note":"Академична критика предупреждава за риск от целенасочено хакване на подобни системи, за да се насочат резултатите към предварително зададен дневен ред, както и за просмукване на собствените политически пристрастия на езиковите модели в синтезираните консенсусни изявления."},{"id":"hm-ai-penalty","source_key":"arxiv-ai-penalty","locator":"Abstract","excerpt":"We conducted a preregistered survey experiment with a representative sample in Germany (n=1850) ... Respondents were randomly assigned to treatments that provided them information about deliberative tasks facilitated by either AI or humans. ... Our findings reveal a significant AI-penalty. Participants were less willing to engage in AI-facilitated deliberation and rated its quality lower than human-led formats. ... potentially even introducing a new deliberative divide. Unlike traditional participation gaps based on education or demographics, this divide is shaped by attitudes toward AI.","note":"Експеримент в Германия (n=1850): по-ниска готовност за участие и по-ниска оценка за качество при AI-подпомогната делиберация; нов „делиберативен разрив“, определян от нагласите към AI."}],"status":"published","featured":false,"revision":7,"created_at":"2026-09-13T23:48:44.897Z","updated_at":"2026-10-18T02:58:46.992Z"}