Колективен конституционен AI

Контекст: „Асамблеи за съгласуване“

CCAI е част от инициативата Alignment Assemblies на Collective Intelligence Project — поредица от процеси за включване на обществени мнения в решения за развитието и управлението на ИИ. През 2023 г. са документирани инициативи с участници от Summit for Democracy, OpenAI, Министерството на цифровите въпроси на Тайван, Anthropic и Creative Commons. Те разглеждат различни въпроси: влиянието на генеративния ИИ върху демокрацията, оценката на рискове, обществените отговори на технологичното развитие, принципите за поведение на модели и използването на лицензирани произведения при обучение.^[2]

CCAI се отличава с това, че резултатът от допитването не остава само обществен доклад. Подбраните граждански принципи са преобразувани в конституция за обучение на конкретен езиков модел. Именно преходът от обществено мнение към техническо поведение е централният предмет на експеримента.

Общественият проблем

Езиковите модели представят информация, формулират съвети и участват в обсъждането на въпроси, натоварени с ценности. Освен точността на информацията значение имат начинът на представяне, обозначаването на несигурност, отношението към различни хора, защитата на личния живот и границите на предоставяната помощ.

Следователно съгласуването на ИИ не е само технически въпрос. То включва избор кой определя желаното поведение, кои обществени групи са представени и как се разрешават противоречия между полезност, безопасност, свобода, поверителност и достоверност.

Какво означава „конституция“ на ИИ

В този контекст конституция означава набор от принципи на естествен език, използвани за направляване на обучението. Първоначалният метод Constitutional AI на Anthropic включва два основни етапа. При първия моделът създава отговор, критикува го според даден принцип и го преработва. При втория ИИ сравнява възможни отговори според конституцията, а оценките се използват за обучение с подкрепление от обратна връзка на ИИ, известно като RLAIF.^[7]

Конституцията е функционален инструмент за обучение, а не автоматично правна конституция. Публикуването на принципите прави заявените цели по-видими, но действителното поведение трябва да бъде проверявано чрез тестове, наблюдение и независима оценка.

Техническа предистория: RLHF и RLAIF

Важен предшественик е обучението с подкрепление от човешка обратна връзка — RLHF. При InstructGPT първо са събирани човешки демонстрации на желано поведение, а след това оценки и подреждания на различни отговори. Те подпомагат дообучението на модела и изграждането на модел за предпочитания.^[8]

RLHF поставя въпроса чии предпочитания се обобщават. Малка или еднородна група оценители може неволно да наложи собствен стил и ценностни предпоставки. CCAI не премахва този проблем, но разширява участието на по-ранен етап — при формулирането на основните правила.

Методология: Pol.is и масовото допитване

Anthropic и Collective Intelligence Project използват Pol.is и извадка от пълнолетни американци, подбрана с оглед на възраст, пол, доход и географско разпределение.^[3] Pol.is е платформа с отворен код, в която участниците могат да предлагат кратки твърдения и да отбелязват съгласие, несъгласие или пропускане на предложенията.^[9]

Форматът принадлежи към т.нар. wiki survey: дневният ред не е напълно затворен от организатора, защото участниците могат да добавят нови твърдения. Така допитването съчетава предварително зададена рамка с възможност за възникване на идеи от самата група.^[10]

Не е необходимо всеки участник да прочете всички предложения. Натрупаните оценки образуват матрица на гласовете, чрез която могат да се откриват модели на съгласие и разногласие.

Как се анализират мненията

Основният анализ на Pol.is работи върху това кой с кои твърдения се съгласява, а не върху автоматично тълкуване на политическия смисъл на изреченията. Документацията на платформата описва намаляване на размерността и групиране на участници със сходни модели на гласуване.^[11]

В CCAI са използвани анализ на главните компоненти и k-means, чрез които са получени две основни групи. Тези групи не трябва автоматично да се тълкуват като партии или идентичности. Те показват сходство в подадените оценки.^[12]

Участници, предложения и модерация

В процеса участват около 1000 души. Събрани са 1127 твърдения и 38 252 гласа. Началото е поставено с 21 примерни твърдения. След модерацията остават 275 предложения;^[13] след премахване на дублиращите се и обединяване на близки идеи от тях е съставен крайният набор от 75 принципа.^[14]

Модерацията може да отстранява спам, неразбираеми формулировки и дублиране, но същевременно влияе върху това кои идеи достигат до оценяване. Поради това са важни ясните критерии, записът на отстранените предложения и проследимостта между първоначалния текст, редакцията и крайното правило.^[15]

Търсене на съгласие между групите

При подбора е използван показателят group-aware consensus, или GAC. Той отчита подкрепата във всяка открита група чрез произведение на оценените вероятности за съгласие. Предложение с висока подкрепа само в едната група получава по-нисък резултат от предложение, приемано широко и в двете. В експеримента прагът е определен на 0,723 спрямо 95 различими идеи в стандартната конституция.^[12]

GAC не е обикновен процент гласували „за“. Резултатът зависи от начина на групиране и наказва силното разделение. Това го прави инструмент за откриване на междугрупово съгласие, но не и окончателна мярка за обществена легитимност.

От граждански предложения към правила за обучение

Гражданските твърдения са преформулирани като инструкции, чрез които моделът да предпочита отговори с определени качества. Тази стъпка включва човешка редакция и субективни решения. Едно общо искане за „ясен отговор“ например трябва да бъде преведено в приложима инструкция: ясно за кого, при какви предварителни знания и с каква необходима подробност.^[16]

Това преобразуване е критична връзка между участието и техническия резултат. Ако близки предложения бъдат обединени, може да се промени акцентът им. Пълната проследимост изисква възможност крайното правило да бъде свързано с първоначалните предложения и мотивите за редакцията.

Съдържание на гражданската конституция

Публикуваната гражданска конституция включва 75 принципа.^[14] Сред основните теми са честност и точност, признаване на ограниченията, полезност, безпристрастност, достъпност за хора с увреждания, уважение към личността, защита на поверителността, човешка автономия и ограничаване на вредни действия.^[14]

Сравнението с тогавашната конституция на Anthropic показва приблизително 50% припокриване по концепции и ценности. Гражданската версия поставя по-силен акцент върху обективността, безпристрастността и достъпността и по-често формулира желано положително поведение, вместо само забрани.^[5]

Разликата между насърчаване и забрана е практическа. Правило „предостави точно и полезно обяснение“ създава положителна задача, докато правило „не предоставяй неподходящ текст“ задава ограничение. За надеждно поведение са нужни и двата вида принципи.

Обучение и използвани оценки

Изследователите обучават модел Public с гражданската конституция и модел Standard със стандартната конституция, като запазват еднакви основни условия. Claude Instant 1.2 е използван като допълнителна отправна точка, но продуктовите му особености ограничават прякото сравнение.^[17]

Оценяването включва MMLU — задачи в 57 предметни области;^[18] GSM8K — около 8,5 хиляди математически текстови задачи;^[19] BBQ — тест за социални стереотипи в случаи с достатъчна и недостатъчна информация;^[20] и OpinionQA — сравнение между отговори на модели и позиции от обществени допитвания.^[21]

Тези тестове измерват различни свойства. Висок резултат по знания или математика не доказва безпристрастност, а сходството с обществена група не доказва фактическа вярност.

Основни резултати

На MMLU моделът Public постига 72,3%, Standard — 72,4%, а Claude Instant 1.2 — 73,2%. На GSM8K резултатите са съответно 85,6%, 85,2% и 86,4%. Близките стойности показват, че в тези тестове гражданската конституция не води до голяма загуба на проверените способности.^[6]

Моделът Public показва по-ниско стереотипно пристрастие във всичките девет измерения на BBQ, без съществено влошаване на измерената полезност или безопасност. Едновременно с това и Public, и Standard остават по-близки до отговорите на либерални, отколкото на консервативни американци. Следователно гражданската конституция подобрява определени показатели, но не премахва всички политически и представителни дисбаланси.^[6][21]

Представителност, обективност и плурализъм

Представителността и обосноваността са различни цели. Един отговор може да съвпада с мнозинството и все пак да съдържа фактическа грешка. Друг може да представя надеждни доказателства, без да съвпада с преобладаващото мнение.

Изследването PRISM разширява географския обхват на човешката обратна връзка чрез 1500 участници от 75 държави, 8011 разговора и оценки на 21 езикови модела.^[22] Сродната рамка за плуралистично съгласуване различава представяне на спектър от разумни позиции, насочване към определена перспектива и съответствие с разпределението на мненията в дадена група.^[23]

Географското разнообразие не е равнозначно на статистическа представителност. За всяко приложение трябва да се определи кои хора са засегнати, как са подбрани и дали общите правила причиняват различни последствия за малцинствени групи.

Ограничения и противоречия между принципите

Изследователите не разполагат с една обща пряка мярка, която да показва доколко моделът изпълнява цялата конституция. Отделните тестове покриват само части от желаното поведение.^[24]

Честност, личен живот, полезност, свобода и безопасност могат да поставят противоречиви изисквания. Полезен отговор може да изисква информация, която засяга поверителност; краткият отговор може да прикрива важна несигурност; предпазливият модел може да стане неизползваем. Затова принципите трябва да бъдат проверявани чрез конкретни сценарии и опити за откриване на проблемно поведение, включително red teaming.^[25]

За приложение на български език са нужни отделни проверки върху български текстове, местни обществени въпроси и продължителни разговори. Резултат от англоезичен тест в американски контекст не може автоматично да бъде пренесен към друга езикова и институционална среда.

Демокрация и управление на технологиите

Проектът включва пряко участие: хората предлагат правила и оценяват предложенията на други участници. Но организаторите продължават да определят целта, извадката, модерацията, редакцията и техническото приложение. Следователно участие в създаването на принципи не е равнозначно на пълна обществена власт върху модела.

Collective Intelligence Project разглежда демократичния ИИ като по-широка институционална задача, включваща отчетност, разпределена информация, обществени блага и защита на човешката свобода и благополучие.^[26] Друга рамка разграничава демократизация на използването, разработката, ползите и управлението на ИИ.^[27]

CCAI е насочен основно към участието в определянето на поведение. Устойчивото съвместно управление би изисквало и правила за бъдещи промени, независима проверка, възражения и ясно разпределение на правомощията.

Прозрачност и възпроизводимост

Публичното хранилище на проекта съдържа първоначални и обработени данни за предложенията и гласовете, както и тетрадка за част от анализа. Това позволява повторна проверка на определени стъпки от допитването.^[28]

Възпроизводимостта има различни равнища. Публичните гласове позволяват анализ на общественото участие; публикуваните правила позволяват сравнение на конституциите; повторението на обучението изисква допълнително достъп до модели, данни и технически условия. Публична конституция не е равнозначна на напълно възпроизводима система.

Развитие след първия експеримент

Global Dialogues на CIP разширява международното участие чрез структурирани обсъждания.^[29] Представеният през 2025 г. индекс обобщава седем кръга с повече от 6000 участници от 70 държави.^[30]

През януари 2026 г. препринтът Beyond Preferences представя Grounded Constitutional AI — подход, който съчетава общи човешки ценности с причините, давани при предпочитане на конкретни отговори. Така еднакъв избор може да бъде разграничен според това дали човек го обосновава с точност, яснота или друго качество.^[31]

На 22 януари 2026 г. Anthropic публикува нова конституция на Claude с лиценз CC0. Тя описва актуалната визия на компанията за поведението на Claude и изрично допуска, че реалните отговори могат да се отклоняват от заявените идеали.^[32][33] Тази корпоративна конституция, гражданският експеримент от 2023 г. и поведението на действащ продукт са различни обекти на оценка.

Потенциални приложения

В образованието колективна конституция може да определя очаквания за яснота, подходяща помощ и признаване на несигурност. В обществените услуги тя може да задава изисквания за достъпност, точност и насочване към компетентен човек. В свободна енциклопедия може да направлява отделянето на факт от мнение, посочването на източници и представянето на научна несигурност.

Това са възможни приложения, а не доказани внедрявания на първоначалния модел. За всяка област са нужни собствена група участници, подходящи тестове, оценка на последствията от грешки и процедура за оспорване.

Критерии за бъдещи колективни конституции

Бъдещите процеси могат да бъдат оценявани по осем въпроса: ясно ли е кои хора са засегнати; достъпно ли е участието; може ли всяко крайно правило да се свърже с първоначалните предложения; видими ли са разногласията; има ли конкретни поведенчески тестове; възможен ли е независим преглед; могат ли участниците да оспорят редакция или резултат; и как се приемат следващи промени.

Техническият успех означава измерима промяна в поведението на модела. Демократичната легитимност се отнася до представителството, властта и отчетността. За система с широко обществено въздействие са нужни доказателства и за двете.

Доказателства към твърденията

1. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input
   Overview, October 2023

   Anthropic и Collective Intelligence Project провеждат проекта през октомври 2023 г.

   Отвори източника
2. Collective Intelligence Project — Alignment Assemblies
   Notable Assemblies, 2023

   Партньорства и теми на асамблеите през 2023 г.

   Отвори източника
3. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input
   Methodology — Polis platform

   Използване на Pol.is и подбор на участниците.

   Отвори източника
4. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input
   Participant statistics

   Мащаб на участието и броят на оценките.

   Отвори източника
5. Collective Constitutional AI: Aligning a Language Model with Public Input (arXiv:2406.07814)
   arXiv (Huang, Siddarth, Lovitt, Liao, Durmus, Tamkin, Ganguli) · 2024-06-12
   Results — comparison with baseline constitution

   Сравнение между гражданската и стандартната конституция.

   Отвори източника
6. Collective Constitutional AI: Aligning a Language Model with Public Input (arXiv:2406.07814)
   arXiv (Huang, Siddarth, Lovitt, Liao, Durmus, Tamkin, Ganguli) · 2024-06-12
   Results — model evaluation

   Резултати за способности, полезност, безопасност и пристрастие.

   Отвори източника
7. Constitutional AI: Harmlessness from AI Feedback
   Method

   Етапи на Constitutional AI и RLAIF.

   Отвори източника
8. Training language models to follow instructions with human feedback
   Abstract and method

   Обучение чрез демонстрации и подреждане на отговори.

   Отвори източника
9. Computational Democracy Project — Polis
   How Polis works

   Предложения и гласуване със съгласие, несъгласие или пропускане.

   Отвори източника
10. Computational Democracy Project — Wikisurvey
    Wikisurvey principles

    Участниците могат да допълват дневния ред с нови твърдения.

    Отвори източника
11. Computational Democracy Project — Algorithms
    Vote matrix and clustering

    Анализ и групиране на сходни модели на гласуване.

    Отвори източника
12. Collective Constitutional AI: Aligning a Language Model with Public Input (arXiv:2406.07814)
    arXiv (Huang, Siddarth, Lovitt, Liao, Durmus, Tamkin, Ganguli) · 2024-06-12
    Group-aware consensus and participant groups

    PCA, k-means, двете групи и показателят GAC.

    Отвори източника
13. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input
    Process decisions and moderation

    Начални твърдения, модерация и брой предложения.

    Отвори източника
14. CCAI Public Constitution — 75 principles
    Public constitution

    Пълният набор от 75 граждански принципа.

    Отвори източника
15. Computational Democracy Project — Moderation
    Moderation guidance

    Критерии и прозрачност на модерацията.

    Отвори източника
16. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input
    Converting statements into constitutional principles

    Човешка редакция и субективност при преобразуването.

    Отвори източника
17. Collective Constitutional AI: Aligning a Language Model with Public Input (arXiv:2406.07814)
    arXiv (Huang, Siddarth, Lovitt, Liao, Durmus, Tamkin, Ganguli) · 2024-06-12
    Experimental setup

    Моделите Public, Standard и сравнението с Claude Instant 1.2.

    Отвори източника
18. Measuring Massive Multitask Language Understanding
    Dataset description

    57 предметни области в MMLU.

    Отвори източника
19. Training Verifiers to Solve Math Word Problems
    Dataset description

    Около 8500 математически текстови задачи.

    Отвори източника
20. BBQ: A Hand-Built Bias Benchmark for Question Answering
    Benchmark design

    Оценяване на стереотипи при достатъчен и недостатъчен контекст.

    Отвори източника
21. Whose Opinions Do Language Models Reflect?
    OpinionQA and demographic groups

    Сравнение с обществени допитвания и политически групи.

    Отвори източника
22. The PRISM Alignment Dataset
    Dataset summary

    1500 участници, 75 държави, 8011 разговора и 21 модела.

    Отвори източника
23. A Roadmap to Pluralistic Alignment
    Taxonomy of pluralistic alignment

    Трите разграничени подхода към плуралистично съгласуване.

    Отвори източника
24. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input
    Limitations

    Липса на обща пряка мярка за изпълнение на цялата конституция.

    Отвори източника
25. Red Teaming Language Models to Reduce Harms
    Methods and limitations

    Изпитване за откриване и ограничаване на вредно поведение.

    Отвори източника
26. A Roadmap to Democratic AI
    Institutional roadmap

    По-широката институционална рамка за демократичен ИИ.

    Отвори източника
27. Four Approaches to Democratizing AI
    Four approaches

    Използване, разработка, ползи и управление.

    Отвори източника
28. CCAI data and analysis repository
    Repository contents

    Публични данни и тетрадка за анализ.

    Отвори източника
29. Collective Intelligence Project — Global Dialogues
    Program description

    Международни структурирани обществени обсъждания.

    Отвори източника
30. 2025 Global Dialogues Index
    Index overview

    Седем кръга, над 6000 участници и 70 държави.

    Отвори източника
31. Beyond Preferences: Learning Alignment Principles Grounded in Human Reasons and Values
    Abstract and method

    Grounded Constitutional AI, причини и човешки ценности.

    Отвори източника
32. Claude’s new constitution
    Publication announcement, 22 January 2026

    Дата, цели и лиценз CC0.

    Отвори източника
33. Claude’s Constitution
    Introduction

    Роля на актуалната конституция при обучението на Claude.

    Отвори източника