# Колективен конституционен AI

Колективният конституционен AI (Collective Constitutional AI) е изследователски проект на компанията Anthropic и организацията Collective Intelligence Project от октомври 2023 г., при който около 1000 представителни за САЩ граждани чрез платформата Pol.is съвместно написват набор от принципи, вложени пряко в поведението на голям езиков модел — един от първите документирани случаи, при които масово гражданско участие директно оформя политика на конкретна AI система.

## Контекст: „Асамблеи за съгласуване“

Проектът е част от поредица „Alignment Assemblies“ на Collective Intelligence Project — процеси на колективен разум, целящи гражданите да имат думата по решения за управлението на изкуствения интелект, вместо те да се вземат само от тесен кръг компании и институции.[2]

През 2023 г. подобни асамблеи са проведени и с други партньори — сред тях Белия дом (по въпроса за влиянието на генеративния AI върху демокрацията), OpenAI (относно приоритети за безопасност на езиковите модели) и Министерството на цифровите въпроси на Тайван — контекст, близък до процесите, описани в статията за vTaiwan.[2]

## Методология: Pol.is и масовото допитване

Anthropic и Collective Intelligence Project канят представителна извадка от възрастни американци по възраст, пол, доход и география, за да участват в отворена платформа за допитване Pol.is — същата класа инструменти за машинно подпомогнато обсъждане, използвани в процесите на обмислена демокрация.[3]

На участниците са предоставени 21 примерни твърдения; те могат да гласуват по съществуващи предложения или да подават нови собствени относно това как трябва да се държи AI чатбот. Общо близо 1000 души подават 1127 твърдения и подават 38 252 гласа — средно по 34 гласа на човек.[4]

## Резултати: как гражданската „конституция“ се различава

Принципите, съставени от гражданите, съвпадат по концепции и ценности около 50% с първоначалната „конституция“ на Anthropic — останалата половина показва забележими разлики: по-силен акцент върху обективността и безпристрастността, по-голямо внимание към достъпността и склонност да се насърчава желано поведение, вместо само да се избягва нежелано.[5]

При тестване моделът, обучен по гражданските принципи, постига резултати, равностойни на стандартния модел по езикови и математически показатели, но показва по-ниски резултати за пристрастност по всичките девет социални измерения в оценъчния тест BBQ, без съществена разлика в полезността или безобидността на отговорите.[6]

## Значение за прехода към пряка демокрация в управлението на технологиите

Проектът показва конкретен, измерим път, по който инструменти на пряката демокрация — масово гласуване по твърдения, а не представителство чрез избрани органи — могат да повлияят пряко върху дизайна на технология, използвана от милиони хора, вместо само върху текстове на закони или референдуми.

Същевременно експериментът остава ограничен по мащаб (около 1000 участници от една държава) и доброволен за компанията, която го провежда — разлика спрямо задължителните референдуми или народни инициативи, разгледани в статията за референдума и народната инициатива, където резултатът е обвързващ по закон.

## Вижте също

- [vTaiwan: цифровата демокрация в Тайван](https://wikib.online/article/vtaiwan-tsifrova-demokratsia)
- [Делиберативна демокрация](https://wikib.online/article/deliberativna-demokratsia)
- [Народна инициатива](https://wikib.online/article/narodna-initsiativa)
- [Референдум](https://wikib.online/article/referendum)
- [Plurality: технология за съвместно многообразие и демокрация](https://wikib.online/article/plurality-tehnologiya-za-demokratsiya)
- [Team Mirai: AI и „широко слушане“ в японската политика](https://wikib.online/article/team-mirai-ai-shiroko-slushane)
- [Порто Алегре: наредбата, написана от ChatGPT](https://wikib.online/article/porto-alegre-zakon-napisan-ot-ai)
- [Изкуствен интелект и заплахата за честността на изборите и референдумите](https://wikib.online/article/ai-zaplaha-za-izbori-i-referendumi)
- [Достъп до обществена информация](https://wikib.online/article/dostap-do-obshtestvena-informatsia)
- [Критики към прехода към пряка демокрация](https://wikib.online/article/kritiki-kam-pryakata-demokratsia)

## Доказателства към твърденията

1. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input — Място: Overview, October 2023 — Anthropic и Collective Intelligence Project провеждат проекта през октомври 2023 г. с около 1000 участници. — https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input

2. Collective Intelligence Project — Alignment Assemblies — Място: Notable Assemblies, 2023 — Партньорства през 2023 г. с Белия дом, OpenAI и Министерството на цифровите въпроси на Тайван. — https://www.cip.org/alignmentassemblies

3. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input — Място: Methodology — Polis platform — Използване на платформата Pol.is и подбор на представителна извадка участници. — https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input

4. Anthropic — Collective Constitutional AI: Aligning a Language Model with Public Input — Място: Participant statistics — Мащаб на участие: около 1000 души, 1127 твърдения, 38 252 гласа. — https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input

5. Collective Constitutional AI: Aligning a Language Model with Public Input (FAccT 2024) — Място: Results — comparison with baseline constitution — Разлики между гражданската и оригиналната конституция на Anthropic. — https://dl.acm.org/doi/10.1145/3630106.3658979

6. Collective Constitutional AI: Aligning a Language Model with Public Input (FAccT 2024) — Място: Results — model evaluation (BBQ benchmark) — Резултати от тестовете за пристрастност, полезност и безобидност на модела. — https://dl.acm.org/doi/10.1145/3630106.3658979

## Метаданни

- Каноничен URL: https://wikib.online/article/kolektiven-konstitutsionen-ai
- Ревизия: 1
- Статус: published
- Език: bg
- JSON: https://wikib.online/api/public/articles/kolektiven-konstitutsionen-ai