{"id":"8b66fe4e-8b71-4da1-abea-4c67fd9a6a8e","slug":"demokratizatsia-na-izkustveniya-intelekt","title":"Демократизация на изкуствения интелект","category":"Общество · Цифрова демокрация","tags":["изкуствен интелект","демократизация","управление на ИИ","гражданско участие","делиберативна демокрация","пряка демокрация","отворени модели","публичен ИИ"],"lead":"Демократизацията на изкуствения интелект (ИИ) е общо название за усилията повече хора да ползват ИИ, да участват в разработката му, да получават дял от ползите и да имат глас в решенията как той се управлява.[^lead-four] Изследователите Елизабет Сегер, Авив Овадия, Бен Гарфинкел, Дивия Сидарт и Алан Дафо, които систематизират тези значения, предупреждават, че те понякога си противоречат и че демократизацията не бива да се свежда до по-лесен достъп до технологията.[^lead-takeaway] Въпросът е практически, защото най-мощните системи се създават от малък брой компании: през 2025 г. индустрията е произвела над 90% от забележителните водещи модели, а частните инвестиции в ИИ в САЩ са достигнали 285,9 млрд. долара — над 23 пъти повече от тези в Китай.[^lead-conc] През последните години големи разработчици като Meta, OpenAI и Anthropic започват да прилагат инструменти на делиберативната демокрация, за да събират мнението на обществото за правилата на ИИ.[^lead-race] Успоредно с това се изгражда и правен контрол: Регламентът на ЕС за ИИ е първата всеобхватна правна рамка за ИИ в света.[^lead-aiact] Дори привърженици на корпоративните експерименти с участие като Авив Овадия предупреждават, че най-големият риск е те да се превърнат в постоянна форма на „демократично измиване“ (democracy washing).[^lead-washing] Същите инструменти, с които обществото обсъжда ИИ, идват от пряката и делиберативната демокрация: в Тайван процесът за гражданско обсъждане vTaiwan е приложен и към въпросите за генеративния ИИ.[^lead-vtw]","sections":[{"id":"znacheniya-na-ponyatieto","title":"Значения на понятието","paragraphs":["Призивите за „демократизация на ИИ“ идват от много страни, но изразът обозначава различни цели, които понякога влизат в конфликт.[^seger-calls] В статията си „Democratising AI: Multiple Meanings, Goals, and Methods“, публикувана през 2023 г., Сегер и съавторите различават четири вида: демократизация на ползването, на разработката, на печалбите и на управлението на ИИ.[^seger-four]","Демократизацията на ползването означава повече хора да имат достъп до ИИ; според аналитичен документ на Collective Intelligence Project (CIP) това изисква преодоляване на „разделението по отношение на ИИ“ чрез широко обществено образование, преквалификация и улесняване на достъпа до полезни възможности.[^cip-use] Демократизацията на разработката означава повече и по-разнообразни хора да участват в проектирането на системите, включително чрез публично финансиране на отворени модели за обществени цели като здравеопазване и образование.[^cip-dev] Демократизацията на ползите засяга разпределението на печалбите и според CIP изисква нови институционални форми, например общ публично-частен фонд за „общо благо на ИИ“ (AI commons) със споделени изчислителни ресурси и данни.[^cip-ben] Демократизацията на управлението означава обществото активно да участва в ключовите ценностни решения и в претеглянето на компромиси, например между безопасност и иновации.[^cip-gov]","Сегер и съавторите стигат до извода, че именно демократизацията на управлението има водеща роля, защото чрез нея се решават компромисите и рисковете при ползването, разработката и печалбите.[^seger-gov] Дивия Сидарт от CIP описва проблема като „трилема на трансформиращите технологии“: пазарно ориентираните създатели жертват безопасността заради прогреса, предпазливите технократи жертват участието заради безопасността, а демократите, насочени към участието, жертват прогреса.[^cip-trilemma] Според CIP повечето публични дискусии се съсредоточават върху първите две форми — ползването и разработката, макар че без съизмерими инвестиции в демократизацията на ползите и на управлението напредъкът ще е много малък.[^cip-first2]"]},{"id":"kontsentratsiyata-na-resursi-i-vlast","title":"Концентрацията на ресурси и власт","paragraphs":["Изчислителната мощ е основна зависимост при изграждането на големи модели и според AI Now Institute е силно монополизирана в ключови точки от веригата на доставки от една или няколко фирми.[^ainow-mono] Сред доминиращите играчи институтът посочва облачните доставчици Amazon Web Services, Google Cloud и Microsoft Azure, проектанта на чипове Nvidia и производителя TSMC.[^ainow-firms] Според AI Now това определя кой може да създава ИИ, какъв ИИ се създава и кой печели от него.[^ainow-who] Доклад на фондация „Бертелсман“ и Open Future от май 2025 г. също заключава, че концентрацията на власт започва от изчислителния слой: разработката зависи от трите доминиращи облачни доставчика — Amazon, Microsoft и Google — и от Nvidia, която държи преобладаващ дял от пазара на чипове.[^bst-compute]","Според доклада AI Index на Станфордския университет частните инвестиции в ИИ в САЩ през 2024 г. са 109,1 млрд. долара — близо 12 пъти повече от тези в Китай (9,3 млрд.) и 24 пъти повече от тези във Великобритания (4,5 млрд.).[^aiidx25-inv] Година по-късно американските частни инвестиции достигат 285,9 млрд. долара при 12,4 млрд. в Китай, макар докладът да отбелязва, че частните данни вероятно подценяват китайските разходи заради държавните инвестиционни фондове.[^aiidx26-inv] Четирите най-големи американски технологични компании — Alphabet, Amazon, Meta и Microsoft — прогнозират общо около 650 млрд. долара капиталови разходи за 2026 г., предимно за нови центрове за данни и оборудването в тях.[^capex] По данни на Bloomberg това е увеличение с около 60% спрямо предходната година, а сравнение може да се търси поне в телекомуникационния балон от 90-те години.[^capex2] Производството на водещи модели остава съсредоточено в САЩ и Китай.[^aiidx26-conc]","Концентрацията засяга и въпроса чии ценности носят моделите: изследванията показват, че ценностите, изразявани от езиковите модели, отразяват ограничена част от обществото.[^ccai-slice] Изследване на Шибани Сантуркар и съавтори с набора OpinionsQA установява значително разминаване между мненията на моделите и тези на 60 демографски групи в САЩ, сравнимо с разделението между демократи и републиканци по климатичните промени.[^santurkar1] Разминаването остава дори когато моделите са изрично насочвани към определена група, а някои групи — например хората над 65 години и овдовелите — са особено слабо представени.[^santurkar2] Глобалният индекс Global Dialogues на CIP за 2025 г. откроява и парадокс в доверието: 55% от анкетираните имат доверие на чатботовете с ИИ, но само около 34% се доверяват на компаниите, които ги създават.[^gdi-trust] Разривът между експертите и обществото също е голям: според AI Index за 2026 г. 73% от експертите очакват положително въздействие на ИИ върху начина, по който хората работят, срещу едва 23% от обществото.[^aiidx26-gap]","Самите водещи компании експериментират с корпоративни структури: Anthropic е дружество в обществена полза и през 2023 г. представя Тръст за дългосрочна полза (Long-Term Benefit Trust) — независим орган от петима членове без финансов интерес, който има право да избира и освобождава част от борда, нарастваща с времето до мнозинство.[^ltbt1] Компанията обяснява тази стъпка с това, че по подразбиране правата да избират, сменят и съдят директорите принадлежат изключително на акционерите.[^ltbt2] OpenAI завършва [[openai-transformatsia-nestopanska-tsel|преструктурирането си]] през октомври 2025 г.: нестопанската OpenAI Foundation запазва правен контрол върху дружеството в обществена полза OpenAI Group и държи 26% от него, а Microsoft — около 27%.[^tc-openai] Председателят на борда Брет Тейлър пише, че най-мощната технология в света трябва да се разработва по начин, който отразява колективните интереси на света.[^tc-taylor] Двете структури обаче остават вътрешнокорпоративни, а според CIP по подразбиране решенията с последици за световната общественост — кога и как да се пускат модели и по какви принципи да се държат — остават в ръцете на малък процент от засегнатите, което води до слепи петна, пропуснати точки на отказ и монокултура.[^cip-gd-default]"]},{"id":"kolektiven-konstitutsionen-ii-anthropic-i-cip","title":"Колективен конституционен ИИ (Anthropic и CIP)","paragraphs":["Най-известният експеримент е [[kolektiven-konstitutsionen-ai|колективният конституционен ИИ]]: през 2023 г. компанията Anthropic и Collective Intelligence Project провеждат процес за обществено участие с около хиляда американци, за да съставят „конституция“ за система с ИИ.[^ccai1] Участниците гласуват по готови правила или предлагат свои в платформата Pol.is — софтуер с отворен код за онлайн обсъждания, подпомогнати от алгоритми за машинно обучение.[^ccai-polis] Те внасят 1127 твърдения и подават 38 252 гласа, средно по 34 на човек, като Pol.is открива две отделни групи мнения при висока степен на съгласие по повечето твърдения.[^ccai-votes]","Публичната конституция се припокрива с вътрешната конституция на Anthropic в около 50% от понятията и ценностите, но поставя по-голям акцент върху обективността, безпристрастността и достъпността.[^ccai-overlap] Моделът, обучен по нея, е по-малко пристрастен от стандартния по девет социални измерения според теста BBQ, без съществени разлики в полезността и безвредността.[^ccai-bbq] CIP определя резултата като успех и вижда в него може би един от първите случаи, в които членове на обществото като група целенасочено насочват поведението на голям езиков модел.[^cip-ccai]","Процесът има и признати ограничения: Anthropic преценява, че представителна извадка от населението на САЩ е разумна и управляема първа стъпка, но признава, че тя е малка и не е представителна за света.[^ccai-limit] Освен това превръщането на обществените изказвания в принципи, годни за обучение, изисква „субективно съпоставяне“ от страна на екипа.[^ccai-mapping] Научната публикация по проекта, представена на конференцията ACM FAccT през 2024 г., го описва като първия езиков модел, дообучен със събран колективно обществен принос, и препоръчва бъдещи опити с разнообразни международни общности.[^ccai-paper]","При [[konstitutsiyata-na-claude|новата конституция на Claude]], публикувана през януари 2026 г., Anthropic посочва, че е търсила обратна връзка от външни експерти и от предишни версии на Claude, и изразява надежда с времето да възникне външна общност, която да критикува подобни документи.[^const26]"]},{"id":"democratic-inputs-to-ai-i-kolektivnoto-saglasuvane-na-openai","title":"Democratic Inputs to AI и колективното съгласуване на OpenAI","paragraphs":["През май 2023 г. нестопанската организация OpenAI, Inc. обявява програмата [[openai-demokratichni-vhodni-danni-za-ai|„Democratic Inputs to AI“]] за десет безвъзмездни гранта по 100 000 долара за експерименти с демократичен процес, който да решава какви правила да следват системите с ИИ в рамките на закона.[^oai-di1] Компанията заявява, че никой отделен човек, компания или дори държава не бива да диктува тези решения, но уточнява, че първите експерименти не са предназначени да бъдат обвързващи, поне засега.[^oai-di2] В поканата OpenAI сама изброява рисковете за подобни процеси — недостатъчно представяне на малцинствени или мнозинствени групи, манипулация от групи със специални интереси, недостатъчно информирани участници и „измиване чрез участие“.[^oai-di3] Програмата е определена като допълнение, а не като заместител на регулирането на ИИ от правителствата.[^oai-di4]","Компанията получава близо 1000 кандидатури от 113 държави и избира десет екипа с членове от 12 страни.[^oai-upd1] В отчета си от януари 2024 г. тя отбелязва, че общественото мнение се променя често, че участниците, набрани онлайн, са по-оптимистично настроени към ИИ и че повечето екипи срещат сериозни трудности да привлекат хора от другата страна на цифровото разделение.[^oai-upd2] Някои процеси откриват решения с широка подкрепа в поляризирани групи: всички насоки, изработени от екипа Collective Dialogues с американски участници, включително за информацията за ваксините, получават над 72% подкрепа сред демократи, независими и републиканци.[^oai-upd4] След програмата OpenAI създава екип „Collective Alignment“ (колективно съгласуване), който да внедри система за събиране и кодиране на обществения принос за поведението на моделите.[^oai-upd5]","През август 2025 г. компанията публикува резултатите от проучване с над 1000 души по света, чиито предпочитания са сравнени със спецификацията на моделите ѝ (Model Spec).[^oai-ca1] Участниците живеят в 19 държави, около една трета от тях в САЩ, а условието да четат на английски по признание на самата компания въвежда пристрастие при подбора.[^oai-ca2] Хората се съгласяват с класирането на модела, прилагащ спецификацията, средно в около 80% от случаите; OpenAI приема част от предложените промени, отлага други и отхвърля трети по принципни съображения или поради неосъществимост.[^oai-ca3] Компанията уточнява, че промените, предложени от обществото, по-трудно ще бъдат приети, колкото по-високо в йерархията на инструкциите стоят, особено на ниво платформа.[^oai-ca4]"]},{"id":"obshtnostnite-forumi-na-meta","title":"Общностните форуми на Meta","paragraphs":["Meta обявява на 22 юни 2023 г. създаването на „Общностен форум за генеративния ИИ“, който да даде обратна връзка за принципите, които хората искат да видят в новите технологии, и който се провежда в консултация със Станфордската лаборатория за делиберативна демокрация и Behavioural Insights Team.[^meta1] Ник Клег, президент по глобалните въпроси на компанията, свързва форума с подхода на Meta на отворено сътрудничество при споделянето на модели.[^meta2] Методът вече е изпробван от компанията при форум за метавселената.[^meta-metaverse]","Форумът използва метода на делиберативното допитване (Deliberative Polling) и събира 1545 участници от научно подбрани извадки в Бразилия, Германия, Испания и САЩ, които на 28–29 октомври 2023 г. обсъждат как чатботовете с ИИ трябва да общуват с хората.[^sdl23] През октомври 2024 г. третият форум на Meta обсъжда как агентите с ИИ да предлагат проактивни и персонализирани услуги и как да общуват с потребителите.[^sdl24] Форумите остават консултативни: според Meta изведените принципи „биха могли“ да помогнат при информирането на нейните системи.[^meta3]"]},{"id":"tayvan-asamblei-za-saglasuvane-i-podhodat-na-odri-tang","title":"Тайван: асамблеи за съгласуване и подходът на Одри Танг","paragraphs":["В Тайван Министерството на цифровите въпроси (moda) се присъединява през май 2023 г. към проекта на CIP „Асамблеи за съгласуване“ (Alignment Assemblies), за да осигури приложенията на ИИ да съответстват на интересите на хората.[^moda1] Първият съвместен пилотен процес през юли 2023 г. търси отговор как тайванската държавна политика да реагира на генеративния ИИ и обхваща авторското право, справедливото възнаграждение, пристрастията и дискриминацията, обществените услуги и по-широкото обществено въздействие.[^cip-aa-tw] Процесът продължава опита на [[vtaiwan-tsifrova-demokratsia|vTaiwan]], където Pol.is се използва в най-продължителното прилагане на платформата в национален мащаб.[^vtw1]","През март 2024 г. министерството провежда онлайн гражданско обсъждане на тема „Използване на ИИ за насърчаване на целостта на информацията“, с участници, подбрани чрез стратифицирана случайна извадка.[^moda2] Поканите са изпратени чрез правителствената SMS платформа „111“ до 200 000 случайно генерирани мобилни номера, а в обсъждането на 23 март участват 447 граждани, разпределени в 44 групи.[^partic1] Около 85% от участниците подкрепят по-строга саморегулация на големите платформи, а 89% смятат, че те трябва да използват нови технологии, за да установяват дали съдържанието е създадено с ИИ.[^partic2] След обсъждането moda събира международни доставчици на ИИ, сред които Meta, Google, Microsoft и OpenAI, за да обсъди механизми за анализ и разпознаване на генерирано съдържание.[^moda-pr]","Одри Танг, първият министър на цифровите въпроси на Тайван, твърди, че в рамките на месеци след обсъждането парламентът единодушно подкрепя нови закони, а до 2025 г. измамните реклами изчезват.[^tang1] Според нея това е „внимателност“ (attentiveness) — даване на хората на реална и постоянна власт да насочват технологиите, — и тя сочи модела на Community Notes, при който гражданите, а не корпорациите решават какво означава „съгласуван“ ИИ.[^tang2] Танг признава, че Community Notes е далеч от съвършенство, но го определя като преход от централизирани укази към проверима и разпределена власт за насочване.[^tang3] Танг, която описва пътя си като граждански технолог, после министър и днес посланик по киберпространството, свързва тайванския модел с години иновации в гражданските технологии и сътрудничество между секторите.[^tang-civic]"]},{"id":"collective-intelligence-project-i-global-dialogues","title":"Collective Intelligence Project и Global Dialogues","paragraphs":["Организацията Collective Intelligence Project провежда през 2023 г. поредица асамблеи за съгласуване с партньори като OpenAI, тайванското министерство на цифровите въпроси, Anthropic и фондацията Creative Commons.[^cip-aa1] Изходната ѝ теза е, че решенията за ИИ се вземат от малък процент от засегнатите и че разминаването между решенията с голямо въздействие и смисления колективен принос ще расте с ускоряването на възможностите на ИИ.[^cip-aa2] В първата асамблея, проведена с OpenAI през юни 2023 г., CIP използва инструменти за „уикипроучване“ (wikisurvey), за да състави класиран списък на рисковете от езиковите модели, които най-силно тревожат американското общество.[^cip-aa3]","CIP развива и платформата Global Dialogues заедно с Remesh и Prolific като инфраструктура за редовен глобален обществен принос към бъдещето на ИИ.[^cip-gd1] Организацията провежда асамблеите заедно с „ангажирани аудитории“ като OpenAI, Anthropic и британския Институт за безопасност на ИИ, които се задължават да вземат предвид гласа на обществото при решенията си.[^cip-gd2] Според индекса за 2025 г. в седем кръга участват над 6000 души от 70 държави.[^gdi1]"]},{"id":"grazhdanski-paneli-i-asamblei-za-ii","title":"Граждански панели и асамблеи за ИИ","paragraphs":["Белгия организира по време на председателството си на Съвета на ЕС първия по рода си граждански панел за ИИ в рамките на европейско председателство: шестдесет случайно избрани граждани обсъждат през три уикенда в двореца „Егмонт“ в Брюксел.[^oidp1] Участниците са изтеглени измежду получилите над 16 000 покани в цялата страна.[^bt1] Целта не е технически препоръки, а гражданска визия, която да помогне за насочване на европейската стратегия за ИИ за периода 2024–2029 г.[^oidp2] Вестник The Brussels Times отбелязва, че панелът няма да има конкретно въздействие върху законодателството, тъй като Европейският парламент вече е приел Акта за ИИ, и че целта е по-скоро диалог и проучване на обществените нагласи.[^bt2]","Във Великобритания организацията Connected by Data събира „Народен панел за ИИ“ от 12 представители на обществото, които наблюдават и обсъждат събитията около Срещата на върха за безопасността на ИИ през ноември 2023 г. и отправят препоръки към правителството, индустрията, гражданското общество и академичните среди.[^cbd-pp] В Швейцария Центърът за ИИ на EPFL, Женевският университет и Demoscan провеждат през ноември 2025 г. гражданска асамблея с 40 случайно избрани жители на френскоезичната част на страната, които формулират 20 предложения, съсредоточени върху защитата на личния живот, прозрачността и смисления човешки контрол.[^epfl]","На Срещата на върха за действия в областта на ИИ в Париж на 10–11 февруари 2025 г. е създадена Глобална коалиция за приобщаващ ИИ, инициирана от Missions Publiques и Станфордската лаборатория за делиберативна демокрация.[^dwb1] За първия цикъл 2025–2026 г. коалицията планира децентрализирани обсъждания и глобално делиберативно допитване с 10 000 граждани от над 100 държави, а към нея се присъединяват правителствата на Швейцария, Обединеното кралство и Франция.[^dwb2] Анализ на Connected by Data от 2024 г. очертава пет възможни модела: делиберативен преглед на срещите на върха и научните доклади, независима глобална асамблея за ИИ, разпределени диалози по света, процес на колективен интелект с помощта на технологии и включване на теми за ИИ в други делиберативни процеси.[^cbd-global]","Стефан Верхулст и Клаудия Хвалиш от DemocracyNext възразяват, че глобалната гражданска асамблея звучи добре, но на това равнище няма публична власт с реални правомощия, и предлагат местни и регионални асамблеи за ИИ.[^demnext] Те предлагат и граждански асамблеи за политиката на ЕС, тъй като част от най-важното ново законодателство за ИИ идва от Европейския съюз; по-подробно тези процеси са разгледани в статиите [[граждански-асамблеи-и-обществен-контрол-върху-изкуствения-интелект|Граждански асамблеи и обществен контрол върху изкуствения интелект]] и [[grazhdanska-asambleya|Гражданска асамблея]].[^demnext-eu]"]},{"id":"publichen-ii-i-suverenni-modeli","title":"Публичен ИИ и суверенни модели","paragraphs":["Идеята за „публичен ИИ“ (public AI) предлага ИИ да бъде публична инфраструктура, осигурявана като електричеството, водата, пътищата, библиотеките или самия интернет.[^pai1] Според мрежата Public AI Network такъв ИИ трябва да бъде публично достъпен, публично отчетен и да създава трайни обществени блага, защото системите трябва да отразяват ценностите на обществото, а не тези на акционерите.[^pai2] Бялата книга на мрежата от август 2024 г., с автори от Metagov, Aspen Institute, Public Knowledge, Berkman Klein Center и Chatham House, предлага пътна карта за публични инвестиции във всеки слой на технологичния стек на ИИ.[^zenodo]","Mozilla представя през септември 2024 г. своя визия за публичен ИИ като цяла паралелна екосистема, работеща на нетърговски стимули, която да бъде реална противотежест на частната.[^mozilla1] Организацията мотивира идеята с това, че обществото не може да разчита само на няколко компании да изградят всичко, от което се нуждае от ИИ.[^mozilla2] Докладът на фондация „Бертелсман“ подрежда решенията по степен на „публичност“, като най-високата степен е пример напълно публичната испанска система Alia, изградена с публични данни, модели и изчислителна инфраструктура.[^bst-alia] Същият доклад критикува „суверенните“ стратегии за ИИ, които често следват приоритетите на доминиращите търговски играчи и залагат на мащабни инвестиции в изчислителна мощ, като рискуват да затвърдят съществуващата асиметрия на властта.[^bst-sov]","Най-видимият пример за публичен модел е Apertus, пуснат на 2 септември 2025 г. от Швейцарската инициатива за ИИ — сътрудничество между EPFL, ETH Zurich и Швейцарския национален суперкомпютърен център (CSCS), в две версии с 8 и 70 милиарда параметъра под лиценза Apache 2.0.[^apertus1] Името означава „отворен“ на латински: архитектурата, теглата, данните и рецептите за обучение са публично достъпни и изцяло документирани.[^apertus2] Моделът е обучен върху 15 трилиона токена на над 1000 езика, като 40% от данните не са на английски, и включва слабо представени езици като швейцарски немски и реторомански.[^apertus3] Джошуа Тан от Public AI Inference Utility го определя като доказателство, че ИИ може да бъде публична инфраструктура като магистралите, водата или електричеството, а разработката е финансирана с над 10 милиона GPU-часа на суперкомпютъра „Алпс“ и от Борда на ETH.[^apertus4]","В ЕС проектът OpenEuroLLM разработва серия прозрачни и „наистина отворени“ езикови модели за европейските езици, съобразени с европейските правила и със запазване на езиковото и културното многообразие.[^oellm] Според AI Index за 2026 г. суверенитетът в областта на ИИ се превръща в определяща черта на националните политики, докато разработката с отворен код започва да преразпределя участието: приносът от останалия свят в GitHub вече изпреварва Европа и доближава САЩ.[^aiidx26-open]"]},{"id":"sporat-za-otvorenite-modeli","title":"Спорът за отворените модели","paragraphs":["Отворените модели бързо догонват затворените: според AI Index разликата в резултатите по някои тестове намалява от 8% на 1,7% само за една година, а цената за използване на система на нивото на GPT-3.5 пада над 280 пъти между ноември 2022 и октомври 2024 г.[^aiidx25-open] Дори авторите на критичен анализ от 2023 г., сред които Елизабет Сегер, признават, че отварянето на моделите позволява външен надзор, ускорява напредъка и децентрализира контрола върху разработката и ползването на ИИ.[^govai1] Те обаче стигат до извода, че при някои силно способни модели в близко бъдеще рисковете може да са достатъчно екстремни, за да надделеят над ползите, и такива модели не бива да се отварят, поне първоначално.[^govai2]","Марк Зукърбърг, основател и главен изпълнителен директор на Meta, защитава обратната позиция в есето си от юли 2024 г.: според него отвореният код ще гарантира, че властта не е съсредоточена в ръцете на малък брой компании, и ще бъде по-безопасен от алтернативите.[^zuck1] Той твърди също, че свят само със затворени модели би дал достъп до водещите модели на малък брой големи компании и на геополитическите противници на САЩ, докато стартъпите, университетите и малкият бизнес остават без възможности.[^zuck2]","Позиционна статия на Саяш Капур и още 24 съавтори посочва ползите от отворените модели за иновациите, конкуренцията, разпределението на властта за вземане на решения и прозрачността.[^kapoor1] Според тях наличните изследвания не са достатъчни, за да се определи допълнителният (маргинален) риск от злоупотреба с отворените модели спрямо вече съществуващите технологии, например при кибератаки и биологични оръжия.[^kapoor2] Американската администрация по телекомуникации NTIA в доклад от юли 2024 г., след 332 обществени коментара, заключава, че доказателствата не стигат нито за обосноваване на ограничения върху моделите с отворени тегла, нито за извода, че такива ограничения никога няма да са уместни, и препоръчва активно наблюдение на рисковете.[^ntia]","Дейвид Грей Уидър, Мередит Уитакър и Сара Майърс Уест възразяват в списание Nature през ноември 2024 г., че отвореността сама по себе си не нарушава концентрацията на власт в ИИ и че реториката за „отворен“ ИИ често се използва по начин, който я засилва.[^nature1] Те наричат „openwashing“ представянето като [[otvoreni-i-lokalni-modeli-na-izkustveniya-intelekt|отворени]] на системи като Llama 3 на Meta, които предлагат малко повече от достъп до модела при ограничителни условия за ползване.[^nature2] Според авторите дори максимално отвореният ИИ остава силно зависим от ресурсите на няколко големи корпорации и сам по себе си няма да доведе до по-разнообразна, отчетна или демократизирана екосистема.[^nature3]"]},{"id":"reguliraneto-kato-demokratichen-kontrol","title":"Регулирането като демократичен контрол","paragraphs":["[[es-zakon-za-izkustven-intelekt|Регламентът на ЕС за ИИ]] е одобрен от Европейския парламент с 523 гласа „за“, 46 „против“ и 49 „въздържал се“ и има за цел да защити основните права, демокрацията, върховенството на правото и околната среда от високорисковия ИИ.[^ep-vote] Той влиза в сила на 1 август 2024 г. и разделя системите на четири нива на риск, като забранява онези, които представляват явна заплаха за безопасността, препитанието и правата на хората.[^ec-risk] Като високорискови регламентът третира и системи в правосъдието и демократичните процеси, например за влияние върху избори, а гражданите получават право да подават жалби и да искат обяснения за решения, основани на такива системи.[^ep-hr]","Законодателството е предшествано от [[es-obshtestvena-konsultatsiya-byala-kniga-ai|обществена консултация по Бялата книга за ИИ]], в която граждани и заинтересовани страни дават мнение от 19 февруари до 14 юни 2020 г.[^ec-wp] Кодексът за добри практики за моделите с общо предназначение, публикуван на 10 юли 2025 г., е доброволен инструмент, изработен от независими експерти в многостранен процес.[^gpai1] Според адвокатската кантора Jones Day в този процес участват близо 1000 души.[^gpai2] Регламентът е изменен с т.нар. [[tsifrov-omnibus-za-izkustveniya-intelekt-2026|омнибус за ИИ]]: предложението е прието на 19 ноември 2025 г., политическото споразумение е постигнато на 7 май 2026 г., а измененията влизат в сила на 27 юли 2026 г.[^ec-omni] Организации като AlgorithmWatch определят окончателната сделка като дерегулация, която отлага задълженията за високорисковите системи и отслабва публичната прозрачност.[^aw]","[[savet-na-evropa-konventsiya-za-ai|Рамковата конвенция на Съвета на Европа]] за ИИ и правата на човека, демокрацията и върховенството на правото е открита за подписване на 5 септември 2024 г. и е първият международен правно обвързващ договор в тази област.[^coe1] Тя е изготвена от 46-те държави членки на Съвета на Европа, а сред подписалите я са и държави извън организацията като Канада, Израел, Япония, САЩ и Уругвай, както и Европейският съюз.[^coe2] Конвенцията изисква оценки на въздействието върху правата на човека, демокрацията и върховенството на правото и позволява на властите да въвеждат забрани или мораториуми за определени приложения („червени линии“).[^coe3]","Общото събрание на ООН приема на 26 август 2025 г. резолюция 79/325, с която създава Независим международен научен панел за ИИ от 40 членове и Глобален диалог за управлението на ИИ с участието на правителствата и всички заинтересовани страни.[^unres] [[oon-globalen-dialog-upravlenie-ai-zheneva-2026|Първата сесия на диалога]] се провежда в Женева на 6 юли 2026 г., а следващата е насрочена за май 2027 г. в Ню Йорк.[^unnews1] Специалният пратеник на ООН за цифровите технологии Амандийп Сингх Гил заявява там, че ИИ е твърде значим, за да бъде оформян от малцина.[^unnews2] Според AI Index за 2026 г. сред изследваните държави САЩ имат най-ниското доверие в собственото си правителство да регулира ИИ — 31%, а в световен мащаб на ЕС се гласува повече доверие като ефективен регулатор, отколкото на САЩ или Китай (вж. [[regulirane-na-izkustveniya-intelekt-po-sveta|Регулиране на изкуствения интелект по света]]).[^aiidx26-trust]"]},{"id":"kritiki-i-ogranicheniya","title":"Критики и ограничения","paragraphs":["Първото възражение е дали малка извадка може да говори от името на човечеството: OpenAI признава, че предварително избраните от нея въпроси оформят обратната връзка и че групата участници е малка спрямо световното население.[^oai-ca-limit] В програмата Democratic Inputs to AI всяка сесия на екипа Collective Dialogues включва малка група хора, убедени, че ограничаването на отговорите на асистентите по определени въпроси е погрешно при всички случаи, и понеже групата е малка, мнозинственото гласуване води до резултати, с които тя категорично не е съгласна; при стремежа към единно решение възниква напрежение между търсенето на консенсус и представянето на многообразието от мнения.[^oai-upd-cons]","Мона Слоун и съавтори предупреждават още през юли 2020 г. срещу „измиване чрез участие“ (participation-washing) и призовават общността на машинното обучение да внимава за експлоататорски и извличащи форми на включване на общностите.[^sloane] Абеба Бирхане и съавтори отбелязват, че няма яснота какво означава смислено участие и какво се очаква от него, и предупреждават за риск от кооптиране и смесване с други дейности.[^birhane] Изданието Democracy Technologies отбелязва, че на исканията за обществен глас отговаря преди всичко частният сектор, а не законодателите, и изразява опасение, че подобни процеси могат да отклонят вниманието от неотложната нужда от законодателство.[^dt-distr]","Културните и езиковите различия са второ ограничение: според OpenAI дори когато в процеса са включени граждани от страните на „глобалното мнозинство“, инструментите може да са по-малко полезни за тях заради ограничено разбиране на местния език или контекст.[^oai-upd3] Авторите на колективния конституционен ИИ препоръчват повече време за обсъждане и адаптиране на езика и представянето на процеса към културните и езиковите норми на общността.[^ccai-culture] Техническата сложност е трета пречка: в тайванското обсъждане гражданите възприемат темите като по-сложни, отколкото са очаквали, макар разбирането им за предизвикателствата да се подобрява след обсъждането.[^partic3]","Манон Ревел и Теофил Пениго предупреждават срещу опасно погрешни употреби на ИИ в демократичните иновации — превръщането му в механизъм за обвързващи решения, постепенното обезвластяване на гражданите или последващото оправдаване на политически резултати.[^revel] Според тях предпочитанията се оформят от контекста, в който се взема решението, и рядко се улавят обективно.[^revel2]"]},{"id":"vrazkata-s-pryakata-demokratsiya","title":"Връзката с пряката демокрация","paragraphs":["Методите, с които се събира мнението на обществото за ИИ, идват от [[deliberativna-demokratsia|делиберативната демокрация]], където граждански обсъждания вече са довели до промени в конституциите на Ирландия и Монголия.[^dt-ireland] Pol.is е платформа с отворен код, в която участниците пишат кратки твърдения до 140 знака и гласуват „съгласен“, „несъгласен“ или „пропускам“ по твърденията на другите, а системата може да обхване стотици хиляди участници.[^polis] В Тайван vTaiwan прилага този подход за създаване на цифрово законодателство, като първият тест през август 2015 г. е посветен на регулирането на услугата за споделено пътуване Uber.[^vtw2]","Същите инструменти се използват в две посоки — обществото чрез тях обсъжда правилата за ИИ, а ИИ се вгражда в самите процеси на обсъждане: в почти всички проекти по програмата на OpenAI самият ИИ има полезна роля в процеса чрез персонализирани чат интерфейси, превръщане на говор в текст и синтез на данни.[^oai-upd7] Google DeepMind обучава система от езикови модели — т.нар. [[habermas-machine-ai-mediator|„машина на Хабермас“]] — да действа като посредник, който обобщава зоните на съгласие в група по сложни обществени и политически въпроси; в изследването, публикувано в Science през октомври 2024 г., участват 5734 души.[^hm1] Част от участниците са набрани чрез Sortition Foundation, организация за граждански асамблеи, и образуват демографски представителна извадка от населението на Обединеното кралство.[^hm2] Според MIT Technology Review обаче технологията няма скоро да замени човешките посредници.[^hm3]","Участието само по себе си променя нагласите: в програмата на OpenAI участието в обсъждане на политика за ИИ прави хората по-склонни да смятат, че обществото е способно да помага в насочването на поведението на ИИ.[^oai-upd6] Същевременно индексът Global Dialogues показва, че 58% от хората имат повече доверие на чатботовете с ИИ, отколкото на избраните си представители, и че ИИ затвърждава убежденията по-силно от социалните мрежи.[^gdi2] По доверие ИИ се нарежда над религиозните лидери, корпорациите и държавните служители, като по-високо са само личните лекари и публичните научни институции — данни, които засягат спора дали ИИ ще засили [[pryaka-demokratsia|пряката демокрация]] или ще отслаби представителните институции (вж. [[izkustveniyat-intelekt-v-pryakata-demokratsia|Изкуственият интелект в пряката демокрация]]).[^gdi3]","Ключовият механизъм, който свързва двете посоки, е [[zhrebiy-kato-demokratichen-mehanizam|жребият]]: в тайванското обсъждане, по думите на Танг, четиристотин четиридесет и седем обикновени граждани, отразяващи населението по възраст, образование, регион и професия, обсъждат в групи по 10 души и търсят не пълно съгласие, а „необичайна обща основа“ — идеи, които хора с различни възгледи намират за разумни.[^tang-lot]"]},{"id":"balgarskiyat-kontekst","title":"Българският контекст","paragraphs":["Правителството на България одобрява „Концепция за развитието на изкуствения интелект в България до 2030 г.“ на 16 декември 2020 г.; тя се основава на стратегическите и програмните документи на Европейската комисия.[^oecd-bg] Според правен преглед на CMS от февруари 2026 г. регламентът на ЕС се прилага пряко, но в страната няма специален закон за ИИ, документът от 2020 г. е остарял, а подготвяната му актуализация още не е публикувана за обществено обсъждане.[^cms1] Към същия момент България още не е определила органите за надзор на пазара и нотифициращите органи по регламента.[^cms2]","Законопроект за използването и развитието на изкуствения интелект е внесен в Народното събрание на 24 септември 2026 г. и предвижда надзорът по регламента на ЕС да бъде разпределен между секторни органи.[^dpa] Предходен проект със същото име е представен от „Да, България“ с подкрепата на парламентарната група „Продължаваме промяната – Демократична България“ и предвижда национален координатор и орган за етичното използване на ИИ.[^bta1] Той предлага държавата да предоставя държавния облак за научни изследвания, а архивите на БТА, БНТ и БНР да могат да се използват за обучение на български модели.[^bta2] Според CMS проектът, внесен по-рано за обсъждане в парламентарните комисии, дотогава е получил отрицателни отзиви.[^cms3]","В областта на отворените модели институтът INSAIT в София представя BgGPT през януари 2024 г. като първия отворен голям езиков модел за български език, създаден за българската държава, потребителите и публичните и частните организации.[^insait1] Според INSAIT BgGPT не е корпоративна собственост и може да се използва свободно, а моделът ще бъде пуснат под разрешителния лиценз Apache 2.0 и организациите могат да го ползват локално, без да споделят чувствителни данни.[^insait2] През март 2025 г. съвместното предприятие EuroHPC избира шест нови места за „фабрики за ИИ“, сред които България: фабриката BRAIN++ в „София Тех Парк“ включва суперкомпютъра Discoverer++ и предвижда развитие на езикови модели за български език.[^eurohpc]"]},{"id":"tezata-za-ii-i-demokratizatsiyata-dokazatelstva-i-usloviya","title":"Тезата за ИИ и демократизацията: доказателства и условия","paragraphs":["Привържениците на тезата, че ИИ ще подпомогне по-прякото участие на гражданите, се позовават на опита от последните години: групи граждани обсъждат сложни въпроси за ИИ, а изводите им понякога водят до промени в правилата, както при спецификацията на OpenAI, която компанията обновява въз основа на събраните мнения.[^oai-ca5] Танг представя тайванския случай като доказателство за нещо фундаментално в начина, по който трябва да работи съгласуването на ИИ: решението не е поверено на експерти, а на граждани.[^tang4] Анализът на Connected by Data отбелязва нарастващ консенсус, че въпросите за управлението на ИИ не могат да бъдат решени само от технологичната индустрия или от отделни правителства и че световната общественост трябва да бъде смислено включена.[^cbd-consensus]","Възраженията имат същата тежест. Концентрацията на ресурси се засилва: Bloomberg сравнява капиталовите разходи на четирите големи компании за 2026 г. с изграждането на железопътната мрежа на САЩ през XIX век, следвоенните инвестиции в магистрали и програмите от епохата на „Новия курс“.[^capex3] Уидър, Уитакър и Уест показват, че отвореността сама по себе си не нарушава тази концентрация.[^nature4] При корпоративните процеси крайната дума остава у компанията: OpenAI например не приема искането на много участници за по-персонализирано политическо съдържание, като се позовава на рисковете от мащабно индивидуално политическо таргетиране.[^oai-ca6]","Connected by Data посочва като ключови въпроси при проектирането на такива процеси подбора на участниците, управлението, определянето на дневния ред, транснационалния диалог, обобщаването на изводите и използването на ИИ като инструмент; от описаните случаи личи, че участието има реален ефект, когато е свързано с институции с правомощия, представителен подбор, време за обучение, публична инфраструктура и обвързващо регулиране.[^cbd-design] Сегер и съавторите стигат до сходен извод: за да се премине от неясни обещания за демократизация към конкретни политики и компромиси, трябва да се признае водещата роля на демократизацията на управлението на ИИ.[^seger-final]"]}],"sources":[{"key":"seger","title":"Democratising AI: Multiple Meanings, Goals, and Methods","url":"https://arxiv.org/abs/2303.12642","note":"","publisher":"arXiv (Seger, Ovadya, Garfinkel, Siddarth, Dafoe)","published_at":"2023-03-22","language":"en","retrieved_at":"2026-10-24"},{"key":"cip4","title":"Four Approaches to Democratizing AI","url":"https://www.cip.org/research/democratizing-ai","note":"","publisher":"The Collective Intelligence Project","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260913090407/https://www.cip.org/research/democratizing-ai"},{"key":"aiidx25","title":"The 2025 AI Index Report","url":"https://hai.stanford.edu/ai-index/2025-ai-index-report","note":"","publisher":"Stanford HAI","published_at":"2025-04","language":"en","retrieved_at":"2026-10-24"},{"key":"aiidx26","title":"The 2026 AI Index Report","url":"https://hai.stanford.edu/ai-index/2026-ai-index-report","note":"","publisher":"Stanford HAI","published_at":"2026-04","language":"en","retrieved_at":"2026-10-24"},{"key":"ainow","title":"Computational Power and AI","url":"https://ainowinstitute.org/publication/policy/compute-and-ai","note":"","publisher":"AI Now Institute","published_at":"2023-09","language":"en","retrieved_at":"2026-10-24"},{"key":"nature","title":"Why ‘open’ AI systems are actually closed, and why this matters","url":"https://www.nature.com/articles/s41586-024-08141-1","note":"","publisher":"Nature (Widder, Whittaker, West)","published_at":"2024-11-27","language":"en","retrieved_at":"2026-10-24"},{"key":"capex","title":"Big Tech to Spend $650B This Year as AI Race Intensifies","url":"https://www.datacenterknowledge.com/hyperscalers/big-tech-to-spend-650b-this-year-as-ai-race-intensifies","note":"","publisher":"Data Center Knowledge (Bloomberg)","published_at":"2026-02-06","language":"en","retrieved_at":"2026-10-24"},{"key":"bst","title":"Public AI – White Paper","url":"https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Bibliothek/Doi_Publikationen/Public_AI_2025_01.pdf","note":"","publisher":"Bertelsmann Stiftung / Open Future","published_at":"2025-05","language":"en","retrieved_at":"2026-10-24"},{"key":"santurkar","title":"Whose Opinions Do Language Models Reflect?","url":"https://arxiv.org/abs/2303.17548","note":"","publisher":"arXiv (Santurkar et al.)","published_at":"2023-03-30","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260922150655/https://arxiv.org/abs/2303.17548"},{"key":"cipgdi","title":"2025 Global Dialogues Index: How the World Lives with AI","url":"https://www.cip.org/2025gdindex","note":"","publisher":"The Collective Intelligence Project","published_at":"2025","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260922144756/https://www.cip.org/2025gdindex"},{"key":"ltbt","title":"The Long-Term Benefit Trust","url":"https://www.anthropic.com/news/the-long-term-benefit-trust","note":"","publisher":"Anthropic","published_at":"2023-09-19","language":"en","retrieved_at":"2026-10-24"},{"key":"tcoai","title":"OpenAI completes its for-profit recapitalization","url":"https://techcrunch.com/2025/10/28/openai-completes-its-for-profit-recapitalization/","note":"","publisher":"TechCrunch","published_at":"2025-10-28","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261008013110/https://techcrunch.com/2025/10/28/openai-completes-its-for-profit-recapitalization/"},{"key":"cipgd","title":"Global Dialogues","url":"https://www.cip.org/globaldialogues","note":"","publisher":"The Collective Intelligence Project","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260913090329/https://www.cip.org/globaldialogues"},{"key":"antccai","title":"Collective Constitutional AI: Aligning a language model with public input","url":"https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input","note":"","publisher":"Anthropic","published_at":"2023-10-17","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013154748/https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input"},{"key":"cipccai","title":"CIP and Anthropic launch Collective Constitutional AI","url":"https://www.cip.org/blog/ccai","note":"","publisher":"The Collective Intelligence Project","published_at":"2023-10-17","language":"en","retrieved_at":"2026-10-24"},{"key":"ccaipaper","title":"Collective Constitutional AI: Aligning a Language Model with Public Input (ACM FAccT ’24)","url":"https://arxiv.org/html/2406.07814","note":"","publisher":"arXiv (Huang et al.)","published_at":"2024-06-12","language":"en","retrieved_at":"2026-10-24"},{"key":"const26","title":"Claude's new constitution","url":"https://www.anthropic.com/news/claude-new-constitution","note":"","publisher":"Anthropic","published_at":"2026-01-22","language":"en","retrieved_at":"2026-10-24"},{"key":"oaidi","title":"Democratic inputs to AI","url":"https://openai.com/index/democratic-inputs-to-ai/","note":"","publisher":"OpenAI","published_at":"2023-05-25","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260917233145/https://openai.com/index/democratic-inputs-to-ai/"},{"key":"oaiupd","title":"Democratic inputs to AI grant program: lessons learned and implementation plans","url":"https://openai.com/index/democratic-inputs-to-ai-grant-program-update/","note":"","publisher":"OpenAI","published_at":"2024-01-16","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260713195046/https://openai.com/index/democratic-inputs-to-ai-grant-program-update/"},{"key":"oaica","title":"Collective alignment: public input on our Model Spec","url":"https://openai.com/index/collective-alignment-aug-2025-updates/","note":"","publisher":"OpenAI","published_at":"2025-08-27","language":"en","retrieved_at":"2026-10-24"},{"key":"metacf","title":"Bringing People Together to Inform Decision-Making on Generative AI","url":"https://about.fb.com/news/2023/06/generative-ai-community-forum/","note":"","publisher":"Meta (Nick Clegg)","published_at":"2023-06-22","language":"en","retrieved_at":"2026-10-24"},{"key":"sdl23","title":"Meta Community Forum on Generative AI: 2023 Results Announced","url":"https://deliberation.stanford.edu/meta-community-forum-generative-ai-results","note":"","publisher":"Stanford Deliberative Democracy Lab","language":"en","retrieved_at":"2026-10-24"},{"key":"sdl24","title":"Meta Community Forum on Generative AI: 2024 Results Announced","url":"https://deliberation.stanford.edu/meta-community-forum-generative-ai-2024-results-announced","note":"","publisher":"Stanford Deliberative Democracy Lab","language":"en","retrieved_at":"2026-10-24"},{"key":"modaaa","title":"Alignment Assemblies","url":"https://moda.gov.tw/en/major-policies/alignment-assemblies/1453","note":"","publisher":"Ministry of Digital Affairs, Taiwan","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260814131617/https://moda.gov.tw/en/major-policies/alignment-assemblies/1453"},{"key":"modapr","title":"The Ministry of Digital Affairs Is Committed to Promoting Trustworthy AI by Organizing Deliberative Democratic Activities and Inviting International AI Companies for Opinion Exchange","url":"https://moda.gov.tw/en/press/press-releases/12648","note":"","publisher":"Ministry of Digital Affairs, Taiwan","published_at":"2024","language":"en","retrieved_at":"2026-10-24"},{"key":"partic","title":"Deliberative Polling on Utilizing AI to Enhance Information Integrity","url":"https://participedia.net/case/13316","note":"","publisher":"Participedia","language":"en","retrieved_at":"2026-10-24"},{"key":"cipaa","title":"Alignment Assemblies","url":"https://www.cip.org/alignmentassemblies","note":"","publisher":"The Collective Intelligence Project","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260917103438/https://www.cip.org/alignmentassemblies"},{"key":"vtw","title":"vTaiwan (case study)","url":"https://compdemocracy.org/case-studies/2014-vtaiwan/","note":"","publisher":"The Computational Democracy Project","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260911143417/https://compdemocracy.org/case-studies/2014-vtaiwan/"},{"key":"tang","title":"AI Alignment Cannot Be Top-Down","url":"https://ai-frontiers.org/articles/ai-alignment-cannot-be-top-down","note":"","publisher":"AI Frontiers (Audrey Tang)","published_at":"2025-11-03","language":"en","retrieved_at":"2026-10-24"},{"key":"oidp","title":"Citizens' Convention on AI in Belgium (2024)","url":"https://www.oidp.net/en/practice.php?id=1437","note":"","publisher":"International Observatory on Participatory Democracy (OIDP)","language":"en","retrieved_at":"2026-10-24"},{"key":"bt1","title":"First of its kind: Belgian Presidency organises citizen panels about AI","url":"https://brusselstimes.com/956915/first-of-its-kind-belgian-presidency-organises-citizen-panels-about-ai","note":"","publisher":"The Brussels Times","published_at":"2024-03-09","language":"en","retrieved_at":"2026-10-24"},{"key":"bt2","title":"'We all want a similar outcome': Citizens' panel has its say on AI","url":"https://brusselstimes.com/980637/we-all-want-a-similar-outcome-citizens-panel-has-its-say-on-ai","note":"","publisher":"The Brussels Times","published_at":"2024-03-26","language":"en","retrieved_at":"2026-10-24"},{"key":"cbdpp","title":"People's Panel on AI","url":"https://connectedbydata.org/projects/2023-peoples-panel-on-ai","note":"","publisher":"Connected by Data","published_at":"2023-11","language":"en","retrieved_at":"2026-10-24"},{"key":"epfl","title":"Citizen's Assembly on AI","url":"https://ai.epfl.ch/innovation/citizens-assembly-on-ai","note":"","publisher":"EPFL AI Center","language":"en","retrieved_at":"2026-10-24"},{"key":"dwb","title":"Coalition launched at AI Summit to advance citizens’ perspectives","url":"https://www.democracywithoutborders.org/36067/coalition-launched-at-ai-summit-to-advance-citizens-perspectives/","note":"","publisher":"Democracy Without Borders","published_at":"2025-03-20","language":"en","retrieved_at":"2026-10-24"},{"key":"cbdglobal","title":"Global Citizen Deliberation on Artificial Intelligence: Options and design considerations","url":"https://connectedbydata.org/resources/global-deliberation-ai","note":"","publisher":"Connected by Data (Tim Davies)","published_at":"2024-09-18","language":"en","retrieved_at":"2026-10-24"},{"key":"demnext","title":"AI Localism: An alternative vision to a global citizens' assembly","url":"https://demnext.substack.com/p/ai-localism-an-alternative-vision","note":"","publisher":"DemocracyNext","published_at":"2025-01-23","language":"en","retrieved_at":"2026-10-24"},{"key":"painet","title":"Public AI Network","url":"https://publicai.network/","note":"","publisher":"Public AI Network","language":"en","retrieved_at":"2026-10-24"},{"key":"zenodo","title":"Public AI: Infrastructure for the Common Good","url":"https://zenodo.org/records/13914560","note":"","publisher":"Public AI Network (Zenodo)","published_at":"2024-08-08","language":"en","retrieved_at":"2026-10-24"},{"key":"mozilla","title":"Creating a public counterpoint for AI","url":"https://blog.mozilla.org/en/mozilla/ai/public-ai-counterpoint/","note":"","publisher":"Mozilla","published_at":"2024-09-30","language":"en","retrieved_at":"2026-10-24"},{"key":"paiap","title":"With love, from Switzerland","url":"https://publicai.co/apertus","note":"","publisher":"Public AI Inference Utility","published_at":"2025-09-02","language":"en","retrieved_at":"2026-10-24"},{"key":"apertus","title":"Apertus: a fully open, transparent, multilingual language model","url":"https://ai.epfl.ch/apertus-a-fully-open-transparent-multilingual-language-model","note":"","publisher":"EPFL AI Center","published_at":"2025-09-02","language":"en","retrieved_at":"2026-10-24"},{"key":"oellm","title":"OpenEuroLLM","url":"https://openeurollm.eu/","note":"","publisher":"OpenEuroLLM","language":"en","retrieved_at":"2026-10-24"},{"key":"govai","title":"Open-Sourcing Highly Capable Foundation Models: An evaluation of risks, benefits, and alternative methods for pursuing open-source objectives","url":"https://arxiv.org/abs/2311.09227","note":"","publisher":"arXiv (Seger et al.)","published_at":"2023-09-29","language":"en","retrieved_at":"2026-10-24"},{"key":"zuck","title":"Open Source AI is the Path Forward","url":"https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/","note":"","publisher":"Meta (Mark Zuckerberg)","published_at":"2024-07-23","language":"en","retrieved_at":"2026-10-24"},{"key":"kapoor","title":"On the Societal Impact of Open Foundation Models","url":"https://arxiv.org/abs/2403.07918","note":"","publisher":"arXiv (Kapoor et al.)","published_at":"2024-02-27","language":"en","retrieved_at":"2026-10-24"},{"key":"ntia","title":"Dual-Use Foundation Models with Widely Available Model Weights Report","url":"https://www.ntia.gov/issues/artificial-intelligence/open-model-weights-report","note":"","publisher":"NTIA, U.S. Department of Commerce","published_at":"2024-07-30","language":"en","retrieved_at":"2026-10-24"},{"key":"epvote","title":"Artificial Intelligence Act: MEPs adopt landmark law","url":"https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law","note":"","publisher":"European Parliament","published_at":"2024-03-13","language":"en","retrieved_at":"2026-10-24"},{"key":"ecaia","title":"AI Act — Shaping Europe’s digital future","url":"https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai","note":"","publisher":"European Commission","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013170745/https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai"},{"key":"ecwp","title":"White Paper on Artificial Intelligence – a European approach to excellence and trust (consultation)","url":"https://digital-strategy.ec.europa.eu/en/consultations/white-paper-artificial-intelligence-european-approach-excellence-and-trust","note":"","publisher":"European Commission","published_at":"2020-02-19","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260904001515/https://digital-strategy.ec.europa.eu/en/consultations/white-paper-artificial-intelligence-european-approach-excellence-and-trust"},{"key":"ecgpai","title":"The General-Purpose AI Code of Practice","url":"https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai","note":"","publisher":"European Commission","published_at":"2025-07-10","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013205629/https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai"},{"key":"jonesday","title":"EU AI Act: European Commission Publishes General-Purpose AI Code of Practice","url":"https://www.jonesday.com/en/insights/2025/08/eu-ai-act-european-commission-publishes-generalpurpose-ai-code-of-practice","note":"","publisher":"Jones Day","published_at":"2025-08","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013213420/https://www.jonesday.com/en/insights/2025/08/eu-ai-act-european-commission-publishes-generalpurpose-ai-code-of-practice"},{"key":"aw","title":"The AI Omnibus: a rollback of AI safeguards before they even apply","url":"https://algorithmwatch.org/en/the-ai-omnibus-a-rollback-of-ai-safeguards-before-they-even-apply/","note":"","publisher":"AlgorithmWatch","published_at":"2026","language":"en","retrieved_at":"2026-10-24"},{"key":"coe","title":"The Framework Convention on Artificial Intelligence","url":"https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence","note":"","publisher":"Council of Europe","language":"en","retrieved_at":"2026-10-24"},{"key":"unres","title":"Resolution 79/325: Independent International Scientific Panel on AI and Global Dialogue on AI Governance","url":"https://www.un.org/pga/wp-content/uploads/sites/110/2025/12/A_RES_79_325-EN.pdf","note":"","publisher":"United Nations General Assembly","published_at":"2025-08-26","language":"en","retrieved_at":"2026-10-24"},{"key":"unnews","title":"From AI to ‘killer robots’: UN chief issues urgent governance call","url":"https://news.un.org/en/story/2026/07/1167873","note":"","publisher":"UN News","published_at":"2026-07-06","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261003073233/https://news.un.org/en/story/2026/07/1167873"},{"key":"sloane","title":"Participation is not a Design Fix for Machine Learning","url":"https://arxiv.org/abs/2007.02423","note":"","publisher":"arXiv (Sloane, Moss, Awomolo, Forlano)","published_at":"2020-07-05","language":"en","retrieved_at":"2026-10-24"},{"key":"birhane","title":"Power to the People? Opportunities and Challenges for Participatory AI","url":"https://arxiv.org/abs/2209.07572","note":"","publisher":"arXiv (Birhane et al.)","published_at":"2022-09-15","language":"en","retrieved_at":"2026-10-24"},{"key":"dt","title":"The Race to Democratise AI","url":"https://democracy-technologies.org/?p=3421","note":"","publisher":"Democracy Technologies","published_at":"2023-10-25","language":"en","retrieved_at":"2026-10-24"},{"key":"revel","title":"AI-Enhanced Deliberative Democracy and the Future of the Collective Will","url":"https://arxiv.org/abs/2503.05830","note":"","publisher":"arXiv (Revel, Pénigaud)","published_at":"2025-03-06","language":"en","retrieved_at":"2026-10-24"},{"key":"polis","title":"Polis","url":"https://compdemocracy.org/polis/","note":"","publisher":"The Computational Democracy Project","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013155016/https://compdemocracy.org/polis/"},{"key":"mittr","title":"AI could help people find common ground during deliberations","url":"https://www.technologyreview.com/2024/10/17/1105810/ai-could-help-people-find-common-ground-during-deliberations/","note":"","publisher":"MIT Technology Review","published_at":"2024-10-17","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013205708/https://www.technologyreview.com/2024/10/17/1105810/ai-could-help-people-find-common-ground-during-deliberations/"},{"key":"oecdbg","title":"Concept for the Development of AI in Bulgaria Until 2030","url":"https://oecd.ai/en/dashboards/policy-initiatives/concept-for-the-development-of-ai-in-bulgaria-until-2030-4622","note":"","publisher":"OECD.AI Policy Navigator","language":"en","retrieved_at":"2026-10-24"},{"key":"cms","title":"AI laws and regulation in Bulgaria","url":"https://cms.law/en/int/expert-guides/ai-regulation-scanner/bulgaria","note":"","publisher":"CMS Expert Guide","published_at":"2026-02-17","language":"en","retrieved_at":"2026-10-24"},{"key":"dpa","title":"Bulgaria: Law on the use and development of artificial intelligence was introduced to Parliament (Bill No. 52-654-01-151)","url":"https://digitalpolicyalert.org/event/44014-law-on-the-use-and-development-of-artificial-intelligence-implementing-eu-ai-act-including-artificial-intelligence-authority-governance-was-introduced-to-parliament-no-52-654-01-151","note":"","publisher":"Digital Policy Alert","published_at":"2026-09-24","language":"en","retrieved_at":"2026-10-24"},{"key":"bta","title":"Предоставяне на целево финансиране за използване на изкуствен интелект предвижда нов законопроект на „Да, България“","url":"https://www.bta.bg/bg/videos/30848","note":"","publisher":"БТА","published_at":"2025-09-23","language":"bg","retrieved_at":"2026-10-24"},{"key":"insait","title":"INSAIT announced BgGPT – the first open AI model for Bulgarian language","url":"https://insait.ai/insait-announced-bggpt/","note":"","publisher":"INSAIT","published_at":"2024-01-16","language":"en","retrieved_at":"2026-10-24"},{"key":"eurohpc","title":"The EuroHPC JU Selects Additional AI Factories to Strengthen Europe’s AI Leadership","url":"https://eurohpc-ju.europa.eu/eurohpc-ju-selects-additional-ai-factories-strengthen-europes-ai-leadership-2025-03-12_en","note":"","publisher":"EuroHPC Joint Undertaking","published_at":"2025-03-12","language":"en","retrieved_at":"2026-10-24"}],"citations":[{"id":"lead-four","source_key":"seger","locator":"","excerpt":"This paper identifies four kinds of AI democratisation that are commonly discussed: (1) the democratisation of AI use, (2) the democratisation of AI development, (3) the democratisation of AI profits, and (4) the democratisation of AI governance.","note":""},{"id":"lead-takeaway","source_key":"seger","locator":"","excerpt":"Elizabeth Seger, Aviv Ovadya, Ben Garfinkel, Divya Siddarth, Allan Dafoe ... The main takeaway from this paper is that AI democratisation is a multifarious and sometimes conflicting concept that should not be conflated with improving AI accessibility.","note":""},{"id":"lead-conc","source_key":"aiidx26","locator":"","excerpt":"Industry produced over 90% of notable frontier models in 2025 ... U.S. private AI investment reached $285.9 billion in 2025, more than 23 times the $12.4 billion invested in China","note":""},{"id":"lead-race","source_key":"dt","locator":"","excerpt":"Over the last year, several major AI developers, including Meta and OpenAI, have started taking an interest in deliberative democracy tools. The aim: to collect public inputs on the regulation of AI. ... A report published last week by AI developers Anthropic argues that they can.","note":""},{"id":"lead-aiact","source_key":"ecaia","locator":"","excerpt":"The AI Act (Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence) is the first-ever comprehensive legal framework on AI worldwide.","note":""},{"id":"lead-washing","source_key":"dt","locator":"","excerpt":"Among those calling for change is Aviv Ovadya, a research fellow at the newDemocracy Foundation. ... The biggest risk is that this becomes a permanent form of democracy washing","note":""},{"id":"lead-vtw","source_key":"cipaa","locator":"","excerpt":"This pilot adapted the vTaiwan process to the question of generative AI","note":""},{"id":"seger-calls","source_key":"seger","locator":"","excerpt":"Numerous parties are calling for the democratisation of AI, but the phrase is used to refer to a variety of goals, the pursuit of which sometimes conflict.","note":""},{"id":"seger-four","source_key":"seger","locator":"","excerpt":"Democratising AI: Multiple Meanings, Goals, and Methods ... Submitted on 22 Mar 2023 ... (1) the democratisation of AI use, (2) the democratisation of AI development, (3) the democratisation of AI profits, and (4) the democratisation of AI governance","note":""},{"id":"cip-use","source_key":"cip4","locator":"","excerpt":"Democratization of use: Addressing the AI divide ... Closing the AI divide via broad public education, reskilling, and generally making it easier for people of all backgrounds to access helpful capabilities.","note":""},{"id":"cip-dev","source_key":"cip4","locator":"","excerpt":"Democratization of development: Co-design of AI systems ... invest in open-source models specifically designed for public interest use cases (such as in health, education, financial literacy).","note":""},{"id":"cip-ben","source_key":"cip4","locator":"","excerpt":"Democratization of benefits: Broadly distributing gains from AI ... Pooled public-private funding into an ‘AI commons’, with shared compute, datasets, benchmarks, and other resources to allow for greater access to cutting-edge benefits.","note":""},{"id":"cip-gov","source_key":"cip4","locator":"","excerpt":"Democratization of governance: Collective decision-making over AI futures The public should be actively included in making critical value decisions and adjudicating complex values tradeoffs, for example between safety and innovation.","note":""},{"id":"seger-gov","source_key":"seger","locator":"","excerpt":"we need to recognise the principal role of the democratisation of AI governance in navigating tradeoffs and risks across decisions around use, development, and profits.","note":""},{"id":"cip-trilemma","source_key":"cip4","locator":"","excerpt":"Written By Divya Siddarth ... Our governance approaches currently fall prey to the transformative technology trilemma. They assume significant trade-offs between progress, participation, and safety. Market-forward builders tend to sacrifice safety for progress; risk-averse technocrats tend to sacrifice participation for safety; participation-centered democrats tend to sacrifice progress for participation.","note":""},{"id":"cip-first2","source_key":"cip4","locator":"","excerpt":"While most public discussions of AI democratization focus on the first two—democratizing AI use and development—we believe that very little progress can be made without commensurate investment in the democratization of AI benefits and governance.","note":""},{"id":"ainow-mono","source_key":"ainow","locator":"","excerpt":"is a core dependency in building large-scale AI. ... It is profoundly monopolized at key points in the supply chain by one or a small handful of firms.","note":""},{"id":"ainow-firms","source_key":"ainow","locator":"","excerpt":"This puts cloud infrastructure firms like Amazon Web Services (AWS), Google Cloud, and Microsoft Azure, as well as the chip design firm Nvidia and chip fabrication firm Taiwan Semiconductor Manufacturing Company (TSMC), in a dominant position.","note":""},{"id":"ainow-who","source_key":"ainow","locator":"","excerpt":"it affects who can build AI, what kind of AI gets built, and who profits along the way.","note":""},{"id":"bst-compute","source_key":"bst","locator":"","excerpt":"Gütersloh May 2025 Publisher Bertelsmann Stiftung ... Supported by Open Future Authors ... These concentrations of power occur, first of all, at the compute layer. ... on the three dominant cloud providers – Amazon, Microsoft and Google – and on Nvidia, which currently holds an overwhelming share of the chip market.","note":""},{"id":"aiidx25-inv","source_key":"aiidx25","locator":"","excerpt":"In 2024, U.S. private AI investment grew to $109.1 billion—nearly 12 times China’s $9.3 billion and 24 times the U.K.’s $4.5 billion.","note":""},{"id":"aiidx26-inv","source_key":"aiidx26","locator":"","excerpt":"U.S. private AI investment reached $285.9 billion in 2025, more than 23 times the $12.4 billion invested in China—though looking at just private investment figures likely understates China’s total AI spending, given its government guidance funds.","note":""},{"id":"capex","source_key":"capex","locator":"","excerpt":"Four of the biggest US technology companies together have forecast capital expenditures that will reach about $650 billion in 2026 – a mind-boggling tide of cash earmarked for new data centers and all the gear housed within them. The spending planned by Alphabet, Amazon, Meta Platforms, and Microsoft","note":""},{"id":"capex2","source_key":"capex","locator":"","excerpt":"requires going back at least as far as the telecommunications bubble of the 1990s ... in total, an estimated 60% increase from a year ago","note":""},{"id":"aiidx26-conc","source_key":"aiidx26","locator":"","excerpt":"Yet model production remains concentrated in the U.S. and China.","note":""},{"id":"ccai-slice","source_key":"ccaipaper","locator":"","excerpt":"sociotechnical research continues to reveal how the values expressed by these models do in actuality tend to reflect a limited slice of society","note":""},{"id":"santurkar1","source_key":"santurkar","locator":"","excerpt":"Shibani Santurkar, Esin Durmus, Faisal Ladhak ... we create OpinionsQA, a new dataset for evaluating the alignment of LM opinions with those of 60 US demographic groups over topics ranging from abortion to automation. Across topics, we find substantial misalignment between the views reflected by current LMs and those of US demographic groups: on par with the Democrat-Republican divide on climate change.","note":""},{"id":"santurkar2","source_key":"santurkar","locator":"","excerpt":"Notably, this misalignment persists even after explicitly steering the LMs towards particular demographic groups. ... surfaces groups whose opinions are poorly reflected by current LMs (e.g., 65+ and widowed individuals).","note":""},{"id":"gdi-trust","source_key":"cipgdi","locator":"","excerpt":"Download 2025 Global Dialogues Index ... 55% of people trust AI chatbots while only about 34% trust AI companies.","note":""},{"id":"aiidx26-gap","source_key":"aiidx26","locator":"","excerpt":"The Official Chinese Version of the 2026 AI Index Report ... When it comes to how people do their jobs, 73% of experts expect a positive impact, compared with just 23% of the public, a 50-point gap.","note":""},{"id":"ltbt1","source_key":"ltbt","locator":"","excerpt":"Published Sep 19, 2023 ... The Trust is an independent body of five financially disinterested members with an authority to select and remove a portion of our Board that will grow over time (ultimately, a majority of our Board). Paired with our Public Benefit Corporation status","note":""},{"id":"ltbt2","source_key":"ltbt","locator":"","excerpt":"Importantly, the rights to elect, remove, and sue directors belong exclusively to the stockholders.","note":""},{"id":"tc-openai","source_key":"tcoai","locator":"","excerpt":"October 28, 2025 OpenAI on Tuesday said it had completed its recapitalization ... the non-profit OpenAI Foundation will have legal control over a public benefit corporation called OpenAI Group ... the OpenAI Foundation will own 26% of the for-profit, with a warrant for additional shares to be granted if the company continues to grow. Microsoft, an early investor in OpenAI, will hold a roughly 27% stake","note":""},{"id":"tc-taylor","source_key":"tcoai","locator":"","excerpt":"We believe that the world’s most powerful technology must be developed in a way that reflects the world’s collective interests,” OpenAI chairman Bret Taylor wrote in a blog post.","note":""},{"id":"cip-gd-default","source_key":"cipgd","locator":"","excerpt":"This year, choices that are consequential for the global public at large—how and when to release models, determining underlying principles for AI behavior, building for cultural pluralism and language diversity—will be made. By default, these decisions fall to a small percentage of those likely to be affected: a recipe for blind spots, overlooked points of failure, and monoculture.","note":""},{"id":"ccai1","source_key":"antccai","locator":"","excerpt":"Oct 17, 2023 Anthropic and the Collective Intelligence Project recently ran a public input process involving ~1,000 Americans to draft a constitution for an AI system.","note":""},{"id":"ccai-polis","source_key":"antccai","locator":"","excerpt":"Polis is an open-source platform for running online deliberative processes augmented by machine learning algorithms. ... Participants could either vote on existing rules (normative principles), or add their own.","note":""},{"id":"ccai-votes","source_key":"antccai","locator":"","excerpt":"In total, participants contributed 1,127 statements to the Polis, and cast 38,252 votes (an average of 34 votes per person). In general, we found a high degree of consensus on most statements, though Polis did identify two separate opinion groups","note":""},{"id":"ccai-overlap","source_key":"antccai","locator":"","excerpt":"While there was a moderate degree of overlap between the two constitutions (roughly 50% overlap in concepts and values), a few key differences stood out: principles in the public constitution appear to largely be self-generated and not sourced from existing publications, they focus more on objectivity and impartiality, they place a greater emphasis on accessibility","note":""},{"id":"ccai-bbq","source_key":"antccai","locator":"","excerpt":"we computed Elo scores for helpfulness and harmlessness for all three models ... and found no significant differences. The Public model is less biased than the Standard model across nine social dimensions according to the BBQ evaluation","note":""},{"id":"cip-ccai","source_key":"cipccai","locator":"","excerpt":"We’d call this a success! More than the resulting model, we’re excited about the process. We believe that this may be one of the first instances in which members of the public have, as a group, intentionally directed the behavior of a large language model.","note":""},{"id":"ccai-limit","source_key":"antccai","locator":"","excerpt":"determined that a representative sample of the U.S. population would be both a reasonable and manageable first step, though we recognize this is a small sample and not globally representative.","note":""},{"id":"ccai-mapping","source_key":"antccai","locator":"","excerpt":"As a result, we had to do some subjective mapping between public statements and CAI-ready public principles.","note":""},{"id":"ccai-paper","source_key":"ccaipaper","locator":"","excerpt":"ACM Conference on Fairness, Accountability, and Transparency; June 3–6, 2024; Rio de Janeiro ... the first LM fine-tuned with collectively sourced public input ... First, our participant sample is small and not globally representative. Testing with diverse, international communities could yield different principles and model behaviors","note":""},{"id":"const26","source_key":"const26","locator":"","excerpt":"Published Jan 22, 2026 ... While writing the constitution, we sought feedback from various external experts (as well as asking for input from prior iterations of Claude). ... Over time, we hope that an external community can arise to critique documents like this","note":""},{"id":"oai-di1","source_key":"oaidi","locator":"","excerpt":"OpenAI May 25, 2023 Publication Democratic inputs to AI ... Our nonprofit organization, OpenAI, Inc., is launching a program to award ten $100,000 grants to fund experiments in setting up a democratic process for deciding what rules AI systems should follow, within the bounds defined by the law.","note":""},{"id":"oai-di2","source_key":"oaidi","locator":"","excerpt":"No single individual, company, or even country should dictate these decisions. ... While these initial experiments are not (at least for now) intended to be binding for decisions","note":""},{"id":"oai-di3","source_key":"oaidi","locator":"","excerpt":"Several issues can undermine democratic processes, such as the failure to adequately represent minority or majority groups, manipulation by special interest groups, insufficiently informed participants, or participation","note":""},{"id":"oai-di4","source_key":"oaidi","locator":"","excerpt":"we view our efforts as complements rather than substitutes for regulation of AI by governments","note":""},{"id":"oai-upd1","source_key":"oaiupd","locator":"","excerpt":"We received nearly 1,000 applications across 113 countries. There were far more than 10 qualified teams, but a joint committee of OpenAI employees and external experts in democratic governance selected the final 10 teams to span a set of diverse backgrounds and approaches: the chosen teams have members from 12 different countries","note":""},{"id":"oai-upd2","source_key":"oaiupd","locator":"","excerpt":"January 16, 2024 Safety Democratic inputs to AI grant program: lessons learned and implementation plans ... Interestingly, many teams found that public opinion changed frequently ... Some teams found that participants recruited online leaned more optimistic toward AI ... most teams faced serious difficulty in recruiting participants across the digital divide.","note":""},{"id":"oai-upd4","source_key":"oaiupd","locator":"","excerpt":"For example, all policy guidelines generated by the Collective Dialogues process with U.S. participants —including on vaccine information, a known divisive issue— had over 72% support across Democrats, Independents, and Republicans.","note":""},{"id":"oai-upd5","source_key":"oaiupd","locator":"","excerpt":"we are forming a “Collective Alignment” team consisting of researchers and engineers that will: Implement a system for collecting and encoding public input on model behavior into our systems.","note":""},{"id":"oai-ca1","source_key":"oaica","locator":"","excerpt":"August 27, 2025 Publication Collective alignment: public input on our Model Spec We surveyed over 1,000 people worldwide on how our models should behave and compared their views to our Model Spec.","note":""},{"id":"oai-ca2","source_key":"oaica","locator":"","excerpt":"Participants lived in 19 countries (originally hailing from 50+) ... About a third lived in the US ... Additionally, the English reading inclusion and other criteria introduced selection bias.","note":""},{"id":"oai-ca3","source_key":"oaica","locator":"","excerpt":"We adopted some changes, deferred others to upcoming work, and set aside others based on principle or feasibility. ... On average, people agreed with the Model Spec Ranker ~80% of the time.","note":""},{"id":"oai-ca4","source_key":"oaica","locator":"","excerpt":"changes will be less likely to be adopted the higher up the hierarchy they go, especially at the platform-level.","note":""},{"id":"meta1","source_key":"metacf","locator":"","excerpt":"June 22, 2023 ... That’s why we are launching a Community Forum on Generative AI aimed at producing feedback on the principles people want to see reflected in new AI technologies. The Community Forum will be held in consultation with Stanford Deliberative Democracy Lab and the Behavioural Insights Team","note":""},{"id":"meta2","source_key":"metacf","locator":"","excerpt":"By Nick Clegg, President, Global Affairs ... is consistent with our open collaboration approach to sharing AI models.","note":""},{"id":"meta-metaverse","source_key":"metacf","locator":"","excerpt":"Today, Stanford is also publishing the output of our Metaverse Community Forum, which took place in December.","note":""},{"id":"sdl23","source_key":"sdl23","locator":"","excerpt":"based on the method of Deliberative Polling®. This groundbreaking event, part of a series of efforts by Meta to consult the public, engaged 1,545 participants in scientific samples from Brazil, Germany, Spain, and the United States. On October 28-29, 2023, participants from these countries gathered on the Stanford Online Deliberation Platform, developed by the Stanford Crowdsourced Democracy Team, to consider future directions for the development of AI chatbots and how they should interact with humans.","note":""},{"id":"sdl24","source_key":"sdl24","locator":"","excerpt":"In October 2024, Meta, in collaboration with the Stanford Deliberative Democracy Lab, implemented the third Meta Community Forum. ... the participants deliberated on ‘how should AI agents provide proactive, personalized experiences for users?’ and ‘how should AI agents and users interact?’","note":""},{"id":"meta3","source_key":"metacf","locator":"","excerpt":"These principles could then help inform our systems.","note":""},{"id":"moda1","source_key":"modaaa","locator":"","excerpt":"In May 2023, the Ministry of Digital Affairs (moda) partnered with the international nongovernmental organization Collective Intelligence Project (CIP) to participate in the Alignment Assemblies project to ensure the application of artificial intelligence (AI) is consistent with the people’s interests","note":""},{"id":"cip-aa-tw","source_key":"cipaa","locator":"","excerpt":"v2: Democratizing AI Futures, July 2023 Core question: How should the Ideathon, and Taiwan’s governmental policy more broadly, respond to generative AI? Partner: Ministry of Digital Affairs, Taiwan ... covering questions of copyright, due compensation, bias and discrimination, fair use, public service, and broader societal impacts.","note":""},{"id":"vtw1","source_key":"vtw","locator":"","excerpt":"today vTaiwan contains the longest running, national-scale implementation of Polis.","note":""},{"id":"moda2","source_key":"modaaa","locator":"","excerpt":"in March 2024, the Ministry of Digital Affairs held an online citizen deliberative assembly on \"Utilizing AI to Promote Information Integrity.\" Through stratified random sampling, statistically representative citizens from all over Taiwan can participate","note":""},{"id":"partic1","source_key":"partic","locator":"","excerpt":"Recruitment involved sending survey through the official “111” SMS platform to 200,000 randomly generated mobile numbers, resulting in a total of 1,760 valid respondents. On March 23rd, the entire afternoon featured two sessions of deliberation assemblies attended by a total of 447 citizens, who were randomly assigned to 44 citizen deliberation groups.","note":""},{"id":"partic2","source_key":"partic","locator":"","excerpt":"About 85% citizen participants support stronger self-regulation by large platforms. 89% participants indicate that large platforms should employ new technologies to ascertain whether certain platform content is AI-generated","note":""},{"id":"moda-pr","source_key":"modapr","locator":"","excerpt":"the moda convened leading international AI vendors to discuss strengthening platform analysis and identification mechanisms and submitting language models (LLMs) to the AI assessment center. Participating vendors included Meta, Google, Microsoft, and OpenAI","note":""},{"id":"tang1","source_key":"tang","locator":"","excerpt":"Within months, we had unanimous parliamentary support for new laws. By 2025, the scam ads were gone. ... Audrey Tang is Taiwan’s cyber ambassador and first digital minister","note":""},{"id":"tang2","source_key":"tang","locator":"","excerpt":"Community Notes offers a better model — where citizens, not corporations, decide what “aligned” means. ... This is what I call attentiveness: giving the people real, ongoing power to steer technology.","note":""},{"id":"tang3","source_key":"tang","locator":"","excerpt":"Community Notes is far from perfect, but it represents a move from centralized edicts to auditable, distributed steering power.","note":""},{"id":"tang-civic","source_key":"tang","locator":"","excerpt":"First as a civic technologist, then as Taiwan’s digital minister, and now as its cyber ambassador, I have seen how years of civic-tech innovation and cross-sector collaboration in Taiwan have produced a system for attentive technological alignment.","note":""},{"id":"cip-aa1","source_key":"cipaa","locator":"","excerpt":"2023 Roadmap v0: Summit for Democracy, March 2023 ... Partner: OpenAI ... Partner: Ministry of Digital Affairs, Taiwan ... Partner: Anthropic ... Partner: Creative Commons Foundation.","note":""},{"id":"cip-aa2","source_key":"cipaa","locator":"","excerpt":"these decisions fall to a small percentage of those likely to be affected. This disconnect between high impact decisions and meaningful collective input will only grow as AI capabilities accelerate.","note":""},{"id":"cip-aa3","source_key":"cipaa","locator":"","excerpt":"v1: Democratizing Risk Assessments, June 2023 Core question: what does the US public want to measure and mitigate when it comes to LLM risks and harms? Partner: OpenAI This pilot used state-of-the-art wikisurvey tools to produce a ranked list of risks that are most concerning to the US public.","note":""},{"id":"cip-gd1","source_key":"cipgd","locator":"","excerpt":"Global AI Dialogues, built in partnership with Remesh and Prolific, creates the infrastructure for regular global public input into the future of AI.","note":""},{"id":"cip-gd2","source_key":"cipgd","locator":"","excerpt":"CIP ran a series of alignment assemblies in 2023-24 alongside committed audiences like OpenAI, Anthropic, and the UK AISI, where partners committed to taking into account public voice in their decision-making.","note":""},{"id":"gdi1","source_key":"cipgdi","locator":"","excerpt":"Download 2025 Global Dialogues Index The decisions shaping AI are made by a small number of people. But they will affect everyone. Through seven rounds of deliberation with more than 6,000 people across 70 countries","note":""},{"id":"oidp1","source_key":"oidp","locator":"","excerpt":"On the occasion of the Belgian Presidency of the Council of the European Union (December 1, 2023 – June 30, 2024), an innovative citizens' panel was set up to reflect on the future of artificial intelligence (AI) in Europe. ... For the first time in the context of a European presidency, sixty randomly selected Belgian citizens were brought together to debate over three weekends at the Egmont Palace in Brussels.","note":""},{"id":"bt1","source_key":"bt1","locator":"","excerpt":"The participants were selected at random from over 16,000 invitations sent out across Belgium.","note":""},{"id":"oidp2","source_key":"oidp","locator":"","excerpt":"The initiative did not aim to produce technical recommendations, but rather to bring forth an ambitious and inclusive citizen vision that could help guide the European AI strategy for the 2024–2029 period.","note":""},{"id":"bt2","source_key":"bt2","locator":"","excerpt":"Indeed, the panel will have no concrete impact on legislation – the AI Act was adopted by the European Parliament earlier this month. The objective is rather to engage people in dialogue and gauge the societal feeling towards AI.","note":""},{"id":"cbd-pp","source_key":"cbdpp","locator":"","excerpt":"The People’s Panel on AI brought together representative members of the public to attend, observe and discuss key events at the AI Fringe, which was held alongside the UK Government’s AI Safety Summit at the beginning of November 2023. Through a deliberative process facilitated by Hopkins Van Mil the People’s Panel on AI produced a public report giving their verdict on AI and their recommendations to government, industry, civil society and academia for further action. ... The People’s Panel on AI is bringing together 12 diverse members of the public to attend, observe","note":""},{"id":"epfl","source_key":"epfl","locator":"","excerpt":"a pioneering initiative organized in november 2025 by the EPFL AI Center in collaboration with the Research Hub on Democratic Innovations at the University of Geneva and Demoscan. ... as well as the reflections of 40 randomly selected citizens of Romandie representing the diversity of the population. Through 20 concrete proposals, participants outline the foundations of responsible AI governance, centered on privacy protection, transparency, and meaningful human control.","note":""},{"id":"dwb1","source_key":"dwb","locator":"","excerpt":"During the AI Action Summit, held in Paris on February 10-11, 2025, a Global Coalition for Inclusive AI was officially launched. Co-initiated by Missions Publiques and the Stanford Deliberative Democracy Lab","note":""},{"id":"dwb2","source_key":"dwb","locator":"","excerpt":"For its first deliberation cycle (2025-2026), the coalition plans to combine two approaches: a series of decentralized deliberative dialogues and a global deliberative poll, aiming to engage 10,000 citizens from over 100 countries. ... Several governments, including Switzerland, the United Kingdom, and France, have joined the coalition.","note":""},{"id":"cbd-global","source_key":"cbdglobal","locator":"","excerpt":"Sep 18, 2024 ... setting out five template options: deliberative review of AI summits and scientific reports; an independent global assembly on AI; a series of distributed dialogues organized across the globe; a technology-enabled collective intelligence process; and commissioning of AI topics in other deliberative processes.","note":""},{"id":"demnext","source_key":"demnext","locator":"","excerpt":"New paper by Dr. Stefaan Verhulst (Co-Founder of The GovLab and The Data Tank) and Claudia Chwalisz (Founder and CEO of DemocracyNext) ... While a Global Citizens’ Assembly sounds like a great idea on the surface, there is no public authority with teeth or enforcement mechanisms at that level of governance. ... Local and Regional AI Assemblies: Forums where citizens, local governments, and technical experts collaborate","note":""},{"id":"demnext-eu","source_key":"demnext","locator":"","excerpt":"AI Citizens’ Assemblies for EU policy: Some of the most important new AI legislation is coming out of the European Union.","note":""},{"id":"pai1","source_key":"painet","locator":"","excerpt":"What is public AI? Public AI is AI as public infrastructure: provisioned like electricity, water, roads, libraries, or the Internet itself.","note":""},{"id":"pai2","source_key":"painet","locator":"","excerpt":"Public AI is publicly accessible: ensuring AI delivers benefits to all. Public AI is publicly accountable: ensuring AI reflects society’s values. Public AI creates permanent public goods: ensuring AI is a reliable foundation. ... AI systems are growing in power and should reflect society’s values, not the values of shareholders.","note":""},{"id":"zenodo","source_key":"zenodo","locator":"","excerpt":"Published August 8, 2024 ... 1. Metagov 2. Aspen Institute 3. Boundary Object Studio 4. Public Knowledge 5. Berkman Klein Center 6. Chatham House ... It sets out a roadmap for public investments into public goods at each layer of the AI stack","note":""},{"id":"mozilla1","source_key":"mozilla","locator":"","excerpt":"September 30, 2024 Nik Marda, Jasmine Sun & Mark Surman Mozilla is releasing a vision for Public AI ... We need a whole parallel AI ecosystem that can run on non-commercial incentives, where openness enables projects to build on top of each other, and where the total scope of these initiatives is a meaningful counterweight to the private AI ecosystem.","note":""},{"id":"mozilla2","source_key":"mozilla","locator":"","excerpt":"We can’t just rely on a few companies to build everything our society needs from AI — and we can’t afford the risk that they won’t.","note":""},{"id":"bst-alia","source_key":"bst","locator":"","excerpt":"Fully autonomous public AI systems like Spain’s Alia, built with public data, models, and computing ... We then introduce a gradient of publicness for AI solutions","note":""},{"id":"bst-sov","source_key":"bst","locator":"","excerpt":"Sovereign AI strategies often mirror the priorities of dominant commercial actors, focusing heavily on large-scale investments in compute infrastructure under the ... approach risks entrenching existing power asymmetries and deepening dependencies on the providers of critical AI components.","note":""},{"id":"apertus1","source_key":"paiap","locator":"","excerpt":"On September 2, 2025, the Swiss AI Initiative—a collaboration between EPFL, ETH Zurich, and the Swiss National Supercomputing Centre (CSCS)—released Apertus, the country's first large-scale open language model. ... Apertus is a fully open-source foundation model released in two versions (8B and 70B) under the Apache 2.0 license.","note":""},{"id":"apertus2","source_key":"apertus","locator":"","excerpt":"The model is named Apertus – Latin for “open” – highlighting its distinctive feature: the entire development process, including its architecture, model weights, and training data and recipes, is openly accessible and fully documented.","note":""},{"id":"apertus3","source_key":"apertus","locator":"","excerpt":"Trained on 15 trillion tokens across more than 1,000 languages – 40% of the data is non-English – Apertus includes many languages that have so far been underrepresented in LLMs, such as Swiss German, Romansh, and many others.","note":""},{"id":"apertus4","source_key":"apertus","locator":"","excerpt":"It is our best proof yet that AI can be a form of public infrastructure like highways, water, or electricity,” says Joshua Tan, Lead Maintainer of the Public AI Inference Utility. ... funded by an investment of over 10 million GPU hours on “Alps” by CSCS, and by the ETH Board","note":""},{"id":"oellm","source_key":"oellm","locator":"","excerpt":"A series of foundation models for transparent AI in Europe truly open including data, documentation, training and testing code, and evaluation metrics; including community involvement compliant under EU regulations, OpenEuroLLM will provide a series of transparent and performant LLMs diverse for European languages and other socially and economically interesting ones, preserving linguistic and cultural diversity","note":""},{"id":"aiidx26-open","source_key":"aiidx26","locator":"","excerpt":"The Official Chinese Version of the 2026 AI Index Report ... AI sovereignty is becoming a defining feature of national policy ... Open-source development is starting to redistribute participation, with contributions from the rest of the world now outpacing Europe and approaching the United States on GitHub","note":""},{"id":"aiidx25-open","source_key":"aiidx25","locator":"","excerpt":"the inference cost for a system performing at the level of GPT-3.5 dropped over 280-fold between November 2022 and October 2024. ... Open-weight models are also closing the gap with closed models, reducing the performance difference from 8% to just 1.7% on some benchmarks in a single year.","note":""},{"id":"govai1","source_key":"govai","locator":"","excerpt":"Submitted on 29 Sep 2023 ... Elizabeth Seger, Noemi Dreksler ... This offers advantages such as enabling external oversight, accelerating progress, and decentralizing control over AI development and use.","note":""},{"id":"govai2","source_key":"govai","locator":"","excerpt":"we argue that for some highly capable foundation models likely to be developed in the near future, open-sourcing may pose sufficiently extreme risks to outweigh the benefits. In such a case, highly capable foundation models should not be open-sourced, at least not initially.","note":""},{"id":"zuck1","source_key":"zuck","locator":"","excerpt":"Open Source AI is the Path Forward July 23, 2024 ... By Mark Zuckerberg, Founder and CEO ... Open source will ensure that more people around the world have access to the benefits and opportunities of AI, that power isn’t concentrated in the hands of a small number of companies ... my view is that open source AI will be safer than the alternatives.","note":""},{"id":"zuck2","source_key":"zuck","locator":"","excerpt":"It seems most likely that a world of only closed models results in a small number of big companies plus our geopolitical adversaries having access to leading models, while startups, universities, and small businesses miss out on opportunities.","note":""},{"id":"kapoor1","source_key":"kapoor","locator":"","excerpt":"by Sayash Kapoor and 24 other authors ... Open foundation models present significant benefits, with some caveats, that span innovation, competition, the distribution of decision-making power, and transparency.","note":""},{"id":"kapoor2","source_key":"kapoor","locator":"","excerpt":"Across several misuse vectors (e.g. cyberattacks, bioweapons), we find that current research is insufficient to effectively characterize the marginal risk of open foundation models relative to pre-existing technologies.","note":""},{"id":"ntia","source_key":"ntia","locator":"","excerpt":"Model Weights Report July 30, 2024 ... received 332 comments in response ... current evidence is not sufficient to definitively determine either that restrictions on such open weight models are warranted, or that restrictions will never be appropriate in the future. Instead, this Report suggests that the government should actively monitor a portfolio of risks","note":""},{"id":"nature1","source_key":"nature","locator":"","excerpt":"Published: 27 November 2024 ... David Gray Widder ... However, we find that openness alone does not perturb the concentration of power in AI. Just as many traditional open-source software projects were co-opted in various ways by large technology companies, we show how rhetoric around ‘open’ AI is frequently wielded in ways that exacerbate rather than reduce concentration of power in the AI sector.","note":""},{"id":"nature2","source_key":"nature","locator":"","excerpt":"Some systems described as open, such as Meta’s LLaMA-3 (ref. 42), offer little more than an API or the ability to download a model subject to distinctly non-open use restrictions42,43. In these cases, this is ‘openwashing’ systems that are better understood as closed","note":""},{"id":"nature3","source_key":"nature","locator":"","excerpt":"even at its most maximal, open AI is highly dependent on the resources of a few large corporate actors, who effectively control the AI industry and the research ecology beyond. For this reason, the pursuit of even the most open AI will not on its own lead to a more diverse, accountable or democratized ecosystem","note":""},{"id":"ep-vote","source_key":"epvote","locator":"","excerpt":"was endorsed by MEPs with 523 votes in favour, 46 against and 49 abstentions. It aims to protect fundamental rights, democracy, the rule of law and environmental sustainability from high-risk AI","note":""},{"id":"ec-risk","source_key":"ecaia","locator":"","excerpt":"The AI Act defines 4 levels of risk for AI systems: Unacceptable risk All AI systems considered a clear threat to the safety, livelihoods and rights of people are banned. ... The AI Act entered into force on 1 August 2024","note":""},{"id":"ep-hr","source_key":"epvote","locator":"","excerpt":"justice and democratic processes (e.g. influencing elections). ... Citizens will have a right to submit complaints about AI systems and receive explanations about decisions based on high-risk AI systems that affect their rights.","note":""},{"id":"ec-wp","source_key":"ecwp","locator":"","excerpt":"On 19 February 2020, the European Commission launched a Consultation on Artificial Intelligence. Citizens and stakeholders provided their feedback until 14 June 2020.","note":""},{"id":"gpai1","source_key":"ecgpai","locator":"","excerpt":"The General-Purpose AI (GPAI) code of practice is a voluntary tool, prepared by independent experts in a multi-stakeholder process, designed to help industry comply with the AI Act’s obligations for providers of general-purpose AI models. ... The code was published on July 10, 2025.","note":""},{"id":"gpai2","source_key":"jonesday","locator":"","excerpt":"The Code of Practice is a voluntary tool developed through a multistakeholder process involving nearly 1,000 participants.","note":""},{"id":"ec-omni","source_key":"ecaia","locator":"","excerpt":"This legislative proposal (dubbed as the 'AI Omnibus') was adopted on 19 November 2025, a political agreement was reached on 7 May 2026 and entered into force on 27 July 2026.","note":""},{"id":"aw","source_key":"aw","locator":"","excerpt":"In reality, as with much of the wider Digital Omnibus agenda, this process has become a vehicle for deregulation. The final deal goes far beyond technical changes. Amongst other changes, it delays obligations for high-risk AI systems, weakens public transparency","note":""},{"id":"coe1","source_key":"coe","locator":"","excerpt":"The Council of Europe Framework Convention on Artificial Intelligence and human rights, democracy and the rule of law is the first-ever international legally binding treaty in this field. Opened for signature on 5 September 2024","note":""},{"id":"coe2","source_key":"coe","locator":"","excerpt":"United Kingdom Canada European Union Israel Japan United States of America Uruguay ... The Framework Convention was drafted by the 46 member states of the Council of Europe","note":""},{"id":"coe3","source_key":"coe","locator":"","excerpt":"Carry out risk and impact assessments in respect of actual and potential impacts on human rights, democracy and the rule of law, in an iterative manner; ... Possibility for the authorities to introduce ban or moratoria on certain application of AI systems (“red lines”).","note":""},{"id":"unres","source_key":"unres","locator":"","excerpt":"Resolution adopted by the General Assembly on 26 August 2025 ... 79/325. Terms of reference and modalities for the establishment and functioning of the Independent International Scientific Panel on Artificial Intelligence and the Global Dialogue on Artificial Intelligence Governance ... comprising 40 members, serving in their personal capacity ... Establishes, within the United Nations, the Global Dialogue on Artificial Intelligence Governance, involving Governments and all relevant stakeholders","note":""},{"id":"unnews1","source_key":"unnews","locator":"","excerpt":"Geneva 6 July 2026 ... Addressing the inaugural UN Global Dialogue on AI Governance in Geneva ... A second Dialogue is scheduled for May 2027 in New York.","note":""},{"id":"unnews2","source_key":"unnews","locator":"","excerpt":"AI is too consequential to be shaped by a few. We need a conversation that is global, inclusive and grounded in evidence,” insisted Amandeep Singh Gill, UN Special Envoy for Digital and Emerging Technologies.","note":""},{"id":"aiidx26-trust","source_key":"aiidx26","locator":"","excerpt":"The Official Chinese Version of the 2026 AI Index Report ... Among surveyed countries, the United States reported the lowest level of trust in its own government to regulate AI, at 31%. Globally, the EU is trusted more than the United States or China to regulate AI effectively.","note":""},{"id":"oai-ca-limit","source_key":"oaica","locator":"","excerpt":"Sample size and prompts: The prompts we pre-selected for input shaped the feedback, and the participant pool, while diverse, was small relative to the global population.","note":""},{"id":"oai-upd-cons","source_key":"oaiupd","locator":"","excerpt":"The Collective Dialogues team found that each session always contained a small group of people who felt strongly that restricting AI assistants from answering certain questions was wrong no matter what. In this case, because the group was small, majority voting yielded outcomes that they strongly disagreed with. ... When trying to produce a single outcome or make a single decision to represent a group, there might be tension between trying to reach consensus and adequately representing the diversity of various opinions.","note":""},{"id":"sloane","source_key":"sloane","locator":"","excerpt":"Submitted on 5 Jul 2020 ... Mona Sloane, Emanuel Moss, Olaitan Awomolo, Laura Forlano ... Cautioning against 'participation-washing', it suggests that the ML community must become attuned to possibly exploitative and extractive forms of community involvement","note":""},{"id":"birhane","source_key":"birhane","locator":"","excerpt":"Abeba Birhane, William Isaac, Vinodkumar Prabhakaran ... However, there currently exists lack of clarity on what meaningful participation entails and what it is expected to do. ... while also being at risk for concerns such as cooptation and conflation with other activities.","note":""},{"id":"dt-distr","source_key":"dt","locator":"","excerpt":"And above all, it is not legislators, but the private sector who are responding to these demands. ... we have already raised the concern that these processes could potentially end up a distraction from the urgent need for legislation.","note":""},{"id":"oai-upd3","source_key":"oaiupd","locator":"","excerpt":"More subtly, even when citizens of global majority countries are included, the tools might be less useful to them due to limitations in understanding the local language or context.","note":""},{"id":"ccai-culture","source_key":"ccaipaper","locator":"","excerpt":"Also, allocating more time and resources for the deliberation phase and adjusting the language and presentation of the CCAI process to align with the community’s cultural and linguistic norms could help with inclusiveness.","note":""},{"id":"partic3","source_key":"partic","locator":"","excerpt":"Results show that citizens perceived the discussion topics as more complex than initially anticipated, enhancing their understanding of the challenges in AI technology development after deliberation.","note":""},{"id":"revel","source_key":"revel","locator":"","excerpt":"AI-Enhanced Deliberative Democracy and the Future of the Collective Will ... we caution against dangerously misguided uses, such as enabling binding decisions, fostering gradual disempowerment or post-rationalizing political outcomes.","note":""},{"id":"revel2","source_key":"revel","locator":"","excerpt":"emphasizing that preferences are shaped by the decision-making context and are seldom objectively captured.","note":""},{"id":"dt-ireland","source_key":"dt","locator":"","excerpt":"changes to the national constitutions of both Ireland and Mongolia.","note":""},{"id":"polis","source_key":"polis","locator":"","excerpt":"In plain language, Polis is a an open source technology for survey research that leverages data science. ... participants submit short text statements, or comments, (<140 characters) which are then sent out semi-randomly to other participants to vote on by clicking agree, disagree or pass. Polis allows conversation owners to create conversations which can seamlessly engage (currently) up to hundreds of thousands or (conceivably) millions of participants.","note":""},{"id":"vtw2","source_key":"vtw","locator":"","excerpt":"in order to create national digital legislation. The first test of vTaiwan was in August 2015 on how to regulate the ride sharing service Uber.","note":""},{"id":"oai-upd7","source_key":"oaiupd","locator":"","excerpt":"Notably, across nearly all projects, AI itself played a useful role as a part of the processes ... in the form of customized chat interfaces, voice-to-text transcription, data synthesis, and more.","note":""},{"id":"hm1","source_key":"mittr","locator":"","excerpt":"October 17, 2024 ... Researchers from Google DeepMind trained a system of large language models (LLMs) to operate as a “caucus mediator,” generating summaries that outline a group’s areas of agreement on complex but important social or political issues. ... The study is being published today in the journal Science. Google DeepMind recruited 5,734 participants","note":""},{"id":"hm2","source_key":"mittr","locator":"","excerpt":"others through the Sortition Foundation, a nonprofit that organizes citizens’ assemblies. The Sortition groups formed a demographically representative sample of the UK population.","note":""},{"id":"hm3","source_key":"mittr","locator":"","excerpt":"But the technology won’t replace human mediators anytime soon.","note":""},{"id":"oai-upd6","source_key":"oaiupd","locator":"","excerpt":"The Collective Dialogues and Deliberation at Scale teams found that the act of participating in a deliberation session on an AI policy issue made people more likely to think the public was capable of helping guide AI behavior in general.","note":""},{"id":"gdi2","source_key":"cipgdi","locator":"","excerpt":"58% of people trust AI chatbots more than their elected representatives. Two-thirds use AI for emotional support monthly. Three-quarters are expected to use AI at work while believing it will make good jobs harder to find. AI reinforces beliefs more powerfully than social media","note":""},{"id":"gdi3","source_key":"cipgdi","locator":"","excerpt":"AI ranks above faith leaders, corporations, and civil servants. Only family doctors and public research institutions rank higher.","note":""},{"id":"tang-lot","source_key":"tang","locator":"","excerpt":"Four hundred forty-seven everyday Taiwanese — mirroring our entire population by age, education, region, occupation — deliberated in groups of 10. They were not seeking perfect agreement but uncommon ground — ideas that people with different views could still find reasonable.","note":""},{"id":"oecd-bg","source_key":"oecdbg","locator":"","excerpt":"The Bulgarian government approved on 16 December 2020 its national AI strategic document ... Name in original language Концепция За Развитието На Изкуствения Интелект В България До 2030 Г ... It is based on the strategic and programming documents of the European Commission","note":""},{"id":"cms1","source_key":"cms","locator":"","excerpt":"AI laws and regulation in Bulgaria 17 Feb 2026 ... applies directly in Bulgaria as EU member state. Existing Regulatory Frameworks Applicable to AI Bulgaria however does not have a dedicated AI law. ... There is a “National Strategy on AI 2030” which was passed in 2020, but since it is rather outdated, the Government is preparing an update to the document. A draft of the update is yet to be published for public consultations.","note":""},{"id":"cms2","source_key":"cms","locator":"","excerpt":"Bulgaria has yet to designate its market surveillance and notifying authorities under the EU AI Act.","note":""},{"id":"dpa","source_key":"dpa","locator":"","excerpt":"On 24 September 2026, members of Parliament introduced the Law on the use and development of artificial intelligence. The Law would divide market surveillance under the EU Artificial Intelligence Act (AI Act) among sectoral authorities.","note":""},{"id":"bta1","source_key":"bta","locator":"","excerpt":"подготвен от „Да, България“ и подкрепен от парламентарната група „Продължаваме промяната-Демократична България“. Законът за използването и развитието на изкуствения интелект в България беше представен ... В законопроекта е акцентирано и върху създаването на национален координатор, както и на орган за етичното използване на ИИ.","note":""},{"id":"bta2","source_key":"bta","locator":"","excerpt":"Заложено е също държавата да предоставя държавния облак за научно-изследователска дейност, както и всички документи да бъдат предоставени за „трениране“ на български модели с ИИ. Предвиждаме архивите на Българската телеграфна агенция, Българската национална телевизия и Българското национално радио също да могат да бъдат използвани за „трениране“ по програмите с ИИ.","note":""},{"id":"cms3","source_key":"cms","locator":"","excerpt":"A draft bill of “AI Implementation and Development Act” was submitted with the parliamentary commissions for discussions and assessment. The draft bill has so far received negative feedback.","note":""},{"id":"insait1","source_key":"insait","locator":"","excerpt":"January 16, 2024 ... Today INSAIT officially launched BgGPT, the first open large language model for Bulgarian, created for the Bulgarian state, users, public and private organizations.","note":""},{"id":"insait2","source_key":"insait","locator":"","excerpt":"BgGPT is not a corporate property and can be used freely by public and private organizations. The model behind BgGPT will also be released freely with a permissive license (Apache 2.0), enabling commercialization. Further, organizations can use it locally on-site, without having to share sensitive","note":""},{"id":"eurohpc","source_key":"eurohpc","locator":"","excerpt":"has selected six new sites across Europe to host additional AI Factories, which are set to be deployed next year in Austria, Bulgaria, France, Germany, Poland, and Slovenia. Press release 12 March 2025 ... The Bulgarian AI Factory BRAIN++, will be located at Sofia Tech Park, in Sofia, Bulgaria, and will comprise of two key components, which will operate in synergy: the Discoverer++, a next-generation supercomputer tailored for advanced AI workloads ... driving further development and deployment of Bulgarian Language LLMs","note":""},{"id":"oai-ca5","source_key":"oaica","locator":"","excerpt":"Proposed changes that were adopted Using the collected input, we will be updating the Spec. These changes will come out soon in the next Model Spec release","note":""},{"id":"tang4","source_key":"tang","locator":"","excerpt":"Our response — and its success — demonstrates something fundamental about how AI alignment must work. We did not ask experts to solve it.","note":""},{"id":"cbd-consensus","source_key":"cbdglobal","locator":"","excerpt":"There is growing consensus that these questions cannot be answered by the technology industry or individual governments alone. Global publics must be meaningfully involved.","note":""},{"id":"capex3","source_key":"capex","locator":"","excerpt":"will reach about $650 billion in 2026 ... and perhaps to the build-out of the US railroad networks in the 19th century, the postwar federal investments in interstate highways or New Deal-era relief programs.","note":""},{"id":"nature4","source_key":"nature","locator":"","excerpt":"However, we find that openness alone does not perturb the concentration of power in AI.","note":""},{"id":"oai-ca6","source_key":"oaica","locator":"","excerpt":"others raised practical challenges that kept us from adopting them at this stage. ... Many participants favored more tailored political content generation. We did not adopt this change, given the risks of large-scale individualized political targeting and our cautious approach in this area.","note":""},{"id":"cbd-design","source_key":"cbdglobal","locator":"","excerpt":"We present the strengths and weaknesses of these options, and outline additional design considerations they give rise to around recruitment, governance, agenda-setting, transnational dialogue and aggregation of findings, and the use of AI as a delivery tool.","note":""},{"id":"seger-final","source_key":"seger","locator":"","excerpt":"If we want to move beyond ambiguous commitments to democratising AI, to productive discussions of concrete policies and trade-offs, then we need to recognise the principal role of the democratisation of AI governance","note":""}],"status":"published","featured":false,"revision":1,"created_at":"2026-10-24T19:34:35.654Z","updated_at":"2026-10-24T19:34:35.654Z"}