{"id":"f0a88b7d-b77c-410c-aeb6-497fb8b22f49","slug":"izkustveniyat-intelekt-i-kontsentratsiyata-na-vlast","title":"Изкуственият интелект и концентрацията на власт","category":"Общество · Демокрация","tags":["изкуствен интелект","концентрация на власт","цифров авторитаризъм","наблюдение","надзорен капитализъм","антитръстово право","демокрация","лицево разпознаване"],"lead":"Концентрацията на власт чрез изкуствения интелект (ИИ) е група от опасения, че напредналите системи могат да засилят малцина — държави, компании, лидери или малки групи — за сметка на мнозинството, като намалят стойността на човешкия труд и дадат на малки групи огромна „работна сила“ от ИИ.[^k80-why] Опасенията имат дълга предистория в теорията на технологиите: още през 1980 г. политическият теоретик Лангдън Уинър твърди, че технологиите въплъщават социални отношения, тоест власт.[^winner-1980] Историкът Ювал Ноа Харари пише през 2018 г., че конфликтът между демокрацията и диктатурата е конфликт между две различни системи за обработка на данни и че ИИ може да наклони везните в полза на втората.[^atl-data] Индексът на Фондация „Карнеги“ за глобалното наблюдение с ИИ установява, че най-малко седемдесет и пет от 176 изследвани държави активно използват ИИ за наблюдение.[^carn-lead] Freedom House отчита през 2025 г. петнадесета поредна година на спад на свободата в интернет и предупреждава, че бъдещето ѝ ще зависи от това как правителствата регулират и използват следващата вълна на ИИ.[^fotn25-15] Част от изследователите смятат някои от тези опасения за преувеличени: коментар в Harvard Kennedy School Misinformation Review твърди, че тревогите за въздействието на генеративния ИИ върху дезинформацията са „преувеличени“.[^hks-overblown] Станфордският доклад AI Index отчита и обратна тенденция — отворените модели почти догонват затворените, като разликата в някои тестове пада от 8% на 1,7% за една година, което бързо снижава бариерите пред достъпа до напреднал ИИ.[^aiindex-open] Сред обсъжданите противотежести са правото, регулацията и демократичните институции; Шошана Зубоф, авторката на понятието „надзорен капитализъм“, призовава да се използват „законът и регулацията“, които включват, но и надхвърлят законите за личните данни и антитръстовите закони.[^gazette-law]","sections":[{"id":"ponyatie-i-obhvat","title":"Понятие и обхват","paragraphs":["Под „концентрация на власт“ в дебата се имат предвид различни процеси: изпълнителният директор на Anthropic Дарио Амодей например отделя обезвластяването на гражданите от правителствата им „чрез сила или принуда“ от икономическата концентрация, при която богатството е толкова съсредоточено, че „малка група хора на практика контролира държавната политика“ чрез влиянието си.[^adol-three] Изследователите Том Дейвидсън, Лукас Финведен и Роуз Хадшар от института Forethought описват в доклад от 15 април 2025 г. и трети вид — „преврати с помощта на ИИ“ — с три рискови фактора: работна сила от ИИ, „непоколебимо лоялна“ на един или няколко души, трудно откриваеми „скрити лоялности“ на моделите и изключителен достъп на малцина до способностите, които улесняват превратите.[^fore-risk] Според тях тези фактори могат рязко да увеличат риска от преврат „дори в стабилни демокрации“, където превратите традиционно са редки.[^fore-democ] Авторите представят опасността като възможност, а не като сигурност: бързият напредък на ИИ според тях „прави възможно“ в близко бъдеще да се появят изключително мощни способности, улесняващи превратите.[^fore-possible] Скритите лоялности засягат и въпроса за [[podravnyavane-na-izkustveniya-intelekt|подравняването на ИИ]] — на кого всъщност служи една система; според доклада те са най-тревожни там, където системите с ИИ са широко внедрени в държавното управление и армията.[^fore-mil]","Различен е сценарият на „постепенното обезвластяване“, описан от Ян Кулвейт и съавтори през януари 2025 г.: той не предполага заговор, а постепенна загуба на човешко влияние върху големите системи, от които обществото зависи — икономиката, културата и държавите.[^gradual-a] Според авторите, когато ИИ замества човешкия труд и мислене, той може да отслаби както изричните механизми за човешки контрол, като гласуването и потребителския избор, така и неявната зависимост на обществените системи от човешкото участие.[^gradual-b] Тези сценарии са свързани с дебата за [[obsht-izkustven-intelekt-agi|общия изкуствен интелект]]: организацията 80,000 Hours смята, че ако автоматизирането на изследванията в ИИ доведе до „неудържим“ напредък, един разработчик може да получи огромно предимство в способностите.[^k80-dev]"]},{"id":"teoretichna-ramka-tehnologiite-i-vlastta","title":"Теоретична рамка: технологиите и властта","paragraphs":["В есето „Имат ли артефактите политика?“, публикувано в списание „Дедал“ през 1980 г., Уинър разграничава два начина, по които технологиите имат политическо измерение.[^winner-two] Първият засяга начина, по който изобретяването, проектирането или подреждането на дадена система се превръща в механизъм за уреждане на делата на една общност; вторият засяга „присъщо политическите“ артефакти, които изискват определено обществено устройство или са силно съвместими с него.[^winner-kinds]","Шошана Зубоф, почетен професор в Харвардското бизнес училище, описва в книгата си „Епохата на надзорния капитализъм“ (2019) икономическа логика, при която частният човешки опит се присвоява едностранно като безплатна суровина за поведенчески данни, превръщани в „продукти за предсказание“.[^gazette-def] Според нея това подкопава демокрацията отвътре, като ерозира автономията, и отвън, защото представлява „безпрецедентна концентрация на знание и на властта, която произтича от такова знание“.[^gazette-dem] Понятието се отличава от държавното наблюдение, макар двете да могат взаимно да се подсилват.[^survcap-gov] Зубоф твърди, че след атентатите срещу Световния търговски център разузнавателните служби и други влиятелни сили във Вашингтон и в западните правителства стават по-склонни да „подхранват“ възможностите за наблюдение, идващи от търговския сектор; за последвалите разкрития вижте [[snouden-nsa-razkritia-prism-2013|статията за програмата PRISM]].[^gazette-911]","Икономистите Аджай Агравал, Джошуа Ганс и Ави Голдфарб твърдят в книгата „Сила и предсказание“ (2022), че истинският ефект на ИИ ще дойде от промени на ниво система — в начина, по който организациите вземат решения.[^sri-system] Голдфарб предупреждава, че така може да настъпят „реални измествания на властта и в двете посоки“, включително към централизация, при която решенията, взимани досега от много местни ръководители, се взимат от „някого в централата“.[^sri-shift]","В книгата „Сила и прогрес“ (2023) Дарон Аджемоглу и Саймън Джонсън твърдят, че технологичният прогрес е „смесена благословия“, която може да донесе огромни ползи, но и да задълбочи неравенството и обезвластяването на мнозина, и проследяват хилядолетна история на автоматизацията.[^spe-mixed] Като исторически примери авторите сочат средновековните аграрни нововъведения, които позволяват строежа на величествени катедрали, но оставят селяните бедни, и Индустриалната революция, която обогатява малцинство капиталисти, докато много работници се трудят за заплати на ръба на оцеляването.[^spe-examples] Те признават и периоди на споделен просперитет — от края на XIX век до около три четвърти от XX век — и виждат днешните предизвикателства като следствие от огромната икономическа и социална власт на корпорациите, особено в технологичния сектор.[^spe-shared] Решението, което предлагат, е „пренасочване“ на технологиите към споделен просперитет, по образец на Прогресивната ера в началото на XX век, когато влиятелните „пазачи“ на обществото са били оспорени.[^spe-redirect]","Харари вижда в ИИ технология, която може да обърне историческото предимство на децентрализацията: тъй като машинното обучение работи по-добре с повече данни, ИИ „може да направи централизираните системи далеч по-ефективни от разпръснатите“.[^atl-central] В същото есе той допуска, че фасадата на свободния избор и свободното гласуване може да се запази в някои страни, докато реалният обществен контрол намалява, и препоръчва да се предотврати концентрирането на твърде много данни в твърде малко ръце.[^atl-facade] В книгата [[harari-nexus-ai-demokratsia|„Nexus“]] (2024) Харари разграничава самокоригиращите се системи, каквито според него са науката и демокрацията, от несамокоригиращите се, като тоталитаризма, и предупреждава, че ИИ не се самокоригира, ако измести другите източници на информация.[^nexus-self]"]},{"id":"tsifrov-avtoritarizam-kitay","title":"Цифров авторитаризъм: Китай","paragraphs":["Китай изгражда масова система за видеонаблюдение от 2005 г., когато правителството създава мрежата Skynet („Небесна мрежа“); при официалното ѝ оповестяване през 2013 г. тя вече включва над 20 милиона камери.[^mscn-skynet] По оценки от 2019 г. системата използва около 200 милиона камери, а през август 2023 г. по онлайн данни страната има над 700 милиона камери за наблюдение — по една на всеки двама граждани.[^mscn-200] Проектът „Остри очи“ (Sharp Eyes) си поставя за цел наблюдение на сто процента от обществените пространства до 2020 г. според 13-ия петгодишен план от 2016 г., макар реалистичността на подобни цели да се поставя под въпрос.[^mscn-sharp]","Най-интензивното приложение е в Синдзян, където от края на 2016 г. китайското правителство подлага 13-те милиона уйгури и други тюркски мюсюлмани на масово произволно задържане, принудителна политическа индоктринация, ограничения на движението и религиозно потисничество, според Human Rights Watch.[^hrw-13m] Чрез обратно инженерство на мобилно приложение на полицията организацията описва „Интегрираната платформа за съвместни операции“ (IJOP), която събира данни за хората и сигнализира на служителите за онези, които смята за потенциално заплашителни, като част от тях биват задържани и изпращани в лагери за „политическо обучение“.[^hrw-ijop] Изходният код показва и 36 „типа хора“, към които властите обръщат особено внимание.[^hrw-36]","Около китайската „система за социален кредит“ обаче съществуват широко разпространени заблуди: в медийни публикации се говори за единен „резултат“, изчисляван от поведението на хората, който води до наказания при нисък и до награди при висок резултат.[^scs-myth] Джереми Даум, старши сътрудник в Китайския център „Пол Цай“ към Юридическия факултет на Йейлския университет, проследява китайския експеримент със социален кредит от години.[^mittr-daum] Според него системата има три отделни стълба: финансово кредитно отчитане, сходно с това в много държави, административно изпълнение чрез отраслови черни списъци и споразумения за съвместни наказания, и морално възпитание в честност и почтеност.[^daum-pillars] Даум посочва, че нито плановият документ, поставил началото на системата, нито друг по-висш нормативен акт споменава „резултат на социален кредит“; няколко десетки региона имат местни точкови системи, но точките се отнемат за нарушения на законови задължения, а не за цялостна оценка на поведението.[^daum-score] Числовите оценки в крайна сметка остават ограничени до частни кредитни рейтинги и програми за лоялност, а черните списъци се основават на конкретни нарушения, а не на числов резултат.[^scs-black] Черните списъци обаче имат реални последици: по-сериозните нарушители могат да бъдат вписани от отрасловите органи, което води до „съвместни“ наказания от други регулатори, включително при кандидатстване за професионални удостоверения и лицензи и при участие в държавни поръчки.[^daum-black] Според MIT Technology Review образът на мрежа от технологии, която автоматично оценява всички китайски граждани, не отговаря на действителността, а централното правителство изглежда няма и голямо желание да я изгради.[^mittr-myth]"]},{"id":"iznosat-na-tehnologii-za-nablyudenie","title":"Износът на технологии за наблюдение","paragraphs":["Индексът за глобално наблюдение с ИИ (AIGS) на Стивън Фелдщайн от Фондация „Карнеги“ за международен мир събира данни за 176 държави и не прави разлика между законната и незаконната употреба на наблюдението с ИИ.[^carn-index] Когато докладът е представен на 17 септември 2019 г., Асошиейтед прес отбелязва, че все повече държави следват примера на Китай в използването на ИИ за проследяване на гражданите.[^ap-carn] Според него най-малко седемдесет и пет държави използват такива технологии, включително платформи за „умен“ или „безопасен град“ (петдесет и шест държави), системи за лицево разпознаване (шестдесет и четири) и „умна“ полиция (петдесет и две).[^carn-75] Технологии, свързани с китайски компании — най-вече Huawei, Hikvision, Dahua и ZTE, — се откриват в шестдесет и три държави, като само Huawei доставя такива системи на поне петдесет държави.[^carn-china] Китайските търговски предложения често се съпровождат от облекчени заеми, които насърчават правителствата да купуват оборудването.[^carn-loans]","Китай обаче не е единственият доставчик: технологии на американски фирми присъстват в тридесет и две държави, като най-значимите са IBM (единадесет държави), [[palantir-technologies|Palantir]] (девет) и Cisco (шест).[^carn-us] Индексът показва, че 51% от развитите демокрации използват системи за наблюдение с ИИ, срещу 37% от затворените автокрации и по 41% от изборните автокрации и изборните демокрации.[^carn-51] Фелдщайн уточнява, че това не означава непременно незаконна употреба в демокрациите, и посочва като най-важен фактор за това дали технологията ще служи на репресии качеството на управлението.[^carn-dem-law]"]},{"id":"freedom-house-ii-tsenzura-i-manipulatsiya","title":"Freedom House: ИИ, цензура и манипулация","paragraphs":["Докладът „Свобода в мрежата 2023“ на Freedom House, озаглавен „Репресивната сила на изкуствения интелект“, отчита тринадесета поредна година на спад на глобалната свобода в интернет.[^fotn23-13] Според доклада в поне 47 държави провластови коментатори използват измамни или прикрити тактики за манипулиране на онлайн информацията — двойно повече от преди десетилетие.[^fotn23-47] Новите инструменти за генериране на текст, звук и изображения са използвани в поне 16 държави, за да се сее съмнение, да се очернят опоненти или да се влияе на обществения дебат.[^fotn23-16] В поне 22 държави социалните мрежи са задължени — изрично или косвено чрез кратки срокове за премахване на забранено съдържание — да използват автоматизирани системи за модериране, което е една от формите на [[spirane-na-interneta-i-tsenzura-na-sotsialnite-mrezhi|цензура в социалните мрежи]].[^fotn23-22] Като пример докладът сочи венецуелски държавни медии, които в началото на 2023 г. разпространяват видеа с водещи от несъществуващ англоезичен канал, създадени с онлайн инструмент на компанията Synthesia — според самата компания в нарушение на нейните условия.[^fotn23-ven]","Докладът за 2024 г. отчита четиринадесета поредна година на спад — влошаване в 27 от 72 обхванати държави — и отбелязва, че генеративният ИИ е станал по-достъпен и е снижил прага за създаване на невярна и подвеждаща информация.[^fotn24] Докладът за 2025 г., който свързва спада с упоритите авторитарни репресии и с [[demokratichno-otstaplenie|отстъплението в демокрациите]], регистрира влошаване в 27 държави и подобрение само в 17 и посочва като възможни преломни фактори ръста на държавните инвестиции в ИИ, бума на сателитния интернет и нарастващите ограничения на анонимността онлайн.[^fotn25-ai]"]},{"id":"rusiya-i-iran","title":"Русия и Иран","paragraphs":["В Москва част от камерите за видеонаблюдение получават функция за лицево разпознаване още през 2017 г., през 2018 г. такива камери са поставени в метрото, а до 1 септември 2020 г. всички 175 000 камери в града вече разполагат с разпознаване на живо; през 2022 г. системата обхваща 220 000 камери.[^glukhin-moscow] Николай Глухин е идентифициран чрез системата за лицево разпознаване в метрото и обвинен, след като през август 2019 г. пътува с картонена фигура в естествен ръст на арестувания активист Константин Котов.[^glukhin-facts] На 4 юли 2023 г. съдът в Страсбург приема, че присъдата нарушава свободата на изразяване (чл. 10), защото протестът е бил мирен, а използването на лицево разпознаване за откриването на мирен протестиращ не е било необходимо и нарушава правото на личен живот (чл. 8).[^glukhin-ruling]","В Иран, според доклад на ООН, оповестен през март 2025 г., властите използват въздушни дронове, системи за лицево разпознаване и приложение за граждански сигнали, за да налагат законите за задължително носене на хиджаб.[^iran-un] Чрез приложението „Назер“ потребителите могат да подават номера, местоположение и час на превозно средство, в което жена не носи хиджаб; приложението сигнализира на полицията и изпраща текстово съобщение на регистрирания собственик.[^iran-nazer] Според доклада в началото на 2024 г. на входа на университета „Амиркабир“ в Техеран е инсталиран софтуер за лицево разпознаване, който следи дали студентките спазват изискването.[^iran-amir] Според доклада, цитиран от Associated Press, в търсенето на жени без забрадка вероятно участват и камерите за наблюдение по главните пътища на страната.[^ahram-roads] Freedom House определя Иран като държавата с най-тежък спад в доклада си за 2023 г., когато властите спират интернет услугите — контрол, свързан и с [[iran-natsionalna-informatsionna-mrezha|Националната информационна мрежа]], — блокират WhatsApp и Instagram и засилват наблюдението, за да потушат протестите.[^fotn23-iran]"]},{"id":"riskovete-v-demokratsiite","title":"Рисковете в демокрациите","paragraphs":["Експерименталните данни за политическото убеждаване с ИИ са нееднозначни: в експеримент, публикуван в PNAS на 7 юни 2024 г., Коби Хакенбург и Хелън Маргетс вграждат потребителски данни в подканите на GPT-4 и установяват, че съобщенията са убедителни, но микротаргетираните не са статистически по-убедителни от общите.[^pnas-micro] Авторите заключават, че влиянието на сегашните езикови модели вероятно е не в способността им да пригаждат посланията към отделния човек, а в убедителността на общите им послания.[^pnas-generic] Проучване на Франческо Салви и съавтори в Nature Human Behaviour (2025) с 900 участници в кратки дебати обаче показва, че GPT-4 с достъп до социодемографски данни за опонента е по-убедителен от човек в 64,4% от двойките, в които двете страни не са били еднакво убедителни.[^salvi]","В три мащабни експеримента, публикувани в Science на 4 декември 2025 г., Хакенбург, Бен Тапин и съавтори изследват 76 977 възрастни във Великобритания и 19 езикови модела и установяват, че целенасоченото дообучение може да увеличи убедителността с до 51%, а специфични подкани — с до 27%.[^oii-levers] Според тях размерът на модела играе само скромна роля, така че дори скромни модели с отворен код могат да станат силно убедителни — извод, който оспорва страха, че влиянието ще се съсредоточи у няколко мощни актьори.[^oii-scale] Изследването открива и тревожен компромис: колкото по-убедителен е моделът, толкова по-неточна е информацията му.[^oii-acc]","В Nature на 5 декември 2025 г. екип на Дейвид Ранд описва контролирани експерименти около президентските избори в САЩ през 2024 г. и изборите в Полша и Канада през 2025 г., в които чатботове агитират за един от кандидатите.[^nat-rand] В Канада и Полша разговорите изместват нагласите и намеренията за гласуване на привържениците на опозицията с около 10 процентни пункта, а в САЩ ефектът е по-скромен — 3,9 пункта по 100-точкова скала.[^aihub-10] Моделите, агитиращи за десни кандидати, правят повече неточни твърдения и в трите държави, а авторите на придружаващ коментар предупреждават, че убеждаването с ИИ може да използва неравновесия в това, което моделите „знаят“.[^nat-inacc] Участниците са знаели, че ИИ ще се опита да ги убеди, затова не е ясно дали ефектите биха се повторили в реална политическа среда.[^nat-caveat]","По-широкото въздействие на ИИ върху изборите — дийпфейкове, ботове и операции за влияние — е разгледано в [[izkustveniyat-intelekt-i-dezinformatsiyata-v-izborite|статията за дезинформацията в изборите]]; Freedom House отбелязва, че в изборната 2024 г. правителствата предприемат мерки, включително нови насоки за ограничаване на генеративния ИИ в кампаниите, с „нееднозначни резултати“ за правата онлайн.[^fotn24-mixed] Либералните демократични правителства също използват активно ИИ за охрана на границите, задържане на заподозрени, наблюдение на гражданите и откриване на заподозрени терористи в тълпите, отбелязва индексът на „Карнеги“; казуси от социалните помощи, данъците и правосъдието са събрани в [[algoritmi-v-darzhavnoto-upravlenie|обзора на алгоритмите в държавното управление]].[^carn-dem]","Информационната власт се премества и към посредниците: в доклада Digital News Report 2025 на Института „Ройтерс“ 7% от анкетираните използват чатботове с ИИ за новини всяка седмица, а сред хората под 25 години — 15%.[^dnr-7] Издателите се опасяват, че резюметата с ИИ и другите функции, вграждани от най-големите платформи, ще намалят още трафика към сайтовете и приложенията им.[^dnr-traffic]"]},{"id":"vlastta-na-kompaniite-i-laboratoriite","title":"Властта на компаниите и лабораториите","paragraphs":["Икономистите Джай Випра и Антон Коринек пишат за Brookings през септември 2023 г., че пазарът на най-напредналите базови модели има силна тенденция към концентрация: фиксираните разходи за обучение са високи, а пределните разходи за използване — много ниски, което създава големи икономии от мащаба.[^brook-scale] Ограничените ресурси като таланти, данни и изчислителна мощ според тях създават сили, „насочени към естествен монопол“, а производителите на модели могат да разширят пазарната си власт вертикално към приложенията.[^brook-nat] Авторите предупреждават срещу хищническо ценообразуване и „стратегическо лобиране“ и предлагат производителите на най-напредналите модели, като естествени монополи или олигополи, да бъдат регулирани „подобно на комуналните услуги“.[^brook-util]","Федералната търговска комисия на САЩ (FTC) публикува на 17 януари 2025 г. доклад за партньорствата на облачните доставчици Alphabet, Amazon и Microsoft с разработчиците Anthropic и OpenAI, като посочва, че те могат да засегнат достъпа до изчислителни ресурси и инженерни таланти и да увеличат разходите на разработчиците за смяна на доставчика.[^ftc] Неравенството на ресурсите е и географско: по данни на AI Index частните инвестиции в ИИ в САЩ през 2024 г. достигат 109,1 млрд. долара — близо 12 пъти повече от тези в Китай (9,3 млрд.).[^aiindex-inv]","Политическото влияние на технологичния сектор расте: според анализ на организацията Issue One компаниите Meta, Alphabet, Microsoft, ByteDance, X и Snap заедно харчат 61,5 млн. долара за лобиране през 2024 г., с близо 13% повече от предходната година, и наемат близо 300 лобисти, тоест по един на всеки двама членове на Конгреса.[^issueone] Amazon, Meta, Google и Microsoft дават по 1 млн. долара за комитета по встъпването в длъжност на президента Доналд Тръмп.[^issueone-inaug] В Брюксел според изследване на неправителствените организации Corporate Europe Observatory и LobbyControl, публикувано през октомври 2025 г., технологичният сектор харчи около 151 млн. евро годишно за лобиране — с над 50% повече от преди четири години, като най-много харчат Meta (10 млн. евро), Microsoft и Apple (по 7 млн.).[^euronews]","Индустрията навлиза и в изборното финансиране, при това от двете страни на спора за регулацията: през август 2025 г. е създадена мрежата от супер-PAC Leading the Future със 100 млн. долара, подкрепена от фонда Andreessen Horowitz и президента на OpenAI Грег Брокман, която се обявява срещу строгата регулация на ИИ.[^silicon] Anthropic дарява през февруари 2026 г. 20 млн. долара на групата Public First, която подкрепя кандидати за Конгреса, застъпващи се за правила за безопасност на ИИ, докато Leading the Future планира да похарчи 125 млн. долара през годината в подкрепа на по-лека регулация.[^adn] Институтът AI Now в доклада си „Изкуствена власт“ от юни 2025 г. твърди, че стремежът продуктите с ИИ да бъдат вградени навсякъде дава на компаниите за ИИ и на „технологичните олигарси“, които ги управляват, власт, която „далеч надхвърля дълбоките им джобове“.[^ainow]","Самите компании представят собствената си роля по различен начин: OpenAI обявява на 7 май 2025 г. инициативата „OpenAI за държави“ като подкрепа за страни, които искат да изграждат върху „демократични релси на ИИ“, и като алтернатива на „авторитарни версии на ИИ“, които биха го използвали за консолидиране на властта.[^oai] Компанията определя демократичния ИИ като ИИ, който защитава демократичните принципи, например свободата на хората да избират как работят с ИИ и предотвратяването на държавното използване на ИИ за натрупване на контрол.[^oai-def] Дарио Амодей предлага в есето „Машини на любяща благодат“ (октомври 2024 г.) „стратегия на антантата“, при която коалиция от демокрации се стреми към ясно, макар и временно предимство в мощния ИИ, като осигурява веригата си за доставки и блокира или забавя достъпа на противниците до чипове и оборудване за полупроводници.[^mlg-entente] В същото есе той признава, че не вижда „силна причина“ да вярва, че ИИ сам по себе си или по своята структура ще благоприятства демокрацията и мира.[^mlg-noreason]","В есето „Юношеството на технологията“ (януари 2026 г.) Амодей пише, че днешните автокрации са ограничени от нуждата хора да изпълняват заповедите им, докато автокрациите с ИИ „не биха имали такива ограничения“.[^adol-autoc] Той определя самите компании за ИИ като „следващото ниво на риск“: те контролират големи центрове за данни, обучават най-напредналите модели и в някои случаи имат ежедневен контакт и възможност за влияние върху десетки или стотици милиони потребители, като им липсват главно легитимността и инфраструктурата на държава.[^adol-companies] Публикуваната от Anthropic „конституция“ на модела Claude изисква той да избягва съдействие на „проблемни концентрации на власт“ и да се възприема като една от „многото ръце“, които незаконните завземания на власт исторически са изисквали — по аналогия с войник, който отказва да стреля по мирни протестиращи.[^const-hands] Като външни мерки Forethought предлага правила за легитимно използване на ИИ, технически средства за прилагането им и овластяване на множество актьори, които да предотвратяват преврати с ИИ.[^fore-mitig] Организацията 80,000 Hours напомня, че днес големите начинания изискват огромни човешки екипи — на върха си проектът „Манхатън“ наема 130 000 души, а за работата на Amazon са нужни 1,5 милиона — и че с развитието на ИИ ще стане възможно да се постигат големи цели без тях.[^k80-small]"]},{"id":"trudat-i-ikonomicheskata-vlast","title":"Трудът и икономическата власт","paragraphs":["Анализ на служителите на Международния валутен фонд, представен от Кристалина Георгиева на 14 януари 2024 г., оценява, че почти 40% от световната заетост е изложена на ИИ, а в развитите икономики — около 60% от работните места.[^imf-40] Според МВФ около половината от изложените работни места могат да спечелят от ИИ чрез по-висока производителност, но при другата половина той може да поеме ключови задачи, да намали търсенето на труд и да доведе до по-ниски заплати и по-малко наемане.[^imf-half] Фондът предупреждава, че с времето технологията може да задълбочи неравенството както между държавите, така и в тях.[^imf-ineq]","Индексът на Международната организация на труда и полския институт NASK от 20 май 2025 г. установява, че 25% от световната заетост е в професии, потенциално изложени на генеративен ИИ, а във високодоходните страни — 34%; подробно ефектите са разгледани в [[izkustveniyat-intelekt-i-pazarat-na-truda|статията за ИИ и пазара на труда]].[^ilo-25] Излагането засяга непропорционално жените: във високодоходните страни работните места с най-висок риск от автоматизация са 9,6% от женската заетост срещу 3,5% от мъжката.[^ilo-women] МОТ подчертава, че индексът помага да се разграничат работните места с висок риск от пълна автоматизация от онези, които по-скоро ще се променят чрез трансформация на задачите.[^ilo-transform]","Връзката между труда и политическата власт е централна за част от авторите: Амодей пише, че демокрацията в крайна сметка се крепи на идеята, че населението като цяло е необходимо за функционирането на икономиката, и че ако тази икономическа зависимост изчезне, „имплицитният обществен договор на демокрацията“ може да спре да работи.[^adol-econ] Организацията 80,000 Hours предупреждава, че ако стойността на труда спадне, по-голям дял от доходите ще отиде при капитала, а притежателите му могат да станат още по-непропорционално силни.[^k80-capital] Харари формулира същото опасение още през 2018 г.: когато много хора загубят икономическата си стойност, те може да загубят и политическата си власт.[^atl-useless]"]},{"id":"kontraargumenti","title":"Контрааргументи","paragraphs":["Противниците на тезата за неизбежна концентрация посочват бързото поевтиняване на технологията: според Станфордския AI Index цената на използването на система на нивото на GPT-3.5 пада над 280 пъти между ноември 2022 и октомври 2024 г., а разходите за хардуер намаляват с 30% годишно.[^aiindex-cost] През януари 2025 г. китайската компания DeepSeek, собственост на хедж фонда High-Flyer, пуска чатбот и модела DeepSeek-R1 с [[otvoreni-i-lokalni-modeli-na-izkustveniya-intelekt|отворени тегла]], чиито параметри са публично достъпни, макар данните за обучение да не са с отворен лиценз.[^deepseek]","Достъпът до инструменти за анализ се разширява и за гражданските разследвачи, но ранните тестове са предпазливи: Bellingcat съобщава на 14 юли 2023 г., че чатботът на Bing имитира стратегиите на изследователите с отворени източници за геолокация, но не може сам да геолокира изображения, а и двата тествани чатбота изискват обширни подсказки.[^bellingcat] Аналогията с печатната преса, често използвана в полза на децентрализиращия поглед, също е двойствена: пресата, изобретена около 1440 г., революционизира разпространението на информация, но до 1486 г. двама доминикански монаси публикуват „Чукът на вещиците“ (Malleus Maleficarum), чиито твърдения доминират лова на вещици.[^religion] Харари използва този пример срещу „наивния“ възглед, че повече информация непременно прави човечеството по-силно, но някои специалисти критикуват тази му позиция.[^nexus-naive]","Част от страховете се смятат за преувеличени и по същество: Феликс Саймън, Саша Алтай и Юго Мерсие твърдят, че потреблението на дезинформация е ограничено главно от търсенето, а не от предлагането, затова по-лесното ѝ производство с ИИ не води непременно до повече потребление.[^hks-demand] Китайският социален кредит, според MIT Technology Review, е едно от „най-неразбраните неща за Китай“ в западния дискурс още откакто страната обявява през 2014 г. шестгодишен план за изграждането му.[^mittr-misund] Конкуренцията също действа като противотежест: Адам Ковачевич от индустриалната организация Chamber of Progress смята, че генеративният ИИ вече е конкурентно предизвикателство за традиционните търсачки и че съдията по делото срещу Google се е съобразил с тази промяна.[^register-ai]","Някои автори предлагат изрично децентрализиращи програми: съоснователят на Ethereum Виталик Бутерин описва през ноември 2023 г. подхода d/acc — „отбранително (или децентрализиращо, или диференциално) ускорение“ — и твърди, че светове, в които защитата има предимство, помагат на здравото и демократично управление.[^vitalik] Бутерин също предупреждава, че докато в миналото китайската поговорка „небето е високо, императорът е далеч“ изразява границите на централизацията, с ИИ на XXI век един тоталитарен режим може да поддържа достатъчно наблюдение и контрол, за да остане „заключен“ завинаги.[^vitalik-lock] Глен Уейл и Одри Танг, първият министър по цифровите въпроси на Тайван, предлагат в книгата „Плуралност“ път между крайностите на технолибертарианството и централизираното управление на ИИ, основан на опита на Тайван в цифровата демокрация — подход, близък до идеите за [[izkustveniyat-intelekt-v-pryakata-demokratsia|ИИ в пряката демокрация]].[^plurality]"]},{"id":"protivotezhesti","title":"Противотежести","paragraphs":["Най-прякото средство срещу корпоративната концентрация е антитръстовото право: в САЩ федералният съд в окръг Колумбия заключава през август 2024 г., че „Google е монополист“, а на 2 септември 2025 г. забранява на компанията ексклузивни договори за разпространението на Google Search, Chrome, Google Assistant и приложението Gemini и я задължава да предостави на конкуренти част от индекса за търсене и данните за взаимодействието с потребители (повече в статията за [[sasht-sud-monopol-tarsene-google-2024|решението от 2024 г.]]).[^doj-search] Съдът обаче не задължава Google да продаде Chrome или Android и ѝ позволява да продължи да плаща милиарди за позиция по подразбиране, поради което The Register пише, че съдията е решил да не прави „почти нищо“, за да раздели компанията.[^register-chrome] На 17 април 2025 г. друг федерален съд, във Вирджиния, установява, че Google е нарушила антитръстовото право, като е монополизирала пазарите на цифрова реклама в отворения уеб.[^doj-adtech]","В ЕС Законодателният акт за цифровите пазари (DMA) влиза в сила на 1 ноември 2022 г. и започва да се прилага в по-голямата си част от 2 май 2023 г., за да предотврати злоупотребата на големите компании с пазарната им власт.[^dmawiki] На 23 април 2025 г. компаниите Apple и Meta са глобени от Европейската комисия съответно с 500 млн. евро и 200 млн. евро за нарушения на DMA — съответно на забраната за ограничаване на насочването към оферти извън App Store и на задължението да се предложи услуга, използваща по-малко лични данни; други случаи са описани в [[tsifrovite-platformi-pred-regulatorite-i-sadilishtata|статията за платформите пред регулаторите]].[^dma-fines]","Регламентът на ЕС за ИИ (член 5) забранява системи, които оценяват или класифицират хора по социалното им поведение или личностни характеристики, когато „социалният резултат“ води до неблагоприятно третиране, както и създаването или разширяването на бази данни за лицево разпознаване чрез нецеленасочено извличане на изображения от интернет или от записи на видеонаблюдение; подробно регламентът е разгледан в [[es-zakon-za-izkustven-intelekt|статията за Закона на ЕС за ИИ]].[^aiact] Регламентът урежда и използването в реално време на дистанционна биометрична идентификация, като задължава Комисията да публикува годишни доклади за него.[^aiact-rt]","Като публична алтернатива на частните модели швейцарските EPFL, ETH Цюрих и Националният суперкомпютърен център пускат на 2 септември 2025 г. напълно отворения многоезичен модел Apertus, обучен върху 15 трилиона токена на над 1000 езика и представен като създаден „за общественото благо“.[^apertus] Обсъждат се и форми на пряко гражданско участие в определянето на ценностите на моделите: Anthropic и Collective Intelligence Project провеждат през 2023 г. процес с около 1000 американци, които чрез платформата Polis съставят „конституция“ за система с ИИ — експеримент, близък по дух до [[граждански-асамблеи-и-обществен-контрол-върху-изкуствения-интелект|гражданските асамблеи за контрол върху ИИ]].[^ccai] Според Freedom House ефектът от държавните мерки за информационната среда зависи от това доколко те дават приоритет на прозрачността, експертизата на гражданското общество, демократичния надзор и международните стандарти за правата на човека.[^fotn24-transp]"]},{"id":"balgarskiyat-kontekst","title":"Българският контекст","paragraphs":["Сред проверимите данни за България е решението на Европейския съд по правата на човека по делото „Екимджиев и други срещу България“ от 11 януари 2022 г., в което съдът единодушно установява нарушение на член 8 от Конвенцията както по отношение на тайното наблюдение, така и по отношение на съхраняването и достъпа до данни за комуникациите.[^statewatch-ek] Съдът приема, че законодателството, уреждащо тайното наблюдение от полицията, прокуратурата и военните служби и службите за сигурност, не защитава достатъчно правото на личен живот и че събраните данни „могат да бъдат използвани за злонамерени цели“ поради липса на гаранции.[^statewatch-nef] Жалбоподателите — двама български адвокати и две неправителствени организации — твърдят, че електронните им комуникации могат да бъдат злоупотребявано достъпвани от правоприлагащите органи и че нямат ефективни средства за защита.[^strasobs-app]","Според БТА четири полицейски и военноморски академии от Румъния, България и Чехия съвместно разработват електронна платформа за лицево разпознаване и идентификация, по думите на заместник-началника на Военноморското училище „Никола Вапцаров“ във Варна.[^bta] Индексът на „Карнеги“ подчертава, че правителствата в автократичните и полуавтократичните страни са по-склонни да злоупотребяват с наблюдението с ИИ, отколкото правителствата в либералните демокрации, и че най-важният фактор за репресивна употреба е качеството на управлението.[^carn-gov]"]},{"id":"sastoyanie-na-debata","title":"Състояние на дебата","paragraphs":["Най-добре документирани остават държавните приложения на ИИ за наблюдение и цензура, отчитани ежегодно от Freedom House, чийто доклад за 2025 г. нарича бъдещето на глобалния интернет „несигурно“ и заключава, че той е по-контролиран и манипулиран от всякога.[^fotn25-title] Оценките на ефекта от съдебните мерки срещу технологичните гиганти се разминават: Министерството на правосъдието на САЩ определя мерките срещу Google като „значителни“ и като средство за възстановяване на конкуренцията в търсенето.[^doj-signif] Сценариите за свръхконцентрация при напреднал ИИ остават най-спорни: организации като 80,000 Hours смятат концентрацията на власт с помощта на ИИ за „особено належащ проблем“, но основанията им са оценки на това какво автоматизацията „би могла“ да направи, а не наблюдения на настоящето.[^k80-pressing]"]}],"sources":[{"key":"winner","title":"Langdon Winner","url":"https://en.wikipedia.org/wiki/Do_Artifacts_Have_Politics%3F","note":"Пренасочване от „Do Artifacts Have Politics?“","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24"},{"key":"spe","title":"Power and Progress (book review)","url":"https://www.spe.org.uk/reading-room/book-reviews/power-and-progress/","note":"","publisher":"Society of Professional Economists","published_at":"2023-07-26","language":"en","retrieved_at":"2026-10-24"},{"key":"gazette","title":"Harvard professor says surveillance capitalism is undermining democracy","url":"https://news.harvard.edu/gazette/story/2019/03/harvard-professor-says-surveillance-capitalism-is-undermining-democracy/","note":"","publisher":"Harvard Gazette","published_at":"2019-03-04","language":"en","retrieved_at":"2026-10-24"},{"key":"survcap","title":"Surveillance capitalism","url":"https://en.wikipedia.org/wiki/Surveillance_capitalism","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24"},{"key":"nexus","title":"Nexus: A Brief History of Information Networks from the Stone Age to AI","url":"https://en.wikipedia.org/wiki/Nexus:_A_Brief_History_of_Information_Networks_from_the_Stone_Age_to_AI","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20260503081812/https://en.wikipedia.org/wiki/Nexus:_A_Brief_History_of_Information_Networks_from_the_Stone_Age_to_AI"},{"key":"atlantic","title":"Why Technology Favors Tyranny (Yuval Noah Harari)","url":"https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/","note":"","publisher":"The Atlantic","published_at":"2018-10","language":"en","retrieved_at":"2026-10-24"},{"key":"sri","title":"Power and prediction: Avi Goldfarb on the disruptive economics of artificial intelligence","url":"https://srinstitute.utoronto.ca/news/power-and-prediction-avi-goldfarb-on-the-disruptive-economics-of-ai","note":"","publisher":"Schwartz Reisman Institute, University of Toronto","language":"en","retrieved_at":"2026-10-24"},{"key":"carnegie","title":"The Global Expansion of AI Surveillance (Steven Feldstein)","url":"https://carnegieendowment.org/research/2019/09/the-global-expansion-of-ai-surveillance?lang=en","note":"","publisher":"Carnegie Endowment for International Peace","published_at":"2019-09-17","language":"en","retrieved_at":"2026-10-24"},{"key":"ap","title":"Researchers: AI surveillance is expanding worldwide","url":"https://www.boston.com/news/politics/2019/09/17/research-group-says-ai-surveillance-expanding-worldwide/","note":"","publisher":"Associated Press (Boston.com)","published_at":"2019-09-17","language":"en","retrieved_at":"2026-10-24"},{"key":"fotn23","title":"Freedom on the Net 2023: The Repressive Power of Artificial Intelligence","url":"https://freedomhouse.org/report/freedom-net/2023/repressive-power-artificial-intelligence","note":"","publisher":"Freedom House","published_at":"2023-10-04","language":"en","retrieved_at":"2026-10-24"},{"key":"fotn24","title":"Freedom on the Net 2024: The Struggle for Trust Online","url":"https://freedomhouse.org/report/freedom-net/2024/struggle-trust-online","note":"","publisher":"Freedom House","published_at":"2024-10-16","language":"en","retrieved_at":"2026-10-24"},{"key":"fotn25","title":"New report: Persistent Authoritarian Repression and Backsliding in Democracies Drive 15th Consecutive Year of Decline in Global Internet Freedom","url":"https://freedomhouse.org/article/new-report-persistent-authoritarian-repression-and-backsliding-democracies-drive-15th","note":"","publisher":"Freedom House","published_at":"2025-11-13","language":"en","retrieved_at":"2026-10-24"},{"key":"daum","title":"Untrustworthy: Social Credit Isn’t What You Think It Is (Jeremy Daum)","url":"https://verfassungsblog.de/untrustworthy-social-credit-isnt-what-you-think-it-is/","note":"","publisher":"Verfassungsblog","published_at":"2019-06-27","language":"en","retrieved_at":"2026-10-24"},{"key":"mittr","title":"China just announced a new social credit law. Here's what it says.","url":"https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/","note":"","publisher":"MIT Technology Review","published_at":"2022-11-22","language":"en","retrieved_at":"2026-10-24"},{"key":"scswiki","title":"Social credit system","url":"https://en.wikipedia.org/wiki/Social_Credit_System","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24"},{"key":"hrw","title":"China’s Algorithms of Repression: Reverse Engineering a Xinjiang Police Mass Surveillance App","url":"https://www.hrw.org/report/2019/05/01/chinas-algorithms-repression/reverse-engineering-xinjiang-police-mass","note":"","publisher":"Human Rights Watch","published_at":"2019-05-01","language":"en","retrieved_at":"2026-10-24"},{"key":"mscn","title":"Mass surveillance in China","url":"https://en.wikipedia.org/wiki/Mass_surveillance_in_China","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24"},{"key":"glukhin","title":"Glukhin v. Russia","url":"https://globalfreedomofexpression.columbia.edu/cases/glukhin-v-russia/","note":"","publisher":"Global Freedom of Expression, Columbia University","language":"en","retrieved_at":"2026-10-24"},{"key":"iran","title":"Iran is using drones and apps to catch women who aren’t wearing hijabs, says UN report","url":"https://keyt.com/news/national-world/cnn-world/2025/03/14/iran-is-using-drones-and-apps-to-catch-women-who-arent-wearing-hijabs-says-un-report/","note":"","publisher":"CNN (KEYT)","published_at":"2025-03-14","language":"en","retrieved_at":"2026-10-24"},{"key":"ahram","title":"Iran expands electronic surveillance of women over headscarf violations: UN report","url":"https://english.ahram.org.eg/News/541997.aspx","note":"","publisher":"Associated Press (Ahram Online)","published_at":"2025-03-14","language":"en","retrieved_at":"2026-10-24"},{"key":"pnas","title":"Evaluating the persuasive influence of political microtargeting with large language models","url":"https://www.pnas.org/doi/10.1073/pnas.2403116121","note":"","publisher":"PNAS","published_at":"2024-06-07","language":"en","retrieved_at":"2026-10-24"},{"key":"salvi","title":"On the conversational persuasiveness of GPT-4","url":"https://www.nature.com/articles/s41562-025-02194-6","note":"","publisher":"Nature Human Behaviour","published_at":"2025","language":"en","retrieved_at":"2026-10-24"},{"key":"oii","title":"Oxford and AISI researchers reveal how conversational AI can change political opinions","url":"https://www.oii.ox.ac.uk/oxford-researchers-reveal-how-conversational-ai-can-change-political-opinions/","note":"","publisher":"Oxford Internet Institute","published_at":"2025-12-04","language":"en","retrieved_at":"2026-10-24"},{"key":"natasia","title":"Artificial intelligence: Chatbots may influence voting intentions (Nature)","url":"https://www.natureasia.com/en/info/press-releases/detail/9175","note":"","publisher":"Nature Portfolio","published_at":"2025-12-05","language":"en","retrieved_at":"2026-10-24"},{"key":"aihub","title":"AI chatbots can effectively sway voters – in either direction","url":"https://aihub.org/2026/03/12/ai-chatbots-can-effectively-sway-voters-in-either-direction/","note":"","publisher":"AIhub (Cornell Chronicle, CC BY 4.0)","published_at":"2026-03-12","language":"en","retrieved_at":"2026-10-24"},{"key":"dnr","title":"Overview and key findings of the 2025 Digital News Report","url":"https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025/dnr-executive-summary","note":"","publisher":"Reuters Institute for the Study of Journalism","published_at":"2025-06","language":"en","retrieved_at":"2026-10-24"},{"key":"brookings","title":"Market concentration implications of foundation models: The Invisible Hand of ChatGPT","url":"https://www.brookings.edu/articles/market-concentration-implications-of-foundation-models-the-invisible-hand-of-chatgpt/","note":"","publisher":"Brookings Institution","published_at":"2023-09-07","language":"en","retrieved_at":"2026-10-24"},{"key":"ftc","title":"FTC Issues Staff Report on AI Partnerships & Investments Study","url":"https://www.ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study","note":"","publisher":"Federal Trade Commission","published_at":"2025-01-17","language":"en","retrieved_at":"2026-10-24"},{"key":"aiindex","title":"The 2025 AI Index Report","url":"https://hai.stanford.edu/ai-index/2025-ai-index-report","note":"","publisher":"Stanford HAI","published_at":"2025","language":"en","retrieved_at":"2026-10-24"},{"key":"issueone","title":"Big Tech Cozies Up to New Administration After Spending Record Sums on Lobbying Last Year","url":"https://issueone.org/articles/big-tech-spent-record-sums-on-lobbying-last-year/","note":"","publisher":"Issue One","published_at":"2025-01-22","language":"en","retrieved_at":"2026-10-24"},{"key":"euronews","title":"Big Tech spending on Brussels lobbying hits record high, report claims","url":"https://euronews.com/next/2025/10/29/big-tech-spending-on-brussels-lobbying-hits-record-high-report-claims","note":"","publisher":"Euronews","published_at":"2025-10-29","language":"en","retrieved_at":"2026-10-24"},{"key":"silicon","title":"Silicon Valley AI leaders launch $100M Leading the Future super-PAC","url":"https://siliconangle.com/2025/08/25/silicon-valley-ai-leaders-launch-100m-leading-future-super-pac/","note":"","publisher":"SiliconANGLE","published_at":"2025-08-25","language":"en","retrieved_at":"2026-10-24"},{"key":"adn","title":"Anthropic pledges $20 million to candidates who favor AI safety","url":"https://www.adn.com/business-economy/2026/02/12/anthropic-pledges-20-million-to-candidates-who-favor-ai-safety/","note":"","publisher":"Bloomberg (Anchorage Daily News)","published_at":"2026-02-13","language":"en","retrieved_at":"2026-10-24"},{"key":"ainow","title":"Artificial Power: 2025 Landscape Report","url":"https://ainowinstitute.org/2025-landscape","note":"","publisher":"AI Now Institute","published_at":"2025-06-03","language":"en","retrieved_at":"2026-10-24"},{"key":"oai","title":"Introducing OpenAI for Countries","url":"https://openai.com/global-affairs/openai-for-countries/","note":"","publisher":"OpenAI","published_at":"2025-05-07","language":"en","retrieved_at":"2026-10-24"},{"key":"mlg","title":"Machines of Loving Grace (Dario Amodei)","url":"https://www.darioamodei.com/essay/machines-of-loving-grace","note":"","publisher":"darioamodei.com","published_at":"2024-10","language":"en","retrieved_at":"2026-10-24"},{"key":"adol","title":"The Adolescence of Technology (Dario Amodei)","url":"https://www.darioamodei.com/essay/the-adolescence-of-technology","note":"","publisher":"darioamodei.com","published_at":"2026-01","language":"en","retrieved_at":"2026-10-24"},{"key":"constitution","title":"Claude’s Constitution","url":"https://www.anthropic.com/constitution","note":"","publisher":"Anthropic","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013210052/https://www.anthropic.com/constitution"},{"key":"forethought","title":"AI-Enabled Coups: How a Small Group Could Use AI to Seize Power","url":"https://www.forethought.org/research/ai-enabled-coups-how-a-small-group-could-use-ai-to-seize-power","note":"","publisher":"Forethought","published_at":"2025-04-15","language":"en","retrieved_at":"2026-10-24"},{"key":"gradual","title":"Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development","url":"https://arxiv.org/abs/2501.16946","note":"","publisher":"arXiv","published_at":"2025-01-28","language":"en","retrieved_at":"2026-10-24"},{"key":"k80","title":"Extreme power concentration","url":"https://80000hours.org/problem-profiles/extreme-power-concentration/","note":"","publisher":"80,000 Hours","language":"en","retrieved_at":"2026-10-24"},{"key":"imf","title":"AI Will Transform the Global Economy. Let’s Make Sure It Benefits Humanity.","url":"https://www.imf.org/en/Blogs/Articles/2024/01/14/ai-will-transform-the-global-economy-lets-make-sure-it-benefits-humanity","note":"","publisher":"International Monetary Fund","published_at":"2024-01-14","language":"en","retrieved_at":"2026-10-24"},{"key":"ilo","title":"One in four jobs at risk of being transformed by GenAI, new ILO–NASK Global Index shows","url":"https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows","note":"","publisher":"International Labour Organization","published_at":"2025-05-20","language":"en","retrieved_at":"2026-10-24"},{"key":"hks","title":"Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown","url":"https://misinforeview.hks.harvard.edu/article/misinformation-reloaded-fears-about-the-impact-of-generative-ai-on-misinformation-are-overblown/","note":"","publisher":"Harvard Kennedy School Misinformation Review","published_at":"2023-10-18","language":"en","retrieved_at":"2026-10-24"},{"key":"deepseek","title":"DeepSeek","url":"https://en.wikipedia.org/wiki/DeepSeek","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261006133840/https://en.wikipedia.org/wiki/DeepSeek"},{"key":"bellingcat","title":"Can AI Chatbots Be Used for Geolocation?","url":"https://bellingcat.com/resources/2023/07/14/can-ai-chatbots-be-used-for-geolocation/","note":"","publisher":"Bellingcat","published_at":"2023-07-14","language":"en","retrieved_at":"2026-10-24"},{"key":"religion","title":"From printing presses to Facebook feeds: What yesterday’s witch hunts have in common with today’s misinformation crisis","url":"https://religionnews.com/2025/08/04/from-printing-presses-to-facebook-feeds-what-yesterdays-witch-hunts-have-in-common-with-todays-misinformation-crisis/","note":"","publisher":"Religion News Service","published_at":"2025-08-04","language":"en","retrieved_at":"2026-10-24"},{"key":"register","title":"Judge who ruled Google is a monopoly decides to do hardly anything to break it up","url":"https://www.theregister.com/2025/09/03/google_doj_antitrust_ruling/","note":"","publisher":"The Register","published_at":"2025-09-03","language":"en","retrieved_at":"2026-10-24"},{"key":"vitalik","title":"My techno-optimism (Vitalik Buterin)","url":"https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html","note":"","publisher":"vitalik.eth.limo","published_at":"2023-11-27","language":"en","retrieved_at":"2026-10-24"},{"key":"plurality","title":"Plurality: The Future of Collaborative Technology and Democracy","url":"https://www.plurality.net/","note":"","publisher":"plurality.net","language":"en","retrieved_at":"2026-10-24"},{"key":"dojsearch","title":"Department of Justice Wins Significant Remedies Against Google","url":"https://www.justice.gov/opa/pr/department-justice-wins-significant-remedies-against-google","note":"","publisher":"U.S. Department of Justice","published_at":"2025-09-02","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261012031559/https://www.justice.gov/opa/pr/department-justice-wins-significant-remedies-against-google"},{"key":"dojadtech","title":"Department of Justice Prevails in Landmark Antitrust Case Against Google","url":"https://www.justice.gov/opa/pr/department-justice-prevails-landmark-antitrust-case-against-google","note":"","publisher":"U.S. Department of Justice","published_at":"2025-04-17","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261012004024/https://www.justice.gov/opa/pr/department-justice-prevails-landmark-antitrust-case-against-google"},{"key":"dmawiki","title":"Digital Markets Act","url":"https://en.wikipedia.org/wiki/Digital_Markets_Act","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-24"},{"key":"dma","title":"Commission finds Apple and Meta in breach of the Digital Markets Act","url":"https://ec.europa.eu/commission/presscorner/api/files/document/print/en/ip_25_1085/IP_25_1085_EN.pdf","note":"","publisher":"European Commission","published_at":"2025-04-23","language":"en","retrieved_at":"2026-10-24"},{"key":"aiact","title":"Article 5: Prohibited AI Practices","url":"https://artificialintelligenceact.eu/article/5/","note":"","publisher":"EU Artificial Intelligence Act (artificialintelligenceact.eu)","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261004092620/https://artificialintelligenceact.eu/article/5/"},{"key":"apertus","title":"Apertus: a fully open, transparent, multilingual language model","url":"https://ethz.ch/en/news-and-events/eth-news/news/2025/09/press-release-apertus-a-fully-open-transparent-multilingual-language-model.html","note":"","publisher":"ETH Zurich","published_at":"2025-09-02","language":"en","retrieved_at":"2026-10-24"},{"key":"ccai","title":"Collective Constitutional AI: Aligning a language model with public input","url":"https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input","note":"","publisher":"Anthropic","published_at":"2023-10-17","language":"en","retrieved_at":"2026-10-24","archive_url":"https://web.archive.org/web/20261013154748/https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input"},{"key":"statewatch","title":"Bulgaria: Secret surveillance data \"could be used for nefarious purposes\" due to lack of safeguards, rules ECHR","url":"https://www.statewatch.org/news/2022/january/bulgaria-secret-surveillance-data-could-be-used-for-nefarious-purposes-due-to-lack-of-safeguards-rules-echr/","note":"","publisher":"Statewatch","published_at":"2022-01-11","language":"en","retrieved_at":"2026-10-24"},{"key":"strasobs","title":"Ekimdzhiev and Others v. Bulgaria: Secret Surveillance and Electronic Communications Surveillance Only with Adequate Safeguards","url":"https://strasbourgobservers.com/2022/03/02/ekimdzhiev-and-others-v-bulgaria-nothing-new-under-the-sun/","note":"","publisher":"Strasbourg Observers","published_at":"2022-03-02","language":"en","retrieved_at":"2026-10-24"},{"key":"bta","title":"Police and Military Academies from Bulgaria, Czechia, Romania Develop Facial Recognition Platform","url":"https://bta.bg/en/news/307132-police-and-military-academies-from-bulgaria-czechia-romania-develop-facial-rec","note":"","publisher":"БТА","published_at":"2022-08-04","language":"en","retrieved_at":"2026-10-24"}],"citations":[{"id":"k80-why","source_key":"k80","locator":"","excerpt":"Historically unprecedented levels of automation could concentrate the power to get stuff done, by reducing the value of human labour, empowering small groups with big AI workforces, and potentially giving one AI developer a huge capabilities advantage (if automating AI development leads to runaway AI progress). This could lead to unprecedented concentration of political power.","note":""},{"id":"winner-1980","source_key":"winner","locator":"","excerpt":"In 1980 Winner proposed that technologies embody social relations, i.e. power.","note":""},{"id":"atl-data","source_key":"atlantic","locator":"","excerpt":"In 2018 the common person feels increasingly irrelevant. ... The conflict between democracy and dictatorship is actually a conflict between two different data-processing systems. AI may swing the advantage toward the latter.","note":""},{"id":"carn-lead","source_key":"carnegie","locator":"","excerpt":"The index compiles empirical data on AI surveillance use for 176 countries around the world. ... At least seventy-five out of 176 countries globally are actively using AI technologies for surveillance purposes.","note":""},{"id":"fotn25-15","source_key":"fotn25","locator":"","excerpt":"Press release November 13, 2025 NEW REPORT: Persistent Authoritarian Repression and Backsliding in Democracies Drive 15th Consecutive Year of Decline in Global Internet Freedom The future of internet freedom will depend on how governments regulate and deploy the next wave of artificial intelligence and other rapidly evolving technologies.","note":""},{"id":"hks-overblown","source_key":"hks","locator":"","excerpt":"We argue that current concerns about the effects of generative AI on the misinformation landscape are overblown.","note":""},{"id":"aiindex-open","source_key":"aiindex","locator":"","excerpt":"Open-weight models are also closing the gap with closed models, reducing the performance difference from 8% to just 1.7% on some benchmarks in a single year. Together, these trends are rapidly lowering the barriers to advanced AI.","note":""},{"id":"gazette-law","source_key":"gazette","locator":"","excerpt":"Second, we need to muster the resources of our democratic institutions in the form of law and regulation. These include, but also move beyond, privacy and antitrust laws.","note":""},{"id":"adol-three","source_key":"adol","locator":"","excerpt":"Section 1 discussed the risk that humanity gets disempowered by AI, and Section 3 discussed the risk that citizens get disempowered by their governments by force or coercion. But another kind of disempowerment can occur if there is such a huge concentration of wealth that a small group of people effectively controls government policy with their influence","note":""},{"id":"fore-risk","source_key":"forethought","locator":"","excerpt":"Tom Davidson Lukas Finnveden Rose Hadshar Authors Citations Cite Citations PDF Contact 15th April 2025 AI-Enabled Coups: How a Small Group Could Use AI to Seize Power ... Singular loyalties to institutional leaders. Unlike human personnel, whose allegiance must be earned and maintained, an AI workforce could be made unwaveringly loyal to one or a few persons. Secret AI loyalties. AI systems could be developed with secret loyalties that are very hard to detect. Exclusive access to coup-enabling capabilities.","note":""},{"id":"fore-democ","source_key":"forethought","locator":"","excerpt":"Advanced AI introduces three risk factors which could dramatically increase the risk of coups - even in stable democracies where coups have traditionally been rare","note":""},{"id":"fore-possible","source_key":"forethought","locator":"","excerpt":"the rapid pace of AI progress makes it possible that we face extremely powerful coup-enabling AI capabilities in the near future.","note":""},{"id":"fore-mil","source_key":"forethought","locator":"","excerpt":"Singular and secret loyalties are most concerning where AI systems are widely deployed in government and the military.","note":""},{"id":"gradual-a","source_key":"gradual","locator":"","excerpt":"Submitted on 28 Jan 2025 (v1), last revised 29 Jan 2025 (this version, v2) ... We analyze how even incremental improvements in AI capabilities can undermine human influence over large-scale systems that society depends on, including the economy, culture, and nation-states.","note":""},{"id":"gradual-b","source_key":"gradual","locator":"","excerpt":"As AI increasingly replaces human labor and cognition in these domains, it can weaken both explicit human control mechanisms (like voting and consumer choice) and the implicit alignments with human interests that often arise from societal systems' reliance on human participation to function.","note":""},{"id":"k80-dev","source_key":"k80","locator":"","excerpt":"Extreme power concentration | 80,000 Hours ... potentially giving one AI developer a huge capabilities advantage (if automating AI development leads to runaway AI progress).","note":""},{"id":"winner-two","source_key":"winner","locator":"","excerpt":"In that paper, Winner identifies two ways in which artifacts can have politics. ... in Daedalus, Vol. 109, No. 1, Winter 1980.","note":""},{"id":"winner-kinds","source_key":"winner","locator":"","excerpt":"The first, involving technical arrangements and social order, concerns how the invention, design, or arrangement of artifacts or the larger system becomes a mechanism for settling the affairs of a community. ... The second way in which artifacts can have politics refers to artifacts that correlate with particular kinds of political relationships, which Winner refers to as inherently political artifacts (Winner, p. 22, 1999). He distinguishes between two types of inherently political artifacts: those that require a particular sociological system and those that are strongly compatible with a particular sociological system","note":""},{"id":"gazette-def","source_key":"gazette","locator":"","excerpt":"March 4, 2019 8 min read In new book, Business School professor emerita says surveillance capitalism undermines autonomy — and democracy ... Shoshana Zuboff, professor emerita at Harvard Business School ... I define surveillance capitalism as the unilateral claiming of private human experience as free raw material for translation into behavioral data. These data are then computed and packaged as prediction products and sold into behavioral futures markets","note":""},{"id":"gazette-dem","source_key":"gazette","locator":"","excerpt":"erodes democracy from within because, without autonomy in action and in thought, we have little capacity for the moral judgment and critical thinking necessary for a democratic society. Democracy is also eroded from without, as surveillance capitalism represents an unprecedented concentration of knowledge and the power that accrues to such knowledge.","note":""},{"id":"survcap-gov","source_key":"survcap","locator":"","excerpt":"This phenomenon is distinct from government surveillance, although the two can be mutually reinforcing.","note":""},{"id":"gazette-911","source_key":"gazette","locator":"","excerpt":"Just hours after the World Trade Center towers were hit, the conversation in Washington changed from a concern about privacy to a preoccupation with “total information awareness.” In this new environment, the intelligence agencies and other powerful forces in Washington and other Western governments were more disposed to incubate and nurture the surveillance capabilities coming out of the commercial sector.","note":""},{"id":"sri-system","source_key":"sri","locator":"","excerpt":"As Goldfarb explains, the evolution of AI innovation will require systems-level changes to the ways that organizations make decisions. ... Press, 2022), a sequel to their widely-acclaimed Prediction Machines: The Simple Economics of Artificial Intelligence (2018).","note":""},{"id":"sri-shift","source_key":"sri","locator":"","excerpt":"We could see real power shifts, in both directions. The power shift towards centralization is to have lots of on-the-ground managers deciding on what people should do in day-to-day work, whether to retain or promote workers, and all that. When we centralize that, somebody at headquarters decides all those things.","note":""},{"id":"spe-mixed","source_key":"spe","locator":"","excerpt":"Year 2023 Pages 559 pages ... The authors argue that technological progress is a mixed blessing, capable of conferring immense benefits but also exacerbating inequalities and disempowerment for many. The book encapsulates a thousand-year narrative, tracing the history of automation and mechanisation.","note":""},{"id":"spe-examples","source_key":"spe","locator":"","excerpt":"They highlight how advances in agricultural techniques in the Middle Ages enabled grand cathedral constructions but left the peasantry impoverished. Similarly, the Industrial Revolution enriched a minority of capitalists while many workers toiled for subsistence wages in harsh conditions.","note":""},{"id":"spe-shared","source_key":"spe","locator":"","excerpt":"However, the authors also recognise periods of shared prosperity, such as the late 19th to three-quarters of the 20th century, when real wages rose and living standards increased for a significant proportion of the population. ... identifies our current challenges as stemming from the immense economic and social power wielded by corporations, especially in the tech sector.","note":""},{"id":"spe-redirect","source_key":"spe","locator":"","excerpt":"The authors argue for a redirection of technology to create shared prosperity, invoking the successes of the Progressive Era of the early 20th century, when powerful gatekeepers of society were challenged and norms were structurally altered.","note":""},{"id":"atl-central","source_key":"atlantic","locator":"","excerpt":"AI makes it possible to process enormous amounts of information centrally. In fact, it might make centralized systems far more efficient than diffuse systems, because machine learning works better when the machine has more information to analyze.","note":""},{"id":"atl-facade","source_key":"atlantic","locator":"","excerpt":"A facade of free choice and free voting may remain in place in some countries, even as the public exerts less and less actual control. ... find ways to prevent too much data from being concentrated in too few hands, and also find ways to keep distributed data processing more efficient than centralized data processing.","note":""},{"id":"nexus-self","source_key":"nexus","locator":"","excerpt":"Nexus: A Brief History of Information Networks from the Stone Age to AI is a 2024 ... Harari differentiates significantly between self-correcting and non-self-correcting systems. Science and democracy, he explains, are self-correcting, while totalitarianism and religion are not. He argues that artificial intelligence, despite its capability of learning, is not self-correcting if it supersedes other sources because of its inability to learn what it does not know.","note":""},{"id":"mscn-skynet","source_key":"mscn","locator":"","excerpt":"In 2005, the Chinese government created a mass surveillance system called Skynet. The government revealed Skynet's existence in 2013, by which time the network included over 20 million cameras.","note":""},{"id":"mscn-200","source_key":"mscn","locator":"","excerpt":"As of 2019, it is estimated that 200 million monitoring CCTV cameras of the ... As of August 2023, the country had over 700 million surveillance cameras according to online data, one lens for every two citizens.","note":""},{"id":"mscn-sharp","source_key":"mscn","locator":"","excerpt":"is a project which aimed to surveil one hundred percent of public space using surveillance in China by 2020, according to the 13th Five Year Plan released in 2016. Although it is questionable whether such targets","note":""},{"id":"hrw-13m","source_key":"hrw","locator":"","excerpt":"Since late 2016, the Chinese government has subjected the 13 million ethnic Uyghurs and other Turkic Muslims in Xinjiang to mass arbitrary detention, forced political indoctrination, restrictions on movement, and religious oppression.","note":""},{"id":"hrw-ijop","source_key":"hrw","locator":"","excerpt":"This report provides a detailed description and analysis of a mobile app that police and other officials use to communicate with the Integrated Joint Operations Platform ... the policing program aggregates data about people and flags to officials those it deems potentially threatening; some of those targeted are detained and sent to political education camps and other facilities.","note":""},{"id":"hrw-36","source_key":"hrw","locator":"","excerpt":"This page also reveals that there are 36 “person types” to whom the authorities are paying special attention.","note":""},{"id":"scs-myth","source_key":"scswiki","locator":"","excerpt":"There have been widespread misconceptions in media reports about a unified social credit \"score\" based on individuals' behavior, leading to punishments if the score is too low or rewards if the score is high.","note":""},{"id":"mittr-daum","source_key":"mittr","locator":"","excerpt":"says Jeremy Daum, a senior fellow of the Yale Law School Paul Tsai China Center who has been tracking China’s social credit experiment for years.","note":""},{"id":"daum-pillars","source_key":"daum","locator":"","excerpt":"Generally speaking, China’s social credit system includes three discrete pillars: 1) A financial credit reporting component similar to that found in many nations, which seeks to evaluate one’s ability to repay loans; 2) an administrative enforcement component involving a series of industry blacklists and joint punishment agreements for those who violate laws and regulations; and 3) a moral education component that focuses on teaching values of honesty and integrity.","note":""},{"id":"daum-score","source_key":"daum","locator":"","excerpt":"neither the 5-year planning document initiating the establishment of China’s social credit system nor any other higher-level social credit legal authority mentions a social credit score. A few dozen regions have created local ‘scoring’ systems for ‘personal integrity’ (the language of the moral education component) but point deductions in these systems result from violations of legal obligations, not an integrated behavioural assessment.","note":""},{"id":"scs-black","source_key":"scswiki","locator":"","excerpt":"eventually, the numerical score mechanism was limited to private credit rating and loyalty programs. ... Blacklisting is based on specific instances of misconduct, not any numerical score.","note":""},{"id":"daum-black","source_key":"daum","locator":"","excerpt":"Entities with more serious violations may be blacklisted by industry authorities, which does result in ‘joint-enforcement’ penalties imposed by other regulatory bodies in unrelated fields, based on inter-agency agreements. ... These punishments often include consideration of the blacklisting when applying for professional credentials and licenses, and limits on bidding in government projects","note":""},{"id":"mittr-myth","source_key":"mittr","locator":"","excerpt":"a Black Mirror–esque web of technologies that automatically score all Chinese citizens according to what they did right and wrong. But the reality is, that terrifying system doesn’t exist, and the central government doesn’t seem to have much appetite to build it, either.","note":""},{"id":"carn-index","source_key":"carnegie","locator":"","excerpt":"this paper presents an AI Global Surveillance (AIGS) Index—representing one of the first research efforts of its kind. The index compiles empirical data on AI surveillance use for 176 countries around the world. It does not distinguish between legitimate and unlawful uses of AI surveillance.","note":""},{"id":"ap-carn","source_key":"ap","locator":"","excerpt":"FILE - In this Feb. 26, 2019, file photo commuters walk by surveillance cameras installed at a walkway in between two subway stations in Beijing. The Carnegie Endowment for International Peace released a report Tuesday, Sept. 17, that found at least 75 countries are actively using AI tools such as facial recognition for surveillance. The new report says a growing number of countries are following China’s lead in deploying artificial intelligence to track citizens.","note":""},{"id":"carn-75","source_key":"carnegie","locator":"","excerpt":"At least seventy-five out of 176 countries globally are actively using AI technologies for surveillance purposes. This includes: smart city/safe city platforms (fifty-six countries), facial recognition systems (sixty-four countries), and smart policing (fifty-two countries).","note":""},{"id":"carn-china","source_key":"carnegie","locator":"","excerpt":"Technology linked to Chinese companies—particularly Huawei, Hikvision, Dahua, and ZTE—supply AI surveillance technology in sixty-three countries, thirty-six of which have signed onto China’s Belt and Road Initiative (BRI). Huawei alone is responsible for providing AI surveillance technology to at least fifty countries worldwide.","note":""},{"id":"carn-loans","source_key":"carnegie","locator":"","excerpt":"Chinese product pitches are often accompanied by soft loans to encourage governments to purchase","note":""},{"id":"carn-us","source_key":"carnegie","locator":"","excerpt":"U.S. companies are also active in this space. AI surveillance technology supplied by U.S. firms is present in thirty-two countries. The most significant U.S. companies are IBM (eleven countries), Palantir (nine countries), and Cisco (six countries).","note":""},{"id":"carn-51","source_key":"carnegie","locator":"","excerpt":"The index shows that 51 percent of advanced democracies deploy AI surveillance systems. In contrast, 37 percent of closed autocratic states, 41 percent of electoral autocratic/competitive autocratic states, and 41 percent of electoral democracies/illiberal democracies deploy AI surveillance","note":""},{"id":"carn-dem-law","source_key":"carnegie","locator":"","excerpt":"This doesn’t necessarily mean that democracies are using this technology unlawfully. The most important factor determining whether governments will exploit this technology for repressive purposes is the quality of their governance","note":""},{"id":"fotn23-13","source_key":"fotn23","locator":"","excerpt":"Freedom on the Net 2023 The Repressive Power of Artificial Intelligence Written by Allie Funk Adrian Shahbaz Kian Vesteinsson Key Findings Global internet freedom declined for the 13th consecutive year.","note":""},{"id":"fotn23-47","source_key":"fotn23","locator":"","excerpt":"During the coverage period, at least 47 countries featured progovernment commentators who used deceitful or covert tactics to manipulate online information, double the number from a decade ago.","note":""},{"id":"fotn23-16","source_key":"fotn23","locator":"","excerpt":"AI-based tools that can generate text, audio, and imagery have quickly grown more sophisticated, accessible, and easy to use, spurring a concerning escalation of these disinformation tactics. Over the past year, the new technology was utilized in at least 16 countries to sow doubt, smear opponents, or influence public debate.","note":""},{"id":"fotn23-22","source_key":"fotn23","locator":"","excerpt":"In at least 22 countries, social media companies were required—either explicitly or indirectly through the imposition of tight deadlines for the removal of banned material—to use automated systems for content moderation.","note":""},{"id":"fotn23-ven","source_key":"fotn23","locator":"","excerpt":"In early 2023, Venezuelan state media outlets distributed videos on social media that depicted anchors from a nonexistent international English-language channel spreading progovernment messages. The videos were produced using an online AI tool created by Synthesia, in what the company said is a violation of its","note":""},{"id":"fotn24","source_key":"fotn24","locator":"","excerpt":"Global internet freedom declined for the 14th consecutive year. ... Of the 72 countries covered by Freedom on the Net 2024, conditions for human rights online deteriorated in 27, and 18 countries registered overall gains. ... Generative AI has become more accessible, lowering the barrier of entry for those seeking to create false and misleading information.","note":""},{"id":"fotn25-ai","source_key":"fotn25","locator":"","excerpt":"Persistent Authoritarian Repression and Backsliding in Democracies Drive 15th Consecutive Year of Decline in Global Internet Freedom ... Freedom on the Net 2025: An Uncertain Future for the Global Internet, found that the internet is more controlled and manipulated today than ever before, with conditions for rights online deteriorating in 27 countries, while only 17 countries experienced improvements. ... developments including a surge in government investment in artificial intelligence (AI), a boom in satellite-based internet connectivity, and increasing constraints on online anonymity could drastically alter the digital landscape.","note":""},{"id":"glukhin-moscow","source_key":"glukhin","locator":"","excerpt":"In May 2017 the mayor of Moscow, Russia, reported that CCTV cameras had been installed in the city and later that year some of them were equipped with facial recognition technology. In 2018, facial recognition cameras were installed in Moscow’s underground subway, and in 2019 the mayor announced that the city was trialling a facial recognition system. By September 1, 2020, all 175 000 CCTV cameras in the city had live facial recognition technology, and by 2022, there were 220 000 cameras on the system.","note":""},{"id":"glukhin-facts","source_key":"glukhin","locator":"","excerpt":"Police identified him through the subway’s CCTV facial recognition technology and charged him with breaching public conduct. ... On August 12, 2019, a political activist, Konstantin Kotov, was arrested and charged under the Russian Criminal Code for breach of the rules on “public events”. On August 23, a Russian man, Nikolay Sergeyevich Glukhin, travelled on the subway with a life-size cardboard cut-out of Kotov","note":""},{"id":"glukhin-ruling","source_key":"glukhin","locator":"","excerpt":"Date of Decision July 4, 2023 Outcome Article 8 Violation, Article 10 Violation ... The Court found that the conviction infringed the right to freedom of expression because his demonstration was peaceful, and that the use of facial recognition technology was not necessary in the context of locating a peaceful protester and so infringed his right to privacy.","note":""},{"id":"iran-un","source_key":"iran","locator":"","excerpt":"Published March 14, 2025 4:29 pm By Mohammed Tawfeeq, CNN (CNN) — Iran is using aerial drones, facial recognition systems, and a citizen-reporting app to enforce mandatory hijab laws on women, according to a United Nations report released Friday.","note":""},{"id":"iran-nazer","source_key":"iran","locator":"","excerpt":"the “Nazer” mobile application enables users to upload the license plate, location, and time of a vehicle where a woman is not wearing a hijab. The app then “flags” the vehicle online, alerting the police,” the report reads. The app also “triggers a text message (in real-time) to the registered owner","note":""},{"id":"iran-amir","source_key":"iran","locator":"","excerpt":"in addition to new facial recognition software reportedly installed in early 2024 “at the entrance gate of the Amirkabir University in Tehran, to monitor such compliance by women students.”","note":""},{"id":"ahram-roads","source_key":"ahram","locator":"","excerpt":"Surveillance cameras on Iran's major roadways also are believed to be involved in searching for uncovered women.","note":""},{"id":"fotn23-iran","source_key":"fotn23","locator":"","excerpt":"Freedom on the Net 2023 The Repressive Power of Artificial Intelligence ... Digital repression intensified in Iran, home to this year’s worst decline, as authorities shut down internet service, blocked WhatsApp and Instagram, and increased surveillance in a bid to quell antigovernment protests.","note":""},{"id":"pnas-micro","source_key":"pnas","locator":"","excerpt":"June 7, 2024 121 (24) e2403116121 ... Here, we integrate user data into GPT-4 prompts in real-time, facilitating the live creation of messages tailored to persuade individual users on political issues. ... We find that while messages generated by GPT-4 were persuasive, in aggregate, the persuasive impact of microtargeted messages was not statistically different from that of nontargeted messages.","note":""},{"id":"pnas-generic","source_key":"pnas","locator":"","excerpt":"These findings suggest—contrary to widespread speculation—that the influence of current LLMs may reside not in their ability to tailor messages to individuals but rather in the persuasiveness of their generic, nontargeted messages.","note":""},{"id":"salvi","source_key":"salvi","locator":"","excerpt":"Nature Human Behaviour volume 9, pages 1645–1653 (2025) ... In debate pairs where AI and humans were not equally persuasive, GPT-4 with personalization was more persuasive 64.4% of the time (81.2% relative increase in odds of higher post-debate agreement; 95% confidence interval [+26.0%, +160.7%], P < 0.01; N = 900).","note":""},{"id":"oii-levers","source_key":"oii","locator":"","excerpt":"published in Science on 4th December 2025. ... Targeted post-training, including supervised fine-tuning and reward modelling, can increase persuasiveness by up to 51%, while specific prompting strategies can boost persuasion by up to 27%. ... The researchers ran three large-scale survey experiments involving 76,977 UK adults. Each participant engaged in dialogue with one of 19 open- and closed-source LLMs","note":""},{"id":"oii-scale","source_key":"oii","locator":"","excerpt":"A common fear is that as computing resources grow and models scale, LLMs will become increasingly adept at persuasion, concentrating influence among a few powerful actors. However, the study found that model size plays only a modest role. ... These techniques mean even modest, open-source models could be transformed into highly persuasive agents.","note":""},{"id":"oii-acc","source_key":"oii","locator":"","excerpt":"The study reveals a troubling trade-off: the more persuasive a model is, the less accurate its information tends to be.","note":""},{"id":"nat-rand","source_key":"natasia","locator":"","excerpt":"5 December 2025 Conversations with artificial intelligence (AI) chatbots have the potential to influence the attitudes and intentions of voters, according to a study publishing in Nature. These results are demonstrated in controlled experiments during the 2024 US presidential election and 2025 national elections in Poland and Canada. ... David Rand and colleagues carried out multiple experiments involving conversations with an AI model that was programmed to advocate for one of the candidates","note":""},{"id":"aihub-10","source_key":"aihub","locator":"","excerpt":"On a 100-point scale, the pro-Harris AI model moved likely Trump voters 3.9 points toward Harris – an effect roughly four times larger than traditional ads tested during the 2016 and 2020 elections. The pro-Trump AI model moved likely Harris voters 1.51 points toward Trump. In similar experiments with 1,530 Canadians and 2,118 Poles, the effect was much larger: Chatbots moved opposition voters’ attitudes and voting intentions by about 10 percentage points.","note":""},{"id":"nat-inacc","source_key":"natasia","locator":"","excerpt":"with AI models advocating for candidates on the political right making more inaccurate claims in all three countries. “These findings carry the uncomfortable implication that political persuasion by AI can exploit imbalances in what the models ‘know’, spreading uneven inaccuracies even under explicit instructions to remain truthful,” note Chiara Vargiu and Alessandro Nai in an accompanying News & Views article.","note":""},{"id":"nat-caveat","source_key":"natasia","locator":"","excerpt":"These results come from controlled experiments, in which participants were aware that the AI would try to persuade them. Thus, it is not clear whether the effects would be replicated in real political environments.","note":""},{"id":"fotn24-mixed","source_key":"fotn24","locator":"","excerpt":"governments took steps aimed at addressing information integrity, with mixed results for human rights online. The interventions included enforcing rules related to online content, supporting fact-checking and digital literacy initiatives, and passing new guidelines to limit the use of generative artificial intelligence (AI) in campaigning. ... Of the 72 countries covered by Freedom on the Net 2024","note":""},{"id":"carn-dem","source_key":"carnegie","locator":"","excerpt":"Liberal democratic governments are aggressively using AI tools to police borders, apprehend potential criminals, monitor citizens for bad behavior, and pull out suspected terrorists from crowds.","note":""},{"id":"dnr-7","source_key":"dnr","locator":"","excerpt":"Overview and key findings of the 2025 Digital News Report ... We find AI chatbots and interfaces emerging as a source of news as search engines and other platforms integrate real-time news. The numbers are still relatively small overall (7% use for news each week) but much higher with under-25s (15%).","note":""},{"id":"dnr-traffic","source_key":"dnr","locator":"","excerpt":"As the largest tech platforms integrate AI summaries and other news-related features, publishers worry that these could further reduce traffic flows to websites and apps.","note":""},{"id":"brook-scale","source_key":"brookings","locator":"","excerpt":"Anton Korinek Anton Korinek Nonresident Senior Fellow - Economic Studies September 7, 2023 ... We find that the market for cutting-edge foundation models exhibits a strong tendency towards market concentration: The fixed costs of training a foundation model are high, and the marginal cost of deploying them are very low. This means that there are large economies of scale in operating foundation models","note":""},{"id":"brook-nat","source_key":"brookings","locator":"","excerpt":"Other barriers to entry, such as limited resources like talent, data, computational power, and intellectual property protections also create forces that point towards natural monopoly. One particular concern for competition policy is that the producers of foundation models could expand their market power vertically to downstream uses","note":""},{"id":"brook-util","source_key":"brookings","locator":"","excerpt":"incumbents do not engage in strategic behavior to deter innovation and the entry of new firms, e.g., via predatory pricing or strategic lobbying. ... Second, as natural monopolies or oligopolies, producers of the most advanced foundation models may need to be regulated akin to public utilities.","note":""},{"id":"ftc","source_key":"ftc","locator":"","excerpt":"January 17, 2025 ... The Federal Trade Commission today issued a staff report on the corporate partnerships and investments formed between the largest cloud service providers (CSPs)—Alphabet, Inc., Amazon.com, Inc., and Microsoft, Corp.—and two of the most prominent generative AI developers—Anthropic PBC and OpenAI OpCo, LLC. ... the partnerships may impact access to certain inputs, such as computing resources and engineering talent; the partnerships may increase switching costs for the AI developer partners","note":""},{"id":"aiindex-inv","source_key":"aiindex","locator":"","excerpt":"In 2024, U.S. private AI investment grew to $109.1 billion—nearly 12 times China’s $9.3 billion and 24 times the U.K.’s $4.5 billion.","note":""},{"id":"issueone","source_key":"issueone","locator":"","excerpt":"Meta (the parent company of Facebook and Instagram), Alphabet (the parent company of Google and YouTube), Microsoft, ByteDance (the parent company of TikTok), X (formerly known as Twitter), and Snap (the parent company of Snapchat) combined to spend a staggering $61.5 million on lobbying in 2024 — an increase of nearly 13% compared to spending in 2023. And half of these companies — Meta, ByteDance, and Snap — spent record sums. Together, these six companies employed nearly 300 lobbyists in 2024 — or one for every two members of Congress.","note":""},{"id":"issueone-inaug","source_key":"issueone","locator":"","excerpt":"Big Tech companies including Amazon, Meta, Google, and Microsoft demonstrated their allegiance to the new administration well before Inauguration Day, each giving $1 million to President Donald Trump’s inaugural committee.","note":""},{"id":"euronews","source_key":"euronews","locator":"","excerpt":"Published on 29/10/2025 ... The tech industry is spending some €151 million annually on lobbying in Brussels: a rise of more than 50% when compared to four years ago, research published Wednesday by NGOs Corporate Europe Observatory (CEO) and Lobby Control claims. ... Top spenders include Meta at €10 million, and Microsoft and Apple at €7 million each.","note":""},{"id":"silicon","source_key":"silicon","locator":"","excerpt":"AUGUST 25 2025 AI Silicon Valley AI leaders launch $100M Leading the Future super-PAC by Duncan Riley Silicon Valley artificial intelligence leaders and investors have launched a new super-PAC network focused on AI and advocating against strict AI regulation, with $100 million put towards the effort. ... The new super-PAC, called Leading the Future, is being backed by venture capital firm Andreessen Horowitz, OpenAI President Greg Brockman, SV Angel’s Ron Conway, 8VC Management’s Joe Lonsdale and Perplexity AI Inc.","note":""},{"id":"adn","source_key":"adn","locator":"","excerpt":"Published: February 13, 2026 ... Anthropic PBC is donating $20 million to a political advocacy group called Public First that’s backing congressional candidates who favor safety rules for artificial intelligence ... The donation promises to strengthen AI safety advocates’ fight against Leading the Future, a billionaire-backed super political action committee that plans to spend $125 million this year to stack Congress with allies who support lighter regulation of the technology.","note":""},{"id":"ainow","source_key":"ainow","locator":"","excerpt":"Research Jun 3, 2025 Artificial Power: 2025 Landscape Report ... the report examines how the push to integrate AI products everywhere grants AI companies – and the tech oligarchs that run them – power that goes far beyond their deep pockets.","note":""},{"id":"oai","source_key":"oai","locator":"","excerpt":"OpenAI May 7, 2025 Global Affairs Introducing OpenAI for Countries A new initiative to support countries around the world that want to build on democratic AI rails. ... provide a clear alternative to authoritarian versions of AI that would deploy it to consolidate power.","note":""},{"id":"oai-def","source_key":"oai","locator":"","excerpt":"spread democratic AI, which means the development, use and deployment of AI that protects and incorporates long-standing democratic principles. Examples of this include the freedom for people to choose how they work with and direct AI, the prevention of government use of AI to amass control","note":""},{"id":"mlg-entente","source_key":"mlg","locator":"","excerpt":"How AI Could Transform the World for the Better October 2024 ... My current guess at the best way to do this is via an “entente strategy”26, in which a coalition of democracies seeks to gain a clear advantage (even just a temporary one) on powerful AI by securing its supply chain, scaling quickly, and blocking or delaying adversaries’ access to key resources like chips and semiconductor equipment.","note":""},{"id":"mlg-noreason","source_key":"mlg","locator":"","excerpt":"Unfortunately, I see no strong reason to believe AI will preferentially or structurally advance democracy and peace","note":""},{"id":"adol-autoc","source_key":"adol","locator":"","excerpt":"Confronting and Overcoming the Risks of Powerful AI January 2026 ... Current autocracies are limited in how repressive they can be by the need to have humans carry out their orders, and humans often have limits in how inhumane they are willing to be. But AI-enabled autocracies would not have such limits.","note":""},{"id":"adol-companies","source_key":"adol","locator":"","excerpt":"I think the next tier of risk is actually AI companies themselves. AI companies control large datacenters, train frontier models, have the greatest expertise on how to use those models, and in some cases have daily contact with and the possibility of influence over tens or hundreds of millions of users. The main thing they lack is the legitimacy and infrastructure of a state","note":""},{"id":"const-hands","source_key":"constitution","locator":"","excerpt":"Avoiding problematic concentrations of power We’re especially concerned about the use of AI to help individual humans or small groups gain unprecedented and illegitimate forms of concentrated power. ... we want Claude to think of itself as one (perhaps many) of the “many hands” that illegitimate power grabs have traditionally required. Just as a human soldier might refuse to fire on peaceful protesters, or an employee might refuse to violate antitrust law, Claude should refuse to assist with actions that would help concentrate power in illegitimate ways.","note":""},{"id":"fore-mitig","source_key":"forethought","locator":"","excerpt":"5 Mitigations 5.1 Establishing rules for legitimate use of AI 5.2 Technical measures to enforce these rules 5.3 Empowering multiple actors to prevent AI-enabled coups","note":""},{"id":"k80-small","source_key":"k80","locator":"","excerpt":"Extreme power concentration | 80,000 Hours ... Small groups will be able to do more. Right now, large undertakings require big human workforces. At its peak, the Manhattan project employed 130,000 people. It takes 1.5 million people just to run Amazon. As AI becomes more capable, it’ll become possible to get big stuff done without large human","note":""},{"id":"imf-40","source_key":"imf","locator":"","excerpt":"Authors: Kristalina Georgieva Published: January 14, 2024 Reshaping the Nature of Work IMF staff analysis finds \"almost 40 percent of global employment is exposed to AI.\" In advanced economies: \"about 60 percent of jobs may be impacted by AI.\"","note":""},{"id":"imf-half","source_key":"imf","locator":"","excerpt":"Roughly half the exposed jobs may benefit from AI integration, enhancing productivity.\" \"For the other half, AI applications may execute key tasks currently performed by humans, which could lower labor demand, leading to lower wages and reduced hiring.","note":""},{"id":"imf-ineq","source_key":"imf","locator":"","excerpt":"raising the risk that \"over time the technology could worsen inequality among nations.\" Distributional and demographic effects: AI \"could also affect income and wealth inequality within countries.\"","note":""},{"id":"ilo-25","source_key":"ilo","locator":"","excerpt":"20 May 2025 ... 25 per cent of global employment falls within occupations potentially exposed to GenAI, with higher shares in high-income countries (34 per cent).","note":""},{"id":"ilo-women","source_key":"ilo","locator":"","excerpt":"Exposure among women continues to be significantly higher. In high-income countries, jobs at the highest risk of automation make up 9.6 per cent of female employment - a stark contrast to 3.5 per cent of such jobs among men.","note":""},{"id":"ilo-transform","source_key":"ilo","locator":"","excerpt":"help policymakers distinguish between jobs at high risk of full automation and those more likely to evolve through task transformation.","note":""},{"id":"adol-econ","source_key":"adol","locator":"","excerpt":"and ordinary citizens have no influence because they lack economic leverage. Democracy is ultimately backstopped by the idea that the population as a whole is necessary for the operation of the economy. If that economic leverage goes away, then the implicit social contract of democracy may stop working.","note":""},{"id":"k80-capital","source_key":"k80","locator":"","excerpt":"Extreme power concentration | 80,000 Hours ... This would increase how much of the pie goes to capital compared to labour, and those with capital could become even more disproportionately powerful than they are now.","note":""},{"id":"atl-useless","source_key":"atlantic","locator":"","excerpt":"In 2018 the common person feels increasingly irrelevant. ... As many people lose their economic value, they might also come to lose their political power.","note":""},{"id":"aiindex-cost","source_key":"aiindex","locator":"","excerpt":"the inference cost for a system performing at the level of GPT-3.5 dropped over 280-fold between November 2022 and October 2024. At the hardware level, costs have declined by 30% annually, while energy efficiency has improved by 40% each year.","note":""},{"id":"deepseek","source_key":"deepseek","locator":"","excerpt":"DeepSeek is owned and funded by High-Flyer, a Chinese hedge fund. ... It launched an eponymous chatbot alongside its DeepSeek-R1 model in January 2025. DeepSeek's models are open-weight, meaning that the exact parameters are openly shared, but the training data is not openly licensed.","note":""},{"id":"bellingcat","source_key":"bellingcat","locator":"","excerpt":"Can AI Chatbots Be Used for Geolocation? July 14, 2023 ... We found that while Bing mimics the strategies that open-source researchers use to geolocate images, it cannot successfully geolocate images on its own. ... Both required extensive prompting from the user before they could arrive at any halfway satisfactory geolocation.","note":""},{"id":"religion","source_key":"religion","locator":"","excerpt":"The printing press, invented around 1440, revolutionized how information spread – helping to create the era’s equivalent of a viral conspiracy theory. By 1486, two Dominican friars had published the “Malleus Maleficarum,” or “Hammer of Witches.” The book has three central claims that came to dominate the witch hunts.","note":""},{"id":"nexus-naive","source_key":"nexus","locator":"","excerpt":"Harari writes that a \"tsunami\" of false or misleading information can supersede facts in people's judgement, citing the period of witch hunting. ... Harari claims that it would be \"naive\" to think that information would make humanity more powerful as a direct consequence of gaining it, and that truth does not imply success; only the story conveyed matters in terms of success. He has been criticized by experts in the field for this view.","note":""},{"id":"hks-demand","source_key":"hks","locator":"","excerpt":"By Felix M. Simon Oxford Internet Institute, University of Oxford, UK Sacha Altay ... Hugo Mercier ... it is not because there is more misinformation that people will necessarily consume more of it. Instead, we argue here that the consumption of misinformation is mostly limited by demand and not by supply.","note":""},{"id":"mittr-misund","source_key":"mittr","locator":"","excerpt":"Ever since 2014, when China announced a six-year plan to build a system to reward actions that build trust in society and penalize the opposite, it has been one of the most misunderstood things about China in Western discourse.","note":""},{"id":"register-ai","source_key":"register","locator":"","excerpt":"Adam Kovacevich, CEO of technology non-profit Chamber of Progress and a former Googler, told The Register. ... \"Anybody who has been paying attention to technology in the last two years would say that generative AI does pose a competitive challenge to traditional search engines,\" he opined. \"So I think what the judge was grappling with was this reality that it changes the game","note":""},{"id":"vitalik","source_key":"vitalik","locator":"","excerpt":"My techno-optimism 2023 Nov 27 ... d/acc: Defensive (or decentralization, or differential) acceleration Defense-favoring worlds help healthy and democratic governance thrive","note":""},{"id":"vitalik-lock","source_key":"vitalik","locator":"","excerpt":"The Chinese proverb 天高皇帝远 (\"tian gao huang di yuan\"), \"the sky is high, the emperor is far away\", encapsulates a basic fact about the limits of centralization in politics. ... with 21st century AI a totalitarian regime may well maintain enough surveillance and control over the world to remain \"locked in\" forever.","note":""},{"id":"plurality","source_key":"plurality","locator":"","excerpt":"Written collaboratively by E. Glen Weyl, political economist and technologist, and Audrey Tang, Taiwan's first Digital Minister, this book charts a path between the extremes of techno-libertarianism and centralized AI governance. It draws on Taiwan's experience as a global leader in digital democracy to show how technology can be designed to serve the public good.","note":""},{"id":"doj-search","source_key":"dojsearch","locator":"","excerpt":"Tuesday, September 2, 2025 ... prohibited Google from entering or maintaining exclusive contracts relating to the distribution of Google Search, Chrome, Google Assistant, and the Gemini app; ordered Google to make certain search index and user-interaction data available to rivals and potential rivals ... In August 2024, the U.S. District Court for the District of Columbia released a 277-page opinion, concluding that “Google is a monopolist, and it has acted as one to maintain its monopoly”","note":""},{"id":"register-chrome","source_key":"register","locator":"","excerpt":"Judge who ruled Google is a monopoly decides to do hardly anything to break it up ... decided the search behemoth will not have to divest its Chrome browser or Android operating systems, and can continue to pay billions to the likes of Apple to secure a prominent place for its search engine.","note":""},{"id":"doj-adtech","source_key":"dojadtech","locator":"","excerpt":"Thursday, April 17, 2025 ... the U.S. District Court for the Eastern District of Virginia held that Google violated antitrust law by monopolizing open-web digital advertising markets.","note":""},{"id":"dmawiki","source_key":"dmawiki","locator":"","excerpt":"The regulation entered into force on 1 November 2022 and became applicable, for the most part, on 2 May 2023. ... The DMA aims to ensure a higher degree of competition in European digital markets by preventing large companies from abusing their market power","note":""},{"id":"dma-fines","source_key":"dma","locator":"","excerpt":"Brussels, 23 April 2025 Today, the European Commission found that Apple breached its anti-steering obligation under the Digital Markets Act (DMA), and that Meta breached the DMA obligation to give consumers the choice of a service that uses less of their personal data. Therefore, the Commission has fined Apple and Meta with €500 million and €200 million respectively.","note":""},{"id":"aiact","source_key":"aiact","locator":"","excerpt":"Article 5: Prohibited AI Practices ... based on their social behaviour or known, inferred or predicted personal or personality characteristics, with the social score leading to either or both of the following: ... the use of AI systems that create or expand facial recognition databases through the untargeted scraping of facial images from the internet or CCTV footage","note":""},{"id":"aiact-rt","source_key":"aiact","locator":"","excerpt":"The Commission shall publish annual reports on the use of real-time remote biometric identification","note":""},{"id":"apertus","source_key":"apertus","locator":"","excerpt":"On 2 September 2025, EPFL, ETH Zurich and the Swiss National Supercomputing Centre (CSCS) released Apertus ... Trained on 15 trillion tokens across more than 1,000 languages ... Apertus is built for the public good.","note":""},{"id":"ccai","source_key":"ccai","locator":"","excerpt":"Oct 17, 2023 Anthropic and the Collective Intelligence Project recently ran a public input process involving ~1,000 Americans to draft a constitution for an AI system. We did this to explore how democratic processes can influence AI development. ... Anthropic partnered with the Collective Intelligence Project to run a public input process using the Polis platform.","note":""},{"id":"fotn24-transp","source_key":"fotn24","locator":"","excerpt":"The impact on internet freedom depended on the extent to which each effort prioritized transparency, civil society expertise, democratic oversight, and international human rights standards.","note":""},{"id":"statewatch-ek","source_key":"statewatch","locator":"","excerpt":"Date 11 January 2022 Institution Council of Europe ... the European Court of Human Rights held, unanimously, that there had been: a violation of Article 8 (right to respect for private life and correspondence) of the European Convention on Human Rights, in respect of secret surveillance, and a violation of Article 8 in respect of retention and accessing of communication data.","note":""},{"id":"statewatch-nef","source_key":"statewatch","locator":"","excerpt":"by the the police, prosecutors, and military and security agencies is of insufficient quality to protect individuals against violations of the right to privacy, and that the data gathered through secret surveillance operations \"could be used for nefarious purposes\" due to a lack of safeguards.","note":""},{"id":"strasobs-app","source_key":"strasobs","locator":"","excerpt":"The applicants – two Bulgarian lawyers and two non-governmental organisations (NGOs) – claimed that their electronic communications could be abusively accessed by the LEAs on the basis of the above-mentioned surveillance rules in violation of their right to private life (Article 8 ECHR) and that they did not have effective remedies against the measures (Article 13 ECHR).","note":""},{"id":"bta","source_key":"bta","locator":"","excerpt":"Four police and naval academies from Romania, Bulgaria and Czechia have been jointly developing an electronic platform to enable facial recognition and identification, said Thursday the deputy head of the Nikola Vaptsarov Naval Academy(NVNA) in","note":""},{"id":"carn-gov","source_key":"carnegie","locator":"","excerpt":"The most important factor determining whether governments will deploy this technology for repressive purposes is the quality of their governance. Governments in autocratic and semi-autocratic countries are more prone to abuse AI surveillance than governments in liberal democracies.","note":""},{"id":"fotn25-title","source_key":"fotn25","locator":"","excerpt":"The report, Freedom on the Net 2025: An Uncertain Future for the Global Internet, found that the internet is more controlled and manipulated today than ever before","note":""},{"id":"doj-signif","source_key":"dojsearch","locator":"","excerpt":"Department of Justice Wins Significant Remedies Against Google ... Remedies for Google’s Unlawful Monopolization to Help Restore Competition in Search and Search Advertising","note":""},{"id":"k80-pressing","source_key":"k80","locator":"","excerpt":"Extreme power concentration | 80,000 Hours ... The main reasons we think AI-enabled power concentration is an especially pressing problem are: Historically unprecedented levels of automation could concentrate the power to get stuff done","note":""}],"status":"published","featured":false,"revision":1,"created_at":"2026-10-24T19:34:38.535Z","updated_at":"2026-10-24T19:34:38.535Z"}