{"id":"8acff99c-5fd5-4273-a70b-f2dfd22bbf92","slug":"otvoreni-i-lokalni-modeli-na-izkustveniya-intelekt","title":"Отворени и локални модели на изкуствения интелект","category":"Технологии · Изкуствен интелект","tags":["изкуствен интелект","отворени тегла","отворен код","големи езикови модели","Llama","Qwen","DeepSeek","BgGPT","llama.cpp","квантизация","Регламент на ЕС за ИИ"],"lead":"Отворените модели на изкуствения интелект са модели, чиито обучени параметри („тегла“) се публикуват свободно: всеки може да ги изтегли, да ги изпълнява на собствени сървъри и да ги променя[^lead-def]. Open Source Initiative (OSI) отделя моделите с „отворени тегла“ от отворения изкуствен интелект в пълния смисъл, при който са достъпни и материалите, нужни, за да се изучи и промени начинът, по който моделът е създаден[^lead-osi]. Изпълнението на такива модели на собствен компютър става масово с библиотеката llama.cpp, която Георги Герганов започва през март 2023 г. и която работи дори без графичен процесор[^lead-local]. Спорът за ползите и рисковете от отворените модели засяга сигурността, поверителността и технологичния напредък и е част от геополитическото съперничество между САЩ и Китай, понякога описвано като студена война в областта на изкуствения интелект[^lead-debate]. През 2026 г. почти всеки месец най-големият отворен модел идва от китайска, а не от американска лаборатория[^lead-2026].","sections":[{"id":"otvoreni-tegla-i-otvoren-kod","title":"Отворени тегла и отворен код","paragraphs":["На 28 октомври 2024 г. OSI обявява версия 1.0 на Определението за отворен изкуствен интелект (Open Source AI Definition, OSAID) след едногодишен процес на съвместна разработка с общността[^osi-ann]. Според него отворена е система, предоставена при условия, които дават свободата тя да се използва за всякаква цел без искане на разрешение, да се изучава как работи, да се променя, включително за да се промени резултатът ѝ, и да се споделя с други, със или без промени[^osi-freedoms]. Условие за тези свободи е достъпът до „предпочитаната форма за промяна“, която при машинното обучение включва информация за данните, пълния изходен код за обучение и изпълнение и параметрите на модела, например теглата[^osi-pref]. Информацията за данните трябва да е достатъчно подробна, за да може квалифициран специалист да изгради по същество равностойна система, но самите данни не е задължително да се публикуват: за данни, които не могат да се споделят, се изисква описание на произхода, обхвата и характеристиките им и на начина, по който са получени и подбрани[^osi-data].","Модели, които се рекламират като отворени, но публикуват само теглата си без обучителните данни и кода, се критикуват като „openwashing“ — по същество затворени системи[^wp-openwash]. Напълно отворените големи езикови модели — с публикувани тегла, данни и код — остават малко; през септември 2025 г. към тях се добавя швейцарският Apertus[^wp-apertus]. Още през юли 2023 г. OSI заявява, че лицензът на Meta за Llama не отговаря на определението за отворен код, тъй като ограничава търговската употреба за някои потребители и забранява определени цели, а определението не допуска дискриминация на лица, групи или области на дейност[^osi-llama]."]},{"id":"llama-i-zavoyat-na-meta","title":"Llama и завоят на Meta","paragraphs":["На 23 юли 2024 г. Meta публикува Llama 3.1 405B, който Марк Зукърбърг представя като първия отворен модел на граничното ниво, с писмо, сравняващо бъдещето на изкуствения интелект с победата на Linux над затворените версии на Unix[^zuck-405b]. Llama 4, представен на 5 април 2025 г., е първото поколение на Meta с архитектура „смес от експерти“ (mixture of experts), при която всеки токен активира само част от параметрите: Llama 4 Maverick има 17 милиарда активни и 400 милиарда общо параметъра[^llama4].","Според източници на Bloomberg, цитирани от The Decoder през декември 2025 г., след разочароващите резултати на Llama 4 отвореният подход губи подкрепа в компанията, а новият модел с кодово име Avocado е замислен като затворен, за да се продава достъп до него, като при обучението му се използват и външни модели като Gemma, gpt-oss и китайския Qwen[^avocado]. Моделът излиза на 8 април 2026 г. като Muse Spark — първият модел на екипа на Александър Уанг — и обслужва асистента Meta AI, а компанията обещава да пусне негова версия под отворен лиценз[^axios-muse]. На 15 октомври 2026 г. Meta публикува теглата на Muse Spark Open — модел с 816 милиарда параметъра (42 милиарда активни), който нарича „най-способния американски модел с отворени тегла досега“[^spark-open]. Лицензът му „Muse Model License“ обаче е само частично отворен: компании с над 20 милиона долара брутни приходи за дванадесет последователни месеца трябва да сключат отделно споразумение с Meta, преди да предлагат модела като услуга, а военната употреба и критичната инфраструктура са забранени[^spark-license]."]},{"id":"drugi-osnovni-semeystva","title":"Други основни семейства","paragraphs":["Френската Mistral AI публикува на 2 декември 2025 г. семейството Mistral 3 — три малки плътни модела с 14, 8 и 3 милиарда параметъра и Mistral Large 3 със смес от експерти с 41 милиарда активни и 675 милиарда общо параметъра, всички под свободния лиценз Apache 2.0[^mistral3]. Alibaba пуска на 29 април 2025 г. Qwen3 с два модела със смес от експерти, сред които водещият Qwen3-235B-A22B с 235 милиарда общо и 22 милиарда активни параметъра, и шест плътни модела, всички под Apache 2.0[^qwen3].","Китайската DeepSeek публикува модела V3 през декември 2024 г. и модела за разсъждение R1 на 20 януари 2025 г., и двата с отворени тегла под лиценза MIT[^wp-deepseek]. Седмица по-късно акциите на Nvidia поевтиняват със 17%, а пазарната ѝ стойност се свива с близо 600 милиарда долара — най-големият спад в историята за американска компания, предизвикан от опасения за конкуренцията от DeepSeek[^cnbc]. На 24 април 2026 г. DeepSeek представя предварителна версия на V4 в два варианта — V4-Pro с 1,6 трилиона общо и 49 милиарда активни параметъра и V4-Flash с 284 милиарда общо и 13 милиарда активни параметъра — с контекст от един милион токена, под лиценза MIT и адаптирана за процесорите Ascend на Huawei[^v4].","Google пуска първите модели Gemma през 2024 г. под собствени условия за ползване, а Gemma 4 (2 април 2026 г.), с размери от модели за крайни устройства до 31 милиарда параметъра, е първото поколение от семейството под одобрения от OSI лиценз Apache 2.0[^gemma4]. Към юли 2026 г. най-големият публикуван модел с отворени тегла е Kimi K3 на Moonshot AI с 2,8 трилиона параметъра, следван от Qwen3.8 на Alibaba с 2,4 трилиона[^wp-kimi]."]},{"id":"ekosistemata-prez-2026-g","title":"Екосистемата през 2026 г.","paragraphs":["Според доклад на Hugging Face за първите седем месеца на 2026 г. производните модели на Qwen в платформата са 151 448 — 2,6 пъти повече от всички производни на Meta и 4,7 пъти повече от тези на Llama, а на второ място е Google с 82 506[^hf-qwen]. Позицията е изградена главно от общността: от 28 531 преобразувания на модели Qwen във формата GGUF за локално изпълнение самата Qwen е публикувала едва 54[^hf-gguf].","Китайските лаборатории лицензират и най-големите си модели свободно: от 178 китайски модела над 20 милиарда параметъра, пуснати през годината, 59% са под Apache 2.0 и 22% — под MIT, докато сред американските от същия клас 29% са под Apache или MIT, 41% — под собствени условия, а 30% не посочват лиценз[^hf-lic]. Картината обаче започва да се променя: докладът отбелязва, че Kimi K3 и Qwen 3.8 с 2,4 трилиона параметъра въвеждат некомерсиални ограничения и изисквания за дял от приходите, а читател оспорва в коментар твърдението, че нито един модел няма некомерсиални ограничения, като посочва, че моделите Kimi не могат да се предлагат от компании с над 20 милиона долара годишни приходи без изрично разрешение от Moonshot[^hf-edit]. Alibaba съобщава, че моделите ѝ са изтеглени над 3 милиарда пъти за шест месеца и имат над 300 000 производни — данни на самата компания, около два пъти повече от броя производни, отчетен от Hugging Face, според чиито данни Google има 418 милиона, а Meta — 227 милиона изтегляния през 2026 г.[^fortune]","Според Индекса на изкуствения интелект на Станфордския университет за 2026 г., както го предава The Next Web, най-добрият затворен модел отново води пред най-добрия отворен с 3,3% (при 0,5% през август 2024 г.), а шест от първите десет модела в [[otsenyavane-i-sravnyavane-na-sistemi-s-izkustven-intelekt|класацията Arena]] са затворени, което означава, че отворените модели, движили догонването от страна на Китай, може да срещнат намаляваща възвръщаемост[^tnw]."]},{"id":"bggpt","title":"BgGPT","paragraphs":["През януари 2024 г. Институтът за компютърни науки, изкуствен интелект и технологии (INSAIT) обявява BgGPT като първия отворен голям езиков модел за български, създаден за българската държава, потребителите и публичните и частните организации; първата версия има 7 милиарда параметъра, обучена е с над 3 милиарда изречения на български, а свободният публичен достъп започва на 3 март[^insait24]. Следващото поколение е изградено върху Gemma 2 на Google, в размери 27, 9 и 2 милиарда параметъра, и е обучено с около 85 милиарда токена на български и 15 милиарда на английски чрез метода на INSAIT Branch-and-Merge, който позволява на модела да научи нов език, без да забрави наученото[^gemma-insait].","На 26 март 2026 г. INSAIT представя BgGPT 3.0, който разпознава изображения и глас, обработва документи и търси в интернет, и публикува моделите зад него в размери 4, 12 и 27 милиарда параметъра, базирани на Gemma 3 и дообучени с над 100 милиарда български думи, които всяка компания или институция може свободно да изтегли[^insait26]. Твърденията за качество идват от самите разработчици: INSAIT заявява, че моделът с 27 милиарда параметъра превъзхожда на български модели почти десет пъти по-големи, без да посочва конкретни тестове, а обучението е подпомогнато с изчислителни кредити от Google, чиито модели са основата на BgGPT[^insait26-claim]. Институтът определя националните отворени модели като критично важни за технологичния суверенитет и защитата на данните: проектите му с Националната агенция за приходите и Сметната палата работят на отделна инфраструктура, която позволява работа с чувствителна информация без зависимост от чуждестранни доставчици[^insait26-gov]."]},{"id":"lokalno-izpalnenie-i-videopamet","title":"Локално изпълнение и видеопамет","paragraphs":["Библиотеката llama.cpp се смята за фактически стандарт и ядро на почти всички инструменти за локално изпълнение, включително Ollama и LM Studio, а през август 2023 г. въвежда формата GGUF, който съхранява тензорите и метаданните в един файл и поддържа целочислена квантизация от 2 до 8 бита, както и 1,58-битова[^gguf]. На 20 февруари 2026 г. екипът основатели на llama.cpp (ggml.ai) се присъединява към Hugging Face, като Герганов и екипът продължават да отделят 100% от времето си за проекта, а общността запазва самостоятелността си при техническите решения[^lcpp-hf].","Ориентир за видеопаметта е, че зареждането на теглата на модел с X милиарда параметъра изисква около 4 × X GB при 32-битова точност и около 2 × X GB при 16-битовата, която се използва най-често — така Llama 2 със 70 милиарда параметъра изисква около 140 GB[^vram-rule]. Квантизацията до 8 или 4 бита намалява това многократно без значителна загуба на качество: в пример на Hugging Face модел с над 15 милиарда параметъра заема малко над 15 GB при 8 бита и едва 9,5 GB при 4 бита, макар 4-битовата квантизация на практика понякога да дава различни резултати[^vram-q]. При моделите със смес от експерти паметта зависи от общия брой параметри, защото всички трябва да са заредени, макар при всяка стъпка да се използва само част от тях — затова Llama 4 Scout се побира на един графичен процесор H100 едва при 4-битова квантизация (Int4)[^moe-mem].","OpenAI, която на 5 август 2025 г. пуска gpt-oss — първите си езикови модели с отворени тегла след GPT-2, под лиценза Apache 2.0, — посочва, че gpt-oss-120b работи на един графичен процесор с 80 GB, а gpt-oss-20b — на устройства с едва 16 GB памет[^gptoss-mem]. Muse Glimmer на Meta, модел с отворени тегла и 30 милиарда параметъра, е свит чрез квантизация до под 20 GB и работи с една потребителска графична карта[^glimmer-q]."]},{"id":"argumenti-v-polza-na-otvorenite-modeli","title":"Аргументи в полза на отворените модели","paragraphs":["Привържениците изтъкват контрола и поверителността: според Зукърбърг много организации не искат да зависят от модели, които не могат сами да изпълняват и контролират, нито доставчикът да може да промени модела или условията или да спре услугата, а други работят с чувствителни данни, които не могат да изпращат към затворени модели през облака[^zuck-control]. Meta твърди, че изпълнението на Llama 3.1 405B на собствена инфраструктура струва около 50% от цената на затворени модели като GPT-4o — оценка на заинтересована страна, която не е независимо проверена[^zuck-cost]. Отвореността позволява алгоритмите и кодът да бъдат проверявани, което подпомага отчетността и разбирането на начина, по който моделът стига до заключенията си — довод, свързан с научната проверимост[^wp-transp]. Пример за практическото значение на локалните модели дава случаят, в който агенти на OpenAI пробиват системите на Hugging Face: според Decrypt затворените американски модели не помагат при разследването, защото филтрите им не различават изследователя от нападателя, и компанията изпълнява локално китайския отворен модел GLM 5.2[^decrypt-hack]."]},{"id":"riskove-i-argumenti-protiv","title":"Рискове и аргументи против","paragraphs":["Критиците посочват, че отворените модели предлагат по-малко начини да се предотврати злонамерената им употреба и че след публикуването на теглата защитните механизми могат да бъдат премахнати чрез дообучение — например от биотерористични групи[^wp-bio]. OpenAI признава, че след пускането на модел с отворени тегла противниците могат да го дообучат за злонамерени цели; компанията сама дообучава gpt-oss с данни по биология и киберсигурност, както би направил нападател, и заключава, че тези версии не достигат високо ниво на способности по своята рамка за готовност — самооценка на разработчика[^gptoss-adv]. Свързани с Народноосвободителната армия на Китай изследователи използват по-ранна версия на Llama, за да създадат инструменти като ChatBIT за военно разузнаване и вземане на решения, след което Meta разширява партньорствата си с американски военни изпълнители като Lockheed Martin и Oracle[^wp-pla]. Доклад на американската администрация от юли 2024 г. все пак не намира достатъчно доказателства, за да се ограничи публикуването на теглата, макар част от експертите да се тревожат повече за бъдещите способности, отколкото за сегашните[^wp-wh]."]},{"id":"reglamentat-na-es-za-izkustveniya-intelekt","title":"Регламентът на ЕС за изкуствения интелект","paragraphs":["[[es-zakon-za-izkustven-intelekt|Регламентът на ЕС за изкуствения интелект]] дава само ограничени облекчения на доставчиците на модели с общо предназначение с отворен код: те нямат задължение да предоставят документация на доставчиците надолу по веригата или, при поискване, на Службата по ИИ и националните органи[^eu-exempt]. Те все пак трябва да спазват изискванията за обобщение на данните за обучение и за политика относно авторското право, а модел, определен като носещ системен риск — по презумпция при обучение с повече от десет на двадесет и пета степен операции с плаваща запетая, — изпълнява изцяло задълженията за управление на риска, оценки, докладване на инциденти и киберсигурност[^eu-nonexempt]. За да се ползва от облекченията, моделът трябва да е под лиценз, който позволява използване, достъп, промяна и разпространение и не налага ограничения като само некомерсиална или изследователска употреба, прагове по брой потребители или задължително търговско лицензиране, а облекченията отпадат и при монетизация като двойно лицензиране или платен хостван достъп — критерии, по които лицензи с прагове според размера на ползвателя, каквито имат Llama и Muse Spark Open, вероятно не биха се квалифицирали[^eu-licence].","Задълженията важат от 2 август 2025 г., но Службата по ИИ получава пълни правомощия — да изисква информация, да разпорежда изтегляне на модели и да налага глоби — едва от 2 август 2026 г., а за модели, пуснати преди първата дата, срокът е до 2 август 2027 г.[^eu-dates] Описанието на насоките тук следва сайта artificialintelligenceact.eu, който се поддържа от Future of Life Institute — организация с нестопанска цел за отговорно развитие на изкуствения интелект, — а не от Европейската комисия; там се посочва и че подписването на [[es-kodeks-za-praktika-obshto-predlagane-ai|Кодекса за добри практики]] е доброволно и не създава автоматична презумпция за съответствие[^eu-fli]."]},{"id":"debatat-mezhdu-kompaniite","title":"Дебатът между компаниите","paragraphs":["Позициите на компаниите следват до голяма степен бизнес моделите им: Зукърбърг пише, че продажбата на достъп до модели не е бизнес моделът на [[meta-platforms|Meta]], затова отварянето на Llama не подкопава приходите ѝ, и твърди, че някои доставчици на затворени модели лобират пред правителствата срещу отворения код[^zuck-biz]. След успеха на DeepSeek главният изпълнителен директор на [[openai|OpenAI]] Сам Алтман заявява през януари 2025 г., че компанията е била „от грешната страна на историята“ по отношение на отворения код и трябва да намери друга стратегия, макар не всички в OpenAI да споделят това мнение[^altman].","През юли 2026 г. над 20 компании, сред които Nvidia, Microsoft, Meta, Hugging Face, Mistral, Mozilla и IBM, публикуват отворено писмо, което призовава американските политици да не налагат прибързани ограничения на моделите с отворени тегла, защото това би навредило на конкуренцията и би изтласкало иновациите в други държави[^wp-letter]. Според Decrypt писмото, озаглавено „Open Weights and American AI Leadership“, е подписано от 25 компании — макар статията веднъж да споменава „19 други“, а друг път „18 други“ освен изброените, — като OpenAI и Anthropic не са сред тях, а Дийн Бол от OpenAI нарича свят, доминиран от отворени модели, „дистопичен ад“[^decrypt-letter]."]}],"sources":[{"key":"osi-def","title":"The Open Source AI Definition – 1.0","url":"https://opensource.org/ai/open-source-ai-definition","note":"","publisher":"Open Source Initiative","published_at":"2024-10-28","language":"en","retrieved_at":"2026-10-23"},{"key":"osi-ann","title":"The Open Source Initiative Announces the Release of the Industry's First Open Source AI Definition","url":"https://opensource.org/blog/the-open-source-initiative-announces-the-release-of-the-industrys-first-open-source-ai-definition","note":"","publisher":"Open Source Initiative","published_at":"2024-10-28","language":"en","retrieved_at":"2026-10-23"},{"key":"osi-llama","title":"Meta's LLaMa license is not Open Source","url":"https://opensource.org/blog/metas-llama-2-license-is-not-open-source","note":"","publisher":"Open Source Initiative","published_at":"2023-07-20","language":"en","retrieved_at":"2026-10-23"},{"key":"wp-osai","title":"Open-source artificial intelligence","url":"https://en.wikipedia.org/wiki/Open-source_artificial_intelligence","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-23"},{"key":"zuck","title":"Open Source AI Is the Path Forward","url":"https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/","note":"","publisher":"Meta (Mark Zuckerberg)","published_at":"2024-07-23","language":"en","retrieved_at":"2026-10-23"},{"key":"llama4","title":"The Llama 4 herd: The beginning of a new era of natively multimodal AI innovation","url":"https://ai.meta.com/blog/llama-4-multimodal-intelligence/","note":"","publisher":"Meta AI","published_at":"2025-04-05","language":"en","retrieved_at":"2026-10-23"},{"key":"decoder","title":"Meta is reportedly ditching open Llama models for Avocado, a closed model built for direct sales","url":"https://the-decoder.com/meta-is-reportedly-ditching-open-llama-models-for-avocado-a-closed-model-built-for-direct-sales/","note":"Преразказ на информация от Bloomberg.","publisher":"The Decoder","published_at":"2025-12-10","language":"en","retrieved_at":"2026-10-23"},{"key":"axios","title":"Meta debuts Muse Spark, first AI model under Alexandr Wang","url":"https://www.axios.com/2026/04/08/meta-muse-alexandr-wang","note":"","publisher":"Axios","published_at":"2026-04-08","language":"en","retrieved_at":"2026-10-23"},{"key":"ct-glimmer","title":"Meta Releases Muse Glimmer, an Open-Weight AI Model Designed to Run on Consumer Hardware","url":"https://campustechnology.com/articles/2026/08/26/meta-releases-muse-glimmer-an-open-weight-ai-model-designed-to-run-on-consumer-hardware.aspx","note":"","publisher":"Campus Technology","published_at":"2026-08-26","language":"en","retrieved_at":"2026-10-23"},{"key":"tns","title":"Meta ships Muse Spark Open, its answer to China's best open-weight models","url":"https://thenewstack.io/meta-muse-spark-open/","note":"","publisher":"The New Stack","published_at":"2026-10-15","language":"en","retrieved_at":"2026-10-23"},{"key":"mistral3","title":"Introducing Mistral 3","url":"https://mistral.ai/news/mistral-3","note":"","publisher":"Mistral AI","published_at":"2025-12-02","language":"en","retrieved_at":"2026-10-23"},{"key":"qwen3","title":"Qwen3: Think Deeper, Act Faster","url":"https://qwenlm.github.io/blog/qwen3/","note":"","publisher":"Qwen Team (Alibaba)","published_at":"2025-04-29","language":"en","retrieved_at":"2026-10-23"},{"key":"hf-state","title":"State of Open Models: Summer 2026 Observations","url":"https://huggingface.co/blog/state-of-open-models-summer-2026","note":"","publisher":"Hugging Face","published_at":"2026-08-14","language":"en","retrieved_at":"2026-10-23"},{"key":"fortune","title":"Alibaba AI models hit 3 billion downloads, passing Meta, Google","url":"https://fortune.com/2026/08/15/alibaba-qwen-open-ai-models-3-billion-downloads-meta-google/","note":"","publisher":"Fortune (Bloomberg)","published_at":"2026-08-15","language":"en","retrieved_at":"2026-10-23"},{"key":"qz","title":"DeepSeek V4 AI model launches, built for Huawei chips","url":"https://qz.com/deepseek-v4-model-huawei-chips-open-source-042426","note":"","publisher":"Quartz","published_at":"2026-04-24","language":"en","retrieved_at":"2026-10-23"},{"key":"cnbc","title":"Nvidia sheds almost $600 billion in market cap, biggest drop ever","url":"https://www.cnbc.com/2025/01/27/nvidia-sheds-almost-600-billion-in-market-cap-biggest-drop-ever.html","note":"","publisher":"CNBC","published_at":"2025-01-27","language":"en","retrieved_at":"2026-10-23"},{"key":"gemma4","title":"Gemma 4: Expanding the Gemmaverse with Apache 2.0","url":"https://opensource.googleblog.com/2026/03/gemma-4-expanding-the-gemmaverse-with-apache-20.html","note":"","publisher":"Google Open Source Blog","published_at":"2026-04-02","language":"en","retrieved_at":"2026-10-23"},{"key":"gptoss","title":"Introducing gpt-oss","url":"https://openai.com/index/introducing-gpt-oss/","note":"","publisher":"OpenAI","published_at":"2025-08-05","language":"en","retrieved_at":"2026-10-23"},{"key":"tc","title":"Sam Altman: OpenAI has been on the 'wrong side of history' concerning open source","url":"https://techcrunch.com/2025/01/31/sam-altman-believes-openai-has-been-on-the-wrong-side-of-history-concerning-open-source/","note":"","publisher":"TechCrunch","published_at":"2025-01-31","language":"en","retrieved_at":"2026-10-23"},{"key":"insait24","title":"INSAIT announced BgGPT – the first open AI model for Bulgarian language","url":"https://insait.ai/insait-announced-bggpt/","note":"","publisher":"INSAIT","published_at":"2024-01-16","language":"en","retrieved_at":"2026-10-23"},{"key":"gemma-insait","title":"INSAIT creates leading Bulgarian-first LLM with Gemma 2","url":"https://deepmind.google/models/gemma/gemmaverse/insait/","note":"","publisher":"Google DeepMind","language":"en","retrieved_at":"2026-10-23"},{"key":"insait26","title":"INSAIT unveils a new generation of AI: precision models for business and an upgraded BgGPT chat for all citizens","url":"https://insait.ai/insait-unveils-a-new-generation-of-ai-precision-models-for-business-and-an-upgraded-bggpt-chat-for-all-citizens/","note":"","publisher":"INSAIT","published_at":"2026-03-26","language":"en","retrieved_at":"2026-10-23"},{"key":"lcpp-hf","title":"ggml.ai joins Hugging Face to ensure the long-term progress of Local AI (Discussion #19759)","url":"https://github.com/ggml-org/llama.cpp/discussions/19759","note":"","publisher":"GitHub, ggml-org/llama.cpp","published_at":"2026-02-20","language":"en","retrieved_at":"2026-10-23"},{"key":"wp-lcpp","title":"llama.cpp","url":"https://en.wikipedia.org/wiki/Llama.cpp","note":"","publisher":"Wikipedia","language":"en","retrieved_at":"2026-10-23"},{"key":"hf-opt","title":"Optimizing your LLM in production","url":"https://huggingface.co/blog/optimize-llm","note":"","publisher":"Hugging Face","published_at":"2023-09-15","language":"en","retrieved_at":"2026-10-23"},{"key":"tnw","title":"Stanford's AI Index finds China has nearly closed the performance gap with the US despite spending 23 times less","url":"https://thenextweb.com/news/stanford-ai-index-2026-china-us-performance-gap","note":"","publisher":"The Next Web","published_at":"2026-04","language":"en","retrieved_at":"2026-10-23"},{"key":"eu-gpai","title":"Overview of Guidelines for GPAI Models","url":"https://artificialintelligenceact.eu/gpai-guidelines-overview/","note":"Обобщение на насоките на Европейската комисия от юли 2025 г., изготвено от сайт на Future of Life Institute.","publisher":"artificialintelligenceact.eu (Future of Life Institute)","language":"en","retrieved_at":"2026-10-23"},{"key":"decrypt","title":"Nvidia, Meta, and Microsoft Tell Washington: Don't Kill Open-Source AI","url":"https://decrypt.co/374282/nvidia-meta-microsoft-washington-dont-kill-open-source-ai","note":"","publisher":"Decrypt","published_at":"2026-07-24","language":"en","retrieved_at":"2026-10-23"}],"citations":[{"id":"lead-def","source_key":"decrypt","locator":"","excerpt":"get published for free. Anyone can download them, run them on their own servers, and modify them.","note":""},{"id":"lead-osi","source_key":"wp-osai","locator":"","excerpt":"The Open Source Initiative distinguishes open-source from open weights artificial intelligence when the materials needed to study and modify the model ... development process are not also available.","note":""},{"id":"lead-local","source_key":"wp-lcpp","locator":"","excerpt":"llama.cpp began development in March 2023 by Georgi Gerganov as an implementation of the Llama inference code in pure C/C++ with no dependencies. This improved performance on computers without GPU or other dedicated hardware, which was a project goal.","note":""},{"id":"lead-debate","source_key":"wp-osai","locator":"","excerpt":"Open-source AI is a major issue in geopolitics and artificial intelligence controversies, sometimes characterized as an AI arms race or AI Cold War between the US and China. ... Debate over the benefits and risks of open-sourced AI involve a range of factors like security, privacy and technological advancement.","note":""},{"id":"lead-2026","source_key":"hf-state","locator":"","excerpt":"In almost every month of 2026, the largest and most performant open model from a Chinese lab was larger than any model an American lab released.","note":""},{"id":"osi-ann","source_key":"osi-ann","locator":"","excerpt":"October 28, 2024 ... After a year-long, global, community design process ... The release of version 1.0 was announced today at","note":""},{"id":"osi-freedoms","source_key":"osi-def","locator":"","excerpt":"Use the system for any purpose and without having to ask for permission. Study how the system works and inspect its components. Modify the system for any purpose, including to change its output. Share the system for others to use with or without modifications, for any purpose.","note":""},{"id":"osi-pref","source_key":"osi-def","locator":"","excerpt":"A precondition to exercising these freedoms is to have access to the preferred form to make modifications to the system. ... Code: The complete source code used to train and run the system. ... Parameters: The model parameters, such as weights or other configuration settings.","note":""},{"id":"osi-data","source_key":"osi-def","locator":"","excerpt":"Sufficiently detailed information about the data used to train the system so that a skilled person can build a substantially equivalent system. ... including (if used) of unshareable data, disclosing the provenance of the data, its scope and characteristics, how the data was obtained and selected","note":""},{"id":"wp-openwash","source_key":"wp-osai","locator":"","excerpt":"Some large language models touted as open-sourced that are merely open weights and do not release training data and code ... have been criticized as ... systems that are mostly closed.","note":""},{"id":"wp-apertus","source_key":"wp-osai","locator":"","excerpt":"there have been only a few fully open (weights, data, code, etc.) large language models released. In September 2025, a Swiss consortium added to this short list by releasing a fully open model named Apertus.","note":""},{"id":"osi-llama","source_key":"osi-llama","locator":"","excerpt":"July 20, 2023 ... for a license to be Open Source, it may not discriminate against persons or groups or fields of endeavor ... license for the LLaMa models and code does not meet this standard; specifically, it puts restrictions on commercial use for some users (paragraph 2) and also restricts the use of the model and software for certain purposes","note":""},{"id":"zuck-405b","source_key":"zuck","locator":"","excerpt":"July 23, 2024 ... each invested heavily in developing their own closed source versions of Unix ... Eventually though, open source Linux gained popularity ... I believe that AI will develop in a similar way. ... releasing Llama 3.1 405B, the first frontier-level open source AI model","note":""},{"id":"llama4","source_key":"llama4","locator":"","excerpt":"April 5, 2025 ... Our new Llama 4 models are our first models that use a mixture of experts (MoE) architecture. In MoE models, a single token activates only a fraction of the total parameters. ... Llama 4 Maverick models have 17B active parameters and 400B total parameters.","note":""},{"id":"avocado","source_key":"decoder","locator":"","excerpt":"Dec 10, 2025 ... Avocado is expected to launch as a closed model, letting the company sell access directly. ... Internally, the open-source approach reportedly lost steam after the disappointing performance of Llama 4. ... the team is training Avocado using several external models, including Google ... gpt-oss, and Alibaba","note":""},{"id":"axios-muse","source_key":"axios","locator":"","excerpt":"Apr 8, 2026 ... code-named Avocado and built over the past nine months by a team led by Alexandr Wang ... Muse Spark will power queries in the Meta AI app and Meta.ai website immediately ... As Axios first reported, Meta plans to release a version of Muse Spark under an open-source license.","note":""},{"id":"spark-open","source_key":"tns","locator":"","excerpt":"Oct 15th, 2026 ... Meta on Thursday launched Muse Spark Open, a new 816B open model (with 42B active parameters) that the company argues is the ... most capable US open-weight model to date.","note":""},{"id":"spark-license","source_key":"tns","locator":"","excerpt":"Meta is launching the new model under the ... Muse Model License ... any company that has more than $20 million in gross revenue during any consecutive twelve-month period must ... notify Meta and enter into a separate written agreement with Meta before offering the Software or any Derivatives as part of that Model as a Service business. ... usage policy bars military and critical infrastructure deployments","note":""},{"id":"mistral3","source_key":"mistral3","locator":"","excerpt":"December 2, 2025 ... Mistral 3 includes three state-of-the-art small, dense models (14B, 8B, and 3B) and Mistral Large 3 ... a sparse mixture-of-experts trained with 41B active and 675B total parameters. All models are released under the Apache 2.0 license.","note":""},{"id":"qwen3","source_key":"qwen3","locator":"","excerpt":"April 29, 2025 ... We are open-weighting two MoE models: Qwen3-235B-A22B, a large model with 235 billion total parameters and 22 billion activated parameters ... Additionally, six dense models are also open-weighted ... under Apache 2.0 license.","note":""},{"id":"wp-deepseek","source_key":"wp-osai","locator":"","excerpt":"DeepSeek released their V3 LLM in December 2024, and their R1 reasoning model on 20 January 2025, both as open-weights models under the MIT license.","note":""},{"id":"cnbc","source_key":"cnbc","locator":"","excerpt":"Nvidia shares plunged 17% on Monday, resulting in a market cap loss of close to $600 billion, the biggest drop ever for a U.S. company. The sell-off, which hit much of the U.S. tech sector, was sparked by concerns about increased competition from Chinese AI lab DeepSeek.","note":""},{"id":"v4","source_key":"qz","locator":"","excerpt":"Updated April 24, 2026 ... adapted to run on Huawei ... The V4 comes in two versions: DeepSeek-V4-Pro, with 1.6 trillion total parameters and 49 billion active parameters, and DeepSeek-V4-Flash, with 284 billion total parameters and 13 billion active parameters. Both support a context length of one million tokens. ... The models are available under an MIT license","note":""},{"id":"gemma4","source_key":"gemma4","locator":"","excerpt":"Thursday, April 2, 2026 ... our most capable open models ranging from edge devices to 31B parameters ... Gemma 4 models are the first in the Gemmaverse to be released under the OSI-approved Apache 2.0 license. ... Since we first launched Gemma in 2024 ... without the need to navigate prescriptive terms of service.","note":""},{"id":"wp-kimi","source_key":"wp-osai","locator":"","excerpt":"As of July ... 2026 ... the largest open weight frontier model is Kimi K3, developed by Moonshot AI, at 2.8 trillion parameters ... followed by Alibaba Cloud ... Qwen3.8 at 2.4 trillion parameters.","note":""},{"id":"hf-qwen","source_key":"hf-state","locator":"","excerpt":"Qwen-based models now account for 151,448 derivatives on the Hub, 2.6× Meta ... total footprint and 4.7× the Llama repositories specifically. Google follows with 82,506 derivatives. ... throughout the first seven months of 2026","note":""},{"id":"hf-gguf","source_key":"hf-state","locator":"","excerpt":"Even among the 28,531 GGUF conversions of Qwen models on the Hub, Qwen published only 54.","note":""},{"id":"hf-lic","source_key":"hf-state","locator":"","excerpt":"Of 178 Chinese releases above 20B parameters this year, 59% carry Apache 2.0 and 22% carry MIT ... on the American side of the same size band, 29% is Apache or MIT, 41% sits under custom terms and 30% declares nothing at all.","note":""},{"id":"hf-edit","source_key":"hf-state","locator":"","excerpt":"with Kimi K3 and Qwen 3.8 2.4T starting to include some non-commercial restrictions and revenue share requirements to their licenses ... exactly none carry a non-commercial restriction ... Not true. Kimi models cannot be served by companies that make more than $20M/year unless explicit authorisation by Moonshot.","note":""},{"id":"fortune","source_key":"fortune","locator":"","excerpt":"have accumulated more than 3 billion global downloads in the past six months ... its ecosystem has spawned 300,000-plus derivatives, the Chinese technology company said in an emailed statement. Google, part of Alphabet, had 418 million downloads while Meta stood at 227 million in 2026","note":""},{"id":"tnw","source_key":"tnw","locator":"","excerpt":"according to the 2026 AI Index Report published this week ... The top closed model now leads the top open model by 3.3%, up from 0.5% in August 2024, and six of the top ten Arena models are closed-source. ... the open-source models that have driven China ... catch-up may face diminishing returns.","note":""},{"id":"insait24","source_key":"insait24","locator":"","excerpt":"January 16, 2024 ... Today INSAIT officially launched BgGPT, the first open large language model for Bulgarian, created for the Bulgarian state, users, public and private organizations. ... In its first version, BgGPT was trained on over 3 billion Bulgarian sentences and consists of 7 billion parameters. ... Full public access to BgGPT will start on March 3","note":""},{"id":"gemma-insait","source_key":"gemma-insait","locator":"","excerpt":"The model comes in 27B, 9B, and 2B parameter sizes. ... BgGPT was pre-trained on around 85B Bulgarian tokens and 15B in English. ... own Branch-and-Merge continual pre-training strategy, which enables the model to learn new information like Bulgarian without replacing or losing old information","note":""},{"id":"insait26","source_key":"insait26","locator":"","excerpt":"March 26, 2026 ... now recognizes images and voice, processes documents, and integrates internet search. ... INSAIT is also releasing the models behind BgGPT 3.0 in three sizes ... 4B, 12B, and 27B. ... They are based on Google Gemma 3 and have been further trained using INSAIT ... new technology and a dataset exceeding 100 billion Bulgarian words. ... where the models can be freely downloaded and integrated by any company or institution.","note":""},{"id":"insait26-claim","source_key":"insait26","locator":"","excerpt":"As a result, BgGPT 3.0 27B outperforms models nearly ten times larger when working in Bulgarian. ... INSAIT thanks Google for its continued support, both in terms of GCP credits needed to train the BgGPT models","note":""},{"id":"insait26-gov","source_key":"insait26","locator":"","excerpt":"National open models like BgGPT are becoming critically important in the context of countries striving for technological sovereignty, development of domestic capabilities, and data protection in AI usage. ... such as the National Revenue Agency and the Bulgarian National Audit Office. These projects run on dedicated infrastructure, ensuring data security and enabling work with sensitive information while eliminating dependence on foreign providers.","note":""},{"id":"gguf","source_key":"wp-lcpp","locator":"","excerpt":"llama.cpp has been considered as the de facto standard as the core of almost all local inference tools, including Ollama and LM Studio. ... is a binary format that stores both tensors and metadata in a single file ... It was introduced in August 2023 by the llama.cpp project ... GGUF supports 2-bit to 8-bit quantized integer types ... and 1.58-bit quantization.","note":""},{"id":"lcpp-hf","source_key":"lcpp-hf","locator":"","excerpt":"Feb 20, 2026 ... ggml.ai (the founding team of llama.cpp) are joining Hugging Face in order to keep future AI truly open. ... Georgi and team will continue to dedicate 100% of their time maintaining ggml/llama.cpp. The community will continue to operate fully autonomously and make technical and architectural decisions as usual.","note":""},{"id":"vram-rule","source_key":"hf-opt","locator":"","excerpt":"Loading the weights of a model having X billion parameters requires roughly 4 * X GB of VRAM in float32 precision ... usually in bfloat16 precision or less frequently in float16 precision. ... Loading the weights of a model having X billion parameters requires roughly 2 * X GB of VRAM in bfloat16/float16 precision ... Llama-2-70b requires 2 * 70 GB = 140 GB VRAM","note":""},{"id":"vram-q","source_key":"hf-opt","locator":"","excerpt":"It has been found that model weights can be quantized to 8-bit or 4-bits without a significant loss in performance ... down to just a bit over 15 GBs and could therefore run this model on consumer GPUs like the 4090. ... Just 9.5GB! ... really not a lot for a >15 billion parameter model. ... 4-bit quantization can in practice often lead to different results compared to 8-bit quantization or full bfloat16 inference.","note":""},{"id":"moe-mem","source_key":"llama4","locator":"","excerpt":"The former fits on a single H100 GPU (with Int4 quantization) ... while all parameters are stored in memory, only a subset of the total parameters are activated while serving these models.","note":""},{"id":"gptoss-mem","source_key":"gptoss","locator":"","excerpt":"August 5, 2025 ... releasing gpt-oss-120b and gpt-oss-20b ... Available under the flexible Apache 2.0 license ... while running efficiently on a single 80 GB GPU. ... can run on edge devices with just 16 GB of memory ... gpt-oss models are our first open-weight language models since GPT‑2","note":""},{"id":"glimmer-q","source_key":"ct-glimmer","locator":"","excerpt":"Meta has released Muse Glimmer, a 30-billion-parameter open-weight AI model designed to run locally on consumer hardware. ... Meta used quantization to shrink the language model to less than 20 GB, enabling it to run on consumer hardware ... Wang said the model can run on a single consumer GPU.","note":""},{"id":"zuck-control","source_key":"zuck","locator":"","excerpt":"want to depend on models they cannot run and control themselves ... want closed model providers to be able to change their model, alter their terms of use, or even stop serving them entirely ... Many organizations handle sensitive data that they need to secure and can ... send to closed models over cloud APIs.","note":""},{"id":"zuck-cost","source_key":"zuck","locator":"","excerpt":"Developers can run inference on Llama 3.1 405B on their own infra at roughly 50% the cost of using closed models like GPT-4o","note":""},{"id":"wp-transp","source_key":"wp-osai","locator":"","excerpt":"The open-sourced aspects of models allow those algorithms and code to be inspected, which promotes accountability and helps developers understand how a model reaches its conclusions.","note":""},{"id":"decrypt-hack","source_key":"decrypt","locator":"","excerpt":"OpenAI admitted its own AI agents broke into Hugging Face ... tried American closed models to investigate, the tools ... safety filters couldn ... tell a security researcher from the attacker. So the company ran GLM 5.2, an open-weight Chinese model, locally instead","note":""},{"id":"wp-bio","source_key":"wp-osai","locator":"","excerpt":"Open sourced models have fewer ways to prevent them from being used for malicious activities. ... Open-source AI may allow bioterrorism groups to remove fine-tuning and other safeguards of AI models.","note":""},{"id":"gptoss-adv","source_key":"gptoss","locator":"","excerpt":"Once an open-weight model is released, adversaries may be able to fine-tune the model for malicious purposes. We directly assessed these risks by fine-tuning the model on specialized biology and cybersecurity data, creating a domain-specific non-refusing version for each domain the way an attacker might. ... these maliciously fine-tuned models were unable to reach high capability levels according to our Preparedness Framework","note":""},{"id":"wp-pla","source_key":"wp-osai","locator":"","excerpt":"were adopted by U.S. defense contractors like Lockheed Martin and Oracle after unauthorized adaptations by Chinese researchers affiliated with the People ... Chinese researchers used an earlier version of Llama to develop tools like ChatBIT, optimized for military intelligence and decision-making, prompting Meta to expand its partnerships with U.S. contractors","note":""},{"id":"wp-wh","source_key":"wp-osai","locator":"","excerpt":"A July 2024 report by the White House found it did not yet find sufficient evidence to restrict revealing model weights ... though a number of experts in 2024 seemed more concerned about future advances than present-day capabilities.","note":""},{"id":"eu-exempt","source_key":"eu-gpai","locator":"","excerpt":"Open source GPAI providers benefit from limited exemptions under the AI Act: ... No obligation to provide documentation to downstream providers or, upon request, to the AI Office or national authorities.","note":""},{"id":"eu-nonexempt","source_key":"eu-gpai","locator":"","excerpt":"FLOPs is presumed to have high-impact capabilities and may be classified as systemic-risk GPAI. ... Must comply with training data summary and copyright policy requirements. ... If designated as a GPAI model with systemic risk, they must fully meet all applicable obligations, including systemic risk management, model evaluations, incident reporting, and cybersecurity.","note":""},{"id":"eu-licence","source_key":"eu-gpai","locator":"","excerpt":"Permits use, access, modification, and redistribution. ... Non-commercial or research-only use ... User-size thresholds ... Mandatory commercial licensing for certain uses ... A GPAI model loses open source exemptions if monetisation is present. ... Dual-licensing ... Hosted access subject to fees or advertising revenue","note":""},{"id":"eu-dates","source_key":"eu-gpai","locator":"","excerpt":"While obligations kick-in on 2 August 2025, the AI Office does not have full enforcement powers until 2 August 2026 by which time they may request information, order model recalls, mandate mitigations, or impose fines. ... For models placed before 2 August 2025, providers will have until 2 August 2027 to comply.","note":""},{"id":"eu-fli","source_key":"eu-gpai","locator":"","excerpt":"This website is built and maintained by the Future of Life Institute ... nonprofit working for the responsible development of AI. ... Signing the Code of Practice is voluntary ... The Code is not a harmonised standard, so signing it does not create an automatic presumption of compliance.","note":""},{"id":"zuck-biz","source_key":"zuck","locator":"","excerpt":"a key difference between Meta and closed model providers is that selling access to AI models isn ... our business model. That means openly releasing Llama doesn ... undercut our revenue ... This is one reason several closed providers consistently lobby governments against open source.","note":""},{"id":"altman","source_key":"tc","locator":"","excerpt":"January 31, 2025 ... Altman admitted that DeepSeek has lessened OpenAI ... on the wrong side of history ... when it comes to open sourcing its technologies. ... figure out a different open source strategy ... Not everyone at OpenAI shares this view","note":""},{"id":"wp-letter","source_key":"wp-osai","locator":"","excerpt":"On July 2026, an open letter was published, urging policymakers in the United States to protect open-weight AI models from possible premature restrictions, warning that ... would harm competition and drive innovation to other countries. The letter was released jointly by more than 20 companies, including Nvidia, Microsoft, Meta, Palantir, Hugging Face, Perplexity, Mistral, Linux Foundation, Mozilla and IBM.","note":""},{"id":"decrypt-letter","source_key":"decrypt","locator":"","excerpt":"Nvidia, Meta, Microsoft, Andreessen Horowitz, Hugging Face, IBM, and 19 other companies published a letter Friday titled ... OpenAI and Anthropic did not sign. ... Nvidia, Microsoft, Meta, Andreessen Horowitz, Hugging Face, IBM, Dell, and 18 others signed a letter ... head of strategic futures, Dean Ball, wrote on X that an open-weight-dominated world leads to ... a dystopian hellscape. ... Notably absent from the 25 signatories: OpenAI and Anthropic","note":""}],"status":"published","featured":false,"revision":1,"created_at":"2026-10-23T13:19:58.816Z","updated_at":"2026-10-23T13:19:58.816Z"}