{"id":"68e0f52b-d15f-4a77-862a-5694466e08a2","slug":"mezhdunarodna-mrezha-instituti-bezopasnost-ai","title":"Международната мрежа на институтите за безопасност на ИИ","category":"Технологии · Управление на ИИ","tags":["изкуствен интелект","международно сътрудничество","безопасност на AI"],"lead":"На 20–21 ноември 2024 г. в Сан Франциско девет държави и Европейският съюз официално стартират Международната мрежа на институтите за безопасност на ИИ — координационна структура, произлязла от Сеулската декларация за намерения от май 2024 г., с цел съвместно тестване и оценка на мощните гранични модели на изкуствен интелект.","sections":[{"id":"ot-seul-do-san-frantsisko","title":"От Сеул до Сан Франциско","paragraphs":["Мрежата произлиза от Сеулската декларация за намерения, подписана на срещата на върха за безопасност на ИИ в Сеул през май 2024 г., а официалното ѝ учредяване е на двудневна среща в Сан Франциско, започнала на 20 ноември 2024 г. и съвместно организирана от Министерството на търговията и Държавния департамент на САЩ.[^commerce]","Учредителни членове са институтите и правителствено оправомощените звена за безопасност на ИИ на Австралия, Канада, Европейския съюз, Франция, Япония, Кения, Република Корея, Сингапур, Обединеното кралство и Съединените щати.[^commerce]"],"quote":"Австралия, Канада, Европейският съюз, Франция, Япония, Кения, Република Корея, Сингапур, Обединеното кралство и Съединените щати.[^commerce]"},{"id":"misiya-i-parvi-savmesten-test","title":"Мисия и първи съвместен тест","paragraphs":["Мисията на мрежата е да „напредне безопасността на ИИ, да помогне на правителствата и обществото да разберат рисковете, породени от напреднали системи с изкуствен интелект, и да предложи решения за адресиране на тези рискове“, организирана около четири приоритета — изследвания, тестване, насоки и приобщаване.[^nist]","На учредителната среща мрежата провежда първото си съвместно тестово упражнение върху модела Llama 3.1 405B на Meta, изследвайки „общи академични знания, халюцинации и многоезични способности“ — практическа демонстрация как национални институти могат да съгласуват методологии за оценка на едни и същи модели.[^commerce]"],"quote":"Мрежата ще движи съгласуваността и ще изгражда научната основа за безопасна, сигурна и надеждна иновация в областта на ИИ по света.[^commerce]"},{"id":"tretoto-savmestno-testovo-uprazhnenie-agenten-ii-2025-g","title":"Третото съвместно тестово упражнение: агентен ИИ (2025 г.)","paragraphs":["През юли 2025 г., по повод среща на мрежата във Ванкувър, Канада, мрежата публикува резултатите от третото си съвместно тестово упражнение, насочено този път не към стандартни чатботове, а към „агенти“ — клас напреднали AI програми, които самостоятелно разсъждават, планират, използват инструменти и изпълняват задачи.[^ec-agentic] Упражнението изследва два приоритетни риска — изтичане на чувствителна информация и измами, както и уязвимости в киберсигурността — като Службата на ЕС по изкуствен интелект е един от трите членове на мрежата, провели агентните оценки в направлението „киберсигурност“.[^ec-cyber-strand]","Основният извод от упражнението е методологичен, не за резултатите на конкретен модел: „малки промени в дизайна на оценката могат значително да повлияят на резултатите“ — находка, която мрежата описва като напредък „в науката за агентна оценка“ и „критична инвестиция в безопасното и надеждно развитие на напреднали AI системи“.[^ec-agentic]"]},{"id":"mnogoezichno-testovo-uprazhnenie","title":"Многоезично тестово упражнение","paragraphs":["Успоредно с това Сингапур, Япония и Обединеното кралство водят многоезично съвместно тестово упражнение в рамките на мрежата, с участието и на Австралия, САЩ, Франция, Република Корея и Европейската комисия, изследващо дали отговорите на моделите се различават, когато са оценявани на различни езици спрямо английски.[^multiling-scope] Тествани са два отворени модела — Mistral Large и Gemma 2 — с над 6000 нови преведени многоезични подканвания на десет езика, плюс над 130 000 подканвания, свързани с киберсигурност, и 40 агентни киберсигурностни задачи, чрез съчетание от автоматизирани оценители и ръчен преглед от експерти.[^multiling-methodology]","Експертният ръчен преглед разкрива несъответствия с автоматизираните резултати, особено изразени при езици с по-малко налични данни за обучение като телугу и фарси, което мрежата определя като основание за преразглеждане и уточняване на критериите за оценка на различните езици.[^multiling-findings]"]}],"sources":[{"key":"commerce","title":"Fact Sheet: US Department of Commerce, US Department of State Launch International Network of AI Safety Institutes","url":"https://www.commerce.gov/news/fact-sheets/2024/11/fact-sheet-us-department-commerce-us-department-state-launch-international","note":"Министерство на търговията на САЩ, официално изявление","archive_url":"https://web.archive.org/web/20260509060345/https://www.commerce.gov/news/fact-sheets/2024/11/fact-sheet-us-department-commerce-us-department-state-launch-international"},{"key":"nist","title":"International Network of AI Safety Institutes — Mission Statement","url":"https://www.nist.gov/document/international-network-ai-safety-institutes-mission-statement","note":"NIST, мисия на мрежата","archive_url":"https://web.archive.org/web/20261013163709/https://www.nist.gov/system/files/documents/2024/11/20/Mission%20Statement%20-%20International%20Network%20of%20AISIs.pdf"},{"key":"ec-third-exercise","title":"AI Office contributes to the third joint testing exercise of the International Network of AI Safety Institutes","url":"https://digital-strategy.ec.europa.eu/en/news/ai-office-contributes-third-joint-testing-exercise-international-network-ai-safety-institutes","note":"Европейска комисия, Служба на ЕС по изкуствен интелект, 17 юли 2025 г.","archive_url":"https://web.archive.org/web/20260420092204/https://digital-strategy.ec.europa.eu/en/news/ai-office-contributes-third-joint-testing-exercise-international-network-ai-safety-institutes"},{"key":"sgdsn-multilingual","title":"International Network of AI Safety Institutes — Joint Testing Exercise: Improving Methodologies for AI Model Evaluations Across Global Languages","url":"https://www.sgdsn.gouv.fr/files/files/Publications/International-Network-of-AI-Safety-Institutes-Joint-Testing-Exercise-Improving-Methodologies-for-AI-Model-Evaluations-Across-Global-Languages.pdf","note":"Официален доклад на мрежата, публикуван чрез френския SGDSN.","archive_url":"https://web.archive.org/web/20260410144955/https://www.sgdsn.gouv.fr/files/files/Publications/International-Network-of-AI-Safety-Institutes-Joint-Testing-Exercise-Improving-Methodologies-for-AI-Model-Evaluations-Across-Global-Languages.pdf"}],"citations":[{"id":"commerce","source_key":"commerce","locator":"изявление, 20 ноември 2024","excerpt":"Wednesday, November 20, 2024 ... The Network will drive alignment on and build the scientific basis for safe, secure, and trustworthy AI innovation around the world ... Today the U.S. Department of Commerce and U.S. Department of State are co-hosting the inaugural convening of the International Network of AI Safety Institutes ... whose initial members include Australia, Canada, the European Union, France, Japan, Kenya, the Republic of Korea, Singapore, the United Kingdom, and the United States ... Over the next two days in San Francisco, California ... This exercise was conducted on Meta's Llama 3.1 405B to test across three topics – general academic knowledge, 'closed-domain' hallucinations, and multi-lingual capabilities ... the Seoul Statement of Intent","note":""},{"id":"nist","source_key":"nist","locator":"мисия, 2024","excerpt":"advance AI safety, help governments and society understand the risks posed by advanced AI systems, and suggest solutions to address those risks","note":""},{"id":"ec-agentic","source_key":"ec-third-exercise","locator":"Европейска комисия, 17 юли 2025 г.","excerpt":"Publication 17 July 2025 ... To accompany the convening of the International Network of AI Safety Institutes in Vancouver, Canada, the Network published the results of its third joint testing exercise. The exercise focused on evaluating \"agents\"—a class of advanced AI programmes that autonomously reason, plan, use tools, and execute tasks ... in Paris (February 2025) ... recognising that small changes in evaluation design can significantly impact results. This collaborative effort marks an important step in advancing the science of agentic evaluation and represents a critical investment in the safe and trustworthy development of advanced AI systems","note":""},{"id":"ec-cyber-strand","source_key":"ec-third-exercise","locator":"Европейска комисия, 17 юли 2025 г.","excerpt":"one of the three Network's members that ran the agentic evaluations for the cybersecurity strand","note":"Ролята на Службата на ЕС по изкуствен интелект в упражнението."},{"id":"multiling-scope","source_key":"sgdsn-multilingual","locator":"Доклад на мрежата","excerpt":"improving the efficacy of model evaluations across different languages","note":"Целта на многоезичното упражнение."},{"id":"multiling-methodology","source_key":"sgdsn-multilingual","locator":"Доклад на мрежата","excerpt":"6,000 new translated multilingual prompts ... over 130,000 cybersecurity related prompts and running 40 agentic cybersecurity tasks","note":"Мащабът на тестовите данни, използвани в упражнението."},{"id":"multiling-findings","source_key":"sgdsn-multilingual","locator":"Доклад на мрежата","excerpt":"expert human review found discrepancies between the automated results and the result of human review","note":"Основната находка за несъответствия при езици с по-малко данни."}],"status":"published","featured":false,"revision":8,"created_at":"2026-09-14T19:27:15.113Z","updated_at":"2026-10-25T12:04:09.866Z"}