Международната мрежа на институтите за безопасност на ИИ
На 20–21 ноември 2024 г. в Сан Франциско девет държави и Европейският съюз официално стартират Международната мрежа на институтите за безопасност на ИИ — координационна структура, произлязла от Сеулската декларация за намерения от май 2024 г., с цел съвместно тестване и оценка на мощните гранични модели на изкуствен интелект.
От Сеул до Сан Франциско
Мрежата произлиза от Сеулската декларация за намерения, подписана на срещата на върха за безопасност на ИИ в Сеул през май 2024 г., а официалното ѝ учредяване е на двудневна среща в Сан Франциско, започнала на 20 ноември 2024 г. и съвместно организирана от Министерството на търговията и Държавния департамент на САЩ.[1]
Учредителни членове са институтите и правителствено оправомощените звена за безопасност на ИИ на Австралия, Канада, Европейския съюз, Франция, Япония, Кения, Република Корея, Сингапур, Обединеното кралство и Съединените щати.[1]
Австралия, Канада, Европейският съюз, Франция, Япония, Кения, Република Корея, Сингапур, Обединеното кралство и Съединените щати.[1]
Мисия и първи съвместен тест
Мисията на мрежата е да „напредне безопасността на ИИ, да помогне на правителствата и обществото да разберат рисковете, породени от напреднали системи с изкуствен интелект, и да предложи решения за адресиране на тези рискове“, организирана около четири приоритета — изследвания, тестване, насоки и приобщаване.[2]
На учредителната среща мрежата провежда първото си съвместно тестово упражнение върху модела Llama 3.1 405B на Meta, изследвайки „общи академични знания, халюцинации и многоезични способности“ — практическа демонстрация как национални институти могат да съгласуват методологии за оценка на едни и същи модели.[1]
Мрежата ще движи съгласуваността и ще изгражда научната основа за безопасна, сигурна и надеждна иновация в областта на ИИ по света.[1]
Третото съвместно тестово упражнение: агентен ИИ (2025 г.)
През юли 2025 г., по повод среща на мрежата във Ванкувър, Канада, мрежата публикува резултатите от третото си съвместно тестово упражнение, насочено този път не към стандартни чатботове, а към „агенти“ — клас напреднали AI програми, които самостоятелно разсъждават, планират, използват инструменти и изпълняват задачи.[3] Упражнението изследва два приоритетни риска — изтичане на чувствителна информация и измами, както и уязвимости в киберсигурността — като Службата на ЕС по изкуствен интелект е един от трите членове на мрежата, провели агентните оценки в направлението „киберсигурност“.[4]
Основният извод от упражнението е методологичен, не за резултатите на конкретен модел: „малки промени в дизайна на оценката могат значително да повлияят на резултатите“ — находка, която мрежата описва като напредък „в науката за агентна оценка“ и „критична инвестиция в безопасното и надеждно развитие на напреднали AI системи“.[3]
Многоезично тестово упражнение
Успоредно с това Сингапур, Япония и Обединеното кралство водят многоезично съвместно тестово упражнение в рамките на мрежата, с участието и на Австралия, САЩ, Франция, Република Корея и Европейската комисия, изследващо дали отговорите на моделите се различават, когато са оценявани на различни езици спрямо английски.[5] Тествани са два отворени модела — Mistral Large и Gemma 2 — с над 6000 нови преведени многоезични подканвания на десет езика, плюс над 130 000 подканвания, свързани с киберсигурност, и 40 агентни киберсигурностни задачи, чрез съчетание от автоматизирани оценители и ръчен преглед от експерти.[6]
Експертният ръчен преглед разкрива несъответствия с автоматизираните резултати, особено изразени при езици с по-малко налични данни за обучение като телугу и фарси, което мрежата определя като основание за преразглеждане и уточняване на критериите за оценка на различните езици.[7]
Вижте също
- Сеулската декларация: продължението на процеса за безопасност на изкуствения интелект
- Декларацията от Йоханесбург на Г-20: консенсус по изкуствения интелект въпреки бойкота на САЩ
- Индия: Срещата на върха AI Impact Summit 2026 приема Декларацията от Ню Делхи, обвинена от гражданското общество в прикриване на „демократично назадничество“
- Парижкият самит за AI действие (2025)
- Независимият международен научен панел на ООН за изкуствения интелект
- Първата сесия на Глобалния диалог на ООН за управление на изкуствения интелект (Женева, юли 2026)
- Глобалното партньорство за изкуствен интелект (GPAI)
- Институт за безопасност на изкуствения интелект на Обединеното кралство
- Същност и развитие на технологията на изкуствения интелект (2022-2026)
- Самоусъвършенстващ се изкуствен интелект
Доказателства към твърденията
-
Fact Sheet: US Department of Commerce, US Department of State Launch International Network of AI Safety Institutes
изявление, 20 ноември 2024Отвори източника
-
International Network of AI Safety Institutes — Mission Statement
мисия, 2024Отвори източника
-
AI Office contributes to the third joint testing exercise of the International Network of AI Safety Institutes
Европейска комисия, 17 юли 2025 г.Отвори източника
-
AI Office contributes to the third joint testing exercise of the International Network of AI Safety Institutes
Европейска комисия, 17 юли 2025 г.
Ролята на Службата на ЕС по изкуствен интелект в упражнението.
Отвори източника -
International Network of AI Safety Institutes — Joint Testing Exercise: Improving Methodologies for AI Model Evaluations Across Global Languages
Доклад на мрежата
Целта на многоезичното упражнение.
Отвори източника -
International Network of AI Safety Institutes — Joint Testing Exercise: Improving Methodologies for AI Model Evaluations Across Global Languages
Доклад на мрежата
Мащабът на тестовите данни, използвани в упражнението.
Отвори източника -
International Network of AI Safety Institutes — Joint Testing Exercise: Improving Methodologies for AI Model Evaluations Across Global Languages
Доклад на мрежата
Основната находка за несъответствия при езици с по-малко данни.
Отвори източника