OpenAI и „демократичните входни данни“ за AI
През май 2023 г. компанията OpenAI стартира грантова програма „Демократични входни данни за AI“, отпускайки по 100 000 щатски долара на 10 екипа измежду близо 1000 кандидатури, за да разработят методи гражданите — а не само компаниите — да участват в определянето на правилата, по които се държат AI системите.[1]
#изкуствен интелект #управление на AI #гражданско участие #грантова програма
Кой участва и какво разработва
Десетте избрани екипа представляват 12 държави и обединяват експертиза в правото, журналистиката, изграждането на мир, машинното обучение и социалните науки.[2]
Проектите включват нови интерфейси за видео-базирано обсъждане, „граждански одити“ на AI модели чрез краудсорсинг, математически методи за гарантиране на представителност на различни групи и платформи за събиране на политически предпочитания сред поляризирани общности.[2]
Научени уроци
Общественото мнение по въпросите се оказва изменчиво, като понякога се променя от ден на ден — извод, който говори в полза на повтарящо се, а не еднократно събиране на мнения.[3]
Онлайн набирането на участници привлича непропорционално повече хора, оптимистично настроени към AI, а езиковите бариери — например при разпознаване на реч на филипински езици — изискват допълнителни инвестиции в обхват.[3]
Най-успешните подходи откриват политически предложения, подкрепяни от над 72% и на двата полюса на политическото разделение, но участниците като цяло предпочитат хибриден модел — AI инструменти, съчетани с преглед от експерти и финално гласуване от хора.[4]
Последващи инициативи
След приключване на програмата OpenAI формира вътрешен екип „Collective Alignment“, който да внедрява системи за обществено участие и да пилотира прототипите на грантополучателите за насочване на поведението на моделите.[5]
Значение за връзката между AI и пряката демокрация
Програмата е сред първите случаи, при които водеща AI компания финансира пряко експерименти с инструменти на пряката демокрация — масово допитване, а не представителство чрез избрани органи — с изричната цел резултатите да повлияят на собствените ѝ продукти, подобно по дух на Колективния конституционен AI на Anthropic.
Вижте също
- Колективен конституционен AI
- e-Cidadania: AI в бразилския Сенат
- Plurality: технология за съвместно многообразие и демокрация
- Team Mirai: AI и „широко слушане“ в японската политика
- Дания: авторско право върху собствения образ срещу дийпфейкове
- Синтетичната партия: AI лидер в датската политика
- Humphrey Consult: AI анализ на обществени консултации във Великобритания
- AI и претоварването на законодателния процес в Конгреса на САЩ
- Habermas Machine: AI медиатор за групово съгласие
- Порто Алегре: наредбата, написана от ChatGPT
Доказателства към твърденията
-
OpenAI — Democratic inputs to AI
Program announcement, May 2023
Стартиране на програмата и брой кандидатури.
Отвори източника -
OpenAI — Democratic inputs to AI grant program: lessons learned and implementation plans
Grantee projects overview
Профил на десетте екипа и разработените от тях методи.
Отвори източника -
OpenAI — Democratic inputs to AI grant program: lessons learned and implementation plans
Lessons learned — volatility and digital divide
Изменчивост на общественото мнение и предизвикателства пред онлайн набирането на участници.
Отвори източника -
OpenAI — Democratic inputs to AI grant program: lessons learned and implementation plans
Lessons learned — cross-partisan support and hybrid governance
Предпочитание към хибриден модел на управление с човешки преглед.
Отвори източника -
OpenAI — Democratic inputs to AI grant program: lessons learned and implementation plans
Follow-up — Collective Alignment team
Създаване на екип „Collective Alignment“ след приключване на програмата.
Отвори източника