„Democratic AI“: изследването на DeepMind за AI, проектиращ справедливо преразпределение
През 2022 г. изследователи от Google DeepMind публикуват в Nature Human Behaviour изследване, в което алгоритъм за подсилено обучение проектира механизъм за преразпределение на доходи в икономическа игра, който хората предпочитат пред стандартни политики — включително пред схема, изготвена от друг човек в ролята на „арбитър“.[1]
Дизайн на експеримента
В игра с четирима играчи участниците получават всеки рунд различни суми пари и избират дали да ги задържат, или да ги вложат в общ фонд, който гарантирано расте. През първите 10 рунда печалбата се преразпределя от един „арбитър“, а през следващите 10 — от друг, след което играчите гласуват за единия от тях; в действителност единият арбитър прилага предварително зададена политика, а другият е проектиран от агент с дълбоко подсилено обучение.[2]
Изследователите първо записват данни от голям брой групи хора и обучават невронна мрежа да имитира как хората играят играта. Върху тази симулирана популация агентът се учи да максимизира гласовете на „виртуалните“ играчи, след което проектираният от него механизъм е изправен срещу известни базови политики пред нови човешки играчи.[3]
Изненадващият резултат
Механизмът, проектиран от AI, се оказва по-популярен от установени базови подходи, включително от политика, приложена от самите хора в ролята на арбитър — авторите отбелязват, че дори когато поканили пети човек за арбитър и го обучили да се стреми към максимум гласове, „политиката, прилагана от този „човешки арбитър“, все пак е по-малко популярна от тази на нашия агент“.[4]
Алгоритъмът открива подход, съчетаващ преразпределение спрямо относителния, а не абсолютния принос на всеки участник, с награждаване на щедрия относителен принос — като по този начин вероятно насърчава и другите да постъпват така. Тъй като агентът открива тези политики единствено като се учи да максимизира гласовете на хората, методът запазва хората „в контура“ на решението.[5]
when we ran a new experiment asking a fifth human player to take on the role of referee...the policy implemented by this 'human referee' was still less popular than that of our agent[4]
Вижте също
- Habermas Machine: AI медиатор за групово съгласие
- Великобритания: правителственият AI инструмент „Humphrey“ анализира обществени консултации и е свързан с решението за закриване на регулатора Ofwat
- Боулинг Грийн: как AI на Google Jigsaw събра мнението на цял град
- Team Mirai: AI и „широко слушане“ в японската политика
- Deliberation.io и Engaged California: AI платформи на американски власти за изслушване на граждани (2025-2026)
- Демократизация на изкуствения интелект
- Remesh: изкуствен интелект за масово обществено обсъждане
- Plurality: технология за съвместно многообразие и демокрация
- AI astroturfing на обществени консултации: CiviClick, Speak4 и калифорнийският отговор
- Колективен конституционен AI
Доказателства към твърденията
- Human-centred mechanism design with Democratic AI Отвори източника
- Human-centred mechanism design with Democratic AI Отвори източника
- Human-centred mechanism design with Democratic AI Отвори източника
- Human-centred mechanism design with Democratic AI Отвори източника
- Human-centred mechanism design with Democratic AI Отвори източника