# „Democratic AI“: изследването на DeepMind за AI, проектиращ справедливо преразпределение

През 2022 г. изследователи от Google DeepMind публикуват в Nature Human Behaviour изследване, в което алгоритъм за подсилено обучение проектира механизъм за преразпределение на доходи в икономическа игра, който хората предпочитат пред стандартни политики — включително пред схема, изготвена от друг човек в ролята на „арбитър“.

## Дизайн на експеримента

В игра с четирима играчи, продължаваща 20 рунда, участниците получават различни суми пари всеки рунд и избират дали да ги задържат, или да ги вложат в общ фонд; два „арбитъра“ — един със зададена предварително политика и един, проектиран от агент с подсилено обучение — определят как да бъде преразпределена печалбата.

След обучение на невронна мрежа върху данни от множество групи хора, играещи играта, агентът с изкуствен интелект се учи да максимизира гласовете на участниците за своята политика на преразпределение, тествана впоследствие срещу нови човешки играчи.

## Изненадващият резултат

Механизмът, проектиран от AI, се оказва по-популярен от установени базови подходи, включително от политика, приложена от самите хора в ролята на арбитър — авторите отбелязват, че дори когато поканили пети човек за арбитър, „политиката, прилагана от този 'човешки арбитър', все пак е по-малко популярна от тази на нашия агент“.

Алгоритъмът открива подход, съчетаващ преразпределение спрямо относителния, а не абсолютния принос на всеки участник, с награждаване на щедрия относителен принос — насърчавайки сътрудничество, като същевременно запазва хората „в контура“ на решението.

> when we ran a new experiment asking a fifth human player to take on the role of referee...the policy implemented by this 'human referee' was still less popular than that of our agent

## Вижте също

- [Habermas Machine: AI медиатор за групово съгласие](https://wikib.online/article/habermas-machine-ai-mediator)
- [Сеулската декларация: продължението на процеса за безопасност на изкуствения интелект](https://wikib.online/article/seul-ai-samit-2024)
- [Глобалното партньорство за изкуствен интелект (GPAI)](https://wikib.online/article/globalno-partnyorstvo-za-ai-gpai)
- [Worldcoin: биометричната „орб“ на Сам Алтман за цифрова идентичност](https://wikib.online/article/worldcoin-tsifrova-identichnost)
- [Япония: AI кандидатът за кмет на Тама сити](https://wikib.online/article/ai-kandidat-kmet-tama-yaponia)
- [Remesh: изкуствен интелект за масово обществено обсъждане](https://wikib.online/article/remesh-ai-masovo-obsazhdane)
- [„AI Yoon“: дийпфейк аватарът в президентската кампания на Юн Сук-йол](https://wikib.online/article/ai-yoon-yuzhna-koreya-izbori-2022)
- [„Blueprint for an AI Bill of Rights“: необвързващата рамка на Белия дом](https://wikib.online/article/blueprint-za-ai-bill-of-rights-sasht)
- [Perspective API: AI срещу токсичност в политическия дебат](https://wikib.online/article/perspective-api-modelirane-na-tona)
- [„Nexus“ на Юval Ноа Харари: AI и бъдещето на демокрацията](https://wikib.online/article/harari-nexus-ai-demokratsia)

## Доказателства към твърденията

1. Human-centred mechanism design with Democratic AI — Място: въведение — цел на изследването — https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/

2. Human-centred mechanism design with Democratic AI — Място: методология — обучение на модела — https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/

3. Human-centred mechanism design with Democratic AI — Място: основен резултат — сравнение с човешки арбитър — https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/

## Метаданни

- Каноничен URL: https://wikib.online/article/deepmind-democratic-ai-izsledvane
- Ревизия: 1
- Статус: published
- Език: bg
- JSON: https://wikib.online/api/public/articles/deepmind-democratic-ai-izsledvane