„Democratic AI“: изследването на DeepMind за AI, проектиращ справедливо преразпределение
========================================================================================

През 2022 г. изследователи от Google DeepMind публикуват в Nature Human Behaviour изследване, в което алгоритъм за подсилено обучение проектира механизъм за преразпределение на доходи в икономическа игра, който хората предпочитат пред стандартни политики — включително пред схема, изготвена от друг човек в ролята на „арбитър“.

Дизайн на експеримента
----------------------

В игра с четирима играчи, продължаваща 20 рунда, участниците получават различни суми пари всеки рунд и избират дали да ги задържат, или да ги вложат в общ фонд; два „арбитъра“ — един със зададена предварително политика и един, проектиран от агент с подсилено обучение — определят как да бъде преразпределена печалбата.

След обучение на невронна мрежа върху данни от множество групи хора, играещи играта, агентът с изкуствен интелект се учи да максимизира гласовете на участниците за своята политика на преразпределение, тествана впоследствие срещу нови човешки играчи.

Изненадващият резултат
----------------------

Механизмът, проектиран от AI, се оказва по-популярен от установени базови подходи, включително от политика, приложена от самите хора в ролята на арбитър — авторите отбелязват, че дори когато поканили пети човек за арбитър, „политиката, прилагана от този 'човешки арбитър', все пак е по-малко популярна от тази на нашия агент“.

Алгоритъмът открива подход, съчетаващ преразпределение спрямо относителния, а не абсолютния принос на всеки участник, с награждаване на щедрия относителен принос — насърчавайки сътрудничество, като същевременно запазва хората „в контура“ на решението.

when we ran a new experiment asking a fifth human player to take on the role of referee...the policy implemented by this 'human referee' was still less popular than that of our agent

Вижте също
-----------

Habermas Machine: AI медиатор за групово съгласие: https://wikib.online/article/habermas-machine-ai-mediator
Сеулската декларация: продължението на процеса за безопасност на изкуствения интелект: https://wikib.online/article/seul-ai-samit-2024
Глобалното партньорство за изкуствен интелект (GPAI): https://wikib.online/article/globalno-partnyorstvo-za-ai-gpai
Worldcoin: биометричната „орб“ на Сам Алтман за цифрова идентичност: https://wikib.online/article/worldcoin-tsifrova-identichnost
Япония: AI кандидатът за кмет на Тама сити: https://wikib.online/article/ai-kandidat-kmet-tama-yaponia
Remesh: изкуствен интелект за масово обществено обсъждане: https://wikib.online/article/remesh-ai-masovo-obsazhdane
„AI Yoon“: дийпфейк аватарът в президентската кампания на Юн Сук-йол: https://wikib.online/article/ai-yoon-yuzhna-koreya-izbori-2022
„Blueprint for an AI Bill of Rights“: необвързващата рамка на Белия дом: https://wikib.online/article/blueprint-za-ai-bill-of-rights-sasht
Perspective API: AI срещу токсичност в политическия дебат: https://wikib.online/article/perspective-api-modelirane-na-tona
„Nexus“ на Юval Ноа Харари: AI и бъдещето на демокрацията: https://wikib.online/article/harari-nexus-ai-demokratsia

Доказателства към твърденията
-----------------------------

1. Human-centred mechanism design with Democratic AI
Място: въведение
цел на изследването
https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/

2. Human-centred mechanism design with Democratic AI
Място: методология
обучение на модела
https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/

3. Human-centred mechanism design with Democratic AI
Място: основен резултат
сравнение с човешки арбитър
https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/

Каноничен URL: https://wikib.online/article/deepmind-democratic-ai-izsledvane
Ревизия: 1
Статус: published
Език: bg