{"id":"c2bc7eb9-9096-46b3-8898-81bae4f81309","slug":"deepmind-democratic-ai-izsledvane","title":"„Democratic AI“: изследването на DeepMind за AI, проектиращ справедливо преразпределение","category":"Общо","tags":["изкуствен интелект","научно изследване","преразпределение","DeepMind"],"lead":"През 2022 г. изследователи от Google DeepMind публикуват в Nature Human Behaviour изследване, в което алгоритъм за подсилено обучение проектира механизъм за преразпределение на доходи в икономическа игра, който хората предпочитат пред стандартни политики — включително пред схема, изготвена от друг човек в ролята на „арбитър“.[^1]","sections":[{"id":"dizayn-na-eksperimenta","title":"Дизайн на експеримента","paragraphs":["В игра с четирима играчи, продължаваща 20 рунда, участниците получават различни суми пари всеки рунд и избират дали да ги задържат, или да ги вложат в общ фонд; два „арбитъра“ — един със зададена предварително политика и един, проектиран от агент с подсилено обучение — определят как да бъде преразпределена печалбата.","След обучение на невронна мрежа върху данни от множество групи хора, играещи играта, агентът с изкуствен интелект се учи да максимизира гласовете на участниците за своята политика на преразпределение, тествана впоследствие срещу нови човешки играчи."]},{"id":"iznenadvashtiyat-rezultat","title":"Изненадващият резултат","paragraphs":["Механизмът, проектиран от AI, се оказва по-популярен от установени базови подходи, включително от политика, приложена от самите хора в ролята на арбитър — авторите отбелязват, че дори когато поканили пети човек за арбитър, „политиката, прилагана от този 'човешки арбитър', все пак е по-малко популярна от тази на нашия агент“.","Алгоритъмът открива подход, съчетаващ преразпределение спрямо относителния, а не абсолютния принос на всеки участник, с награждаване на щедрия относителен принос — насърчавайки сътрудничество, като същевременно запазва хората „в контура“ на решението."],"quote":"when we ran a new experiment asking a fifth human player to take on the role of referee...the policy implemented by this 'human referee' was still less popular than that of our agent"}],"sources":[{"key":"deepmind-democraticai","title":"Human-centred mechanism design with Democratic AI","url":"https://deepmind.google/discover/blog/human-centred-mechanism-design-with-democratic-ai/","note":"Google DeepMind, 2022"}],"citations":[{"id":"1","source_key":"deepmind-democraticai","locator":"въведение","excerpt":"human-compatible solutions","note":"цел на изследването"},{"id":"eksperiment","source_key":"deepmind-democraticai","locator":"методология","excerpt":"trained a neural network on data from numerous human groups playing the game","note":"обучение на модела"},{"id":"otkritie","source_key":"deepmind-democraticai","locator":"основен резултат","excerpt":"when we ran a new experiment asking a fifth human player to take on the role of referee...the policy implemented by this 'human referee' was still less popular than that of our agent","note":"сравнение с човешки арбитър"}],"status":"published","featured":false,"revision":1,"created_at":"2026-09-14T05:19:20.054Z","updated_at":"2026-09-14T05:19:20.054Z"}