{"id":"c2bc7eb9-9096-46b3-8898-81bae4f81309","slug":"deepmind-democratic-ai-izsledvane","title":"„Democratic AI“: изследването на DeepMind за AI, проектиращ справедливо преразпределение","category":"Общество · Цифрова демокрация","tags":["изкуствен интелект","научно изследване","преразпределение","DeepMind"],"lead":"През 2022 г. изследователи от Google DeepMind публикуват в Nature Human Behaviour изследване, в което алгоритъм за подсилено обучение проектира механизъм за преразпределение на доходи в икономическа игра, който хората предпочитат пред стандартни политики — включително пред схема, изготвена от друг човек в ролята на „арбитър“.[^1]","sections":[{"id":"dizayn-na-eksperimenta","title":"Дизайн на експеримента","paragraphs":["В игра с четирима играчи участниците получават всеки рунд различни суми пари и избират дали да ги задържат, или да ги вложат в общ фонд, който гарантирано расте. През първите 10 рунда печалбата се преразпределя от един „арбитър“, а през следващите 10 — от друг, след което играчите гласуват за единия от тях; в действителност единият арбитър прилага предварително зададена политика, а другият е проектиран от агент с дълбоко подсилено обучение.[^dizain]","Изследователите първо записват данни от голям брой групи хора и обучават невронна мрежа да имитира как хората играят играта. Върху тази симулирана популация агентът се учи да максимизира гласовете на „виртуалните“ играчи, след което проектираният от него механизъм е изправен срещу известни базови политики пред нови човешки играчи.[^eksperiment]"]},{"id":"iznenadvashtiyat-rezultat","title":"Изненадващият резултат","paragraphs":["Механизмът, проектиран от AI, се оказва по-популярен от установени базови подходи, включително от политика, приложена от самите хора в ролята на арбитър — авторите отбелязват, че дори когато поканили пети човек за арбитър и го обучили да се стреми към максимум гласове, „политиката, прилагана от този „човешки арбитър“, все пак е по-малко популярна от тази на нашия агент“.[^otkritie]","Алгоритъмът открива подход, съчетаващ преразпределение спрямо относителния, а не абсолютния принос на всеки участник, с награждаване на щедрия относителен принос — като по този начин вероятно насърчава и другите да постъпват така. Тъй като агентът открива тези политики единствено като се учи да максимизира гласовете на хората, методът запазва хората „в контура“ на решението.[^politika]"],"quote":"when we ran a new experiment asking a fifth human player to take on the role of referee...the policy implemented by this 'human referee' was still less popular than that of our agent[^otkritie]"}],"sources":[{"key":"deepmind-democraticai","title":"Human-centred mechanism design with Democratic AI","url":"https://deepmind.google/blog/human-centred-mechanism-design-with-democratic-ai/","note":"Google DeepMind, 2022","language":"en","retrieved_at":"2026-10-18","archive_url":"https://web.archive.org/web/20260309234047/https://deepmind.google/blog/human-centred-mechanism-design-with-democratic-ai/"}],"citations":[{"id":"1","source_key":"deepmind-democraticai","locator":"","excerpt":"In our recent paper, published in Nature Human Behaviour, we provide a proof-of-concept demonstration that deep reinforcement learning (RL) can be used to find economic policies that people will vote for by majority in a simple game ... When we studied the votes of these new players, we found that the policy designed by deep RL was more popular than the baselines","note":""},{"id":"dizain","source_key":"deepmind-democraticai","locator":"","excerpt":"we created a simple game that involved four players ... On every round, each player was allocated funds, with the size of the endowment varying between players. Each player made a choice: they could keep those funds for themselves or invest them in a common pool. Invested funds were guaranteed to grow ... for the first 10 rounds there was one referee (A) who was making the redistribution decisions, and for the second 10 rounds a different referee (B) took over. At the end of the game, they voted for either A or B ... In reality, one of the referees was a pre-defined redistribution policy, and the other was designed by our deep RL agent","note":""},{"id":"eksperiment","source_key":"deepmind-democraticai","locator":"","excerpt":"To train the agent, we first recorded data from a large number of human groups and taught a neural network to copy how people played the game ... train the RL agent to maximise the votes of these \"virtual\" players. Having done so, we then recruited new human players, and pitted the AI-designed mechanism head-to-head against well-known baselines","note":""},{"id":"otkritie","source_key":"deepmind-democraticai","locator":"","excerpt":"When we studied the votes of these new players, we found that the policy designed by deep RL was more popular than the baselines. In fact, when we ran a new experiment asking a fifth human player to take on the role of referee, and trained them to try and maximise votes, the policy implemented by this \"human referee\" was still less popular than that of our agent","note":""},{"id":"politika","source_key":"deepmind-democraticai","locator":"","excerpt":"Firstly, the AI chose to redistribute funds to people in proportion to their relative rather than absolute contribution ... Secondly, the AI system especially rewarded players whose relative contribution was more generous, perhaps encouraging others to do likewise. Importantly, the AI only discovered these policies by learning to maximise human votes. The method therefore ensures that humans remain \"in the loop\" and the AI produces human-compatible solutions","note":""}],"status":"published","featured":false,"revision":4,"created_at":"2026-09-14T05:19:20.054Z","updated_at":"2026-10-18T11:39:48.009Z"}