{"id":"751a5c94-7f65-4493-8a6a-d18bd09aa06a","slug":"obsht-izkustven-intelekt-agi","title":"Общ изкуствен интелект (AGI)","category":"Технологии · Изкуствен интелект","tags":["общ изкуствен интелект","AGI","свръхинтелект","тест на Тюринг","екзистенциален риск","безопасност на ИИ","проблем за контрола","технологична безработица","OpenAI","Google DeepMind"],"lead":"Общият изкуствен интелект (artificial general intelligence, AGI) е хипотетичен вид изкуствен интелект, който се изравнява с човешките способности или ги надминава в почти всички познавателни задачи[^lead]. За разлика от тесния изкуствен интелект, чиито умения са ограничени до точно определени задачи, системата с AGI може да обобщава знания, да пренася умения между области и да решава нови проблеми, без да бъде препрограмирана за конкретната задача[^lead-narrow]. Създаването на AGI е обявена цел на технологични компании като OpenAI, Google, SpaceXAI и Meta[^lead-goal]. Проучване от 2020 г. установява 72 активни проекта за изследване и разработване на AGI в 37 държави[^lead-projects]. Спорно е дали AGI представлява екзистенциален риск: според някои експерти и представители на индустрията намаляването на риска от изчезване на човечеството трябва да бъде глобален приоритет, а според други разработването на AGI е в твърде ранен етап, за да създава такъв риск[^lead-risk].","sections":[{"id":"ponyatie-i-terminologiya","title":"Понятие и терминология","paragraphs":["AGI е известен още като общ ИИ, силен ИИ, пълен ИИ и ИИ на човешко равнище[^names]. Терминът „artificial general intelligence“ е използван през 1997 г. от Марк Губруд в дискусия за последиците от напълно автоматизираното военно производство и военните операции[^gubrud]. Терминът е въведен отново и популяризиран от Шейн Лег и Бен Гьорцел около 2002 г.[^legg] Свързани понятия са изкуственият свръхинтелект (artificial superintelligence, ASI) — хипотетичен вид AGI, който е много по-интелигентен от хората, — и „трансформиращият ИИ“, който има голямо въздействие върху обществото, подобно на земеделската или индустриалната революция[^asi].","Във философията Джон Сърл въвежда през 1980 г. понятието „силен ИИ“ като част от аргумента си за „китайската стая“: според хипотезата за силния ИИ системата с изкуствен интелект може да има „ум“ и „съзнание“, а според хипотезата за слабия ИИ тя само действа така, сякаш мисли и има ум и съзнание[^searle]. Според Ръсел и Норвиг повечето изследователи на ИИ приемат хипотезата за слабия ИИ за даденост и не се интересуват от хипотезата за силния ИИ[^russell-norvig]."]},{"id":"niva-na-agi","title":"Нива на AGI","paragraphs":["През 2023 г. изследователи от Google DeepMind предлагат рамка с пет нива на AGI според постиженията: зараждащ се, компетентен, експертен, виртуозен и свръхчовешки[^levels]. Компетентният AGI е определен като ИИ, който превъзхожда 50% от квалифицираните възрастни в широк кръг нефизически задачи, а свръхчовешкият AGI, тоест изкуственият свръхинтелект, има същото определение, но с праг 100%[^levels-def]. Авторите смятат големи езикови модели като ChatGPT и LLaMA 2 за примери на зараждащ се AGI, сравним с неквалифицирани хора[^emerging]. По отношение на автономността и свързаните с нея рискове те определят пет нива — от инструмент (изцяло под човешки контрол) през консултант, сътрудник и експерт до агент (напълно автономен)[^autonomy]."]},{"id":"iziskvaniya-i-testove","title":"Изисквания и тестове","paragraphs":["Няма единно общоприето определение за интелект, приложимо към компютрите[^nodef]. Изследователите като цяло смятат, че за да бъде определена като AGI, една система трябва да може да разсъждава, да използва стратегия, да решава задачи и да преценява при несигурност; да представя знания, включително знания от здравия разум; да планира и да се учи; да общува на естествен език и при нужда да съчетава тези умения за постигането на произволна цел[^requirements].","Тестът на Тюринг е предложен от Алън Тюринг в статията му от 1950 г. „Computing Machinery and Intelligence“: машината го издържа, ако успее да убеди човек съдия, че е човек, в значителна част от случаите[^turing]. При предварително регистрирано изследване от 2025 г. GPT-4.5 е определен като човека в 73% от петминутните текстови разговори — повече от 67% при истинските хора участници, с което отговаря на критерия на изследователите за издържан тест[^turing-2025]. При теста „Икеа“ робот, управляван от ИИ, трябва да сглоби мебел от плоски пакети, след като му бъдат показани частите и инструкциите[^ikea]. Стив Возняк предлага тест, при който машина трябва да влезе в обикновен американски дом и да измисли как да свари кафе[^wozniak]. Тестът на Мустафа Сюлейман предвижда ИИ да получи 100 000 долара и да ги превърне в 1 милион долара[^suleyman]."]},{"id":"istoriya-i-prognozi","title":"История и прогнози","paragraphs":["Съвременните изследвания на ИИ започват в средата на 1950-те години, а първото поколение изследователи е убедено, че AGI е възможен и ще се появи само след няколко десетилетия[^history]. През 1965 г. Хърбърт Саймън пише, че „до двайсет години машините ще могат да вършат всяка работа, която може да върши човек“[^simon]. В началото на 1970-те години става ясно, че изследователите силно са подценили трудността, а финансиращите организации стават скептични към AGI и започват да изискват полезен „приложен ИИ“[^1970s]. В началото на 1980-те години японският проект за компютри от пето поколение възражда интереса към AGI, но в края на десетилетието доверието в ИИ рязко спада, а целите на проекта не са постигнати[^fifth].","Четири проучвания от 2012 и 2013 г. показват, че медианната оценка на експертите кога с 50% увереност ще се появи AGI е между 2040 и 2050 г.[^polls] През 2023 г. изследователи от Microsoft публикуват подробна оценка на GPT-4 и заключават, че той може основателно да се разглежда като ранна, но все още непълна версия на система с AGI[^gpt4]. Същата година Блез Агуера и Аркас и Питър Норвиг публикуват статията „Общият изкуствен интелект вече е тук“, в която твърдят, че най-новите модели вече са постигнали значително равнище на общ интелект[^here].","През 2023 г. Джефри Хинтън казва, че е смятал ИИ, по-умен от хората, за въпрос на 30 до 50 или повече години, но вече не мисли така; през 2024 г. той оценява с ниска увереност, че такива системи могат да се появят до 5 до 20 години[^hinton]. През май 2023 г. Демис Хасабис очаква AGI до десетилетие или дори до няколко години[^hassabis]. През юни 2024 г. бившият служител на OpenAI Леополд Ашенбренер определя появата на AGI до 2027 г. като „поразително правдоподобна“[^aschenbrenner]. Проучване от август 2023 г. сред 2778 изследователи на ИИ показва, че повечето смятат, че AGI ще бъде постигнат до 2040 г.[^survey-2023] Преглед от септември 2025 г. на проучванията сред учени и експерти от индустрията през последните 15 години установява, че повечето са съгласни, че AGI ще се появи преди 2100 г.[^survey-2025] През декември 2025 г. изпълнителният директор на OpenAI Сам Алтман заявява, че „създадохме AGI“ и че AGI „някак профуча“ с по-малко обществено въздействие от очакваното, като предлага областта да премине към определянето на свръхинтелекта[^altman].","Съоснователят на Microsoft Пол Алън смята, че такъв интелект е малко вероятен през XXI век, защото ще изисква „непредвидими и фундаментално непредсказуеми пробиви“ и дълбоко научно разбиране на познанието[^allen]. Мислители като Хюбърт Драйфус и Роджър Пенроуз отричат възможността за силен ИИ[^dreyfus]."]},{"id":"podhodi","title":"Подходи","paragraphs":["Развитието на трансформърните модели като тези в ChatGPT се смята за най-обещаващия път към AGI, а алтернативен подход е пълната емулация на мозъка — подробно сканиране и картографиране на биологичен мозък, който след това се копира и симулира на компютър[^paths]."]},{"id":"vazmozhni-polzi","title":"Възможни ползи","paragraphs":["AGI може да повиши производителността и ефективността в повечето професии, да се грижи за възрастните хора, да направи по-достъпна бързата и качествена медицинска диагностика и да предлага забавно, евтино и персонализирано образование[^benefits]. Ако създаденото богатство се преразпредели правилно, нуждата да се работи за препитание може да отпадне[^ubi-need]. AGI може да помага и за вземането на рационални решения и за предвиждането и предотвратяването на бедствия[^decisions]."]},{"id":"riskove","title":"Рискове","paragraphs":["AGI може да представлява различни видове екзистенциален риск — заплахи за „преждевременното изчезване на произлезлия от Земята разумен живот или трайното и драстично унищожаване на потенциала му за желано бъдещо развитие“[^xrisk-def]. Освен риска от изчезване на човечеството AGI може да бъде използван за разпространяване и запазване на ценностите на онези, които го създават, или да улесни масовото наблюдение и индоктринацията и създаването на трайно репресивен световен тоталитарен режим[^lockin].","Тезата, че ИИ създава екзистенциален риск за хората и че на този риск трябва да се обърне повече внимание, е спорна, но през 2023 г. е подкрепена от много публични личности, изследователи и ръководители на компании за ИИ, сред които Илон Мъск, Бил Гейтс, Джефри Хинтън, Йошуа Бенджо, Демис Хасабис и Сам Алтман[^endorsed]. През март 2023 г. Институтът за бъдещето на живота (Future of Life Institute) публикува отворено писмо с призив водещите разработчици да спрат за шест месеца работата по системи, „по-мощни от GPT-4“[^pause]. През май 2023 г. стотици експерти подписват изявление на Центъра за безопасност на ИИ, според което „намаляването на риска от изчезване заради ИИ трябва да бъде глобален приоритет наред с други рискове в обществен мащаб като пандемиите и ядрената война“[^cais]. През октомври 2025 г. стотици публични личности, сред които експерти по ИИ, петима нобелови лауреати и бивши високопоставени служители по националната сигурност на САЩ, подписват изявление с призив за забрана на разработването на свръхинтелект[^superintelligence-ban].","Много учени, загрижени за екзистенциалния риск, настояват за повече изследвания на „проблема за контрола“ — какви предпазни мерки, алгоритми или архитектури могат да увеличат вероятността самоусъвършенстващ се ИИ да продължи да се държи приятелски, а не разрушително, след като достигне свръхинтелект[^control]. Решаването на проблема се усложнява от надпреварата в ИИ, която може да доведе до състезание за най-слаби мерки за безопасност, и от използването на ИИ в оръжейни системи[^control-race].","Скептикът Ян Льокун смята, че AGI няма да има желание да доминира над човечеството и че трябва да се пазим да го антропоморфизираме[^lecun]. Критиците на тезата за екзистенциалния риск обикновено твърдят, че AGI е малко вероятен в близко бъдеще или че тревогите за него отвличат вниманието от други проблеми на сегашния ИИ[^skeptics]. Изследователи, сред които съоснователят на Google Brain Андрю Нг, твърдят, че кампаниите на някои компании за ИИ (като OpenAI, Anthropic, DeepMind и Conjecture) за предполагаемите екзистенциални рискове може да са опит за „регулаторно завладяване“ и за повишаване на интереса към продуктите им[^ng]."]},{"id":"trud-i-ikonomika","title":"Труд и икономика","paragraphs":["Изследователи от OpenAI изчисляват през 2023 г., че за 80% от работната сила в САЩ поне 10% от задачите могат да бъдат засегнати от големите езикови модели, а за около 19% от работниците — поне 50% от задачите[^jobs]. Сред ръководителите на водещите компании за ИИ е разпространено мнението, че повечето работници ще бъдат засегнати от технологична безработица заради AGI — първо в офис професиите, а с напредъка на роботиката и във физическия труд; критиците смятат, че AGI ще допълва, а не ще замества хората[^unemployment]. Според Стивън Хокинг последиците от автоматизацията за качеството на живот зависят от това как ще бъде преразпределено богатството[^hawking]. Илон Мъск твърди през 2021 г., че автоматизацията ще наложи правителствата да въведат универсален базов доход, а Хинтън съветва британското правителство през 2025 г. да направи същото в отговор на безработицата, причинена от ИИ[^ubi]."]},{"id":"vizhte-sashto","title":"Вижте също","paragraphs":["- [[sashtnost-i-razvitie-na-ai-tehnologiyata|Същност и развитие на технологията на изкуствения интелект (2022–2026)]]\n- [[otsenyavane-i-sravnyavane-na-sistemi-s-izkustven-intelekt|Оценяване и сравняване на системи с изкуствен интелект]]\n- [[teoriya-na-sotsialniya-izbor-i-saglasuvane-na-ai|Теория на социалния избор и съгласуване на изкуствения интелект]]\n- [[mezhdunarodna-mrezha-instituti-bezopasnost-ai|Международната мрежа на институтите за безопасност на ИИ]]\n- [[frontier-model-forum|Frontier Model Forum]]\n- [[openai|OpenAI]]\n- [[izkustveniyat-intelekt-vav-voynata|Изкуственият интелект във войната]]"]}],"sources":[{"key":"wp-en","title":"Artificial general intelligence","url":"https://en.wikipedia.org/wiki/Artificial_general_intelligence","note":"","publisher":"Wikipedia (английска)","language":"en","retrieved_at":"2026-10-20"},{"key":"wp-xrisk","title":"Existential risk from artificial intelligence","url":"https://en.wikipedia.org/wiki/Existential_risk_from_artificial_intelligence","note":"","publisher":"Wikipedia (английска)","language":"en","retrieved_at":"2026-10-20"}],"citations":[{"id":"lead","source_key":"wp-en","locator":"","excerpt":"Artificial general intelligence (AGI) is a hypothetical type of artificial intelligence that matches or surpasses human capabilities across virtually all cognitive tasks.","note":""},{"id":"lead-narrow","source_key":"wp-en","locator":"","excerpt":"Unlike artificial narrow intelligence (ANI), whose competence is confined to well‑defined tasks, an AGI system can generalise knowledge, transfer skills between domains, and solve novel problems without task‑specific reprogramming.","note":""},{"id":"lead-goal","source_key":"wp-en","locator":"","excerpt":"Creating AGI is a stated goal of technology companies such as OpenAI, ... Google, ... SpaceXAI, ... and Meta.","note":""},{"id":"lead-projects","source_key":"wp-en","locator":"","excerpt":"A 2020 survey identified 72 active AGI research and development projects across 37 countries.","note":""},{"id":"lead-risk","source_key":"wp-en","locator":"","excerpt":"Contention exists over whether AGI represents an existential risk. ... Some AI experts and industry figures have stated that mitigating the risk of human extinction posed by AGI should be a global priority. Others find the development of AGI to be in too remote a stage to present such a risk.","note":""},{"id":"names","source_key":"wp-en","locator":"","excerpt":"AGI is also known as general AI, strong AI, ... full AI, ... human-level AI,","note":""},{"id":"gubrud","source_key":"wp-en","locator":"","excerpt":"The term \"artificial general intelligence\" was used in 1997 by Mark Gubrud in a discussion of the implications of fully automated military production and operations.","note":""},{"id":"legg","source_key":"wp-en","locator":"","excerpt":"The term AGI was re-introduced and popularized by Shane Legg and Ben Goertzel around 2002.","note":""},{"id":"asi","source_key":"wp-en","locator":"","excerpt":"Related concepts include artificial superintelligence and transformative AI. An artificial superintelligence (ASI) is a hypothetical type of AGI that is much more generally intelligent than humans, ... while the notion of transformative AI relates to AI having a large impact on society, for example, similar to the agricultural or industrial revolution.","note":""},{"id":"searle","source_key":"wp-en","locator":"","excerpt":"In 1980, philosopher John Searle coined the term \"strong AI\" as part of his Chinese room argument. ... Strong AI hypothesis: An artificial intelligence system can have \"a mind\" and \"consciousness\". Weak AI hypothesis: An artificial intelligence system can (only) act like it thinks and has a mind and consciousness.","note":""},{"id":"russell-norvig","source_key":"wp-en","locator":"","excerpt":"most AI researchers take the weak AI hypothesis for granted, and don't care about the strong AI hypothesis.","note":""},{"id":"levels","source_key":"wp-en","locator":"","excerpt":"A framework for classifying AGI was proposed in 2023 by Google DeepMind researchers. They define five performance levels of AGI: emerging, competent, expert, virtuoso, and superhuman.","note":""},{"id":"levels-def","source_key":"wp-en","locator":"","excerpt":"For example, a competent AGI is defined as an AI that outperforms 50% of skilled adults in a wide range of non-physical tasks, and a superhuman AGI (i.e., an artificial superintelligence) is similarly defined but with a threshold of 100%.","note":""},{"id":"emerging","source_key":"wp-en","locator":"","excerpt":"They consider large language models like ChatGPT or LLaMA 2 to be instances of emerging AGI (comparable to unskilled humans).","note":""},{"id":"autonomy","source_key":"wp-en","locator":"","excerpt":"Regarding the autonomy of AGI and associated risks, they define five levels: tool (fully in human control), consultant, collaborator, expert, and agent (fully autonomous).","note":""},{"id":"nodef","source_key":"wp-en","locator":"","excerpt":"There is no single agreed-upon definition of intelligence as applied to computers.","note":""},{"id":"requirements","source_key":"wp-en","locator":"","excerpt":"Researchers generally hold that a system is required to do all of the following to be regarded as an AGI: ... reason, use strategy, solve puzzles, and make judgments under uncertainty, represent knowledge, including common sense knowledge, plan, learn, communicate in natural language, if necessary, integrate these skills in completion of any given goal.","note":""},{"id":"turing","source_key":"wp-en","locator":"","excerpt":"The Turing test was proposed by Alan Turing in his 1950 paper \"Computing Machinery and Intelligence\". ... The machine passes the test if it can convince the judge that it is human a significant fraction of the time.","note":""},{"id":"turing-2025","source_key":"wp-en","locator":"","excerpt":"A 2025 pre‑registered, three‑party Turing‑test study by Cameron R. Jones and Benjamin K. Bergen showed that GPT-4.5 was judged to be the human in 73% of five‑minute text conversations—surpassing the 67% humanness rate of real confederates and meeting the researchers' criterion for having passed the test.","note":""},{"id":"ikea","source_key":"wp-en","locator":"","excerpt":"The \"Ikea test\", also known as the Flat Pack Furniture Test, involves an AI controlling a robot which attempts to assemble an Ikea flat-pack furniture product after having been shown the parts and instructions.","note":""},{"id":"wozniak","source_key":"wp-en","locator":"","excerpt":"Steve Wozniak proposed a test where a machine is required to enter an average American home and figure out how to make coffee.","note":""},{"id":"suleyman","source_key":"wp-en","locator":"","excerpt":"Mustafa Suleyman's test proposes giving an AI model US$100,000 and asking it to obtain US$1 million.","note":""},{"id":"history","source_key":"wp-en","locator":"","excerpt":"Modern AI research began in the mid-1950s. ... The first generation of AI researchers were convinced that artificial general intelligence was possible and that it would exist in just a few decades.","note":""},{"id":"simon","source_key":"wp-en","locator":"","excerpt":"AI pioneer Herbert A. Simon wrote in 1965: \"machines will be capable, within twenty years, of doing any work a man can do\".","note":""},{"id":"1970s","source_key":"wp-en","locator":"","excerpt":"However, in the early 1970s, it became obvious that researchers had grossly underestimated the difficulty of the project. Funding agencies became skeptical of AGI and put researchers under increasing pressure to produce useful \"applied AI\".","note":""},{"id":"fifth","source_key":"wp-en","locator":"","excerpt":"In the early 1980s, Japan's Fifth Generation Computer Project revived interest in AGI, ... However, confidence in AI spectacularly collapsed in the late 1980s, and the goals of the Fifth Generation Computer Project were never fulfilled.","note":""},{"id":"polls","source_key":"wp-en","locator":"","excerpt":"Four polls conducted in 2012 and 2013 suggested that the median estimate among experts for when they would be 50% confident AGI would arrive was 2040 to 2050, depending on the poll, with the mean being 2081.","note":""},{"id":"gpt4","source_key":"wp-en","locator":"","excerpt":"In 2023, Microsoft researchers published a detailed evaluation of GPT-4. They concluded: \"Given the breadth and depth of GPT-4's capabilities, we believe that it could reasonably be viewed as an early (yet still incomplete) version of an artificial general intelligence (AGI) system.\"","note":""},{"id":"here","source_key":"wp-en","locator":"","excerpt":"Blaise Agüera y Arcas and Peter Norvig wrote in 2023 the article \"Artificial General Intelligence Is Already Here\", arguing that frontier models had already achieved a significant level of general intelligence.","note":""},{"id":"hinton","source_key":"wp-en","locator":"","excerpt":"In 2023, AI researcher Geoffrey Hinton stated that: ... I thought it was 30 to 50 years or even longer away. Obviously, I no longer think that. He estimated in 2024 (with low confidence) that systems smarter than humans could appear within 5 to 20 years and stressed the attendant existential risks.","note":""},{"id":"hassabis","source_key":"wp-en","locator":"","excerpt":"In May 2023, Demis Hassabis similarly said that \"The progress in the last few years has been pretty incredible\", and that he sees no reason why it would slow, expecting AGI within a decade or even a few years.","note":""},{"id":"aschenbrenner","source_key":"wp-en","locator":"","excerpt":"In June 2024, the AI researcher Leopold Aschenbrenner, a former OpenAI employee, estimated AGI by 2027 to be \"strikingly plausible\".","note":""},{"id":"survey-2023","source_key":"wp-xrisk","locator":"","excerpt":"But in August 2023, a survey of 2,778 AI researchers found that most believed that AGI would be achieved by 2040.","note":""},{"id":"survey-2025","source_key":"wp-en","locator":"","excerpt":"In September 2025, a review of surveys of scientists and industry experts from the last 15 years reported that most agreed that artificial general intelligence (AGI) will occur before the year 2100.","note":""},{"id":"altman","source_key":"wp-en","locator":"","excerpt":"OpenAI CEO Sam Altman said in December 2025 that \"we built AGIs\" and that \"AGI kinda went whooshing by\" with less societal impact than expected, proposing the field move on to defining superintelligence.","note":""},{"id":"allen","source_key":"wp-en","locator":"","excerpt":"Microsoft co-founder Paul Allen believed that such intelligence is unlikely in the 21st century because it would require \"unforeseeable and fundamentally unpredictable breakthroughs\" and a \"scientifically deep understanding of cognition\".","note":""},{"id":"dreyfus","source_key":"wp-en","locator":"","excerpt":"Most AI researchers believe strong AI can be achieved in the future, but some thinkers, like Hubert Dreyfus and Roger Penrose, deny the possibility of achieving strong AI.","note":""},{"id":"paths","source_key":"wp-en","locator":"","excerpt":"While the development of transformer models like in ChatGPT is considered the most promising path to AGI, ... whole brain emulation can serve as an alternative approach. With whole brain simulation, a brain model is built by scanning and mapping a biological brain in detail, and then copying and simulating it on a computer system or another computational device.","note":""},{"id":"benefits","source_key":"wp-en","locator":"","excerpt":"AGI could improve productivity and efficiency in most jobs. It could take care of the elderly, ... and democratize access to rapid, high-quality medical diagnostics. It could offer fun, inexpensive and personalized education.","note":""},{"id":"ubi-need","source_key":"wp-en","locator":"","excerpt":"The need to work to subsist could become obsolete if the wealth produced is properly redistributed.","note":""},{"id":"decisions","source_key":"wp-en","locator":"","excerpt":"AGI could also help to make rational decisions, and to anticipate and prevent disasters.","note":""},{"id":"xrisk-def","source_key":"wp-en","locator":"","excerpt":"AGI may represent multiple types of existential risk, which are risks that threaten \"the premature extinction of Earth-originating intelligent life or the permanent and drastic destruction of its potential for desirable future development\".","note":""},{"id":"lockin","source_key":"wp-en","locator":"","excerpt":"Notably, it could be used to spread and preserve the set of values of whoever develops it. ... Furthermore, AGI could facilitate mass surveillance and indoctrination, which could be used to create an entrenched repressive worldwide totalitarian regime.","note":""},{"id":"endorsed","source_key":"wp-en","locator":"","excerpt":"The thesis that AI poses an existential risk for humans, and that this risk needs more attention, is controversial but has been endorsed in 2023 by many public figures, AI researchers and CEOs of AI companies such as Elon Musk, Bill Gates, Geoffrey Hinton, Yoshua Bengio, Demis Hassabis and Sam Altman.","note":""},{"id":"pause","source_key":"wp-xrisk","locator":"","excerpt":"In March 2023, the Future of Life Institute published Pause Giant AI Experiments: An Open Letter, a petition calling on major AI developers to agree on a verifiable six-month pause of any systems \"more powerful than GPT-4\"","note":""},{"id":"cais","source_key":"wp-xrisk","locator":"","excerpt":"In May 2023, hundreds of AI experts and other notable figures signed a statement by the American Center for AI Safety declaring, \"Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war\".","note":""},{"id":"superintelligence-ban","source_key":"wp-xrisk","locator":"","excerpt":"In October 2025, hundreds of public figures, including AI experts, five Nobel Prize laureates, and former senior US national security officials such as Michael Mullen and Susan Rice signed a statement calling for a ban on the development of superintelligence.","note":""},{"id":"control","source_key":"wp-en","locator":"","excerpt":"Many scholars who are concerned about existential risk advocate for more research into solving the \"control problem\" to answer the question: what types of safeguards, algorithms, or architectures can programmers implement to maximise the probability that their recursively-improving AI would continue to behave in a friendly, rather than destructive, manner after it reaches superintelligence?","note":""},{"id":"control-race","source_key":"wp-en","locator":"","excerpt":"Solving the control problem is complicated by the AI arms race (which could lead to a race to the bottom of safety precautions in order to release products before competitors), ... and the use of AI in weapon systems.","note":""},{"id":"lecun","source_key":"wp-en","locator":"","excerpt":"The skeptic Yann LeCun considers that AGIs will have no desire to dominate humanity and that we should be careful not to anthropomorphize them and interpret their intentions as we would for humans.","note":""},{"id":"skeptics","source_key":"wp-en","locator":"","excerpt":"The thesis that AI can pose existential risk also has critics. Skeptics usually say that AGI is unlikely in the short term, or that concerns about AGI distract from other issues related to current AI.","note":""},{"id":"ng","source_key":"wp-en","locator":"","excerpt":"Some researchers, including Google Brain co-founder Andrew Ng, have said that the communication campaigns about the supposed existential risks of AI pushed by certain AI companies (such as OpenAI, Anthropic, DeepMind, and Conjecture) may be an at attempt at creating regulatory capture and to inflate interest in their products.","note":""},{"id":"jobs","source_key":"wp-en","locator":"","excerpt":"Researchers from OpenAI estimated in 2023 that \"80% of the U.S. workforce could have at least 10% of their work tasks affected by the introduction of LLMs, while around 19% of workers may see at least 50% of their tasks impacted\".","note":""},{"id":"unemployment","source_key":"wp-en","locator":"","excerpt":"A common belief among top AI company insiders is that most workers will face technological unemployment from AGI, starting with white-collar jobs and, as robotics improves, extending to blue-collar jobs. ... Critics of the idea argue that AGI will complement rather than replace humans,","note":""},{"id":"hawking","source_key":"wp-en","locator":"","excerpt":"According to Stephen Hawking, the outcome of automation on the quality of life will depend on how the wealth will be redistributed:","note":""},{"id":"ubi","source_key":"wp-en","locator":"","excerpt":"Elon Musk argued in 2021 that the automation of society will require governments to adopt a universal basic income (UBI). ... Hinton similarly advised the UK government in 2025 to adopt a UBI as a response to AI-induced unemployment.","note":""}],"status":"published","featured":false,"revision":1,"created_at":"2026-10-20T06:19:29.466Z","updated_at":"2026-10-20T06:19:29.466Z"}