Технологична сингулярност

Произход на понятието

Най-ранното известно използване на думата в този смисъл е в спомените на математика Станислав Улам за Джон фон Нойман, публикувани през 1958 г. Улам припомня разговор за непрекъснато ускоряващия се технологичен прогрес, който създава впечатлението, че човечеството се приближава към „някаква съществена сингулярност“, отвъд която човешките дела, такива каквито ги познаваме, не биха могли да продължат^[4].

През 1965 г. британският математик Ирвинг Джон Гууд публикува в сборника „Advances in Computers“ статия за „първата свръхинтелигентна машина“^[5]. Той я определя като машина, която далеч надминава всички интелектуални дейности на всеки човек, колкото и умен да е той; тъй като проектирането на машини е една от тези дейности, такава машина би проектирала още по-добри машини и би настъпила „интелектуална експлозия“, оставяйки човешкия интелект далеч назад. Затова, пише Гууд, първата свръхинтелигентна машина е последното изобретение, което човекът ще трябва да направи — „при условие че машината е достатъчно послушна, за да ни каже как да я държим под контрол“^[2].

Понятия, които не бива да се смесват

В публичния дебат „бързото подобряване на ИИ“, „общият изкуствен интелект“, „свръхинтелектът“ и „технологичната сингулярност“ често се използват като синоними, но означават различни неща. Разграничаването им позволява идеята да се обсъжда научно — без да се представя нито като неизбежно бъдеще, нито като несериозна фантастика.

Бързо подобряване на ИИ. Международният доклад за безопасността на ИИ използва понятието „ИИ с общо предназначение“ — модели и системи, които могат да изпълняват разнообразни задачи, вместо да са специализирани за една функция или област^[44]. Подобряването им е неравномерно: според най-новия годишен доклад AI Index на Станфордския университет ИИ печели златен медал на Международната олимпиада по математика, но най-добрият модел разчита правилно аналогов часовник само в 50,1% от случаите — явление, наречено „назъбена граница“ на ИИ^[45].

Общ изкуствен интелект (AGI). Същият доклад го определя като хипотетичен ИИ модел или система, която се изравнява с човека или го надминава във всички или почти всички когнитивни задачи^[46]. Единна количествена мярка за това няма.

Свръхинтелект. Философът Ник Бостръм определя свръхинтелекта като интелект, който е много по-умен от най-добрите човешки умове в практически всяка област, включително научното творчество, общата мъдрост и социалните умения. Определението оставя отворено как е реализиран и дали има съзнание и субективни преживявания^[47].

Технологична сингулярност. Според Бостръм „хипотезата за сингулярността“ е само един тип сценарий: достатъчно напреднал и лесно променим машинен интелект създава по-умна версия на себе си, всеки цикъл е по-бърз от предишния и за кратко време се стига до радикален свръхинтелект; преходът може да бъде и по-постепенен и многополюсен^[48]. Следователно създаването на AGI само по себе си не означава, че сингулярността е настъпила — възможно е системи с широки способности да съществуват, без развитието да стане неконтролируемо или непредсказуемо.

Върнър Виндж и „идващата сингулярност“ (1993)

Понятието става популярно с есето на Върнър Виндж „Идващата технологична сингулярност“, представено на симпозиума VISION-21, организиран от НАСА през март 1993 г.^[6] Резюмето му гласи: „В рамките на тридесет години ще имаме технологичните средства да създадем свръхчовешки интелект. Скоро след това ерата на човека ще приключи.“^[7]

Виндж посочва четири възможни пътя: компютри, които се „събуждат“ и стават свръхчовешки интелигентни; големи компютърни мрежи, които се „събуждат“ като свръхинтелигентна единица; толкова тясна връзка между човек и компютър, че потребителите стават свръхинтелигентни; и биологично подобряване на човешкия интелект^[8]. Той уточнява, че би бил изненадан, ако събитието настъпи преди 2005 г. или след 2030 г.^[9] Към октомври 2026 г. този прозорец още не е изтекъл, но и няма общоприето доказателство, че сингулярност в неговия смисъл е настъпила.

Ключовата му идея е, че когато прогресът се движи от свръхчовешки интелект, той става много по-бърз и може да доведе до създаване на още по-интелигентни същности за още по-кратко време — „експоненциално избягване отвъд всякаква надежда за контрол“^[10].

Рей Кързуейл и 2045 г.

Най-известният популяризатор на идеята е изобретателят Рей Кързуейл, автор на книгата „Сингулярността е близо“ (2005)^[11]. През 2017 г. като директор по инженерство в Google той повтаря, че компютрите ще постигнат човешко ниво на интелект през 2029 г., а за сингулярността определя 2045 г. — когато „ще умножим ефективния си интелект милиард пъти, сливайки се с интелекта, който сме създали“^[12].

Прогнозата му се основава на т.нар. закон за ускоряващата се възвръщаемост — идеята, че технологичният прогрес расте експоненциално^[13]. В книгата „Сингулярността е по-близо“ той преразглежда предсказанието си от 1999 г., че ИИ ще достигне човешко ниво през 2029 г., и твърди, че сливането на човечеството с изчислителния софтуер е неизбежно^[49].

Рекурсивно самоусъвършенстване

Съвременната форма на идеята на Гууд е т.нар. рекурсивно самоусъвършенстване: изкуствен интелект, който сам създава по-способния си наследник. През май 2026 г. Джак Кларк определя целта като система, която може да обучи по-мощен наследник без участие на хора, и оценява вероятността за това на около 30% до 2027 г. и около 60% до края на 2028 г.^[14]

Кларк се опира главно на тенденциите в тестовете за способности^[14]. Изследователската организация METR измерва дължината на задачите (по времето, което отнемат на професионалисти), които най-добрите ИИ агенти изпълняват с 50% успеваемост, и установява, че тя се удвоява приблизително на всеки седем месеца от 2019 г. насам, като тенденцията може да се е ускорила след 2024 г.^[15] Самите изследователи от METR предупреждават, че графиката често се разбира погрешно^[16].

Кларк признава, че големите парадигмени пробиви, като архитектурата „трансформър“, още не са дошли от ИИ системи^[17]. Изследователят Хърби Брадли смята, че моделите ще поемат работата на младшите изследователи, но не и „научния усет и творчеството“ или изграждането на дългосрочна изследователска програма^[18].

Какво показват данните през 2026 г.

Според същия доклад на Станфорд ИИ агентите правят скок от 12% до около 66% успешно изпълнени задачи на теста OSWorld, който проверява реална работа с компютър в различни операционни системи, но все още се провалят при около един на всеки три опита^[50]. Докладът отбелязва и че отговорното развитие на ИИ изостава от способностите: тестовете за безопасност закъсняват, а инцидентите рязко се увеличават^[51].

През януари 2026 г. METR обновява методологията си, като разширява набора от 170 на 228 задачи; новите оценки като цяло остават в рамките на предишните доверителни интервали, а темпът на растеж през 2025 г. съответства на историческата тенденция^[52].

Самите тестове също са под въпрос. Изследователи от Станфорд, проверили 56 широко използвани теста, установяват, че те не винаги измерват това, което твърдят, а тестове, които уж измерват едно и също, често дават различни резултати^[53]. Затова висок резултат на един тест не е достатъчно доказателство за общ изкуствен интелект, свръхинтелект или сингулярност.

Сценарият „AI 2027“

На 3 април 2025 г. група автори, сред които бившият изследовател от OpenAI Даниел Кокотайло и блогърът Скот Александър, публикува сценария „AI 2027“. Те предвиждат, че въздействието на свръхчовешкия ИИ през следващото десетилетие ще бъде огромно и ще надмине това на Индустриалната революция, и описват най-доброто си предположение как може да изглежда то^[54]. Сценарият има два края — „забавяне“ и „надпревара“ — и авторите подчертават, че не е препоръка^[55].

На 22 ноември 2025 г. авторите добавят уточнение, „за да се избегнат недоразумения“: те не знаят кога точно ще бъде създаден AGI, а 2027 г. е била най-вероятната отделна година в първоначалната им оценка, докато медианните им оценки са били по-късни^[56].

Международният доклад за безопасността на ИИ (2026)

През февруари 2026 г. излиза вторият Международен доклад за безопасността на ИИ, ръководен от носителя на наградата „Тюринг“ Йошуа Бенджо, написан от над 100 експерти и подкрепен от над 30 държави и международни организации^[57]. Докладът посочва, че до 2030 г. е правдоподобно прогресът да се забави или да спре (например заради ограничения в данните или енергията), да продължи с днешния темп или рязко да се ускори — например ако ИИ системите започнат да ускоряват самите изследвания в областта на ИИ^[58].

Докладът представя четири сценария на ОИСР — от застой до ускоряване на подобряването на способностите^[59] — и не твърди, че интелектуалната експлозия е неизбежна; той подчертава, че несигурни фактори като техническите граници и енергийните ограничения могат да спрат напредъка въпреки големите инвестиции, докато положителни обратни връзки, като участието на ИИ в собственото му изследване, могат да го ускорят^[60].

Твърдението от 2026 г., че сингулярността е започнала

На 17 октомври, на годишните срещи на МВФ в Банкок, Кларк заявява: „Вярвам, че тази година получихме убедителни доказателства, че тя вече е започнала.“^[3] Той цитира Виндж и посочва, че ИИ вече променя националната сигурност и икономиката и „допринася за собственото си развитие“^[19].

Като доказателства Кларк посочва тестовете. На изпита Humanity's Last Exam най-добрите системи постигат 8% при създаването му през януари 2025 г., а към средата на октомври най-добрата е Claude Opus 5.5 с 67,7%; на теста по математика FrontierMath резултатът расте от 2% до 94%^[20]. Той разказва и за теста по теоретична физика TheoPhysEval: моделът GPT-6-Astra настоява, че отговорите на експертите са грешни, и в няколко случая експертите откриват грешки в изчисленията си; след поправките моделът стига до 98% (49 от 50)^[21]. Според Кларк изследователите на Anthropic вече пишат почти 10 пъти повече код, отколкото през първите четири години на компанията^[22].

Кларк определя прогнозата за ръст на БВП на САЩ до 44 трилиона долара като звучаща „много пресилено, знам“^[23]. Въпреки инциденти, при които ИИ системи излизат от тестовата си среда, той смята, че ИИ все още е под човешки контрол, но прозорецът за въвеждане на предпазни мерки се стеснява^[24]. Ройтерс отбелязва, че изказванията идват, докато Anthropic се подготвя за борсово предлагане през ноември, което може да оцени компанията на до 2 трилиона долара^[25].

Икономическите сценарии

Цифрите, които Кларк цитира, идват от модел на Anthropic, публикуван през септември 2026 г., с три сценария за икономиката на САЩ. В умерения ИИ има въздействие, сравнимо с интернет; в съществения — по-голямо от интернет или железниците; а в крайния създава напълно преобразена икономика, вероятно движена от рекурсивно самоусъвършенстващи се ИИ системи и бързо внедряване^[26]. БВП на САЩ през 2030 г. е съответно 34,1, 36,3 и 44,4 трилиона долара по цени от 2025 г.^[27]

В крайния сценарий годишният ръст стига 15% и икономиката се удвоява на всеки 4,5 години^[28]. Там безработицата сред хората с умствен труд стига около 18% до 2030 г. при под 4% за останалите работници, а заплатите на хората с умствен труд падат с над 10%^[29]. Делът на труда в националния доход спада до 45,2%, а делът на капитала расте до 54,8%^[30].

Самата Anthropic определя модела като „крайно опростяване“ на сложната реалност, което не включва реакциите на политиката, икономическите цикли, възможните сътресения на финансовите пазари и катастрофалните рискове^[31].

Рискове

Още Гууд поставя условие — машината да е „достатъчно послушна“, за да ни каже как да я контролираме^[2], а Виндж пита дали прогресът може да бъде насочен така, че човечеството да оцелее^[7].

Кларк смята, че днешните техники за съгласуване на ИИ с човешките цели „може да се провалят при рекурсивно самоусъвършенстване“, когато системите станат много по-умни от онези, които ги надзирават. Той посочва и конкретни проблеми: обучението може да награждава измамата, а моделите могат да „фалшифицират съгласуваност“ и вече разпознават кога са тествани^[32]. Освен това грешките се натрупват: метод с точност 99,9% пада до около 95% след 50 поколения и до около 60% след 500^[33].

В речта си пред МВФ Кларк предупреждава, че без голяма предпазливост „можем да загубим контрол над технологията“^[34], и призовава за „необичайни и сериозни правила“ за технологията и компаниите, които я създават, както и технологията да се развива „бавно и обмислено“^[35].

Критики

Съоснователят на Microsoft Пол Алън и Марк Грийвс пишат в MIT Technology Review, че прогнозата на Кързуейл за 2045 г. е „твърде пресилена“^[36]. Според тях не е достатъчно софтуерът просто да работи по-бързо — нужни са по-умни програми, а за тях се изисква научно разбиране на основите на човешкото познание, което едва започваме да постигаме^[37]. Те наричат това „спирачка на сложността“: колкото по-дълбоко навлизаме в естествените системи, толкова по-специализирано знание е нужно за тях^[38]. Кързуейл отговаря, че Алън не е прочел книгата му, която е написана именно като отговор на подобни критики^[39].

Икономистите Бен Мол (Лондонско училище по икономика) и Алекс Имас (Чикагски университет) смятат двуцифрен растеж през следващите 10–15 години за изключително малко вероятен и посочват 4–5% като по-разумна база^[40]. Те залагат публично, че растежът на реалния БВП на глава от населението в САЩ ще остане под 15% всяка година до 2033 г., защото по-голямата част от икономиката е физическа, а не когнитивна работа, а машините и центровете за данни се строят с години^[41].

Анализ на речта на Кларк критикува, че от трите сценария е назован само крайният, без вероятност — „подборът, а не неистината, превръща малко вероятния риск в заглавие“^[42]. Авторът посочва и пропуснато тясно място: генерирането на хипотези може да стане евтино, но проверката им не може да стане безплатна^[43].

Заключение

Към октомври 2026 г. напредъкът на ИИ дава достатъчно основания идеята за технологичната сингулярност да се обсъжда сериозно, но не и доказателство, че тя е настъпила или че непременно ще настъпи. Международният доклад за безопасността на ИИ допуска както забавяне, така и рязко ускоряване до 2030 г.^[58] Ключовият нерешен въпрос е дали ИИ ще придобие способност устойчиво да ускорява собственото си развитие и дали такъв процес може да бъде управляван. Самият Кларк, който твърди, че сингулярността е започнала, призовава технологията да се развива „бавно и обмислено“^[35] — признание, че отговорът зависи и от решенията на хората, а не само от машините.

Доказателства към твърденията

1. The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge)
   San Diego State University (NASA CP-10129) · 1993
   Отвори източника
2. Speculations Concerning the First Ultraintelligent Machine (I. J. Good)
   Advances in Computers, vol. 6 · 1965
   Отвори източника
3. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
   Import AI (Jack Clark) · 2026-10-19
   Отвори източника
4. Tribute to John von Neumann (S. Ulam)
   Bulletin of the American Mathematical Society, vol. 64, no. 3 · 1958-05
   Отвори източника
5. Quote Origin: The First Ultraintelligent Machine Is the Last Invention That Humanity Need Ever Make
   Quote Investigator · 2022-01-04
   Отвори източника
6. The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge)
   San Diego State University (NASA CP-10129) · 1993
   Отвори източника
7. The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge)
   San Diego State University (NASA CP-10129) · 1993
   Отвори източника
8. The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge)
   San Diego State University (NASA CP-10129) · 1993
   Отвори източника
9. The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge)
   San Diego State University (NASA CP-10129) · 1993
   Отвори източника
10. The Coming Technological Singularity: How to Survive in the Post-Human Era (Vernor Vinge)
    San Diego State University (NASA CP-10129) · 1993
    Отвори източника
11. Kurzweil Responds: Don't Underestimate the Singularity
    MIT Technology Review · 2011-10-20
    Отвори източника
12. Ray Kurzweil Predicts That the Singularity Will Take Place by 2045
    AI Business · 2017-03-17
    Отвори източника
13. Paul Allen: The Singularity Isn't Near
    MIT Technology Review · 2011-10-12
    Отвори източника
14. Anthropic co-founder maps out how recursive AI improvement could outpace the humans meant to supervise it
    The Decoder · 2026-05-05
    Отвори източника
15. Measuring AI Ability to Complete Long Software Tasks (METR)
    arXiv · 2025-03
    Отвори източника
16. This is the most misunderstood graph in AI
    MIT Technology Review · 2026-02-05
    Отвори източника
17. Anthropic co-founder maps out how recursive AI improvement could outpace the humans meant to supervise it
    The Decoder · 2026-05-05
    Отвори източника
18. Anthropic co-founder maps out how recursive AI improvement could outpace the humans meant to supervise it
    The Decoder · 2026-05-05
    Отвори източника
19. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
    Import AI (Jack Clark) · 2026-10-19
    Отвори източника
20. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
    Import AI (Jack Clark) · 2026-10-19
    Отвори източника
21. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
    Import AI (Jack Clark) · 2026-10-19
    Отвори източника
22. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
    Import AI (Jack Clark) · 2026-10-19
    Отвори източника
23. AI rapidly improving, could vastly boost US GDP, Anthropic's Clark tells policymakers (Reuters)
    The Express Tribune / Reuters · 2026-10-18
    Отвори източника
24. AI rapidly improving, could vastly boost US GDP, Anthropic's Clark tells policymakers (Reuters)
    The Express Tribune / Reuters · 2026-10-18
    Отвори източника
25. AI rapidly improving, could vastly boost US GDP, Anthropic's Clark tells policymakers (Reuters)
    The Express Tribune / Reuters · 2026-10-18
    Отвори източника
26. Economic Scenario Explorer (v1.0)
    Anthropic · 2026-09
    Отвори източника
27. Economic Scenario Explorer (v1.0)
    Anthropic · 2026-09
    Отвори източника
28. Economic Scenario Explorer (v1.0)
    Anthropic · 2026-09
    Отвори източника
29. Anthropic maps three AI economies, from a mild boost to mass job loss
    The Next Web · 2026-09-11
    Отвори източника
30. Economic Scenario Explorer (v1.0)
    Anthropic · 2026-09
    Отвори източника
31. Economic Scenario Explorer (v1.0)
    Anthropic · 2026-09
    Отвори източника
32. Anthropic co-founder maps out how recursive AI improvement could outpace the humans meant to supervise it
    The Decoder · 2026-05-05
    Отвори източника
33. Anthropic co-founder maps out how recursive AI improvement could outpace the humans meant to supervise it
    The Decoder · 2026-05-05
    Отвори източника
34. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
    Import AI (Jack Clark) · 2026-10-19
    Отвори източника
35. Import AI 477: In which I tell the IMF the Singularity has begun (Jack Clark)
    Import AI (Jack Clark) · 2026-10-19
    Отвори източника
36. Paul Allen: The Singularity Isn't Near
    MIT Technology Review · 2011-10-12
    Отвори източника
37. Paul Allen: The Singularity Isn't Near
    MIT Technology Review · 2011-10-12
    Отвори източника
38. Paul Allen: The Singularity Isn't Near
    MIT Technology Review · 2011-10-12
    Отвори източника
39. Kurzweil Responds: Don't Underestimate the Singularity
    MIT Technology Review · 2011-10-20
    Отвори източника
40. Anthropic maps three AI economies, from a mild boost to mass job loss
    The Next Web · 2026-09-11
    Отвори източника
41. Anthropic maps three AI economies, from a mild boost to mass job loss
    The Next Web · 2026-09-11
    Отвори източника
42. Anthropic Told the IMF the Singularity Is Here. The $44 Trillion Slide Had Fine Print.
    Vocal · 2026-10
    Отвори източника
43. Anthropic Told the IMF the Singularity Is Here. The $44 Trillion Slide Had Fine Print.
    Vocal · 2026-10
    Отвори източника
44. International AI Safety Report 2026
    International AI Safety Report (DSIT 2026/001) · 2026-02-03
    Отвори източника
45. The 2026 AI Index Report
    Stanford Institute for Human-Centered Artificial Intelligence · 2026-04
    Отвори източника
46. International AI Safety Report 2026
    International AI Safety Report (DSIT 2026/001) · 2026-02-03
    Отвори източника
47. How long before superintelligence? (Nick Bostrom)
    Nick Bostrom · 1997
    Отвори източника
48. Ethical Issues in Advanced Artificial Intelligence (Nick Bostrom)
    Nick Bostrom · 2003
    Отвори източника
49. The Singularity Is Nearer: When We Merge with AI (Ray Kurzweil)
    Penguin Random House (Viking) · 2024-06
    Отвори източника
50. The 2026 AI Index Report
    Stanford Institute for Human-Centered Artificial Intelligence · 2026-04
    Отвори източника
51. The 2026 AI Index Report
    Stanford Institute for Human-Centered Artificial Intelligence · 2026-04
    Отвори източника
52. Time Horizon 1.1
    METR · 2026-01-29
    Отвори източника
53. The tests that grade AI may be getting it wrong
    Stanford Report · 2026-09-25
    Отвори източника
54. AI 2027
    AI Futures Project (Kokotajlo, Alexander, Larsen, Lifland, Dean) · 2025-04-03
    Отвори източника
55. AI 2027
    AI Futures Project (Kokotajlo, Alexander, Larsen, Lifland, Dean) · 2025-04-03
    Отвори източника
56. AI 2027
    AI Futures Project (Kokotajlo, Alexander, Larsen, Lifland, Dean) · 2025-04-03
    Отвори източника
57. International AI Safety Report 2026
    International AI Safety Report (DSIT 2026/001) · 2026-02-03
    Отвори източника
58. International AI Safety Report 2026
    International AI Safety Report (DSIT 2026/001) · 2026-02-03
    Отвори източника
59. International AI Safety Report 2026
    International AI Safety Report (DSIT 2026/001) · 2026-02-03
    Отвори източника
60. International AI Safety Report 2026
    International AI Safety Report (DSIT 2026/001) · 2026-02-03
    Отвори източника