Машинно обучение

Определение и място сред сродните области

Широко цитираното формално определение на Том Мичъл гласи: „Казва се, че компютърна програма се учи от опит E по отношение на клас задачи T и мярка за представяне P, ако представянето ѝ при задачите от T, измерено с P, се подобрява с опита E“^[8]. Определението е операционно, а не когнитивно — то описва какво прави системата, а не дали тя „мисли“ — и следва предложението на Алън Тюринг в статията „Изчислителни машини и интелект“ въпросът „Могат ли машините да мислят?“ да бъде заменен с въпроса дали машина може убедително да имитира човек в отговорите си на човешки въпроси^[9]. В по-късен текст Мичъл определя централния въпрос на дисциплината така: как да се изградят компютърни системи, които автоматично се подобряват с опита, и кои са фундаменталните закони, управляващи всички процеси на учене^[10].

Според Мичъл машинното обучение е естествено продължение на пресечната точка между информатиката и статистиката: информатиката се занимава предимно с това как компютрите да се програмират ръчно, а машинното обучение — с това как те сами да се програмират от опит и известна начална структура^[11]. Статистиката пита какво може да се заключи от данните при определени допускания и с каква надеждност, докато машинното обучение добавя въпроси за изчислителните архитектури и алгоритми, за съчетаването на много подзадачи в по-голяма система и за изчислимостта^[12]. Двете области използват сходни методи, но имат различна основна цел: статистиката прави изводи за цялата съвкупност по извадка, а машинното обучение търси обобщаеми закономерности за прогнозиране; при класическия статистически анализ моделът се избира предварително, а при машинното обучение данните сами оформят модела^[13]. Лео Брейман разграничава две парадигми на моделиране — „модел на данните“ и „алгоритмичен модел“, към който спадат методи като случайните гори, — а част от статистиците възприемат методите на машинното обучение, от което се оформя областта „статистическо обучение“^[14]. Някои от най-използваните методи са много по-стари от самия термин: методът на най-малките квадрати — алгебрична процедура за напасване на линейни уравнения към данни — е изложен ясно за първи път от Лежандър през 1805 г. и до десет години се превръща в стандартен инструмент на астрономията и геодезията във Франция, Италия и Прусия^[15].

Машинното обучение е тясно свързано и с оптимизацията: много задачи се формулират като минимизиране на функция на загубата върху обучаващите примери, а тази функция изразява разминаването между прогнозите на модела и действителните случаи^[16]. За разлика от чистата оптимизация обаче целта е моделът да се представя добре и върху нови данни, а теоретичното описание на това обобщаване — особено при алгоритмите за дълбоко обучение — остава активна изследователска тема^[17]. Сродната област извличане на данни (data mining) се съсредоточава върху изследователския анализ на данни чрез обучение без учител^[18].

Източниците подреждат областта различно: краткото определение на „Британика“ описва машинното обучение като дисциплина в рамките на изкуствения интелект, занимаваща се със софтуер, който може да се учи самостоятелно, и все още посочва експертните системи и програмите за извличане на данни като най-честите му приложения, а изкуствените невронни мрежи и генетичните алгоритми — като най-разпространените подходи^[19]. Българската Уикипедия пренасочва „Машинно обучение“ към статия за „машинно самообучение“, което определя като общ термин за „изкуствено“ генериране на знания, но самата статия е отбелязана като вероятен машинен превод с неуточнени специални термини^[20].

Как работи машинното обучение

При обучението с учител алгоритъмът изгражда математически модел по данни, които съдържат както входовете, така и желаните изходи: всеки обучаващ пример има един или повече входа и желан изход, наричан сигнал на учителя, а в модела всеки пример се представя като масив или вектор, наричан вектор от признаци^[21]. Целта е обученият модел да предсказва точно изхода за нови, невиждани данни, което изисква от алгоритъма да обобщава ефективно от обучаващите примери; това качество се измерва с т.нар. грешка на обобщаване^[22]. Типичните задачи са класификация — предсказване на категория, например дали дадено писмо е спам, — и регресия — предсказване на числова стойност, например цената на жилище^[23].

Самото обучение обикновено е итеративна оптимизация, а един от най-важните методи е стохастичното градиентно спускане: вместо точния градиент, изчислен по целия набор от данни, то използва негова оценка от случайно избрана част от данните, което при задачи с много измерения рязко намалява изчислителната тежест и ускорява итерациите за сметка на по-бавна сходимост^[24]. Идеята води началото си от алгоритъма на Робинс–Монро от 1950-те години, а в съчетание с алгоритъма за обратно разпространение на грешката стохастичното градиентно спускане е де факто стандартът за обучение на изкуствени невронни мрежи^[25].

За да се провери дали моделът наистина обобщава, данните се разделят на части: валидиращото множество може да служи за т.нар. ранно спиране — обучението се прекратява, когато грешката върху него започне да расте, което е признак за преобучаване, — а тестовото множество дава безпристрастна оценка на модела, обучен върху обучаващото множество^[26]. Основната опасност е преобучаването (overfitting): анализ, който съответства твърде точно на конкретен набор от данни и затова не успява да опише допълнителни данни или надеждно да предскаже бъдещи наблюдения, защото несъзнателно приема част от случайния шум за структура^[27]. Обратният проблем — недообучаването — възниква, когато моделът не може да улови основната структура на данните, например когато линеен модел се напасва към нелинейни данни^[28]. Срещу преобучаването се използват сравняване на модели, кръстосана проверка, регуляризация, ранно спиране, подрязване, байесови априорни разпределения и отпадане (dropout), като част от техниките изрично наказват прекалено сложните модели, а други проверяват способността на модела да обобщава върху данни, които не са използвани при обучението^[29].

Класическата теория описва проблема чрез компромиса между отклонение и дисперсия: с увеличаването на броя на настройваемите параметри моделът става по-гъвкав и пасва по-добре на обучаващите данни, т.е. има по-малко отклонение, но резултатът му се променя повече всеки път, когато се вземе нова извадка за обучение, т.е. дисперсията расте^[30]. Тъй като обучаващите набори са крайни, а бъдещето е несигурно, теорията на ученето обикновено не дава гаранции за представянето на алгоритмите, а вероятностни граници; за най-добро обобщаване сложността на хипотезата трябва да съответства на сложността на функцията, която стои зад данните^[31]. Основна рамка е вероятно приблизително вярното (PAC) обучение, предложено през 1984 г. от Лесли Валиант, при което обучаемият получава примери и трябва да избере хипотеза, която с голяма вероятност има малка грешка на обобщаване^[32].

Практиката на дълбокото обучение обаче не се вписва лесно в тази картина: в статия, представена на конференцията ICLR през 2017 г., Чиюан Джан и съавтори показват, че съвременни конволюционни мрежи за класификация на изображения лесно запомнят дори напълно случайни етикети на обучаващите данни и че традиционните обяснения не могат да покажат защо големите мрежи все пак обобщават добре на практика^[33]. Михаил Белкин и колеги обясняват противоречието с кривата на „двойното спускане“: в съвременната практика много богати модели като невронните мрежи се обучават да пасват точно на данните, което класически би се смятало за преобучаване, но след тази точка по-нататъшното увеличаване на капацитета отново подобрява резултатите — според авторите това очертава границите на класическите анализи^[34].

Видове обучение

Традиционно се разграничават три основни парадигми: обучение с учител, обучение без учител и обучение с подсилване^[35]. При обучението с учител алгоритъмът се учи да съпоставя входните данни на определен изход по примерни двойки вход–изход, като думата „учител“ препраща към ролята на онзи, който предоставя данните с верните отговори и така насочва алгоритъма към правилни прогнози^[36]. При обучението без учител алгоритъмът не получава етикети и сам трябва да открие структура във входните данни, като това може да е цел само по себе си — откриване на скрити закономерности — или средство за научаване на полезни признаци^[37]. Данните за такова обучение обикновено се събират евтино „от природата“ — например огромни текстови корпуси, събрани чрез обхождане на уеб, — а някои изследователи смятат и самоконтролираното обучение за разновидност на обучението без учител^[38].

Обучението с подсилване изучава как интелигентен агент да предприема действия в динамична среда така, че да максимизира сигнал за награда: агентът се учи от взаимодействието си със средата и постоянно избира между изпробването на нови действия, за да опознае средата (изследване), и използването на вече наученото (експлоатация)^[39]. За разлика от обучението с учител данните тук не посочват верния изход, а само дали дадено действие е правилно, а при поредица от действия наградата често се отнася до цялата поредица, така че системата сама трябва да разпредели заслугата или вината между отделните ходове^[40]. За концептуалните и алгоритмичните основи на обучението с подсилване Андрю Барто и Ричард Сътън получават наградата „Тюринг“ за 2024 г., след като в поредица от статии от 1980-те години нататък въвеждат основните му идеи, изграждат математическите му основи и разработват важни алгоритми^[41]. Според ACM практическите му успехи през последните петнадесет години идват от съчетаването му с дълбокото обучение: най-известният пример е победата на AlphaGo над най-добрите играчи на го през 2016 и 2017 г., а ChatGPT се обучава на два етапа, като във втория се използва обучение с подсилване от човешка обратна връзка (RLHF), за да се уловят човешките очаквания (вж. подравняване на ИИ)^[42]. През януари 2025 г. DeepSeek показва, че способността на езиковите модели да разсъждават може да се развие чрез чисто обучение с подсилване, без човешки примери за разсъждения, като у модела възникват напреднали модели на разсъждение — саморефлексия, проверка и смяна на стратегията, — а той постига по-добри резултати при проверими задачи като математика и състезателно програмиране^[43].

Между двата полюса стоят слабото или полуконтролираното обучение, при което само малка част от данните е етикетирана, и самоконтролираното обучение^[44]. Полуконтролираното обучение е особено полезно, когато етикетирането изисква квалифициран човешки труд — например преписване на аудиозапис — или физически експеримент като определянето на триизмерната структура на белтък, докато неетикетираните данни се набавят сравнително евтино^[45]. При самоконтролираното обучение моделът се обучава върху задача, при която сигналът за обучение се създава от самите данни, а не от външни етикети: входните данни обикновено се преобразуват така, че да се получат двойки свързани примери, единият от които служи за вход, а другият — за сигнал на учителя^[46].

В програмна статия на Meta AI от 4 март 2021 г., озаглавена „Самоконтролираното обучение: тъмната материя на интелекта“, се твърди, че обучението с учител е тясно място за изграждането на по-общи модели, защото на практика е невъзможно всичко на света да бъде етикетирано, а за някои задачи, като превода за езици с малко ресурси, етикетираните данни просто не стигат^[47]. Този подход стои зад пробива в обработката на език: моделът BERT от 2018 г. се обучава предварително върху неетикетиран текст, като използва едновременно контекста отляво и отдясно на всяка дума, и след добавянето на само един изходен слой постига най-добри резултати на единадесет задачи за обработка на естествен език^[48]. Големите езикови модели, на които се основават чатботове като ChatGPT, Claude и Gemini, обикновено използват архитектурата „трансформър“, обучават се предварително да предсказват следващата дума и след това често се дообучават да следват инструкции и да действат като асистенти^[49]. През 2021 г. група изследователи, водена от Риши Бомасани, въвежда понятието „фундаментални модели“ за модели, обучени върху широки данни в голям мащаб и приспособими към широк кръг задачи; според тях мащабът им поражда нови възникващи способности, но и хомогенизация, при която дефектите на базовия модел се наследяват от всички изградени върху него приложения^[50].

Основни методи и модели

Най-простият метод е линейната регресия, при която през данните се прекарва права, най-добре пасваща според математически критерий като обикновените най-малки квадрати; тя често се разширява с регуляризация, за да се ограничат преобучаването и отклонението, както при гребеновата регресия (ridge regression)^[51]. За нелинейни задачи се използват полиномиална регресия, логистична регресия — често прилагана за статистическа класификация — или ядрена регресия^[52].

Дърветата на решенията са предсказващ модел, който води от наблюденията към изводи: при класификационните дървета листата съдържат етикетите на класовете, а клоните — комбинациите от признаци, които водят до тях, докато регресионните дървета предсказват непрекъснати стойности^[53]. Случайните гори изграждат по време на обучението множество дървета и обединяват отговорите им — при класификация се избира класът, посочен от най-много дървета, а при регресия се усредняват прогнозите, — като така коригират склонността на отделните дървета към преобучаване^[54]. Първият алгоритъм за случайни гори е създаден през 1995 г. от Тин Кам Хо, а разширението на Лео Брейман и Адел Кътлър съчетава идеята на Брейман за „багинг“ със случаен избор на признаци^[55]. Усилването на дървета (tree boosting) е друг високоефективен и широко използван метод; системата XGBoost, представена през 2016 г., се използва масово от специалистите по данни за постигане на най-добри резултати в състезания по машинно обучение и се мащабира до милиарди примери с много по-малко ресурси от съществуващите системи^[56]. Въпреки възхода на дълбокото обучение при табличните данни дърветата остават трудни за надминаване: сравнително изследване от 2022 г. върху 45 набора от данни установява, че моделите на основата на дървета, като XGBoost и случайните гори, остават най-добрият избор при данни със среден размер (около 10 хиляди примера) дори без да се отчита по-голямата им скорост^[57].

Машините с опорни вектори (SVM), разработени в AT&T Bell Laboratories и основани на статистическата теория на Вапник и Червоненкис, търсят разделителна граница с максимален отстъп между класовете и чрез т.нар. ядрен трик могат ефективно да извършват и нелинейна класификация^[58]. Типичен метод за обучение без учител е групирането по метода на k-средните (k-means), което разделя n наблюдения в k групи така, че всяко наблюдение да принадлежи към групата с най-близкия център; стандартният алгоритъм е предложен от Стюарт Лойд от Bell Labs още през 1957 г., а терминът е използван за първи път от Джеймс Маккуин през 1967 г.^[59]

Изкуствените невронни мрежи са вдъхновени от устройството на мозъка: невроните са представени от възли с различни стойности, които си влияят чрез връзки, сравними със синапси, като връзките могат да стават по-силни или по-слаби, а мрежата се обучава например чрез засилване на връзките между едновременно активни възли^[60]. Дълбокото обучение използва многослойни невронни мрежи — „дълбоки“ заради множеството слоеве, от три до няколкостотин или дори хиляди — за задачи като класификация, регресия и обучение на представяния^[61]. Според обзора на Ян ЛеКун, Йошуа Бенджио и Джефри Хинтън в Nature от 2015 г. многото слоеве позволяват на моделите сами да научават представяния на данните с няколко нива на абстракция, а алгоритъмът за обратно разпространение на грешката показва как машината да промени вътрешните си параметри, с което рязко се подобряват разпознаването на реч и на обекти, а също откриването на лекарства и геномиката^[62].

Методът за обратно разпространение на грешката е популяризиран от Дейвид Румелхарт, Джефри Хинтън и Роналд Уилямс в Nature през 1986 г.: процедурата многократно коригира теглата на връзките, за да намали разликата между действителния и желания изход, а скритите неврони сами започват да представят важни признаци на задачата — способност, която отличава метода от по-ранния перцептрон^[63]. Приоритетът е спорен: съвременната форма на метода е публикувана още през 1970 г. от Сепо Линайнма като „обратен режим на автоматичното диференциране“, а през 1982 г. Пол Уербос го прилага към многослойни перцептрони по начина, който става стандартен^[64].

Конволюционните невронни мрежи научават признаци чрез оптимизиране на филтри (ядра) и са де факто стандартът в компютърното зрение и обработката на изображения, макар в някои случаи вече да се заменят от по-нови архитектури като трансформъра; споделените тегла ги предпазват от изчезващите и експлодиращите градиенти на по-ранните мрежи^[65]. За последователности като текст и реч се използват рекурентни мрежи, а мрежите с дълга краткосрочна памет (LSTM) на Зеп Хохрайтер и Юрген Шмидхубер — с ранна версия от 1995 г. и най-цитирана публикация от 1997 г. — смекчават проблема с изчезващия градиент и могат да пазят информация в продължение на хиляди времеви стъпки^[66]. Архитектурата „трансформър“ е представена от изследователи на Google на конференцията NeurIPS през 2017 г. в статията „Attention Is All You Need“^[67]. Тя се основава изцяло на механизми на вниманието, без рекурентни и конволюционни слоеве, и в експериментите с машинен превод е по-качествена, по-лесно се паралелизира и изисква значително по-малко време за обучение^[68].

Генеративните модели се учат не само да разпознават, но и да създават данни: генеративно-състезателните мрежи (GAN), предложени през 2014 г. от Иън Гудфелоу и колеги, обучават едновременно генератор, който улавя разпределението на данните, и дискриминатор, който оценява вероятността даден пример да идва от истинските данни, а не от генератора^[69]. През 2020 г. Джонатан Хо и колеги постигат висококачествен синтез на изображения с дифузионни вероятностни модели — клас модели, вдъхновени от неравновесната термодинамика^[70].

История

Историята на машинното обучение се корени в десетилетия опити да се разберат човешките познавателни процеси: през 1949 г. канадският психолог Доналд Хеб описва в книгата „Организацията на поведението“ теоретична невронна структура, а неговата теория за взаимодействието между невроните поставя основите на начина, по който работят много алгоритми — свързани изкуствени неврони, чиито връзки се засилват или отслабват според данните^[71]. Изкуственият неврон и изкуствената невронна мрежа са изобретени още през 1943 г. от Уорън Маккълок и Уолтър Питс^[72]. Терминът „машинно обучение“ е въведен през 1959 г. от Артър Самюъл, служител на IBM и пионер в компютърните игри и изкуствения интелект, чиято програма от 1950-те години изчислява шансовете за победа на всяка от страните в играта на дама^[73]. Програмата на Самюъл е сред първите успешни самообучаващи се програми в света и ранна демонстрация на основната идея на изкуствения интелект^[74]. Често цитираната фраза, че машинното обучение позволява на компютрите да се учат, „без да бъдат изрично програмирани“, обикновено се приписва на Самюъл, но в публикацията му от 1959 г. тя не се среща дословно и вероятно е по-късен преразказ^[75].

През юли 1958 г. Службата за военноморски изследвания на САЩ демонстрира перцептрона на изследователя психолог Франк Розенблат: компютър IBM 704 с тегло 5 тона, захранван с перфокарти, след 50 опита сам се научава да различава карти, маркирани отляво, от карти, маркирани отдясно^[76]. Розенблат описва перцептрона подробно в статия от 1958 г., а екипът му построява специализирания аналогов компютър Mark I Perceptron, сглобен и тестван в Корнелската аеронавигационна лаборатория в Бъфало между юни и 14 декември 1959 г.^[77] Изявленията му пред пресата предизвикват разгорещени спорове в младата общност на ИИ: въз основа на тях The New York Times описва перцептрона като „зародиш на електронен компютър“, който ВМС очакват да може „да ходи, говори, вижда, пише, да се възпроизвежда и да осъзнава съществуването си“^[78].

През 1969 г. Марвин Мински и Сиймур Пейпърт показват в книгата „Перцептрони“, че този клас мрежи не може да научи функцията „изключващо или“ (XOR); макар двамата да знаят, че многослойните перцептрони могат да я представят, често неточно цитираната книга предизвиква значителен спад на интереса и финансирането за невронните мрежи, който продължава около десетилетие^[79]. Такива периоди на намалено финансиране и интерес се наричат „зими на ИИ“: областта преминава през няколко цикъла на шумни очаквания, последвани от разочарование, критика, съкращения на средствата и подновен интерес години или дори десетилетия по-късно^[80]. Сред ключовите епизоди са рязкото свиване на изследванията на ИИ във Великобритания след доклада на Лайтхил през 1973 г., сривът на пазара на LISP машини през 1987 г. и изоставянето на много експертни системи през 1990-те^[81].

Към 1980 г. в изкуствения интелект доминират експертните системи и логическият подход, основан на знания, а статистиката е в немилост; статистическото направление продължава извън ИИ — в разпознаването на образи и информационното търсене, — а изследванията на невронни мрежи са продължени от учени от други дисциплини като Джон Хопфийлд, Дейвид Румелхарт и Джефри Хинтън, чийто главен успех идва в средата на 1980-те с преоткриването на обратното разпространение^[82]. През 1990-те машинното обучение се утвърждава като самостоятелна област, сменя целта си от постигане на изкуствен интелект към решаване на практически задачи и се насочва от символните подходи, наследени от ИИ, към методи от статистиката, размитата логика и теорията на вероятностите^[83].

Липсата на данни също е пречка: през 2006 г. изследователката Фей-Фей Ли започва работа по ImageNet, защото в момент, когато повечето изследвания се съсредоточават върху моделите и алгоритмите, иска да разшири данните за обучение; в проекта над 14 милиона изображения са анотирани ръчно, като в етикетирането чрез Amazon Mechanical Turk участват 49 хиляди работници от 167 държави^[84]. Ключово значение има и хардуерът (вж. полупроводниците и надпреварата за чипове): през 2009 г. Раина, Мадхаван и Андрю Нг обучават дълбока доверителна мрежа със 100 милиона параметъра върху 30 графични процесора Nvidia GeForce GTX 280 до 70 пъти по-бързо — едно от ранните доказателства за дълбоко обучение с графични процесори^[85].

През 2012 г. мрежата AlexNet, разработена от Алекс Крижевски, Иля Суцкевер и Джефри Хинтън, постига значително по-добри резултати в състезанието ImageNet по разпознаване на изображения и допринася за широкото възприемане на дълбоките невронни мрежи^[86]. Мрежата е подадена на 30 септември 2012 г. и печели с грешка 15,3% при пет допустими отговора, с повече от 10,8 процентни пункта по-добре от второто място, като е разделена на две копия, всяко на отделен графичен процесор, защото не се побира в паметта на един Nvidia GTX 580^[87]. Според The Economist след това „изведнъж хората започват да обръщат внимание не само в общността на ИИ, а в цялата технологична индустрия“, а само три години по-късно много дълбока мрежа на Microsoft с над 100 слоя печели състезанието с грешка 3,57%^[88].

Следват бързо и други пробиви: техниките word2vec за векторно представяне на думи (2013), генеративно-състезателните мрежи (2014), победата на AlphaGo над професионален играч на го (2016) и трансформърът (2017)^[89]. Програмата AlphaGo на DeepMind, съчетаваща дълбоки невронни мрежи с търсене по метода „Монте Карло“, печели 99,8% от партиите срещу други програми за го и побеждава европейския шампион с 5 на 0 — за първи път компютърна програма побеждава професионален играч на го на пълна дъска, постижение, смятано дотогава за отдалечено поне с десетилетие^[90].

Наградата „Тюринг“ за 2018 г., често наричана „Нобеловата награда на информатиката“ и носеща 1 милион долара, е присъдена на Йошуа Бенджио, Джефри Хинтън и Ян ЛеКун за концептуалните и инженерните пробиви, превърнали дълбоките невронни мрежи в ключов компонент на изчислителната техника^[91]. Според ACM интересът им към невронните мрежи първоначално е посрещнат със скептицизъм, но идеите им водят до големи технологични пробиви и методологията им днес е доминиращата парадигма в областта^[92]. Нобеловият комитет обяснява, че Хопфийлд създава асоциативна памет, която съхранява и възстановява изображения и други модели в данните, като използва физиката на атомните спинове, а Хинтън надгражда мрежата на Хопфийлд в т.нар. машина на Болцман, която с инструменти от статистическата физика се научава да разпознава характерни елементи в даден тип данни^[93]. Нобеловата награда за химия за 2024 г. е присъдена наполовина на Дейвид Бейкър за изчислителен дизайн на белтъци и наполовина на Демис Хасабис и Джон Джъмпър от Google DeepMind за предсказване на структурата на белтъците: представеният през 2020 г. модел AlphaFold2 предсказва структурата на практически всички 200 милиона известни белтъка и е използван от над два милиона души в 190 държави^[94].

Мащабиране и спорът за границите му

През март 2019 г. Ричард Сътън формулира т.нар. „горчив урок“: най-големият урок от 70 години изследвания на ИИ е, че общите методи, които използват изчисления, в крайна сметка са най-ефективни, и то с голяма разлика, защото цената на изчисленията непрекъснато пада експоненциално^[95]. Като пример той посочва компютърния шах, където методите, победили световния шампион Каспаров през 1997 г., се основават на масивно, дълбоко търсене, а не на човешкото разбиране на играта, и компютърното го, където същото се повтаря с 20 години закъснение^[96].

През януари 2020 г. Джаред Каплан и колеги установяват, че загубата на езиковите модели намалява по степенен закон с увеличаването на размера на модела, обема на данните и изчисленията за обучение, като някои тенденции обхващат повече от седем порядъка, а при фиксиран изчислителен бюджет е оптимално да се обучават много големи модели върху сравнително умерено количество данни^[97]. През 2022 г. екип на DeepMind стига до различен извод: след обучението на над 400 модела с от 70 милиона до над 16 милиарда параметъра той заключава, че тогавашните големи модели са значително недообучени и че размерът на модела и броят на обучаващите токени трябва да растат еднакво — при всяко удвояване на модела данните също трябва да се удвояват^[98]. Моделът Chinchilla със 70 милиарда параметъра, обучен с четири пъти повече данни при същия изчислителен бюджет като Gopher, превъзхожда значително по-големите Gopher (280 милиарда), GPT-3 (175 милиарда) и Megatron-Turing NLG (530 милиарда)^[99]. По данни на Epoch AI изчисленията за обучение на водещите езикови модели растат около 5 пъти годишно от 2020 г. насам, т.е. се удвояват приблизително на всеки 5,2 месеца^[100].

С мащаба често се свързват т.нар. възникващи способности, които по-големите модели сякаш придобиват внезапно, но Райлън Шефер и колеги твърдят през 2023 г., че те се дължат на избора на метрика от изследователя, а не на фундаментална промяна в поведението на модела: нелинейните или прекъснати метрики създават привидни скокове, докато линейните показват плавни и предвидими промени^[101]. Данните също имат предел: според Пабло Виялобос и колеги, ако тенденциите продължат, моделите ще се обучават върху набори, приблизително равни на целия наличен запас от публичен текст, създаден от хора, някъде между 2026 и 2032 г.^[102] През декември 2024 г. съоснователят на OpenAI Иля Суцкевер заявява на конференцията NeurIPS, че „предварителното обучение, както го познаваме, несъмнено ще приключи“, защото „сме достигнали пика на данните и повече няма да има“^[103].

Година по-късно Суцкевер описва периода от 2012 до 2020 г. като „ера на изследванията“, а от 2020 до 2025 г. — като „ера на мащабирането“, и твърди, че областта отново се връща към изследванията, тъй като не вярва, че стократно по-голям мащаб би преобразил всичко^[104]. Според него най-фундаменталният проблем е, че моделите „по някакъв начин обобщават драстично по-зле от хората“ — въпрос, който интервюиращият разделя на два: защо на моделите им трябват много повече данни, отколкото на хората, и защо е толкова по-трудно да бъдат научени на онова, което искаме^[105]. Сътън, носител на наградата „Тюринг“ за 2024 г., отива по-далеч и смята големите езикови модели за задънена улица: според него те могат да предсказват какво би казал човек, но не и какво ще се случи, нямат цел и „основна истина“, а по преразказа на интервюиращия — не могат да се учат в движение, затова е нужна нова архитектура за непрекъснато учене^[106]. Ян ЛеКун, който напуска Meta, съосновава AMI Labs, която през март 2026 г. набира 1,03 милиарда долара при оценка от 3,5 милиарда преди инвестицията, за да разработва „модели на света“ — ИИ, който се учи от реалността, а не само от езика, — на основата на архитектурата JEPA, предложена от ЛеКун през 2022 г.^[107]

Сред най-гласовитите критици е Гари Маркъс, който през март 2022 г. публикува есето „Дълбокото обучение се удря в стена“ и защитава съчетаването на невронните мрежи с манипулирането на символи^[108]. Като пример за преувеличени очаквания той припомня, че през 2016 г. Хинтън призовава да се спре обучението на радиолози, защото до пет години дълбокото обучение ще ги превъзхожда, а до 2022 г. нито един радиолог не е заменен и консенсусът е, че машинното обучение в радиологията е по-трудно, отколкото изглежда^[109]. Международният доклад за безопасността на ИИ обобщава, че правдоподобните траектории варират от постепенен или дори застинал напредък до бързо ускорение, като технически предели или ограничения в енергията могат да спрат напредъка въпреки огромните инвестиции, а между експертите почти няма съгласие коя траектория е най-вероятна (вж. физическите граници на ИИ)^[110]. Според същия доклад алгоритмичната ефективност се подобрява приблизително 2–6 пъти годишно, а обучаващите набори растат средно 2,5 пъти годишно^[111].

Приложения

Машинният превод е един от най-видимите примери: невронната система на Google (GNMT), описана през 2016 г., намалява грешките в превода средно с 60% спрямо предишната фразова система на компанията при оценка от хора на изолирани прости изречения^[112]. Препоръчващите системи са друг ранен пример: през 2006 г. Netflix обявява състезанието Netflix Prize за програма, която подобрява поне с 10% точността на алгоритъма ѝ за препоръки на филми Cinematch, а голямата награда от 1 милион долара е спечелена през 2009 г. от съвместен екип на AT&T Labs-Research и отборите Big Chaos и Pragmatic Theory с ансамбъл от модели^[113].

В медицината Американската агенция по храните и лекарствата (FDA) одобрява през 2023 г. 223 медицински изделия с изкуствен интелект при само шест през 2015 г., сочат данните на Станфордския доклад AI Index 2025^[114]. По същите данни Waymo, един от най-големите оператори в САЩ, осигурява над 150 000 автономни пътувания седмично, а флотата роботаксита Apollo Go на Baidu обслужва много градове в Китай^[115]. Във финансите проучване на Bank of England и британския Орган за финансово поведение от ноември 2024 г. установява, че 75% от фирмите вече използват изкуствен интелект при 58% през 2022 г., като най-често той се прилага за оптимизация на вътрешните процеси (41%), киберсигурност (37%) и откриване на измами (33%)^[116].

В науката освен предсказването на структурата на белтъците машинното обучение променя и прогнозирането на времето: моделът GraphCast на Google DeepMind, представен през ноември 2023 г., прави десетдневна прогноза за по-малко от минута на една машина, докато конвенционалният подход изисква часове на суперкомпютър със стотици машини, и в сравнение със златния стандарт HRES е по-точен при над 90% от 1380 тестови променливи и срокове на прогнозата^[117]. На 25 февруари 2025 г. Европейският център за средносрочни прогнози за времето (ECMWF) въвежда в експлоатация своята система AIFS, основана на машинно обучение, която работи успоредно с традиционния физичен модел, надминава съвременните физични модели по много показатели — включително траекториите на тропическите циклони, с подобрения до 20%, — и изразходва около хиляда пъти по-малко енергия за една прогноза^[118].

Внедряването на изкуствения интелект, включително на машинното обучение, в българския бизнес изостава: според Евростат през 2025 г. технологии с изкуствен интелект използват 19,95% от предприятията в ЕС, но едва 8,55% от българските — сред трите най-ниски дяла заедно с Румъния (5,21%) и Полша (8,36%), докато в Дания делът е 42,03%^[119]. В проучването на Евростат машинното обучение, например дълбокото обучение за анализ на данни, е отделна категория технологии с изкуствен интелект^[120]. Същевременно софийският институт INSAIT представя през януари 2024 г. BgGPT — първия отворен голям езиков модел за български език, обучен в първата си версия върху над 3 милиарда изречения на български и със 7 милиарда параметъра, който организациите могат да използват и локално, без да споделят чувствителни данни (вж. отворени и локални модели)^[121].

Ограничения и рискове

Въпреки успехите си програмите за машинно обучение често не дават очакваните резултати, а причините са многобройни: липса на подходящи данни или на достъп до тях, пристрастия в данните, проблеми с поверителността, лошо избрани задачи и алгоритми, неподходящи инструменти и хора, липса на ресурси и проблеми с оценяването^[122]. Сред известните провали са смъртта на пешеходец, когото самоуправляващ се автомобил на Uber не разпознава през 2018 г., и опитите за прилагане на системата IBM Watson в здравеопазването, които не дават резултат въпреки години и милиарди долари инвестиции^[123]. Установено е и че възможностите на съвременните системи са „назъбени“: те достигат или надминават експертно ниво на стандартизирани изпити по редица професионални и научни дисциплини, но се провалят на някои елементарни задачи, понякога дават невярна информация и се представят по-слабо на езици, които са по-рядко срещани в данните им за обучение^[124].

Моделите наследяват особеностите на данните си: система, обучена върху сегашните клиенти, може да не предвиди нуждите на нови групи, които липсват в данните, а когато се обучава върху данни, създадени от хора, машинното обучение е склонно да възприеме вградените и несъзнателните предразсъдъци, вече налични в обществото^[125]. Още през 1988 г. британската Комисия за расово равенство установява, че медицинското училище „Сейнт Джордж“ използва компютърна програма, обучена върху решенията на предишните членове на приемната комисия, която е отказала прием на близо 60 кандидати, оказали се жени или с неевропейски звучащи имена^[126]. През 2018 г. Джой Буоламуини и Тимнит Гебру показват, че три търговски системи за определяне на пола по лице грешат най-често при жените с по-тъмна кожа — с грешка до 34,7%, — докато максималната грешка при мъжете със светла кожа е 0,8%, а широко използваните дотогава еталонни набори се състоят предимно от хора със светла кожа (79,6% и 86,2%)^[127].

Изследване в Science от 2019 г. установява, че широко използван търговски алгоритъм за насочване на пациенти със сложни здравни нужди към допълнителни грижи, засягащ милиони хора, е расово пристрастен: при една и съща оценка на риска чернокожите пациенти са значително по-болни от белите, защото алгоритъмът предсказва разходите за лечение вместо самото заболяване, а поради неравния достъп до грижи за чернокожите пациенти се харчат по-малко пари^[128]. Премахването на тази разлика би увеличило дела на чернокожите пациенти, получаващи допълнителна помощ, от 17,7 на 46,5%^[129]. Подобни проблеми възникват в полицейската дейност и правосъдието (вж. COMPAS): предиктивният алгоритъм на компанията Geolitica, обучен върху исторически данни за престъпленията, води до „непропорционално високи нива на прекомерно полицейско присъствие“ в общности с ниски доходи и малцинства^[130].

Стенфордската енциклопедия по философия отбелязва, че когато система с ИИ вземе решение като „отказва ви се кредитна карта“, засегнатият често не може да разбере как е получен резултатът, а при машинното обучение изходът е непрозрачен дори за самите програмисти, които не знаят кои закономерности в данните системата е използвала; при такава непрозрачност всяко пристрастие в решенията е трудно за откриване^[131]. Комисия на британската Камара на лордовете заявява, че система, която може да има „съществено въздействие върху живота на човек“, не би била приемлива, ако не дава „пълно и задоволително обяснение“ на решенията си^[132]. Синтия Рудин твърди, че вместо да се обясняват впоследствие „черни кутии“, използвани за решения с висок залог в здравеопазването и наказателното правосъдие, трябва да се проектират модели, разбираеми по начало, защото опитите за обясняване на черни кутии могат да увековечат лоши практики и да причинят катастрофални вреди на обществото^[133]. Изследванията на интерпретируемостта се опитват да надникнат в самите модели: през март 2025 г. Anthropic съобщава, че моделът Claude понякога мисли в общо за различните езици концептуално пространство и планира римите си няколко думи напред, но признава, че дори при кратки и прости заявки методът улавя само част от изчисленията на модела^[134].

Моделите често се държат неочаквано зле, когато бъдат внедрени в реална среда; Александър Д’Амур и 39 съавтори обясняват това с „недоопределеността“: един и същ процес на обучение може да даде много модели с еднакво добри резултати върху данните от обучаващата област, които обаче се държат много различно при реалната употреба^[135]. Свързано явление е „ученето по преки пътища“: правила за решение, които се представят добре на стандартните тестове, но не се пренасят в по-трудни условия като реалния свят, като според авторите това може да е обща черта на учещите системи — и биологичните, и изкуствените^[136]. През 2013 г. Кристиан Сегеди и колеги, сред които Иля Суцкевер и Иън Гудфелоу, показват, че дълбоките невронни мрежи научават до голяма степен прекъснати съответствия между вход и изход и могат да бъдат накарани да класифицират погрешно изображение чрез незабележима промяна^[137]. При такива „състезателни примери“ — входове с малки, но умишлено най-неблагоприятни изменения — моделите дават грешен отговор с висока увереност, а Гудфелоу и колеги твърдят, че основната причина е не нелинейността или преобучаването, а линейният характер на невронните мрежи^[138].

Моделите могат и да запомнят обучаващите си данни: през 2020 г. Никълас Карлини и колеги извличат от езиковия модел GPT-2 стотици дословни текстови поредици от данните му за обучение, включително лична информация като имена, телефонни номера и имейл адреси^[139]. Изследване в Nature от юли 2024 г. показва, че безразборното обучение върху съдържание, генерирано от модели, причинява необратими дефекти — т.нар. колапс на модела, при който изчезват „опашките“ на първоначалното разпределение, т.е. редките случаи^[140]. Машинното обучение допринася и за криза на възпроизводимостта в науката: Саяш Капур и Арвинд Нараянан откриват грешки, свързани с изтичане на данни, в 17 научни области, засягащи общо 329 статии и в някои случаи водещи до крайно преувеличени заключения^[141].

Още през 2019 г. Ема Стръбел и колеги предупреждават, че подобренията в точността на големите модели зависят от изключително големи изчислителни ресурси със съответно голяма консумация на енергия, което ги прави скъпи както финансово, така и екологично заради въглеродния отпечатък^[142]. Според Международната агенция по енергетика потреблението на електроенергия от центровете за данни ще се удвои до около 945 TWh до 2030 г. — малко повече от сегашното потребление на цяла Япония, — като изкуственият интелект е най-важният двигател на този ръст^[143].

Най-оспорваният теоретичен въпрос е дали големите предварително обучени езикови модели „разбират“ езика и физическите и социалните ситуации, които той описва, в някакъв съществен смисъл — Мелани Мичъл и Дейвид Кракауер описват разгорещен дебат по този въпрос в изследователската общност^[144]. Емили Бендър и Александър Колер (2020) смятат, че успехите на тези модели пораждат шум, в който те се описват като „разбиращи“ езика или улавящи „смисъл“, докато система, обучена само върху езиковата форма, по принцип няма как да научи смисъла^[145]. Мичъл и Кракауер предлагат вместо отговор с „да“ или „не“ да се развие нова наука за интелекта, която да изучава различните видове разбиране, техните силни страни и ограничения и предизвикателството да се интегрират различни форми на познание^[146].

В Европейския съюз Законът за изкуствения интелект (Регламент (ЕС) 2024/1689) — първата всеобхватна правна рамка за ИИ в света — въвежда правила според риска с четири нива, влиза в сила на 1 август 2024 г. и започва да се прилага на 2 август 2026 г. с някои изключения^[147].

Развитие през 2025–2026 г.

Според Международния доклад за безопасността на ИИ през последната година възможностите се подобряват главно чрез нови техники след първоначалното обучение и особено чрез т.нар. мащабиране по време на извод — моделите използват повече изчисления, за да генерират междинни стъпки преди окончателния отговор, — което носи особено големи подобрения при сложни задачи по математика, софтуерно инженерство и наука^[148]. Способностите обаче остават „назъбени“: водещите системи постигат резултат на ниво златен медал на Международната олимпиада по математика, а агентите с ИИ вече надеждно изпълняват някои програмистки задачи, за които на човек са нужни около половин час, но същите системи все още се провалят на някои привидно прости задачи^[149].

Станфордският доклад AI Index 2026 дава конкретни примери: на теста по програмиране SWE-bench Verified резултатите се повишават от 60% до почти 100% само за една година, а Gemini Deep Think печели златен медал на олимпиадата, но най-добрият модел разчита правилно аналогов часовник едва в 50,1% от случаите (вж. оценяване на системи с ИИ)^[150]. Според същия доклад индустрията създава над 90% от забележителните водещи модели през 2025 г., организационното възприемане на ИИ достига 88%, а документираните инциденти с ИИ нарастват до 362 от 233 през 2024 г.^[151] Разликата в представянето между американските и китайските модели на практика изчезва: от началото на 2025 г. те неколкократно си разменят първенството, а към март 2026 г. най-добрият модел на Anthropic води само с 2,7%^[152].

Машинното обучение започва да автоматизира и самото научно откритие: през март 2026 г. Nature публикува системата The AI Scientist, която сама създава изследователски идеи, пише код, провежда експерименти, анализира данните, пише целия ръкопис и рецензира собствената си работа, а създаден от нея ръкопис преминава първия кръг на рецензиране за семинар към водеща конференция по машинно обучение с 70% приемаемост^[153]. Според The Brussels Times от 16 октомври 2026 г. Европейската комисия обявява на Европейската среща за ИИ в науката в Дъблин инициативата RAISE (Resource for AI Science in Europe), с която индустрията и филантропските организации да разширят достъпа на изследователите до инструменти и ресурси за изкуствен интелект, а Mistral AI и CERN обявяват партньорство за разработване на най-големия фундаментален модел във физиката^[154]. Нарастващите възможности променят и начина на пускане на моделите: на 30 септември 2026 г. Google представя Gemini 4 Argon, който първоначално се предоставя само на доверени специалисти по киберзащита, като компанията поставя безопасността и строгото тестване пред по-широкото публично пускане^[155]. В същото време набира сила търсенето на алтернативи на чисто езиковите модели, макар и с предупреждения за нов шум: изпълнителният директор на AMI Labs Александър Льобрюн прогнозира, че „моделите на света“ ще станат следващата модна дума и до половин година всяка компания ще се нарича така, за да набира средства^[156].

Доказателства към твърденията

1. Machine learning
   Wikipedia (английска)
   Отвори източника
2. Machine learning: Trends, perspectives, and prospects (M. I. Jordan, T. M. Mitchell)
   Science 349 (6245); копие на сайта на Carnegie Mellon University · 2015-07-17
   Отвори източника
3. Machine learning
   Wikipedia (английска)
   Отвори източника
4. Machine learning
   Wikipedia (английска)
   Отвори източника
5. Machine learning: Trends, perspectives, and prospects (M. I. Jordan, T. M. Mitchell)
   Science 349 (6245); копие на сайта на Carnegie Mellon University · 2015-07-17
   Отвори източника
6. Press release: The Nobel Prize in Physics 2024
   Кралската шведска академия на науките (NobelPrize.org) · 2024-10-08
   Отвори източника
7. International AI Safety Report 2026
   International AI Safety Report · 2026
   Отвори източника
8. Machine learning
   Wikipedia (английска)
   Отвори източника
9. Machine learning
   Wikipedia (английска)
   Отвори източника
10. The Discipline of Machine Learning (CMU-ML-06-108)
    Carnegie Mellon University (Tom M. Mitchell) · 2006-07
    Отвори източника
11. The Discipline of Machine Learning (CMU-ML-06-108)
    Carnegie Mellon University (Tom M. Mitchell) · 2006-07
    Отвори източника
12. The Discipline of Machine Learning (CMU-ML-06-108)
    Carnegie Mellon University (Tom M. Mitchell) · 2006-07
    Отвори източника
13. Machine learning
    Wikipedia (английска)
    Отвори източника
14. Machine learning
    Wikipedia (английска)
    Отвори източника
15. Least squares
    Wikipedia (английска)
    Отвори източника
16. Machine learning
    Wikipedia (английска)
    Отвори източника
17. Machine learning
    Wikipedia (английска)
    Отвори източника
18. Machine learning
    Wikipedia (английска)
    Отвори източника
19. machine learning
    Encyclopædia Britannica (William L. Hosch) · 2026-09-18
    Отвори източника
20. Машинно самообучение
    Уикипедия (българска)
    Отвори източника
21. Machine learning
    Wikipedia (английска)
    Отвори източника
22. Supervised learning
    Wikipedia (английска)
    Отвори източника
23. Supervised learning
    Wikipedia (английска)
    Отвори източника
24. Stochastic gradient descent
    Wikipedia (английска)
    Отвори източника
25. Stochastic gradient descent
    Wikipedia (английска)
    Отвори източника
26. Training, validation, and test data sets
    Wikipedia (английска)
    Отвори източника
27. Overfitting
    Wikipedia (английска)
    Отвори източника
28. Overfitting
    Wikipedia (английска)
    Отвори източника
29. Overfitting
    Wikipedia (английска)
    Отвори източника
30. Bias–variance tradeoff
    Wikipedia (английска)
    Отвори източника
31. Machine learning
    Wikipedia (английска)
    Отвори източника
32. Probably approximately correct learning
    Wikipedia (английска)
    Отвори източника
33. Understanding deep learning requires rethinking generalization (Zhang et al.)
    arXiv (ICLR 2017) · 2016-11-10
    Отвори източника
34. Reconciling modern machine learning practice and the bias-variance trade-off (Belkin et al.)
    arXiv (публикувано в PNAS, 2019) · 2018-12-28
    Отвори източника
35. Reinforcement learning
    Wikipedia (английска)
    Отвори източника
36. Supervised learning
    Wikipedia (английска)
    Отвори източника
37. Machine learning
    Wikipedia (английска)
    Отвори източника
38. Unsupervised learning
    Wikipedia (английска)
    Отвори източника
39. Reinforcement learning
    Wikipedia (английска)
    Отвори източника
40. Machine learning: Trends, perspectives, and prospects (M. I. Jordan, T. M. Mitchell)
    Science 349 (6245); копие на сайта на Carnegie Mellon University · 2015-07-17
    Отвори източника
41. ACM A.M. Turing Award Honors Two Researchers Who Led the Development of Cornerstone AI Technology
    Association for Computing Machinery (ACM) · 2025-03-05
    Отвори източника
42. ACM A.M. Turing Award Honors Two Researchers Who Led the Development of Cornerstone AI Technology
    Association for Computing Machinery (ACM) · 2025-03-05
    Отвори източника
43. DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
    arXiv (DeepSeek-AI) · 2025-01-22
    Отвори източника
44. Unsupervised learning
    Wikipedia (английска)
    Отвори източника
45. Weak supervision
    Wikipedia (английска)
    Отвори източника
46. Self-supervised learning
    Wikipedia (английска)
    Отвори източника
47. Self-supervised learning: The dark matter of intelligence
    Meta AI · 2021-03-04
    Отвори източника
48. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding (Devlin et al.)
    arXiv (Google AI Language) · 2018-10-11
    Отвори източника
49. Large language model
    Wikipedia (английска)
    Отвори източника
50. On the Opportunities and Risks of Foundation Models (Bommasani et al.)
    arXiv (Stanford University) · 2021-08-16
    Отвори източника
51. Machine learning
    Wikipedia (английска)
    Отвори източника
52. Machine learning
    Wikipedia (английска)
    Отвори източника
53. Decision tree learning
    Wikipedia (английска)
    Отвори източника
54. Random forest
    Wikipedia (английска)
    Отвори източника
55. Random forest
    Wikipedia (английска)
    Отвори източника
56. XGBoost: A Scalable Tree Boosting System (Chen, Guestrin)
    arXiv (KDD 2016) · 2016-03-09
    Отвори източника
57. Why do tree-based models still outperform deep learning on tabular data? (Grinsztajn, Oyallon, Varoquaux)
    arXiv (NeurIPS 2022) · 2022-07-18
    Отвори източника
58. Support vector machine
    Wikipedia (английска)
    Отвори източника
59. k-means clustering
    Wikipedia (английска)
    Отвори източника
60. Press release: The Nobel Prize in Physics 2024
    Кралската шведска академия на науките (NobelPrize.org) · 2024-10-08
    Отвори източника
61. Deep learning
    Wikipedia (английска)
    Отвори източника
62. Deep learning (LeCun, Bengio, Hinton)
    Nature 521 · 2015-05-27
    Отвори източника
63. Learning representations by back-propagating errors (Rumelhart, Hinton, Williams)
    Nature 323 · 1986-10-09
    Отвори източника
64. Backpropagation
    Wikipedia (английска)
    Отвори източника
65. Convolutional neural network
    Wikipedia (английска)
    Отвори източника
66. Long short-term memory
    Wikipedia (английска)
    Отвори източника
67. Large language model
    Wikipedia (английска)
    Отвори източника
68. Attention Is All You Need (Vaswani et al.)
    arXiv (Google Brain / Google Research) · 2017-06-12
    Отвори източника
69. Generative Adversarial Networks (Goodfellow et al.)
    arXiv (Université de Montréal) · 2014-06-10
    Отвори източника
70. Denoising Diffusion Probabilistic Models (Ho, Jain, Abbeel)
    arXiv (UC Berkeley) · 2020-06-19
    Отвори източника
71. Machine learning
    Wikipedia (английска)
    Отвори източника
72. Perceptron
    Wikipedia (английска)
    Отвори източника
73. Machine learning
    Wikipedia (английска)
    Отвори източника
74. Arthur Samuel (computer scientist)
    Wikipedia (английска)
    Отвори източника
75. Machine learning
    Wikipedia (английска)
    Отвори източника
76. Professor’s perceptron paved the way for AI – 60 years too soon
    Cornell Chronicle · 2019-09-25
    Отвори източника
77. Perceptron
    Wikipedia (английска)
    Отвори източника
78. Perceptron
    Wikipedia (английска)
    Отвори източника
79. Perceptron
    Wikipedia (английска)
    Отвори източника
80. AI winter
    Wikipedia (английска)
    Отвори източника
81. AI winter
    Wikipedia (английска)
    Отвори източника
82. Machine learning
    Wikipedia (английска)
    Отвори източника
83. Machine learning
    Wikipedia (английска)
    Отвори източника
84. ImageNet
    Wikipedia (английска)
    Отвори източника
85. Deep learning
    Wikipedia (английска)
    Отвори източника
86. Machine learning
    Wikipedia (английска)
    Отвори източника
87. AlexNet
    Wikipedia (английска)
    Отвори източника
88. ImageNet
    Wikipedia (английска)
    Отвори източника
89. Machine learning
    Wikipedia (английска)
    Отвори източника
90. Mastering the game of Go with deep neural networks and tree search (Silver et al.)
    Nature 529 · 2016-01-27
    Отвори източника
91. Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award
    Association for Computing Machinery (ACM) · 2019-03-27
    Отвори източника
92. Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award
    Association for Computing Machinery (ACM) · 2019-03-27
    Отвори източника
93. Press release: The Nobel Prize in Physics 2024
    Кралската шведска академия на науките (NobelPrize.org) · 2024-10-08
    Отвори източника
94. Press release: The Nobel Prize in Chemistry 2024
    Кралската шведска академия на науките (NobelPrize.org) · 2024-10-09
    Отвори източника
95. The Bitter Lesson
    Rich Sutton (личен сайт) · 2019-03-13
    Отвори източника
96. The Bitter Lesson
    Rich Sutton (личен сайт) · 2019-03-13
    Отвори източника
97. Scaling Laws for Neural Language Models (Kaplan et al.)
    arXiv (OpenAI) · 2020-01-23
    Отвори източника
98. Training Compute-Optimal Large Language Models (Hoffmann et al.)
    arXiv (DeepMind) · 2022-03-29
    Отвори източника
99. Training Compute-Optimal Large Language Models (Hoffmann et al.)
    arXiv (DeepMind) · 2022-03-29
    Отвори източника
100. Data on AI: trends
     Epoch AI · 2026
     Отвори източника
101. Are Emergent Abilities of Large Language Models a Mirage? (Schaeffer, Miranda, Koyejo)
     arXiv (Stanford University) · 2023-04-28
     Отвори източника
102. Will we run out of data? Limits of LLM scaling based on human-generated data (Villalobos et al.)
     arXiv (Epoch AI) · 2022-10-26
     Отвори източника
103. OpenAI cofounder Ilya Sutskever predicts the end of AI pre-training
     The Verge · 2024-12-13
     Отвори източника
104. Ilya Sutskever — We're moving from the age of scaling to the age of research
     Dwarkesh Podcast · 2025-11-25
     Отвори източника
105. Ilya Sutskever — We're moving from the age of scaling to the age of research
     Dwarkesh Podcast · 2025-11-25
     Отвори източника
106. Richard Sutton – Father of RL thinks LLMs are a dead end
     Dwarkesh Podcast · 2025-09-26
     Отвори източника
107. Yann LeCun’s AMI Labs raises $1.03B to build world models
     TechCrunch · 2026-03-09
     Отвори източника
108. Deep Learning Is Hitting a Wall
     Nautilus (Gary Marcus) · 2022-03-10
     Отвори източника
109. Deep Learning Is Hitting a Wall
     Nautilus (Gary Marcus) · 2022-03-10
     Отвори източника
110. International AI Safety Report 2026
     International AI Safety Report · 2026
     Отвори източника
111. International AI Safety Report 2026
     International AI Safety Report · 2026
     Отвори източника
112. Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation (Wu et al.)
     arXiv (Google) · 2016-09-26
     Отвори източника
113. Machine learning
     Wikipedia (английска)
     Отвори източника
114. The 2025 AI Index Report
     Stanford HAI · 2025
     Отвори източника
115. The 2025 AI Index Report
     Stanford HAI · 2025
     Отвори източника
116. Artificial intelligence in UK financial services - 2024
     Bank of England и Financial Conduct Authority · 2024-11-21
     Отвори източника
117. GraphCast: AI model for faster and more accurate global weather forecasting
     Google DeepMind · 2023-11-14
     Отвори източника
118. ECMWF’s AI forecasts become operational
     Европейски център за средносрочни прогнози за времето (ECMWF) · 2025-02-25
     Отвори източника
119. Use of artificial intelligence in enterprises
     Евростат (Statistics Explained) · 2025-12
     Отвори източника
120. Use of artificial intelligence in enterprises
     Евростат (Statistics Explained) · 2025-12
     Отвори източника
121. INSAIT announced BgGPT – the first open AI model for Bulgarian language
     INSAIT · 2024-01-16
     Отвори източника
122. Machine learning
     Wikipedia (английска)
     Отвори източника
123. Machine learning
     Wikipedia (английска)
     Отвори източника
124. International AI Safety Report 2026
     International AI Safety Report · 2026
     Отвори източника
125. Machine learning
     Wikipedia (английска)
     Отвори източника
126. Machine learning
     Wikipedia (английска)
     Отвори източника
127. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (Buolamwini, Gebru)
     Proceedings of Machine Learning Research 81 (FAT* 2018) · 2018
     Отвори източника
128. Dissecting racial bias in an algorithm used to manage the health of populations (Obermeyer et al.)
     Science 366 (резюме в PubMed) · 2019-10-25
     Отвори източника
129. Dissecting racial bias in an algorithm used to manage the health of populations (Obermeyer et al.)
     Science 366 (резюме в PubMed) · 2019-10-25
     Отвори източника
130. Machine learning
     Wikipedia (английска)
     Отвори източника
131. Ethics of Artificial Intelligence and Robotics
     Stanford Encyclopedia of Philosophy
     Отвори източника
132. Machine learning
     Wikipedia (английска)
     Отвори източника
133. Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead (Rudin)
     arXiv (Nature Machine Intelligence, 2019) · 2018-11-26
     Отвори източника
134. Tracing the thoughts of a large language model
     Anthropic · 2025-03-27
     Отвори източника
135. Underspecification Presents Challenges for Credibility in Modern Machine Learning (D'Amour et al.)
     arXiv (Journal of Machine Learning Research) · 2020-11-06
     Отвори източника
136. Shortcut Learning in Deep Neural Networks (Geirhos et al.)
     arXiv (Nature Machine Intelligence, 2020) · 2020-04-16
     Отвори източника
137. Intriguing properties of neural networks (Szegedy et al.)
     arXiv (ICLR 2014) · 2013-12-21
     Отвори източника
138. Explaining and Harnessing Adversarial Examples (Goodfellow, Shlens, Szegedy)
     arXiv (ICLR 2015) · 2014-12-20
     Отвори източника
139. Extracting Training Data from Large Language Models (Carlini et al.)
     arXiv (USENIX Security 2021) · 2020-12-14
     Отвори източника
140. AI models collapse when trained on recursively generated data (Shumailov et al.)
     Nature 631 · 2024-07-24
     Отвори източника
141. Leakage and the Reproducibility Crisis in ML-based Science (Kapoor, Narayanan)
     arXiv (Princeton University) · 2022-07-14
     Отвори източника
142. Energy and Policy Considerations for Deep Learning in NLP (Strubell, Ganesh, McCallum)
     arXiv (ACL 2019) · 2019-06-05
     Отвори източника
143. Energy and AI: Executive summary
     Международна агенция по енергетика (IEA) · 2025-04
     Отвори източника
144. The Debate Over Understanding in AI's Large Language Models (Mitchell, Krakauer)
     arXiv (PNAS, 2023) · 2022-10-14
     Отвори източника
145. Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Bender, Koller)
     ACL Anthology (ACL 2020) · 2020-07
     Отвори източника
146. The Debate Over Understanding in AI's Large Language Models (Mitchell, Krakauer)
     arXiv (PNAS, 2023) · 2022-10-14
     Отвори източника
147. AI Act
     Европейска комисия
     Отвори източника
148. International AI Safety Report 2026
     International AI Safety Report · 2026
     Отвори източника
149. International AI Safety Report 2026
     International AI Safety Report · 2026
     Отвори източника
150. The 2026 AI Index Report
     Stanford HAI · 2026
     Отвори източника
151. The 2026 AI Index Report
     Stanford HAI · 2026
     Отвори източника
152. The 2026 AI Index Report
     Stanford HAI · 2026
     Отвори източника
153. Towards end-to-end automation of AI research (Lu et al.)
     Nature 651 · 2026-03-25
     Отвори източника
154. EU initiative pushes AI tools for science but demands ethical research
     The Brussels Times · 2026-10-16
     Отвори източника
155. Gemini 4 Argon: our next era of frontier intelligence
     Google · 2026-09-30
     Отвори източника
156. Yann LeCun’s AMI Labs raises $1.03B to build world models
     TechCrunch · 2026-03-09
     Отвори източника