# Халюцинации на езиковите модели В областта на изкуствения интелект халюцинация е отговор, генериран от ИИ, който съдържа невярна или подвеждаща информация, представена като факт; явлението се нарича още конфабулация или „мираж“. OpenAI определя халюцинациите като правдоподобни, но неверни твърдения, генерирани от езикови модели, и отбелязва, че те остават основно предизвикателство за всички големи езикови модели. Според изследователите от компанията моделите халюцинират, защото стандартните процедури за обучение и оценка възнаграждават отгатването, а не признаването на несигурност. ## Термин Терминът прави свободна аналогия с човешката психология, където халюцинацията обикновено означава лъжливи възприятия[5]. През 2023 г. речникът на Кеймбридж обновява определението на думата „халюцинация“, за да включи това ново значение, специфично за ИИ[6]. Част от изследователите смятат думата за неточна. Хикс, Хъмфрис и Слейтър твърдят в списание Ethics and Information Technology, че изходът на големите езикови модели е „дрън-дрън“ (bullshit) по определението на философа Хари Франкфърт, тъй като моделите са „по важен начин безразлични към истинността на изхода си“[7]. Изследователи от Оксфорд, публикували в Nature, разглеждат като отделен подвид „конфабулациите“ — твърдения, които са едновременно грешни и произволни, т.е. зависят от несъществени подробности като случайното начално число на генерирането[8]. ## Причини Според статията на Адам Тауман Калай и съавтори от 2025 г. халюцинациите не са нещо мистериозно: те възникват като грешки при двоична класификация. Ако неверните твърдения не могат да се отличат от фактите, халюцинациите в предварително обучените модели възникват от естествен статистически натиск[9]. Те се запазват заради начина, по който се оценяват моделите: моделите са оптимизирани да бъдат добри при изпитване, а отгатването при несигурност подобрява резултата[10]. OpenAI дава пример: ако модел не знае нечия рождена дата и отгатне „10 септември“, шансът да е прав е 1 към 365, докато „не знам“ гарантира нула точки; при хиляди въпроси отгатващият модел изглежда по-добре в класациите от внимателния[11]. Авторите предлагат решението да е социотехническо — промяна в точкуването на съществуващите водещи тестове, а не въвеждане на още тестове за халюцинации[12]. Тестът TruthfulQA от 2021 г. съдържа 817 въпроса в 38 области, на които някои хора отговарят невярно заради погрешни вярвания. Най-добрият изпитан модел е истинен при 58% от въпросите срещу 94% при хората[13], а най-големите модели като цяло са най-малко истинни — за разлика от други задачи, където резултатите се подобряват с размера на модела[14]. ## Последици През юни 2023 г. федерален съдия в Ню Йорк налага солидарна глоба от 5000 долара на двама адвокати и тяхната кантора по делото Mata срещу Avianca[15]. Причината е, че са представили несъществуващи съдебни решения с фалшиви цитати, създадени от ChatGPT, и продължили да ги защитават, след като съдът поставя съществуването им под въпрос[16]. Базата данни на юриста Дамиен Шарлотен, която проследява съдебни решения по такива случаи по света, наброява 2207 случая[17]. Трибунал в Британска Колумбия задължава Air Canada да плати 812 канадски долара на пътник, получил грешен съвет от чатбота на авиокомпанията за намалените тарифи при смърт в семейството[18]. Компанията твърди, че чатботът е „отделно юридическо лице, отговорно за собствените си действия“, а членът на трибунала Кристофър Ривърс отговаря, че чатботът е просто част от уебсайта на Air Canada[19]. През декември 2024 г. BBC проверява четири ИИ асистента — ChatGPT, Copilot, Gemini и Perplexity — със 100 въпроса за новините[20]. 51% от отговорите имат съществени проблеми, 19% от отговорите, цитиращи BBC, внасят фактически грешки, а 13% от цитатите от статии на BBC са променени или липсват в цитираната статия[21]. ## Откриване и ограничаване Методът „семантична ентропия“, публикуван в Nature през 2024 г., оценява несигурността на модела на ниво смисъл, а не на конкретна последователност от думи, като отчита, че една идея може да се изрази по много начини; така той открива конфабулациите и при нови въпроси[22]. Генерирането, допълнено с извличане (RAG), съчетава параметричната памет на предварително обучен модел с непараметрична памет — в първоначалната работа това е векторен индекс на Уикипедия, достъпван чрез невронен механизъм за търсене[23]. Подходът дава на модела проверими източници, но не премахва грешките сам по себе си. OpenAI отбелязва, че моделът GPT-5 халюцинира значително по-рядко, особено когато разсъждава, но халюцинациите все още се срещат[24]. Компанията препоръчва грешките да се наказват по-тежко от въздържането от отговор, тъй като по-добре е моделът да посочи несигурност или да поиска уточнение[25]. ## Значение за енциклопедиите Халюцинациите са основна причина ИИ-генерираното съдържание да се проверява срещу първоизточници. Обзорът на Ji и съавтори отбелязва, че генерирането на текст с дълбоко обучение е склонно да „халюцинира“ непредвиден текст, което влошава работата на системите и не отговаря на очакванията на потребителите в много реални приложения[26]. В WikiB всяко твърдение има бележка с дословен откъс от източника, който се проверява автоматично преди човешкия преглед. ## Вижте също - [Голям езиков модел](https://wikib.online/article/golyam-ezikov-model) - [Разминавания между Уикипедия и първичните източници: трети кръг](https://wikib.online/article/razminavania-uikipediya-parvichni-iztochnitsi-treti-krag) - [Разминавания между Уикипедия и първичните източници: втори кръг](https://wikib.online/article/razminavania-uikipediya-parvichni-iztochnitsi-vtori-krag) - [Грешки и слабости на Уикипедия](https://wikib.online/article/greshki-i-slabosti-na-uikipediya) - [Anthropic](https://wikib.online/article/anthropic) - [Проверка на факти](https://wikib.online/article/proverka-na-fakti) - [Медийна грамотност](https://wikib.online/article/mediyna-gramotnost) - [Европейският щит за демокрацията](https://wikib.online/article/evropeyski-shtit-za-demokratsiyata) - [Community Notes: краудсорсинг проверка на факти в X](https://wikib.online/article/community-notes-x-krautsorsing) - [Дезинформацията около изборите в България през 2026 г.](https://wikib.online/article/dezinformatsia-izbori-balgaria-2026) ## Доказателства към твърденията 1. Hallucination (artificial intelligence) — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence) 2. Why language models hallucinate — https://openai.com/index/why-language-models-hallucinate/ 3. Why language models hallucinate — https://openai.com/index/why-language-models-hallucinate/ 4. Why language models hallucinate — https://openai.com/index/why-language-models-hallucinate/ 5. Hallucination (artificial intelligence) — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence) 6. Hallucination (artificial intelligence) — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence) 7. Hallucination (artificial intelligence) — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence) 8. Detecting hallucinations in large language models using semantic entropy — https://www.nature.com/articles/s41586-024-07421-0 9. Why Language Models Hallucinate — https://arxiv.org/abs/2509.04664 10. Why Language Models Hallucinate — https://arxiv.org/abs/2509.04664 11. Why language models hallucinate — https://openai.com/index/why-language-models-hallucinate/ 12. Why Language Models Hallucinate — https://arxiv.org/abs/2509.04664 13. TruthfulQA: Measuring How Models Mimic Human Falsehoods — https://arxiv.org/abs/2109.07958 14. TruthfulQA: Measuring How Models Mimic Human Falsehoods — https://arxiv.org/abs/2109.07958 15. Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y.), Opinion and Order on Sanctions — https://law.justia.com/cases/federal/district-courts/new-york/nysdce/1:2022cv01461/575368/54/ 16. Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y.), Opinion and Order on Sanctions — https://law.justia.com/cases/federal/district-courts/new-york/nysdce/1:2022cv01461/575368/54/ 17. AI Hallucination Cases Database — https://www.damiencharlotin.com/hallucinations/ 18. Air Canada found liable for chatbot's bad advice on plane tickets — https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416 19. Air Canada found liable for chatbot's bad advice on plane tickets — https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416 20. Representation of BBC News content in AI Assistants — https://www.bbc.co.uk/aboutthebbc/documents/bbc-research-into-ai-assistants.pdf 21. Representation of BBC News content in AI Assistants — https://www.bbc.co.uk/aboutthebbc/documents/bbc-research-into-ai-assistants.pdf 22. Detecting hallucinations in large language models using semantic entropy — https://www.nature.com/articles/s41586-024-07421-0 23. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — https://arxiv.org/abs/2005.11401 24. Why language models hallucinate — https://openai.com/index/why-language-models-hallucinate/ 25. Why language models hallucinate — https://openai.com/index/why-language-models-hallucinate/ 26. Survey of Hallucination in Natural Language Generation — https://arxiv.org/abs/2202.03629 ## Метаданни - Каноничен URL: https://wikib.online/article/halyutsinatsii-na-ezikovite-modeli - Лиценз: CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/) - Ревизия: 1 - Статус: published - Език: bg - JSON: https://wikib.online/api/public/articles/halyutsinatsii-na-ezikovite-modeli