Халюцинации на езиковите модели
В областта на изкуствения интелект халюцинация е отговор, генериран от ИИ, който съдържа невярна или подвеждаща информация, представена като факт; явлението се нарича още конфабулация или „мираж“[1]. OpenAI определя халюцинациите като правдоподобни, но неверни твърдения, генерирани от езикови модели[2], и отбелязва, че те остават основно предизвикателство за всички големи езикови модели[3]. Според изследователите от компанията моделите халюцинират, защото стандартните процедури за обучение и оценка възнаграждават отгатването, а не признаването на несигурност[4].
Термин
Терминът прави свободна аналогия с човешката психология, където халюцинацията обикновено означава лъжливи възприятия[5]. През 2023 г. речникът на Кеймбридж обновява определението на думата „халюцинация“, за да включи това ново значение, специфично за ИИ[6].
Част от изследователите смятат думата за неточна. Хикс, Хъмфрис и Слейтър твърдят в списание Ethics and Information Technology, че изходът на големите езикови модели е „дрън-дрън“ (bullshit) по определението на философа Хари Франкфърт, тъй като моделите са „по важен начин безразлични към истинността на изхода си“[7].
Изследователи от Оксфорд, публикували в Nature, разглеждат като отделен подвид „конфабулациите“ — твърдения, които са едновременно грешни и произволни, т.е. зависят от несъществени подробности като случайното начално число на генерирането[8].
Причини
Според статията на Адам Тауман Калай и съавтори от 2025 г. халюцинациите не са нещо мистериозно: те възникват като грешки при двоична класификация. Ако неверните твърдения не могат да се отличат от фактите, халюцинациите в предварително обучените модели възникват от естествен статистически натиск[9].
Те се запазват заради начина, по който се оценяват моделите: моделите са оптимизирани да бъдат добри при изпитване, а отгатването при несигурност подобрява резултата[10]. OpenAI дава пример: ако модел не знае нечия рождена дата и отгатне „10 септември“, шансът да е прав е 1 към 365, докато „не знам“ гарантира нула точки; при хиляди въпроси отгатващият модел изглежда по-добре в класациите от внимателния[11].
Авторите предлагат решението да е социотехническо — промяна в точкуването на съществуващите водещи тестове, а не въвеждане на още тестове за халюцинации[12].
Тестът TruthfulQA от 2021 г. съдържа 817 въпроса в 38 области, на които някои хора отговарят невярно заради погрешни вярвания. Най-добрият изпитан модел е истинен при 58% от въпросите срещу 94% при хората[13], а най-големите модели като цяло са най-малко истинни — за разлика от други задачи, където резултатите се подобряват с размера на модела[14].
Последици
През юни 2023 г. федерален съдия в Ню Йорк налага солидарна глоба от 5000 долара на двама адвокати и тяхната кантора по делото Mata срещу Avianca[15]. Причината е, че са представили несъществуващи съдебни решения с фалшиви цитати, създадени от ChatGPT, и продължили да ги защитават, след като съдът поставя съществуването им под въпрос[16].
Базата данни на юриста Дамиен Шарлотен, която проследява съдебни решения по такива случаи по света, наброява 2207 случая[17].
Трибунал в Британска Колумбия задължава Air Canada да плати 812 канадски долара на пътник, получил грешен съвет от чатбота на авиокомпанията за намалените тарифи при смърт в семейството[18]. Компанията твърди, че чатботът е „отделно юридическо лице, отговорно за собствените си действия“, а членът на трибунала Кристофър Ривърс отговаря, че чатботът е просто част от уебсайта на Air Canada[19].
През декември 2024 г. BBC проверява четири ИИ асистента — ChatGPT, Copilot, Gemini и Perplexity — със 100 въпроса за новините[20]. 51% от отговорите имат съществени проблеми, 19% от отговорите, цитиращи BBC, внасят фактически грешки, а 13% от цитатите от статии на BBC са променени или липсват в цитираната статия[21].
Откриване и ограничаване
Методът „семантична ентропия“, публикуван в Nature през 2024 г., оценява несигурността на модела на ниво смисъл, а не на конкретна последователност от думи, като отчита, че една идея може да се изрази по много начини; така той открива конфабулациите и при нови въпроси[22].
Генерирането, допълнено с извличане (RAG), съчетава параметричната памет на предварително обучен модел с непараметрична памет — в първоначалната работа това е векторен индекс на Уикипедия, достъпван чрез невронен механизъм за търсене[23]. Подходът дава на модела проверими източници, но не премахва грешките сам по себе си.
OpenAI отбелязва, че моделът GPT-5 халюцинира значително по-рядко, особено когато разсъждава, но халюцинациите все още се срещат[24]. Компанията препоръчва грешките да се наказват по-тежко от въздържането от отговор, тъй като по-добре е моделът да посочи несигурност или да поиска уточнение[25].
Значение за енциклопедиите
Халюцинациите са основна причина ИИ-генерираното съдържание да се проверява срещу първоизточници. Обзорът на Ji и съавтори отбелязва, че генерирането на текст с дълбоко обучение е склонно да „халюцинира“ непредвиден текст, което влошава работата на системите и не отговаря на очакванията на потребителите в много реални приложения[26]. В WikiB всяко твърдение има бележка с дословен откъс от източника, който се проверява автоматично преди човешкия преглед.
Вижте също
- Голям езиков модел
- Разминавания между Уикипедия и първичните източници: трети кръг
- Разминавания между Уикипедия и първичните източници: втори кръг
- Грешки и слабости на Уикипедия
- Anthropic
- Проверка на факти
- Медийна грамотност
- Европейският щит за демокрацията
- Community Notes: краудсорсинг проверка на факти в X
- Дезинформацията около изборите в България през 2026 г.
Доказателства към твърденията
-
Hallucination (artificial intelligence)
WikipediaОтвори източника
-
Why language models hallucinate
OpenAI · 2025-09-05Отвори източника
-
Why language models hallucinate
OpenAI · 2025-09-05Отвори източника
-
Why language models hallucinate
OpenAI · 2025-09-05Отвори източника
-
Hallucination (artificial intelligence)
WikipediaОтвори източника
-
Hallucination (artificial intelligence)
WikipediaОтвори източника
-
Hallucination (artificial intelligence)
WikipediaОтвори източника
-
Detecting hallucinations in large language models using semantic entropy
Nature · 2024-06-19Отвори източника
-
Why Language Models Hallucinate
arXiv · 2025-09-04Отвори източника
-
Why Language Models Hallucinate
arXiv · 2025-09-04Отвори източника
-
Why language models hallucinate
OpenAI · 2025-09-05Отвори източника
-
Why Language Models Hallucinate
arXiv · 2025-09-04Отвори източника
-
TruthfulQA: Measuring How Models Mimic Human Falsehoods
arXiv · 2021-09-08Отвори източника
-
TruthfulQA: Measuring How Models Mimic Human Falsehoods
arXiv · 2021-09-08Отвори източника
-
Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y.), Opinion and Order on Sanctions
Justia / U.S. District Court for the Southern District of New York · 2023-06-22Отвори източника
-
Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y.), Opinion and Order on Sanctions
Justia / U.S. District Court for the Southern District of New York · 2023-06-22Отвори източника
-
AI Hallucination Cases Database
Damien CharlotinОтвори източника
-
Air Canada found liable for chatbot's bad advice on plane tickets
CBC News · 2024-02-15Отвори източника
-
Air Canada found liable for chatbot's bad advice on plane tickets
CBC News · 2024-02-15Отвори източника
-
Representation of BBC News content in AI Assistants
BBC · 2025-02Отвори източника
-
Representation of BBC News content in AI Assistants
BBC · 2025-02Отвори източника
-
Detecting hallucinations in large language models using semantic entropy
Nature · 2024-06-19Отвори източника
-
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
arXiv · 2020-05-22Отвори източника
-
Why language models hallucinate
OpenAI · 2025-09-05Отвори източника
-
Why language models hallucinate
OpenAI · 2025-09-05Отвори източника
-
Survey of Hallucination in Natural Language Generation
arXiv · 2022-02-08Отвори източника