Halucynacje AI w sądach: baza Charlotina po roku liczy ponad 1300 przypadków

Halucynacja w sztucznej inteligencji to odpowiedź wygenerowana przez model, która zawiera fałszywe lub mylące informacje, a mimo to jest przedstawiona jako fakt. Najczęściej chodzi o duże modele językowe (LLM), czyli chatboty pokroju ChatGPT, które potrafią wpleść w tekst wiarygodnie brzmiące zmyślenia, na przykład nieistniejące cytowania. Przeczytałem hasło o tym zjawisku w angielskojęzycznej Wikipedii i zostawiłem w tekście tylko to, co ma datę, liczbę albo nazwę sprawy.

Skąd wzięło się słowo "halucynacja"

Termin ma starszą historię, niż sugeruje szum wokół chatbotów. W widzeniu komputerowym od lat 2000 "halucynowanie" oznaczało dodawanie szczegółów do obrazu, by go ulepszyć, na przykład przy tworzeniu zdjęć twarzy w wysokiej rozdzielczości z małych. W znaczeniu błędu pojawia się później.

Wcześniej, 15 listopada 2022, badacze Meta AI opublikowali model Galactica, który miał "przechowywać, łączyć i wnioskować o wiedzy naukowej". Ostrzegał, że wyniki mogą być niewiarygodne. W jednym z przypadków przy pisaniu pracy o awatarach przywołał nieistniejący artykuł prawdziwego autora. Meta wycofała Galacticę 17 listopada, po dwóch dniach, z powodu obraźliwych i nieścisłych treści.

Dlaczego modele zmyślają

Według hasła przyczyn jest kilka. Trening modeli GPT polega na przewidywaniu następnego słowa, co zachęca je do "zgadywania", nawet gdy brakuje informacji. Błędy biorą się też z niepełnych, niedokładnych lub niereprezentatywnych zbiorów danych. Modele często powtarzają popularne mity, teorie spiskowe i wątki z fikcji potraktowane jak fakty. Strojenie chatbota pod milszą osobowość zwykle obniża trafność, bo model chętniej zgadza się z użytkownikiem.

Osobny wątek to badania interpretowalności firmy Anthropic nad modelem Claude z 2025 roku. Według nich model ma wewnętrzne obwody, które domyślnie blokują odpowiedź.

Badacze uznali więc, że halucynacje pojawiają się, gdy to hamowanie włącza się niesłusznie.

Sądy: baza z ponad 1300 przypadków

Najlepiej udokumentowane są konsekwencje w prawie. W latach 2020 kancelarie zaczęły używać generatywnej AI do researchu, a do sądów trafiło wiele pism z halucynacjami. Sędziowie w USA karali lub upominali prawników. Damien Charlotin, wykładowca analizy danych prawnych w HEC Paris i Sciences Po, założył w kwietniu 2025 bazę "AI Hallucination Cases". Rok później wymieniała ponad 1300 przypadków.

Kilka przykładów z hasła:

• Mata v. Avianca (USA). W maju 2023 wyszło na jaw, że Stephen Schwartz złożył w sądzie w Nowym Jorku pismo z sześcioma fałszywymi precedensami wygenerowanymi przez ChatGPT. Twierdził, że wcześniej nie używał ChatGPT. Chatbot podtrzymywał autentyczność precedensów nawet po wykryciu, że nie istnieją. Sędzia P. Kevin Castel umorzył sprawę 23 czerwca 2023 i nałożył 5000 dolarów kary na Schwartza i drugiego prawnika.
• Moffatt v. Air Canada (Kanada). W lutym 2024 trybunał (Civil Resolution Tribunal) nakazał linii zapłacić odszkodowanie klientowi i uznać politykę zniżek żałobnych, którą wymyślił chatbot obsługi. Bot twierdził, że o zniżkę można wnioskować wstecznie w ciągu 90 dni od wystawienia biletu, a faktyczne zasady na to nie pozwalają.
• Sąd Najwyższy stanu Georgia (USA). 18 marca 2026 prezes sądu Nels S. D. Peterson wskazał w dokumencie prokuratury co najmniej pięć fikcyjnych cytowań i pięć kolejnych, które nie potwierdzały tezy. Prokurator Deborah Leslie przyznała w oświadczeniu, że nie zweryfikowała wyników AI. Sąd uchylił orzeczenie niższej instancji, a Leslie zawiesił w prawie występowania przed tym sądem na sześć miesięcy.

Zjawisko nie ogranicza się do USA. Według hasła do 14 czerwca 2026 sądy i trybunały w Kanadzie dostały co najmniej 167 pism z fikcyjnymi cytowaniami AI, w 51 sądach i trybunałach. W Izraelu do sierpnia 2026 zidentyfikowano co najmniej 55 takich spraw. W Anglii i Walii High Court skrytykował pisma z halucynowanymi źródłami w połączonej sprawie z 2025 roku, Ayinde v Haringey i Al-Haroun v Qatar.

Nauka i konsulting: fałszywe przypisy

W pracy naukowej problemem są źródła, które nie istnieją. Badanie z 2023 roku opisane w Cureus Journal of Medical Science objęło 178 przypisów wygenerowanych przez GPT-3.

Podobnie Jerome Goddard z Mississippi State University opisał w 2023 roku, że ChatGPT podał wątpliwe informacje o kleszczach. Po sprawdzeniu źródła okazało się, że DOI i nazwiska autorów były zmyślone, a część wskazanych autorów potwierdziła, że nie zna takiej pracy. Goddard zaleca, by lekarze i badacze nie pytali ChatGPT o źródła, a jeśli już, to by każde sprawdzali.

Błędy dotarły też do doradztwa dla rządów. W październiku 2025 w raporcie Deloitte za A$440 000, złożonym rządowi Australii w lipcu, znaleziono nieistniejące źródła akademickie i zmyślony cytat z wyroku sądu federalnego. Firma złożyła poprawioną wersję i ma zwrócić część wynagrodzenia. W listopadzie 2025 kanadyjski The Independent z Nowej Fundlandii i Labradoru ustalił, że plan zasobów ludzkich w ochronie zdrowia za 1,6 mln CA$, także przygotowany przez Deloitte, zawierał co najmniej cztery fałszywe cytowania nieistniejących prac.

Spór o samo słowo

Nie wszyscy chcą mówić o "halucynacjach". Usama Fayyad z Northeastern University uważa, że termin personifikuje modele i jest nieprecyzyjny. Mary Shaw nazwała modę na to słowo "appalling", bo przedstawia zwykłe błędy jako idiosynkratyczne dziwactwa systemu. Statystyk Gary Smith argumentuje, że LLM "nie rozumieją, co znaczą słowa". W styczniu 2026 Emily M. Bender i Nanna Inie skrytykowały antropomorfizację AI i zaproponowały określenie "undesirable output".

Jest też głos w drugą stronę: część badaczy widzi te wyniki nie jako złudzenia, lecz jako coś na kształt wczesnych hipotez naukowych, które mają pewną szansę bycia prawdziwymi.

Pytania i odpowiedzi

Czy halucynacje dotyczą tylko tekstu?

Nie. Modele obrazu też dają nieoczekiwane wyniki. Hasło podaje przykład Gemini, który przedstawił niemieckich żołnierzy z czasów nazizmu jako osoby kolorowe, przez co Google wstrzymał generowanie obrazów z ludźmi. W 2018 roku Wired opisał przykład z rozpoznawaniem obiektów, gdy Google Cloud Vision uznał zdjęcie dwóch mężczyzn na nartach za "psa" z 91-procentowym prawdopodobieństwem.

Czy firma odpowiada za błąd swojego chatbota?

W sprawie Moffatt v. Air Canada trybunał odrzucił argument linii, że chatbot jest "osobnym podmiotem prawnym odpowiedzialnym za własne działania". Firma musiała wypłacić odszkodowanie. To jedno orzeczenie opisane w haśle, nie ogólna zasada.

Jakie są alternatywne nazwy dla halucynacji AI?

W literaturze pojawiają się konfabulacje, fabrykacje i błędy merytoryczne. Zaproponowano też słowo "mirage" (miraż), które podkreśla, że fałszywe odpowiedzi wynikają z danych treningowych i reguł wbudowanych w model, a nie z "oderwania od rzeczywistości".

Czy każda AI halucynuje?

Według hasła modele symboliczne zazwyczaj nie wytwarzają halucynacji, w przeciwieństwie do dużych modeli językowych.

Źródła

• Wikipedia (en) - Hallucination (artificial intelligence))

Widzisz błąd albo nieścisłość? Napisz - poprawię i dopiszę datę aktualizacji.