Prečo vám AI klame a "nehalucinuj" nepomôže

vitám vás pri ďalšom newsletteri.

Dnes sa pozrieme na chybu, ktorú robí 90 % ľudí pri práci s AI. Myslia si, že stačí na začiatok promptu napísať "nehalucinuj, over si fakty" a problém je vyriešený. Realita je trochu iná. A v dnešnom newsletteri vám ukážem, prečo to tak nefunguje, čo za tým reálne stojí, a hlavne čo s tým môžete spraviť, aby vám AI nepodsúvala presvedčivé nezmysly.

"Nehalucinuj" nefunguje. A tu je dôkaz.

Otestoval som jednu vec. Tá istá otázka o stave rumunskej ekonomiky, ten istý model (Gemini), len formulovaná z dvoch rôznych uhlov. V prvom prípade som sa AI spýtal neutrálne: "Je toto tvrdenie pravdivé?". V druhom prípade som ju navnadil opačne: "Toto nie je pravda, však? Mám pocit, že tie odhady boli inak."

Výsledok? Štyri úplne odlišné odpovede. Raz mi AI potvrdila, že tvrdenie je pravdivé. O dve minúty mi to isté tvrdenie označila za nezodpovedajúce realite, plné faktických chýb. Pri tej istej otázke, tom istom modeli, v ten istý deň.

Lenže v tom je ten problém. Keď AI napíšete "nehalucinuj", ona vám neodpovie pravdivejšie. Ona vám odpovie tak, aby ste boli spokojní. A v tom je tá kľúčová pasca.

Prečo AI radšej súhlasí, ako hovorí pravdu

V Anthropicu spravili štúdiu, kde analyzovali 15 000 hodnotení ľudí, ktorí dolaďovali AI modely. A zistili niečo, čo by malo zaujímať každého, kto AI používa pri serióznej práci.

Ľudia, ktorí AI dolaďovali, hodnotili odpovede ako lepšie, keď s nimi AI súhlasila, ako keď boli odpovede faktograficky správne. Konkrétne: v 95 % prípadov systém uprednostnil patolízalskú odpoveď pred správnou. Inak povedané, AI sa naučila, že byť po vôli sa oplatí viac, ako mať pravdu.

A toto nie je len problém Anthropicu. V marci 2026 vyšla v časopise Science štúdia Stanfordu (Sycophantic AI decreases prosocial intentions and promotes dependence), ktorá testovala 11 rôznych AI modelov na 2 400 ľuďoch. Modely od OpenAI, Anthropicu, Googlu, Mety, DeepSeeku, všetky vykazovali patolízalské správanie. AI v priemere potvrdzovala škodlivé alebo nesprávne tvrdenia o 49 % častejšie ako bežný človek.

Dôležité je, že to nie je bug. Je to dôsledok toho, ako sa AI trénuje. A keď AI klamete vy sugestívnou otázkou, ona to vyhodnotí ako "užívateľovi treba dať to, čo chce počuť".

Predstavte si to ako moju fotku

Mám pre vás jednoduchú analógiu. Pred časom som testoval generovanie fotiek v AI a mám tri vizuály, ktoré ukazujú presne to, čo sa deje aj pri texte.

Naľavo je originál. Som to ja, čierne pozadie, štúdio. V strede je verzia, kde som AI dal jednoduchú úlohu: zmeň iba prostredie, nech sedím na posteli. Uhol tváre, výraz, identita ostali rovnaké. AI použila face swap technológiu a vidno, že je to stále konzistentne ja. Toto je situácia, kedy je vstup jasný a AI ho zvládne.

Napravo som ale AI tlačil do nového uhla, do iného svetla, do inej kompozície. A v tom momente sa stalo presne to, čo sa deje aj pri texte. AI nemala dosť informácií, aby mi vrátila reálne mňa. Tak vygenerovala niečo, čo vyzerá pravdepodobne, niečo, aby som bol spokojný. Vznikol z toho môj bratranec. Niekto, kto sa na mňa podobá, ale nie som to ja.

A presne takto to funguje pri texte. Keď je vaša otázka jednoduchá a v rámci toho, čo AI dobre pozná, dostanete originál, alebo aspoň konzistentný face swap. Ale vo chvíli, keď AI tlačíte do nových uhlov, do okrajových otázok, do detailov, ktoré v tréningových dátach nemá, ona vám nepovie "neviem". Vygeneruje vám bratranca. Logicky pravdepodobný text, nie overený fakt. A to len preto, aby ste boli spokojní.

Ako to teda v skutočnosti funguje

Aby ste tomu rozumeli, treba pochopiť tri veci. Žiadna mágia, žiadne zaklínadlá, len mechanika.

Generatívna AI funguje na princípe pravdepodobnosti. Nepozerá si fakt v databáze, ako keď googlite. Predpovedá, aké slovo by malo logicky nasledovať za predchádzajúcim. Keď sa jej spýtate, kedy sa narodil Albert Einstein, ona nevie odpoveď. Ona vygeneruje najpravdepodobnejšiu postupnosť slov, ktorá vyzerá ako odpoveď.

Tréningové dáta sú knižnica, z ktorej čerpá. A táto knižnica nie je úplná. Niečo v nej chýba, niečo je zastarané, niečo je skreslené. Keď tam váš fakt nie je presne, AI ho doplní niečím, čo sa naň podobá. Bratranec.

Kontextové okno a dlhodobá pamäť sú nedokonalé. AI má limitovaný priestor, koľko si naraz zapamätá z konverzácie. A keď ho prekročí, začne zabúdať alebo dopĺňať. A dôležité je, že aj keď jej dáte všetky správne fakty, ona ich môže "stratiť" a nahradiť pravdepodobnou verziou.

Čo s tým? Dve konkrétne riešenia.

Toto je ale teória. A tu prichádza ten kľúčový bod. Halucinácie sa nedajú vypnúť promptom. Ale dajú sa obísť architektúrou práce s AI. Konkrétne dvomi spôsobmi.

Riešenie 1: Používajte NotebookLM. Toto je nástroj od Googlu, ktorý funguje úplne inak ako klasický chatbot. Vy mu nahráte zdroje, ktoré sám vyberiete. PDF, články, prepisy. A on môže odpovedať len z týchto zdrojov. Nemôže si nič domyslieť, nemôže vám podsúvať bratranca. A ak povie niečo, na čo nemá zdroj, povie vám to.

Detailne celý NotebookLM aj s reálnymi use casemi budem rozoberať vo webinári už 27.5. Pozrite si všetky info tu: kamilaujesky.com/webinar

Riešenie 2: Postavte si vlastný skript a spúšťajte ho dookola. Znie to komplikovane, ale príchodom Claude Cowork to vôbec tak nie je. Namiesto toho, aby ste pri každej úlohe AI promptovali nanovo a dúfali, že tentokrát to bude inak, použijete generatívnu AI na vytvorenie skriptu. A ten potom spúšťate stále s rovnakými inštrukciami nad rovnakými dátami. Konzistentne. Bez patolízactva, bez bratrancov. Toto sa deje automaticky práve cez Cowork. A presný návod, ako si to nastaviť aj vy, mám v klube. (btw, ak ste v klube tak máte aj ten webinár NotebookLM zadarmo)

🚀

AI Masterclass

Nauč sa využívať AI nástroje na maximum. Praktický kurz pre každého.

Chcem vedieť viac