Kako prepoznati kad ti ChatGPT laže - i što napraviti kad se to desi
Halucinacije su stvaran problem. Ali postoje znakovi koji te upozore - i navike koje smanje rizik.
Jedna kolegica mi je rekla: “Koristila sam ChatGPT da nađem istraživanje o učincima kratkih pauza na produktivnost. Dalo mi je studiju iz 2019., autore, sve. Dala sam to klijentu. Studija ne postoji.”
Nije greška u pretraživanju. ChatGPT je izmislio izvor koji zvuči točno, s autorima koji zvuče točno, s naslovom koji zvuči točno - i nije dao ni trag da nešto nije u redu.
To se zove halucinacija. I dešava se češće nego što misliš.
Što su AI halucinacije?
Halucinacija je kad AI model generira informaciju koja ne postoji ili nije točna - ali je prezentira s punim samopouzdanjem, bez upozorenja.
Nije to bug u klasičnom smislu. AI modeli rade tako da predviđaju koji tekst logično slijedi - ne da provjeravaju bazu podataka činjenica. Kad nemaju dovoljno informacija ili kad pitanje izlazi iz okvira onoga što znaju, ponekad popune prazninu generiranim sadržajem koji zvuči plauzibilno.
Koji tipovi halucinacija postoje?
1. Izmišljeni izvori i citati
“Prema istraživanju Sveučilišta Stanford iz 2022…” - studija ne postoji.
Ovo je najčešći i najdangerozan tip. AI izmisli naslov, autore, godinu, sve. Zvuči kao pravi citat.
2. Krivo atribuirani citati
Citat postoji, osoba postoji, ali ta osoba to nije rekla.
3. Faktografske pogreške
Kriva godina, kriva lokacija, krivu broj, kriva zakonska odredba. Obično sitne pogreške - ali sitne pogreške u ugovorima, pravu ili medicini mogu biti skupo.
4. Izmišljeni proizvodi, kompanije ili osobe
“Aplikacija XYZ vam omogućuje…” - aplikacija ne postoji.
5. Zastarjele informacije kao aktualne
ChatGPT ima cutoff datum za znanje. Prezentira informacije iz 2023. kao da su aktualne u 2026.
Kako prepoznati halucinaciju - 5 znakova
Znak 1: Visoko samopouzdanje bez oklijevanja
Kad AI odgovori na kompleksno pitanje bez ijednog “moguće je da…”, “prema dostupnim podacima…” ili “ne mogu to sa sigurnošću potvrditi” - to je signal.
Dobar AI odgovor na nesigurno pitanje uključuje jezično odmjeravanje. Potpuno siguran odgovor na nešto što je kompleksno ili nedavno - treba provjeru.
Znak 2: Specifični detalji koji zvuče previše precizno
“Studija iz listopada 2021., objavljena u Journal of Applied Psychology, br. 67, str. 234-251, autori: Johnson, K., Martinez, R., i Chen, L…”
Kad je izvor previše detaljan, to je ironično sumnjiivo. Pravi izvori se mogu pronaći online. Ove detalje provjeri.
Znak 3: Informacija o kojoj nisi čuo/la ranije, a tiče se tebe
Ako ChatGPT tvrdi nešto o tvojoj industriji, tvojim lokalnim propisima ili tvojoj struci, i ti to nikad nisi čuo/la - nemoj automatski vjerovati da je AI bolji od tvojih godina iskustva. Provjeri.
Znak 4: Citati poznatih osoba
“Kako je Einstein rekao…” - nije nužno rekao. Popularni citati koji kruže internetom su često krivo atribuirani, a AI ih preuzima jer su uobičajeni.
Znak 5: Pravna, medicinska ili financijska tvrdnja
Ova kategorija zahtijeva automatsku provjeru bez obzira koliko sigurno zvuči. Informacije u ovim domenama mijenjaju se po jurisdikciji i po godini. AI nema tu razinu preciznosti.
Što napraviti kad posumnjate na halucinaciju
Korak 1: Pitaj za izvor direktno
“Možeš li mi dati puni citat za tu studiju - autori, naslov, godina, časopis, DOI?”
Ako izmisli, detalji će biti konzistentni ali neprovjerjivi. Ako zna pravi izvor, dat će ga. Provjeri na Google Scholaru ili direktno na web stranici časopisa.
Korak 2: Pitaj “Jesi li siguran?”
“Jesi siguran da ta studija postoji? Koliko si pouzdan u ovu informaciju?”
Ponekad AI promijeni odgovor ili prizna neizvjesnost kad ga direktno pitaš. To je korisno.
Korak 3: Traži alternativne izvore
“Postoji li još neki izvor koji potvrđuje ovu tvrdnju?”
Ako AI može navesti više izvora koji se slažu, šanse su veće da tvrdnja stoji - ali svaki izvor ipak provjeri.
Korak 4: Provjeri van AI-a
Za svaku tvrdnju koja ide u javni sadržaj - Google Scholars, PubMed, Statista, službene web stranice. 3 minute provjere bolje od isprike klijentu.
Kako smanjiti halucinacije - navike u promptanju
Halucinacije ne možeš eliminirati u potpunosti, ali možeš ih smanjiti:
Reci AI-u da prizna kad ne zna:
“Ako nisi siguran u neku informaciju, reci to eksplicitno umjesto da nagađaš.”
Ovo pomaže - AI češće uključi odmjereni jezik kad ga eksplicitno potičeš na to.
Izbjegavaj pitanja o specifičnim izvorima:
Umjesto “Koja studija pokazuje X?” - pitaj “Što je uobičajeni stav u literaturi o X?” Prvo pitanje poziva na specifičan citat koji AI može izmisliti. Drugo pitanje traži opći pregled koji je lakše provjeriti.
Koristi AI za strukturu, ne za činjenice:
AI je odličan za: pisanje, strukturiranje, brainstorming, sažimanje teksta koji ti daš. Manje pouzdano za: specifične statistike, pravne detalje, medicinske tvrdnje, nedavne događaje.
Za faktografski sadržaj, daj AI izvore - ne traži da ih pronalazi:
Umjesto: “Koji su statistički podaci o korištenju AI-a u regiji?”
Bolje: “Evo podataka iz izvješća XYZ [zalijepi]: napiši mi sažetak u 3 točke.”
Kad mu daješ izvore, AI sažima - ne izmišlja.
Claude vs ChatGPT - tko više halucinira?
Oba haluciniraju. Noviji modeli manje nego stariji - ali nije eliminirano ni u jednom.
Claude je generalno malo konzervativniji i češće kaže “ne znam” ili “nisam siguran” - što je u ovom kontekstu prednost. Ali to nije razlog za opuštenost.
Pravilo koje vrijedi za oba: sve što ide van pod tvojim imenom - provjeri.
Jedna perspektiva koja pomaže
Halucinacije nisu razlog da ne koristiš AI. To je razlog da ga koristiš kao asistenta, ne kao autoritet.
Kad daješ zadatak suradniku koji je nov u tvrtki - provjeriš njegov rad. Ne zato što mu ne vjeruješ, nego zato što je provjera dio procesa. Isti princip.
AI ti uštedi sate na pisanju i strukturiranju. Ti uloži 3 minute na provjeru činjenica koje idu van. To je dobar posao.
Besplatni vodič “5 Claude trikova koje nisam znala na početku” uključuje i kako postaviti Claude da češće govori kad nije siguran.