Wat is Hallucinatie?
Een hallucinatie is een antwoord dat een AI zelfverzekerd geeft, maar dat verzonnen of onjuist is.
AI raadt steeds het meest waarschijnlijke vervolg. Daardoor kan het met volle overtuiging iets vertellen dat gewoon niet klopt: een verzonnen bron, een verkeerd getal, een naam die niet bestaat. Dat heet een hallucinatie. Het is geen liegen, want het programma weet niet eens dat het fout zit. Het klinkt alleen altijd even stellig.
Dit is de belangrijkste reden om AI-antwoorden altijd na te kijken, zeker bij namen, cijfers, bronnen en feiten. De zekere toon zegt niets over de juistheid.
Precies gezegd
Het model maakt geen fout die het zelf kan merken. Het rekent uit welk woord waarschijnlijk volgt en heeft geen manier om te controleren of de uitkomst waar is. Een verzonnen en een juist antwoord komen op precies dezelfde manier tot stand.
Veelgemaakte misvatting
Dat een AI het wel zegt als het iets niet weet. Dat kan het niet: het weet niet wat het niet weet.
Lees de hele les: Waarom verzint AI soms dingen? →
Verwante woorden
Leer AI rustig begrijpen
Dit woord is een begin. De leerlijn van inklaretaal legt AI stap voor stap uit in klare taal, afgestemd op jouw vak. De eerste maand is gratis.