Je bent hier omdat je AI als een bron gebruikte om een punt te maken.

Antwoorden van Large Language Models (LLM's) als ChatGPT, Claude en Gemini zijn geen feiten.

Ze voorspellen welke woorden het waarschijnlijkst volgen op woorden in een zin.

De informatie die ze geven kan overtuigend klinken, maar die hoeft niet waar of betrouwbaar te zijn.

Stel je iemand voor die duizenden boeken gelezen heeft, maar niet onthouden heeft waar die wat las.

Waar zou die persoon goed in zijn?

En waar zou die persoon slecht in zijn?

Natuurlijk, je kan een kloppend antwoord of goed advies krijgen… maar welke “boeken” zijn het die de AI “herinnerde” om tot dat antwoord of advies te komen? Het antwoord is een veelvoorkomende combinatie van woorden, geen feit.

Kopiëer niets wat een chatbot zegt alsof het een feit is.

Daarmee zeg je eigenlijk: “hier is een handjevol woorden dat vaak samen gaat in een zin.”

Soms kan het handig zijn of inzicht geven. Maar het is geen waarheid, en het is nooit een definitieve bron in een kwestie.

Lees meer:

• OpenAI: Why language models hallucinate
• Oxford University: Large Language Models pose risk to science with false answers, says Oxford study
• New York Times: A.I. Is Getting More Powerful, but Its Hallucinations Are Getting Worse (Archived Version)
• MIT Media Lab: People Overtrust AI-Generated Medical Advice despite Low Accuracy
• Business Insider: Why AI chatbots hallucinate, according to OpenAI researchers
• Reuters: AI 'hallucinations' in court papers spell trouble for lawyers
• MIT Technology Review: How AI is introducing errors into courtrooms
• Nature: AI chatbots are sycophants — researchers say it's harming science
• CNN: Parents of 16-year-old sue OpenAI, claiming ChatGPT advised on his suicide
• Financial Times: The 'hallucinations' that haunt AI: why chatbots struggle to tell the truth (Archived Version)
• The Guardian: 'Sycophantic' AI chatbots tell users what they want to hear, study shows
• PCMag: Vibe Coding Fiasco: AI Agent Goes Rogue, Deletes Company's Entire Database