Sei qui perché hai citato l’IA come fonte per dimostrare la verità e l’attendibilità di qualcosa.

Le risposte degli LLM (Large Language Models, modelli linguistici di grandi dimensioni) come ChatGPT, Claude o Gemini non sono fatti.

Questi modelli si limitano a predire quale parola abbia la maggiore probabilità di comparire come continuazione di una sequenza.

Possono generare informazioni che suonano convincenti, ma tali informazioni possono essere errate, incomplete o del tutto inaffidabili.

Immagina qualcuno che abbia letto migliaia di libri, ma non ricordi dove abbia letto quello che ha letto.

Cosa saprebbe fare bene?

Cosa farebbe male?

Certo, potresti anche ricevere una risposta corretta o un buon consiglio… ma quali “libri” sta “ricordando” quando ti fornisce quella risposta? Quella risposta, o quel consiglio, non è un fatto: è soltanto una combinazione di parole plausibile e credibile.

Non inviare risposte copincollate da una “conversazione” con un chatbot basato sull’IA facendole passare per fonti autorevoli.

Così facendo, stai di fatto dicendo: «ecco una sequenza di parole che di solito, nelle frasi, stanno vicine».

A volte può persino risultare utile o brillante, ma non è una verità, e di sicuro non è l’ultima parola su nessun tema.

Ulteriori informazioni:

• OpenAI: Why language models hallucinate
• Oxford University: Large Language Models pose risk to science with false answers, says Oxford study
• New York Times: A.I. Is Getting More Powerful, but Its Hallucinations Are Getting Worse (Archived Version)
• MIT Media Lab: People Overtrust AI-Generated Medical Advice despite Low Accuracy
• Business Insider: Why AI chatbots hallucinate, according to OpenAI researchers
• Reuters: AI 'hallucinations' in court papers spell trouble for lawyers
• MIT Technology Review: How AI is introducing errors into courtrooms
• Nature: AI chatbots are sycophants — researchers say it's harming science
• CNN: Parents of 16-year-old sue OpenAI, claiming ChatGPT advised on his suicide
• Financial Times: The ‘hallucinations’ that haunt AI: why chatbots struggle to tell the truth (Archived Version)
• The Guardian: ‘Sycophantic’ AI chatbots tell users what they want to hear, study shows
• PCMag: Vibe Coding Fiasco: AI Agent Goes Rogue, Deletes Company’s Entire Database
• Stephen Wolfram: What Is ChatGPT Doing and Why Does It Work?