Du har skickats hit för att du använde AI som källa för att försöka bevisa något.

Svar från stora språkmodeller som ChatGPT, Claude eller Gemini är inte fakta.

De försöker förutsäga vilka ord som sannolikt kommer härnäst i en textsekvens.

De kan skapa information som låter övertygande, men det betyder inte att informationen är korrekt eller tillförlitlig.

Tänk dig någon som har läst tusentals böcker, men inte minns var de läste vad.

Vad skulle en sådan person kunna vara bra på?

Vad skulle en sådan person kunna vara dålig på?

Visst, du kan få ett svar som råkar vara rätt, eller ett råd som faktiskt är bra… men vilka ”böcker” är det den ”minns” när den ger dig svaret? Svaret eller rådet är en vanlig kombination av ord, inte ett faktum.

Kopiera inte något en chattbot har sagt och skicka det till någon som om det vore en auktoritativ källa.

När du gör det säger du i princip: ”här är ett gäng ord som ofta brukar förekomma tillsammans i en mening.”

Ibland kan det vara hjälpsamt eller ge en bra insikt. Men det är inte en sanning, och det är definitivt inte sista ordet i frågan.

Läs mer:

• OpenAI: Varför språkmodeller hallucinerar
• Oxford University: Stora språkmodeller kan skada vetenskapen med falska svar, enligt Oxfordstudie
• New York Times: AI blir kraftfullare, men hallucinationerna blir värre (Archived Version)
• MIT Media Lab: Människor litar för mycket på AI-genererade medicinska råd, trots låg träffsäkerhet
• Business Insider: Varför AI-chattbotar hallucinerar, enligt forskare på OpenAI
• Reuters: AI-hallucinationer i domstolshandlingar skapar problem för jurister
• MIT Technology Review: Så för AI in fel i rättssalar
• Nature: AI-chattbotar håller med för mycket, och forskare menar att det skadar vetenskapen
• CNN: Föräldrar till 16-åring stämmer OpenAI och hävdar att ChatGPT gav honom råd om självmord
• Financial Times: Hallucinationerna som hemsöker AI, därför har chattbotar svårt att hålla sig till sanningen (Archived Version)
• The Guardian: Inställsamma AI-chattbotar säger det användare vill höra, visar studie
• PCMag: Vibe coding-fiasko, AI-agent löper amok och raderar ett företags hela databas
• Stephen Wolfram: Vad gör ChatGPT… och varför fungerar det?