Kontrollera källan, inte formatet. En referens är verifierad först när du sett den på utgivarens egen sida. Sortera först ut de påståenden som faktiskt bär texten, kontrollera dem, och stryk resten av referenserna hellre än att låta dem stå okontrollerade.
Varför felet ser så äkta ut
En språkmodell producerar det som statistiskt sett brukar följa. En referenslista har ett mycket regelbundet mönster: författare, titel, utgivare, år. Modellen är utmärkt på mönstret — och mönstret är hela det synliga intrycket av en källa.
Därför uppstår referenser som är formmässigt perfekta och innehållsmässigt tomma. Vanligaste varianterna: en verklig författare kopplad till en titel hen aldrig skrivit, en verklig rapport med fel utgivningsår, en verklig myndighet med en påhittad publikation, eller en korrekt titel med en länk som leder till något helt annat.
Den mest lömska varianten är den sista, eftersom en fungerande länk läses som ett bevis. Att en URL svarar betyder bara att något ligger där, inte att det stödjer påståendet.
Sortera först, kontrollera sedan
Att kontrollera varje referens i en lång text är dyrt och oftast onödigt. Alla påståenden bär inte lika mycket.
Att be samma modell bekräfta sin egen referens ger nästan alltid ett ja, ibland med tillagda detaljer som gör den ännu mer trovärdig. Det är inte en kontroll — det är samma mönstergenerering en gång till. Kontroll sker utanför verktyget.
Fyra tecken på en uppfunnen referens
Ett tecken räcker inte för att döma ut en källa, men två gör den till en av dem du kontrollerar först.
Protokoll för en källförteckning
TEXT: [titel eller filnamn] KONTROLLERAD: [datum] BÄRANDE PÅSTÅENDEN: [antal] För varje bärande påstående: PÅSTÅENDE: [ordagrant, som det står i texten] ANGIVEN KÄLLA: [så som modellen skrev den] HITTAD SOM: [den verkliga posten, eller "hittas inte"] STÖDJER PÅSTÅENDET: [ja / delvis / nej] ÅTGÄRD: [behålls / påståendet skrivs om / stryks] STRUKNA REFERENSER UTAN BÄRANDE PÅSTÅENDE: [antal] NÄSTA KONTROLL: [datum, för tidskänsliga uppgifter]
Raden ”stödjer påståendet: delvis” är den viktigaste i protokollet. Den vanligaste rättningen är inte att en källa saknas utan att den finns och säger något svagare än texten påstår. Då är det påståendet som ska justeras, inte källan som ska bytas ut.
Sätt också ett datum för nästa kontroll på allt som kan ändras: priser, villkor, regler och funktioner i verktyg. En kontrollerad uppgift är kontrollerad en viss dag, inte för alltid.
Citat är ett eget problem
En påhittad referens är besvärlig. Ett påhittat citat tillskrivet en verklig, namngiven person är något annat: det är ett påstående om vad någon har sagt, och det kan skada personen även när det låter smickrande.
Mönstret är detsamma som för referenser — modellen producerar något som låter som den sortens uttalande från den sortens person — men konsekvensen är allvarligare, och felet är svårare att upptäcka eftersom ett citat sällan har en formmässig identifierare att kontrollera.
Regeln bör därför vara hårdare än för övriga uppgifter: inget citat publiceras utan att du sett det i sin ursprungliga form, med datum och sammanhang. Hittar du inte originalet stryks citatet — det skrivs inte om till ”har uttryckt att” eller ”menar ungefär att”. Ett indirekt referat av ett citat du inte kunnat belägga är samma påstående i en vagare förpackning.
Samma sak gäller siffror som tillskrivs en organisation. ”Enligt Arbetsmiljöverket är andelen 34 procent” är ett citat i sak, även utan citattecken, och kräver samma kontroll.
Så minskar du felet från början
Det mesta går att förebygga i beställningen. Ge modellen underlaget i stället för att be den leta: klistrar du in rapporten behöver den inte hitta på den. Be uttryckligen om att luckor markeras i stället för fylls, så att du får en text med tre synliga hål i stället för tre osynliga påhitt.
Och be inte om källor i efterhand. En text som skrivits färdigt och sedan ska ”förses med referenser” är den situation där uppfunna källor uppstår nästan varje gång — modellen letar då efter något som passar en formulering, i stället för att formuleringen byggts på något som fanns.
Det hänger ihop med granskningsordningen i textguiden: fakta först, för att det som inte håller ska bort innan någon lägger tid på formuleringarna. Samma sak gäller när texten sedan ska sammanfattas eller kortas — se substanstestet.
Källor och kontrolltid
En primärkälla kontrollerad den 19 september 2026. Den stödjer premissen: att en generativ modell kan producera ett påstående som ser korrekt ut utan att ha täckning, och att det är en egen riskkategori snarare än ett slarvfel. Sorteringsordningen, de fyra tecknen och protokollet för källförteckningen är AI-kreatörs egen metod.
- NIST AI 600-1: Generative Artificial Intelligence Profile – beskriver confabulation som en särskild risk med generativ AI, alltså innehåll som framstår som faktiskt utan att vara det.
Nästa kontroll senast den 19 september 2027, eller tidigare om NIST ersätter AI 600-1 eller publicerar en ny version av profilen. Fenomenet i sig ändras inte med modellversionen; det är åtgärderna som kan behöva justeras när verktygen får inbyggd källhämtning.
Varje kvarvarande referens är sedd med egna ögon hos utgivaren, och stödjer det påstående den står vid — inte något ungefär liknande. Referenser som inte bär något påstående är strukna, och tidskänsliga uppgifter har ett datum för nästa kontroll.