Generativ AI kan producera felaktiga uppgifter med ett övertygande språk. Detta kallas ofta hallucinationer. Självsäkerheten i formuleringen är därför inget säkert mått på om svaret stämmer.
Ett konkret exempel
Föreställ dig att du frågar efter en bok. Svaret innehåller titel, författare, årtal och ett prydligt citat. Allt ser kontrollerbart ut. Men när du söker efter boken finns den inte. Den viktiga kontrollen är inte att referensen ser riktig ut, utan att originalet går att hitta och faktiskt stödjer uppgiften.
Be om underlag, och öppna det
NIST tar upp felaktigt genererat innehåll som en central risk. Vårt praktiska råd är att kontrollera namn, siffror och avgörande slutsatser i en separat källa. Att be samma chatt ”är du säker?” kan vara en följdfråga, men är inte en oberoende granskning.
Anpassa kontrollen till konsekvensen
Ett påhittat namn i en saga kan vara alldeles utmärkt. Ett påhittat mått i en byggbeskrivning är mindre charmigt. Bestäm därför vad svaret ska användas till innan du bestämmer hur mycket kontroll som behövs. Om det rör hälsa, pengar eller rättigheter behöver det finnas relevant sakkunskap och aktuellt underlag.
Källor & vidare läsning
Källorna stöder sakuppgifter och ger bakgrund. Våra exempel och praktiska förslag är redaktionella resonemang.
- NIST · Generative AI Profile, AI 600-1 (2024) ↗Riskramverk som bland annat behandlar felaktiga svar, bias och integritet.
Kunskapsläget kan förändras. Datumet anger kontrolltillfället, inte en garanti för framtida aktualitet. Om innehållet och arbetssättet.