Ansvar behöver knytas till människor och organisationer som utvecklar, köper in och använder system. Vem som rättsligt ansvarar i ett visst fall beror på situationen och de regler som gäller.
Gör kontrollkedjan synlig
Tänk på ett kundärende där AI föreslår ett avslag. Vem har valt verktyget? Vilket underlag läste det? Vem granskade förslaget och vem fattade beslutet? Om ingen kan svara är det ett problem med processen, oavsett hur bra modellen brukar prestera.
Det ska gå att upptäcka och rätta fel
Vårt praktiska förslag är att dokumentera viktiga underlag, ha en namngiven ansvarig och ordna en väg för omprövning. Kunden ska inte behöva argumentera med en chattbot i all oändlighet för att få ett faktiskt misstag undersökt.
Principer är inte en fullständig lagbok
OECD lyfter ansvarsskyldighet som en princip för tillförlitlig AI. Principen hjälper oss att ställa frågor, men bestämmer inte ensam utfallet av en tvist. Vid beslut som påverkar människors rättigheter behövs relevant juridisk och verksamhetsmässig bedömning.
Källor & vidare läsning
Källorna stöder sakuppgifter och ger bakgrund. Våra exempel och praktiska förslag är redaktionella resonemang.
- OECD · AI-principer och definition av AI-system ↗Definitioner och principer, inte ett test av en viss produkt.
Kunskapsläget kan förändras. Datumet anger kontrolltillfället, inte en garanti för framtida aktualitet. Om innehållet och arbetssättet.