Oversigt
Gennemsigtighed er nødvendigt for at kunne efterprøve resultater og skabe tillid til systemer, der understøtter og træffer beslutninger. Dette gælder, uanset om man vælger at benytte kunstig intelligens i en beslutningsproces eller ej. Dog har anvendelse af kunstig intelligens gjort behovet for at arbejde med gennemsigtighed endnu mere tydeligt.
Kunstig intelligens kan udnytte og tilegne sig viden og færdigheder for at løse (komplicerede) problemer – typisk i højere grad end systemer udelukkende baseret på mennesker. Systemer, som udnytter kunstig intelligens, anvender netop derfor også ofte meget større mængder data end traditionelle systemer for at træffe beslutninger eller fungere som beslutningsstøtte.
Hvis beslutninger ikke kan rationaliseres, kan det være vanskeligt at stole på dem. Kunstig intelligens bliver ofte anvendt i samarbejde med mennesker, der har brug for at være i stand til at forstå, hvad der bliver gjort og hvorfor.
