Information Commissioner's Office (ICO) undersøger i øjeblikket muligheden for at revidere kunstig intelligens (AI)-systemer fra et databeskyttelses- og privatlivsperspektiv. Tanken bag dette er at sikre, at disse systemer håndterer personlige data på en retfærdig, gennemsigtig og sikker måde og overholder principperne i Storbritanniens Data Protection Act 2018 (DPA 2018).
ICO ser på forskellige tilgange til revision af AI-systemer. En potentiel metode er at bruge automatiserede værktøjer til at vurdere systemets overholdelse af relevante databeskyttelses- og privatlivsbestemmelser. Disse værktøjer kan analysere de databehandlingsoperationer, der udføres af AI-systemet, identificere eventuelle potentielle risici for personlige data og foreslå afhjælpende handlinger. Denne tilgang kan være særlig nyttig i tilfælde, hvor AI-systemet er komplekst og involverer store mængder personlige data.
En anden tilgang er at udføre en manuel revision af AI-systemet. Dette involverer en menneskelig revisor, der undersøger systemets design, implementering og operationelle processer for at identificere databeskyttelses- og privatlivsrisici. Manuelle revisioner er ofte mere grundige og kan afdække problemer, som automatiserede værktøjer måske ikke er i stand til at opdage. Men de kan også være mere tidskrævende og dyre.
ICO overvejer også en kombination af automatiserede og manuelle revisionsmetoder, hvilket giver organisationer mulighed for at drage fordel af styrkerne ved begge tilgange. Dette kan opnås ved at bruge automatiserede værktøjer til at identificere potentielle databeskyttelses- og privatlivsrisici, efterfulgt af manuelle revisioner for at validere og undersøge disse risici yderligere.
ICO's arbejde med revision af AI-systemer er stadig i de tidlige stadier, og den endelige tilgang vil sandsynligvis afhænge af faktorer som kompleksiteten af AI-systemet, mængden af behandlede personlige data og organisationens ressourcer. Ved at udvikle vejledning og bedste praksis for revision af AI-systemer, sigter ICO mod at hjælpe organisationer med at overholde databeskyttelses- og privatlivslovgivningen og samtidig fremme innovation og ansvarlig brug af AI-teknologi.
