ISO 42001 · konsekvensvurderingen af et AI-system
Konsekvensvurderingen af et AI-system, skrevet i punkt 6.1.4's rækkefølge
Konsekvensvurderingen er den registrering, ISO 42001 har, og ISO 27001 ikke har: hvad ét AI-system kan gøre ved de mennesker, det berører, og ved samfundet, bedømt før det kører og igen, når det ændrer sig; derfor skriver denne side den for ét system: formålet og det forudsigelige misbrug, menneskene, konsekvenserne på de tre niveauer, standarden nævner, med hver en sandsynlighed og en alvor, fordelene, foranstaltningerne, resultatet og genvurderingen.
Konsekvenserne, på de tre niveauer standarden nævner
For hvert niveau, hvor sandsynlig skaden er, og hvor alvorlig den ville være, og dernæst hvad den består i; den højeste af de seks vurderinger sætter den linje, resultatet læses imod.
For enkeltpersoner
En person, der klassificeres forkert, forsinkes, afvises, fejlinformeres eller behandles ud fra et forkert udkast; vedkommendes data, sikkerhed, rettigheder, penge.
For grupper af mennesker
Virkninger, der først viser sig på tværs af en gruppe: et sprog, en region, en alder, et handicap, et kundesegment, i gennemsnit behandlet dårligere.
For samfundet
Konsekvenser ud over brugerne og virksomheden: miljøet, den offentlige debat, beskæftigelsen, tilliden til en tjeneste, folk er afhængige af.
Vurderingen
Hver del, punktet beder om, i dets rækkefølge; en tom indtastning skrives som et hul, der skal udfyldes, ikke springes over.
# Konsekvensvurdering af et AI-system: [AI-system], [virksomhed] Rolle: Vi bruger det. Status: Planlagt. Ejer: [udfyldes]. Vurderet den [udfyldes]. Denne vurdering følger punkt 6.1.4 i ISO/IEC 42001:2023 for ét AI-system: dets tilsigtede formål og det rimeligt forudsigelige misbrug, de mennesker det berører, konsekvenserne for enkeltpersoner, for grupper og for samfundet med hver en sandsynlighed og en alvor, fordelene, de foranstaltninger der begrænser skaden, resultatet og genvurderingen. Den opbevares som dokumenteret information og handles på gennem systemets livscyklus. Skrevet den . ## 1. Tilsigtet formål og forudsigeligt misbrug [udfyldes] Rimeligt forudsigeligt misbrug: [udfyldes] ## 2. De mennesker, systemet berører [udfyldes] ## 3. Konsekvenserne Hvert niveau vurderet på sandsynlighed og alvor før foranstaltningerne nedenfor, så foranstaltningerne kan læses imod det, de adresserer. ### For enkeltpersoner Sandsynlighed: Lav. Alvor: Lav. [udfyldes] ### For grupper af mennesker Sandsynlighed: Lav. Alvor: Lav. [udfyldes] ### For samfundet Sandsynlighed: Lav. Alvor: Lav. [udfyldes] ## 4. Fordelene [udfyldes] ## 5. Foranstaltningerne [udfyldes] Menneskeligt tilsyn: [udfyldes] ## 6. Resultat og genvurdering Resultat: Konsekvenserne er acceptable, når foranstaltningerne ovenfor er på plads; den højeste vurdering givet ovenfor er Lav. Foranstaltningerne følges som handlinger med en ejer og en dato, og systemet fortsætter kun med dem. AI-forordningen: Læsningen af dette system efter forordningen er endnu ikke registreret. [Læs systemet mod højrisikolisten og gennemsigtighedspligterne, og registrér resultatet her.] Genvurderes senest [udfyldes], og tidligere når formålet, dataene, brugerne eller outputtet ændrer sig, når en hændelse berører systemet, eller når en klage viser en konsekvens, denne vurdering ikke forudså. Denne vurdering opbevares som dokumenteret information i AI-ledelsessystemet, versioneret og tilgængelig for certificeringsorganet og, på anmodning, for de mennesker, systemet berører. Denne vurdering er skrevet ud fra de givne indtastninger. Det er ikke certificerings- eller juridisk rådgivning; certificeringsorganet læser vurderingen for de betragtede mennesker, de bedømte konsekvenser og de trufne foranstaltninger, og den læsning efter AI-forordningen, der er registreret her, er virksomhedens egen, som skal efterprøves mod forordningen.
I StandardOS bærer hvert AI-system sin vurdering
Hvert AI-system i fortegnelsen har en konsekvensvurdering med de berørte grupper, formålet, det forudsigelige misbrug og konsekvenserne som felter, datoen for genvurdering i kalenderen, foranstaltningerne som handlinger, læsningen efter AI-forordningen ved siden af, og foranstaltningerne i bilag A om konsekvensvurdering dokumenteret af selve registreringen.
Punktet læst som registrering, niveau for niveauKonsekvensanalysen vedrørende grundlæggende rettigheder efter artikel 27Er systemet højrisiko efter AI-forordningen?Skriv AI-politikkenListen over ISO 42001-foranstaltninger