ISO 42001 · die Folgenabschätzung für KI-Systeme
Die Folgenabschätzung für ein KI-System, geschrieben in der Reihenfolge von Abschnitt 6.1.4
Die Folgenabschätzung ist die Aufzeichnung, die ISO 42001 hat und ISO 27001 nicht: was ein KI-System den Menschen, die es berührt, und der Gesellschaft antun könnte, beurteilt bevor es läuft und erneut, wenn es sich ändert; deshalb schreibt diese Seite sie für ein System: den Zweck und den vorhersehbaren Missbrauch, die Menschen, die Folgen auf den drei Ebenen, die die Norm nennt, mit je einer Wahrscheinlichkeit und einer Schwere, den Nutzen, die Maßnahmen, das Ergebnis und die Überprüfung.
Die Folgen, auf den drei Ebenen, die die Norm nennt
Für jede Ebene, wie wahrscheinlich der Schaden ist und wie schwer er wäre, dann worin er besteht; die höchste der sechs Bewertungen setzt die Linie, an der das Ergebnis gelesen wird.
Für Einzelne
Eine Person, die falsch klassifiziert, verzögert, abgewiesen, fehlinformiert oder nach einem falschen Entwurf behandelt wird; ihre Daten, ihre Sicherheit, ihre Rechte, ihr Geld.
Für Gruppen von Menschen
Wirkungen, die erst über eine Gruppe sichtbar werden: eine Sprache, eine Region, ein Alter, eine Behinderung, ein Kundensegment, im Durchschnitt schlechter behandelt.
Für die Gesellschaft
Folgen jenseits der Nutzer und des Unternehmens: die Umwelt, der öffentliche Diskurs, die Beschäftigung, das Vertrauen in einen Dienst, auf den Menschen angewiesen sind.
Die Abschätzung
Jeder Teil, den der Abschnitt verlangt, in seiner Reihenfolge; eine leere Eintragung wird als auszufüllende Lücke geschrieben, nicht übersprungen.
# Folgenabschätzung für ein KI-System: [KI-System], [Unternehmen] Rolle: Wir nutzen es. Status: Geplant. Verantwortlich: [noch auszufüllen]. Abgeschätzt am [noch auszufüllen]. Diese Abschätzung folgt Abschnitt 6.1.4 der ISO/IEC 42001:2023 für ein KI-System: sein beabsichtigter Zweck und der vernünftigerweise vorhersehbare Missbrauch, die Menschen, die es berührt, die Folgen für Einzelne, für Gruppen und für die Gesellschaft mit je einer Wahrscheinlichkeit und einer Schwere, der Nutzen, die Maßnahmen, die den Schaden begrenzen, das Ergebnis und die Überprüfung. Sie wird als dokumentierte Information aufbewahrt und im Lebenszyklus des Systems umgesetzt. Geschrieben am . ## 1. Beabsichtigter Zweck und vorhersehbarer Missbrauch [noch auszufüllen] Vernünftigerweise vorhersehbarer Missbrauch: [noch auszufüllen] ## 2. Die Menschen, die das System berührt [noch auszufüllen] ## 3. Die Folgen Jede Ebene nach Wahrscheinlichkeit und Schwere bewertet, vor den Maßnahmen unten, damit die Maßnahmen an dem gelesen werden können, was sie adressieren. ### Für Einzelne Wahrscheinlichkeit: Niedrig. Schwere: Niedrig. [noch auszufüllen] ### Für Gruppen von Menschen Wahrscheinlichkeit: Niedrig. Schwere: Niedrig. [noch auszufüllen] ### Für die Gesellschaft Wahrscheinlichkeit: Niedrig. Schwere: Niedrig. [noch auszufüllen] ## 4. Der Nutzen [noch auszufüllen] ## 5. Die Maßnahmen [noch auszufüllen] Menschliche Aufsicht: [noch auszufüllen] ## 6. Ergebnis und Überprüfung Ergebnis: Die Folgen sind akzeptabel, sobald die Maßnahmen oben umgesetzt sind; die höchste oben vergebene Bewertung ist Niedrig. Die Maßnahmen werden als Aufgaben mit Verantwortlichem und Termin verfolgt, und das System geht nur mit ihnen weiter. KI-Verordnung: Die Lesart dieses Systems nach der Verordnung ist noch nicht festgehalten. [Lesen Sie das System gegen die Hochrisikoliste und die Transparenzpflichten und halten Sie das Ergebnis hier fest.] Überprüfung bis [noch auszufüllen], und früher, wenn sich Zweck, Daten, Nutzer oder Ausgaben ändern, wenn ein Vorfall das System berührt oder wenn eine Beschwerde eine Folge zeigt, die diese Abschätzung nicht vorhergesehen hat. Diese Abschätzung wird als dokumentierte Information des KI-Managementsystems aufbewahrt, versioniert und für die Zertifizierungsstelle sowie auf Anfrage für die Menschen, die das System berührt, verfügbar. Diese Abschätzung ist aus den gemachten Eintragungen geschrieben. Sie ist keine Zertifizierungs- oder Rechtsberatung; die Zertifizierungsstelle liest die Abschätzung auf die betrachteten Menschen, die beurteilten Folgen und die ergriffenen Maßnahmen, und die hier festgehaltene Lesart nach der KI-Verordnung ist die des Unternehmens, gegen die Verordnung zu prüfen.
In StandardOS trägt jedes KI-System seine Abschätzung
Jedes KI-System im Inventar hat eine Folgenabschätzung mit den betroffenen Gruppen, dem Zweck, dem vorhersehbaren Missbrauch und den Folgen als Feldern, dem Überprüfungstermin im Kalender, den Maßnahmen als Aufgaben, der Lesart nach der KI-Verordnung daneben, und die Controls aus Anhang A zur Folgenabschätzung werden durch die Aufzeichnung selbst belegt.
Der Abschnitt als Aufzeichnung gelesen, Ebene für EbeneDie Grundrechte-Folgenabschätzung nach Artikel 27Ist das System nach der KI-Verordnung Hochrisiko?Die KI-Richtlinie schreibenDie Liste der ISO 42001 Controls