A.6.2.6
Surveiller un système d'IA en service, et agir quand il dérive
Ce que cela signifie
Exploiter et surveiller les systèmes d'IA au regard d'attentes définies, et agir quand le comportement, les entrées ou la performance s'en écartent.
Risques que cette mesure traite
Issus du registre de risques de départ que StandardOS propose à la mise en place. Vous conservez, modifiez ou supprimez chacun ; voici ceux qui citent A.6.2.6 comme traitement.
- Une sortie d'IA désavantage quelqu'un, et personne ne s'en aperçoitSystèmes d'IA prenant ou éclairant des décisions sur des personnes
- Le système dérive et le premier signal est une plainteSystèmes d'IA en production
- Un modèle fourni change sous nos piedsModèles et services d'IA tiers
Ce qu'elle met dans votre calendrier
Une mesure ne se met pas en œuvre une fois pour toutes. Celles-ci sont planifiées dès le jour de la mise en place, avec un responsable et une échéance, pour que la preuve existe avant que quelqu'un la demande.
- Revue de la performance et de la dérive des systèmes d'IAchaque trimestre
Ce que StandardOS tient prêt pour A.6.2.6 le jour de l'audit
Une décision d'applicabilité et un brouillon de justification, pré-remplis à partir d'un profil en sept questions et marqués comme brouillon tant que vous ne les avez pas faits vôtres. Un état de mise en œuvre. Des entrées de preuve datées qui expirent, pour que l'export lu par votre auditeur montre ce qui était vrai et quand, classé sous cette référence, aux côtés de l'ISO 27001 si vous menez les deux.