ISO 42001 · la evaluación de impacto de un sistema de IA
La evaluación de impacto de un sistema de IA, redactada en el orden del apartado 6.1.4
La evaluación de impacto es el registro que ISO 42001 tiene e ISO 27001 no: lo que un sistema de IA podría hacer a las personas a las que afecta y a la sociedad, juzgado antes de que funcione y de nuevo cuando cambia, así que esta página la redacta para un sistema: la finalidad y el uso indebido previsible, las personas, las consecuencias en los tres niveles que nombra la norma con una probabilidad y una gravedad cada una, los beneficios, las medidas, el resultado y la revisión.
Las consecuencias, en los tres niveles que nombra la norma
Para cada nivel, qué probabilidad tiene el daño y qué gravedad tendría, y después en qué consiste; la más alta de las seis valoraciones fija la línea contra la que se lee el resultado.
Para los individuos
Una persona mal clasificada, retrasada, rechazada, mal informada o tratada según un borrador erróneo; sus datos, su seguridad, sus derechos, su dinero.
Para grupos de personas
Efectos que solo aparecen a escala de un grupo: un idioma, una región, una edad, una discapacidad, un segmento de clientes, tratado peor en promedio.
Para la sociedad
Consecuencias más allá de los usuarios y de la empresa: el medio ambiente, el debate público, el empleo, la confianza en un servicio del que la gente depende.
La evaluación
Cada parte que pide el apartado, en su orden; una entrada vacía se redacta como un hueco por completar, no se omite.
# Evaluación de impacto de un sistema de IA: [sistema de IA], [empresa] Papel: Lo usamos. Estado: Previsto. Responsable: [por completar]. Evaluado el [por completar]. Esta evaluación sigue el apartado 6.1.4 de ISO/IEC 42001:2023 para un sistema de IA: su finalidad prevista y el uso indebido razonablemente previsible, las personas a las que afecta, las consecuencias para los individuos, para los grupos y para la sociedad con una probabilidad y una gravedad cada una, los beneficios, las medidas que limitan el daño, el resultado y la revisión. Se conserva como información documentada y se aplica a lo largo del ciclo de vida del sistema. Redactada el . ## 1. Finalidad prevista y uso indebido previsible [por completar] Uso indebido razonablemente previsible: [por completar] ## 2. Las personas a las que afecta el sistema [por completar] ## 3. Las consecuencias Cada nivel valorado en probabilidad y gravedad antes de las medidas de abajo, para que las medidas puedan leerse frente a lo que abordan. ### Para los individuos Probabilidad: Baja. Gravedad: Baja. [por completar] ### Para grupos de personas Probabilidad: Baja. Gravedad: Baja. [por completar] ### Para la sociedad Probabilidad: Baja. Gravedad: Baja. [por completar] ## 4. Los beneficios [por completar] ## 5. Las medidas [por completar] Supervisión humana: [por completar] ## 6. Resultado y revisión Resultado: los impactos son aceptables una vez implantadas las medidas de arriba; la valoración más alta dada arriba es Baja. Las medidas se siguen como acciones con un responsable y una fecha, y el sistema continúa solo con ellas. Reglamento de IA: la lectura de este sistema según el Reglamento aún no está registrada. [Lea el sistema frente a la lista de alto riesgo y las obligaciones de transparencia y registre aquí el resultado.] Revisar antes del [por completar], y antes cuando cambien la finalidad, los datos, los usuarios o los resultados, cuando un incidente afecte al sistema, o cuando una queja muestre una consecuencia que esta evaluación no previó. Esta evaluación se conserva como información documentada del sistema de gestión de la IA, con versión, y a disposición de la entidad de certificación y, a petición, de las personas a las que afecta el sistema. Esta evaluación se redacta a partir de las entradas dadas. No es asesoramiento de certificación ni jurídico; la entidad de certificación lee la evaluación por las personas consideradas, las consecuencias juzgadas y las medidas tomadas, y la lectura según el Reglamento de IA registrada aquí es la de la empresa, a contrastar con el Reglamento.
En StandardOS cada sistema de IA lleva su evaluación
Cada sistema de IA del inventario tiene una evaluación de impacto con los grupos afectados, la finalidad, el uso indebido previsible y las consecuencias como campos, la fecha de revisión en el calendario, las medidas como acciones, la lectura según el Reglamento de IA al lado, y los controles del anexo A sobre evaluación de impacto evidenciados por el propio registro.
El apartado leído como registro, nivel por nivelLa evaluación de impacto sobre los derechos fundamentales del artículo 27¿Es el sistema de alto riesgo según el Reglamento de IA?Redactar la política de IALa lista de controles ISO 42001