Qué es la gobernanza de IA
La gobernanza de IA es el conjunto de políticas, responsables, procesos y controles con el que una organización decide qué sistemas de inteligencia artificial usa, los supervisa y rinde cuentas por sus resultados y sus riesgos. También se llama gobierno de la IA o, en inglés, AI governance.
Qué incluye
Un marco de gobernanza de IA que funcione se apoya en seis piezas.
- Política de IA
- Principios, usos aceptables y líneas rojas, con el compromiso de la dirección.
- Inventario de sistemas
- Un registro único de todos los modelos en uso, propios y de terceros, con su propósito, sus datos y su nivel de riesgo.
- Comité de gobernanza
- Aprueba casos de uso, revisa riesgos y resuelve lo que ningún área puede decidir sola.
- Gestión de riesgos
- Identifica y trata el sesgo, la seguridad, la privacidad, el cumplimiento y el impacto en las personas.
- Controles y trazabilidad
- Documentación, supervisión humana, registros y gestión de proveedores, para poder auditar.
- Métricas
- Cobertura del inventario, riesgos tratados, incidencias y adopción.
Quién la lidera
Necesita una responsabilidad ejecutiva clara. Puede asumirla un Chief AI Officer (CAIO) o un directivo del comité, como el CIO, el CDO o el COO. Cada sistema en producción necesita además un responsable de negocio, y las áreas de riesgo, cumplimiento y legal hacen de segunda línea.
Por qué importa ahora
Cuando la IA puntúa créditos, filtra candidatos o prioriza incidencias, alguien tiene que responder por sus decisiones. El AI Act exige supervisión humana y rendición de cuentas en los sistemas de alto riesgo, y la norma ISO/IEC 42001 ofrece un sistema de gestión certificable para demostrarlo.
Por dónde empezar
Por el inventario. Sin saber qué sistemas de IA toman decisiones hoy, incluidos los de terceros y los que los equipos usan por su cuenta, no se puede clasificar el riesgo ni asignar responsables.
Preguntas frecuentes
¿Qué diferencia hay entre gobernanza de IA y cumplir el AI Act?
El AI Act es una obligación legal. La gobernanza de IA es el modelo operativo con el que la empresa la cumple y con el que, además, decide qué IA usa y cómo mide sus resultados.
¿Necesito un CAIO?
Depende del tamaño y de la exposición regulatoria. Una gran corporación regulada probablemente necesite un CAIO dedicado; una empresa mediana puede empezar asignando la responsabilidad a un directivo y a un comité.
¿Qué es la ISO/IEC 42001?
Es la norma internacional certificable para un sistema de gestión de inteligencia artificial (AIMS). Define cómo gobernar, supervisar y mejorar de forma continua los sistemas de IA de una organización y complementa al AI Act.
Para saber más
Gobernanza de IA con Vivid Vision
En Operar inventariamos los sistemas de IA, definimos el marco de riesgo y operamos la gobernanza con el equipo de la empresa. Empezamos por un pre-diagnóstico sin coste ni compromiso.
Solicita tu pre-diagnósticoOtros términos del glosario
AI Operating Partner
Socio externo que trabaja con la dirección para llevar la IA de los pilotos a resultados de negocio.
Ver la definiciónAI Act
Reglamento (UE) 2024/1689, la ley europea que regula la IA según el riesgo de cada sistema.
Ver la definiciónVenture studio
Organización que crea startups de forma sistemática, con equipo, método y capital propios.
Ver la definiciónVenture builder
Otro nombre del venture studio: organización que construye startups desde la idea con su propio equipo y capital.
Ver la definiciónStartup studio
Otro nombre del venture studio: crea varias startups seguidas con un equipo central, un método y capital propios.
Ver la definiciónCorporate venture capital
Inversión de una gran empresa en startups creadas por otros, con fines financieros y estratégicos.
Ver la definición