Disciplina
Gobierno y cumplimiento de IA
Poder contestarle al regulador, al auditor y al comité con papel, no con confianza.
Su equipo legal conoce la norma mejor que nosotros. Lo que traemos es saber qué le van a pedir mostrar y en qué formato: ocho años respondiendo ante un regulador financiero sin un solo hallazgo.
9 servicios en esta disciplina
Le toca si
Tres señales de que esto es suyo.
- Tiene que autorizar una puesta en producción que no construyó.
- Tiene modelos o agentes decidiendo cosas en producción.
- Un proceso que importa depende hoy de un proveedor que usted no controla.
Para usar hoy, sin contratar nada
Auditoría Independiente de Implementaciones de IA
Ocho preguntas para exigirle al constructor antes de firmar la aceptación. Un constructor que las contesta todas, con evidencia, hizo bien su trabajo.
- ¿Contra qué casos se midió y quién los eligió? Si los eligió el constructor, no es una medición, es una demostración.
- ¿Cuál es la tasa de error, medida cómo y sobre qué muestra?
- Reconstrúyame una decisión concreta de la semana pasada: qué entró, qué salió y por qué.
- ¿Qué puede hacer el sistema sin que un humano apruebe y quién fijó ese límite?
- ¿Qué lo detiene, quién puede detenerlo y en cuánto tiempo?
- ¿Qué se registra, cuánto se conserva y quién puede consultarlo dentro de seis meses?
- ¿Qué pasa cuando el proveedor cambia de versión sin avisar?
- ¿Quién responde por una decisión equivocada: usted, nosotros o el proveedor del modelo?
Sale de Auditoría Independiente de Implementaciones de IA. Cada servicio de esta disciplina trae el suyo.
Los 9 servicios de esta disciplina
¿Pasaría una auditoría independiente de su IA en 90 días?
El integrador dice que funciona y yo soy quien firma.
Apto, apto con condiciones o no apto, emitido por quien no lo construyó y no cobra comisión de nadie.
Ver la situaciónGobierno de Decisiones Automatizadas¿Quién responde por lo que decide su IA y con qué evidencia?
El regulador pregunta por qué se rechazó ese caso y nadie puede reconstruirlo.
Qué decide una máquina en su organización, con qué consecuencia, quién responde por cada decisión y qué evidencia queda.
Ver la situaciónContinuidad Operativa con Agentes de IA¿Probó alguna vez el plan de falla de sus agentes de IA?
El proceso ya depende del agente y nadie recuerda cómo se hacía a mano.
El plan B escrito y probado de verdad: se apaga el agente y se mide cuánto tarda su equipo en retomar.
Ver la situaciónExpediente Regulatorio de IA¿Puede demostrar por escrito qué genera y qué decide una máquina en su organización?
Me piden declarar lo que decide una máquina y nadie tiene la lista.
El inventario de dónde genera y decide con IA, la determinación de qué obligación cae sobre cada punto y el expediente que lo demuestra.
Ver la situaciónInventario de IA en la Sombra¿Qué herramientas de IA se están usando sin que nadie las aprobara?
Sé que hay IA en uso y no sé cuál ni con qué información.
Qué se está usando sin registro, con qué datos y con qué exposición y qué conviene aprobar, sustituir o cortar.
Ver la situaciónDiseño de Confianza para Asistentes de IA¿Por qué su gente no usa el asistente que ya desplegó?
Lo desplegamos a cuatrocientas personas y lo abren cuarenta. Nadie dice que esté malo.
Por qué su gente no confía en el sistema, con los momentos exactos donde se pierde la confianza y el rediseño de cada uno.
Ver la situaciónTaller: Cómo Auditar a su Proveedor¿Cómo interrogar a un proveedor sin ser técnico?
Mi equipo firma acuerdos de servicio que después no podemos reclamar.
Que su equipo pueda interrogar a un proveedor sin ser técnico, con el guion armado sobre su propio contrato.
Ver la situaciónGuardarraíles para Agentes¿Hasta dónde puede llegar un agente solo y quién lo detiene?
El agente ya no solo responde: ejecuta. Nadie definió hasta dónde puede llegar solo.
Qué puede hacer su agente solo, qué requiere aprobación, qué lo detiene y quién responde cuando actúa mal. Montado y probado con una detención real.
Ver la situaciónGobierno de Identidad No Humana¿Quién responde por lo que hacen sus cuentas de servicio y sus agentes?
Tenemos cuentas de servicio con privilegios y nadie sabe quién responde por ellas.
El inventario de todo lo que no es una persona y tiene acceso, con dueño nombrado, derechos documentados y su regla de rotación y revocación.
Ver la situaciónLas otras disciplinas
Estrategia de IA
12Automatización y agentes
8Datos y analítica
5Ciberseguridad y resiliencia
4Operaciones críticas y crisis
5Fusiones, separación y diligencia
4Costo de IA y de software
5Infraestructura y plataforma
5O véalo por el ciclo: Vanguard, Forge y Taskforce. O por la pregunta con la que usted llega, en las siete preguntas. Y si ya sabe el nombre, está la lista completa.
¿Cuál es la decisión que tiene enfrente esta semana?