Qué resolvemos ·¿Qué contesto cuando me pregunten?
Taskforce · Sostener
¿Puede demostrar por escrito qué genera y qué decide una máquina en su organización?
Me piden declarar lo que decide una máquina y nadie tiene la lista.
El inventario de dónde genera y decide con IA, la determinación de qué obligación cae sobre cada punto y el expediente que lo demuestra.
Expediente Regulatorio de IAEnviar esta página a quien decide
Para usar hoy, sin contratar nada
Dos ejercicios que se hacen en una tarde y le dan la mitad del diagnóstico. El primero le dice si puede demostrar; el segundo, qué tan expuesto está.
La prueba de procedencia. Tome una pieza que su organización publicó, o una decisión que tomó, la semana pasada e intente contestar cuatro cosas.
- Qué sistema la produjo y en qué versión.
- Qué entró, con qué instrucción y de quién.
- Quién la revisó antes de salir y qué cambió.
- Dónde quedó registrado todo eso y por cuánto tiempo.
Cronometre. Ese número es su tiempo de reconstrucción y es lo que se le va a medir.
Las cuatro preguntas de clasificación. Córralas sobre los tres sistemas que más le preocupan.
- ¿Sobre quién decide y afecta su acceso a un empleo, un crédito, un servicio esencial o un derecho?
- ¿Qué pasa si se equivoca y la persona afectada puede notarlo e impugnarlo?
- ¿Cuánta autonomía tiene en la práctica, no en el manual?
- ¿En qué contexto se usa hoy y no para qué se compró?
Dos avisos por experiencia. La generación que nadie registró está en atención al cliente, comunicaciones, informes internos que salen a terceros y el código que alguien pegó de un asistente. Y los sistemas que aparecen tarde no son los grandes: son las hojas de cálculo con un modelo detrás y las herramientas que un área contrató sola.
Le suena si
- La obligación llegó redactada para el grupo y hay que traducirla a la operación local.
- Sospecha que hay áreas usando IA sin registrarlo.
- Reconstruir cómo se produjo una pieza de hace meses no es posible con lo que se registra hoy.
Cómo lo resolvemos
El método, no la promesa.
- Se inventaría dónde se genera y dónde se decide, por contexto de uso real, empezando por los lugares que nunca están registrados.
- Se determina qué entra y qué no en cada obligación y cada exclusión se escribe con su argumento. Ese argumento es lo que se defiende después.
- Se diseña qué se registra en el origen, que es lo único que permite reconstruir meses después.
- Se arma el expediente en el formato en que lo pide un revisor, no en el que le queda cómodo al equipo.
- Se prueba: se reconstruye una pieza real, o se defiende una clasificación concreta. Si no resiste, el expediente todavía no sirve.
Qué recibe
- El inventario de puntos de generación y decisión, con su contexto de uso real.
- El argumento escrito de por qué cada punto queda dentro o fuera de la obligación.
- La especificación de declaración y de registro de procedencia, o la matriz de obligaciones por sistema.
- El expediente de evidencia, probado contra un caso real suyo.
La prueba que viene al caso
- Ocho años de operación bajo supervisión regulatoria con cero hallazgos de auditoría.
- Reconstrucción de decisiones ante auditoría sobre una infraestructura de 60.000 servidores, con el registro que la sostenía.
- El día uno legal de una separación bancaria, cumplido en la fecha contractual y con cero fallas.
Antes de contratar
La determinación de alcance es criterio informado, no dictamen: cada decisión va con su argumento para que su abogado la revise antes de publicarla.
La evidencia que resiste a un revisor la prepara quien ya estuvo del lado que responde ante un supervisor. Acá son ocho años sin un hallazgo.
Tome una pieza que su organización publicó el mes pasado. ¿Cuánto tardaría en demostrar cómo se produjo?
Si el problema es otro
El regulador pregunta por qué se rechazó ese caso y nadie puede reconstruirlo.
Gobierno de Decisiones Automatizadas
El integrador dice que funciona y yo soy quien firma.
Auditoría Independiente de Implementaciones de IA
Ya no preguntan si tenemos controles. Preguntan si puedo demostrar que aguanta.
Resiliencia Operativa bajo Regulación