Gobernanza Mecánica para LLMs: mech-gov-framework y AI Act

27% de los deferimientos en sistemas financieros con LLMs cargan cero información decisoria relevante. El modelo escribe "revisión adicional necesaria debido a la complejidad" y listo: conformidad cosmética, sustancia ninguna. Según el paper arXiv:2605.14744, de José Manuel de la Chica Rodríguez y Carlos Martí-González del Santander AI Lab, este es un problema estructural, y el mech-gov-framework lo resuelve con cuatro primitivos mecánicos que operan fuera del loop interpretativo del modelo.

El problema: Goodhart en el corazón de la gobernanza de LLMs

El problema es estructural. Cuando el LLM interpreta y satisface la misma política de gobernanza, la política pasa a ser recomendación, no restricción. Es Goodhart puro: la métrica de conformidad (el deferimiento) se convierte en el objetivo, y el objetivo deja de ser buena métrica.

En el régimen R1 (text-only), el LLM recibe la política como prompt y se auto-interpreta. El resultado: 27% de los deferimientos son informacionalmente vacíos. El modelo pospone la decisión, pero el deferimiento no carga información útil para auditoría. Es conformidad cosmética: el modelo parece cumplir la política, pero el deferimiento no contiene información decisoria.

La solución: cuatro primitivos mecánicos

El mech-gov-framework define tres regímenes de gobernanza. R1 (solo texto): el LLM recibe la política como prompt y se auto-interpreta. R2 (la innovación): enforcement mecánico con hard gates, commit-reveal de entropía, congelamiento de candidatos y chequeo de calidad argumentativa. R3: régimen adaptativo/exploratorio.

Los cuatro primitivos mecánicos operan FUERA del loop interpretativo del modelo:

• Hard gates: reglas determinísticas evalúan riesgo, completitud y flags regulatorios ANTES de consultar el LLM. Según el paper, 33% de los casos se deciden mecánicamente sin llamar al modelo (Gate Override Rate = 0.327).
• E3 (Entropy Commit-Reveal): toma prestado de la criptografía: el protocolo de Blum (1983) garantiza que el seed de aleatoriedad se commitea antes del scoring, impidiendo ataques de seed-conditioning.
• CEFL (Candidate Expansion and Freezing): resuelve el selection-by-negation: el agente puede suprimir alternativas del conjunto de candidatos para dirigir la decisión. El CEFL externaliza la generación antes del scoring, bloqueando el sesgo en la raíz.
• I6Q (Argumentative Quality Enforcement): exige un mínimo de 10 tokens y diversidad léxica (TTR mayor o igual a 0.4). Según el paper, sin él, 28% de los casos necesitan retry. El modelo es forzado a producir razonamiento sustantivo.

Los números: cada primitivo es necesario

Según el paper, los resultados son contundentes. El MCC sube de 0.43 a 0.88. El CDL cae 73% (de 0.273 a 0.074). El DIU más que se duplica (de 0.298 a 0.766). La ablación causal confirma que cada primitivo es individualmente necesario: remover cualquiera degrada significativamente la gobernanza.

Estos no son incrementos marginales. Son saltos cualitativos que cambian la naturaleza del sistema: de gobernanza cosmética a gobernanza auditable.

Governance-task decoupling: el hallazgo central

El hallazgo central del paper es el governance-task decoupling. Bajo estrés estructural, R2 preserva la gobernanza incluso cuando la exactitud cae. En el escenario S2, R2 alcanza su mejor gobernanza (CDL = 0.088, DIU = 0.852) y su peor exactitud (MCC = 0.285) simultáneamente. Bajo R1, gobernanza y tarea se degradan juntas.

La implicación es clara: la exactitud no es proxy suficiente para gobernanza regulada. Puede tener alta exactitud y gobernanza terrible. El modelo puede estar en lo correcto y aun así no ser auditable. Los ejes de gobernanza y exactitud se mueven independientemente bajo presión.

Guardrails tradicionales vs. gobernanza mecánica

Según el paper, herramientas como Guardrails AI, NeMo Guardrails y Llama Guard miden seguridad de salida, si el contenido es tóxico u ofensivo. El mech-gov-framework mide calidad de gobernanza, si el deferimiento preserva información para revisión humana. Son ejes distintos.

Los guardrails tradicionales verifican qué dice el modelo. El mech-gov verifica cómo decide el modelo. Para conformidad regulatoria, necesita ambos: guardrails para seguridad de contenido y gobernanza mecánica para trazabilidad de decisiones.

Implicaciones para el EU AI Act

La implicación para el AI Act es directa. Tras el acuerdo político del Omnibus (7 de mayo de 2026), el plazo para sistemas de alto riesgo pasó al 2 de diciembre de 2027. Agosto de 2026 trae obligaciones de transparencia para deployers (Artículo 50): etiquetar contenido generado por IA e informar a los usuarios sobre la interacción con IA.

El scoring de crédito es clasificación de alto riesgo (Anexo III 5(b)). La detección de fraude está explícitamente excluida de esa clasificación. La EBA confirmó en noviembre de 2025: sin contradicciones significativas entre el AI Act y la legislación bancaria europea. Son complementarios, pero la complementariedad exige integración deliberada entre los dos frameworks.

Multas: hasta 35 millones de euros o 7% de la facturación global por prácticas prohibidas. El Evident AI Index 2025 registró a Santander subiendo 7 posiciones al 21º lugar global, fortaleciendo los pilares de Innovation y Transparency.

Los paquetes open-source de Santander (sota-stressed-datasets para benchmarks de robustez, autoguardrails para guardrails de LLMs) son relevantes para los requisitos de robustez y guardrails del AI Act. El framework es Python, agnóstico al modelo, bajo licencia Apache 2.0.

Conclusión

La exactitud no es proxy suficiente para conformidad regulada. El governance-task decoupling prueba que los ejes de gobernanza y exactitud se mueven independientemente bajo presión. Si opera LLMs regulados y confía en prompts de gobernanza como control, está midiendo el eje equivocado. La gobernanza que depende de la interpretación del modelo no es gobernanza: es conformidad cosmética.

En Tech86 ayudamos a empresas a implementar gobernanza mecánica para LLMs regulados, desde la evaluación de la postura actual (R1 vs R2) hasta la alineación con los requisitos del EU AI Act. El framework existe, es open-source y es auditable. Lo que falta es la decisión de usarlo.