Cada vez más entidades incorporan modelos predictivos para calificar riesgo de crédito, detectar fraude, o priorizar alertas de monitoreo. El problema no es la tecnología — es que muchos equipos de riesgo terminan operando un modelo que no pueden explicar, ni ante un comité interno ni ante un regulador.
Las cinco preguntas que un equipo de riesgo debería poder responder
- ¿Qué variables usa el modelo, y por qué esas y no otras? Si la respuesta es “las que dio mejor desempeño en el backtest”, falta la mitad de la historia — también hay que saber si alguna variable introduce un sesgo que no se pueda justificar.
- ¿Qué tan explicable es una decisión individual del modelo? Un score global bien calibrado no sirve de nada si, ante un caso puntual, nadie puede explicar por qué esa persona o empresa específica recibió ese resultado.
- ¿Con qué frecuencia se reentrena, y quién lo aprueba? Un modelo que no se revisa pierde precisión silenciosamente a medida que el comportamiento real de la población se aleja de los datos con los que se entrenó.
- ¿Qué pasa cuando el modelo falla? Debe existir un proceso claro de excepción manual — un modelo predictivo apoya la decisión, no la reemplaza por completo en los casos límite.
- ¿Quién es responsable del modelo dentro de la organización? No basta con que “el área de datos lo mantiene” — el área de riesgo tiene que poder auditarlo con la misma rigurosidad que audita cualquier otro control.
La IA no cambia el estándar, lo eleva
Un modelo estadístico tradicional y un modelo de aprendizaje automático están sujetos al mismo principio: cualquier herramienta que influya en una decisión de riesgo tiene que ser explicable, auditable, y tener un dueño claro dentro de la organización. La diferencia es que los modelos más sofisticados hacen más fácil perder de vista ese estándar si no se diseña el proceso de gobierno desde el principio.
¿Tu organización ya usa modelos predictivos pero no tiene claro cómo gobernarlos? Conversemos sobre cómo integrarlos a tu marco de riesgo existente.