Palabras clave: Gestión de Riesgos, Arquitectura intermedia, Autonomía Operativa, Mitigación Proactiva, Innovación Segura
Cuando se habla de riesgos en proyectos de inteligencia artificial, especialmente en el mundo financiero, la conversación suele desviarse rápidamente hacia escenarios casi de ciencia ficción. Sin embargo, en la práctica, la gestión del riesgo en IA es bastante más concreta y si es bien abordada, razonablemente controlable. Todo parte por entender una idea simple: qué información entra a la inteligencia artificial y qué información sale de ella.
El riesgo comienza en el consumo de datos
Las inteligencias artificiales generativas, en particular los modelos de lenguaje (LLM), funcionan consumiendo datos y devolviendo información. Por lo tanto, el primer foco de cualquier análisis de riesgo debe estar en los datos que se entregan al sistema.
Aquí hay un punto clave que suele generar confusión. La gran mayoría de los proveedores serios de LLM —como OpenAI, Anthropic o Google— no almacenan los datos que procesan de manera persistente para otros fines. Técnicamente, los datos se transforman en representaciones numéricas, se procesan y luego se descartan. Desde ese punto de vista, la probabilidad de “pérdida” de información es baja cuando se usan estos servicios de forma directa y conforme a sus contratos empresariales.
El problema comienza a aparecer cuando existen capas intermedias. Por ejemplo, cuando no se consume un modelo vía API directa, sino a través de una aplicación, plataforma o herramienta adicional. En esos casos, la información primero puede quedar almacenada en bases de datos intermedias antes de ser enviada al modelo. Es ahí donde se abre el espacio para riesgos reales.
La buena noticia es que este tipo de riesgos suele ser mitigable con relativa facilidad: encriptación, encapsulamiento, controles de acceso y buenas prácticas de infraestructura. Aun así, es indispensable realizar una auditoría básica de la arquitectura, entendiendo qué datos se almacenan, por cuánto tiempo y quién puede acceder a ellos. No es un ejercicio teórico, es un check operativo mínimo.
El segundo riesgo: lo que la IA puede hacer con la información
La otra cara del riesgo no está en lo que entra, sino en lo que sale y lo que la inteligencia artificial puede hacer con ello. Hoy, muchos sistemas de IA no solo responden preguntas, sino que también pueden tener acceso a APIs, ejecutar acciones o interactuar con otros sistemas.
Aquí la pregunta clave es: ¿Qué permisos tiene la inteligencia artificial?
¿Solo responde texto? ¿Puede leer información interna? ¿Puede escribir en bases de datos? ¿Puede interactuar con clientes finales?
En la mayoría de los proyectos iniciales, el alcance es acotado y el riesgo es bajo. Pero a medida que se le otorgan más capacidades —por ejemplo, leer y modificar información en servidores, o comunicarse directamente con clientes— el nivel de riesgo crece de forma no lineal.
Por eso, una buena práctica es realizar:
1. Una auditoría clara de accesos y acciones posibles
2. Una evaluación del riesgo asociado a cada permiso
3. Medidas de mitigación proporcionales al riesgo
En algunos casos, estas medidas pueden ser simples, como aclarar explícitamente que una respuesta proviene de una inteligencia artificial y no representa una posición oficial de la empresa. En otros casos, el riesgo simplemente no vale la pena y el proyecto debe replantearse o despriorizarse.
Riesgo gestionado, no riesgo eliminado
La conclusión es sencilla, pero importante: la inteligencia artificial no es inherentemente peligrosa, pero sí requiere un diseño responsable. Entender qué datos consume, cómo se manejan, qué acciones puede ejecutar y hasta dónde llega su alcance operativo permite tomar decisiones informadas.
En el mundo financiero, gestionar riesgos en IA no es frenar la innovación, sino habilitarla de forma segura. Los proyectos más exitosos no son los más ambiciosos desde el primer día, sino los que crecen sobre bases bien auditadas, con controles claros y con una comprensión realista de sus límites.