Un informe de AXA XL y S-RM alerta de que la inteligencia artificial se está incorporando a procesos empresariales críticos más rápido de lo que muchas organizaciones están adaptando sus capacidades de gobernanza, seguridad y respuesta ante incidentes.
La adopción de la inteligencia artificial (IA) está avanzando a mayor velocidad que la capacidad de muchas empresas para supervisar y gestionar los riesgos asociados a estas tecnologías. Esta es una de las principales conclusiones de Building Resilient AI: Managing AI risk through governance, security and resilience, elaborado por AXA XL, la división de seguros de daños y riesgos especializados de AXA, y S-RM, consultora especializada en inteligencia y ciberseguridad.
El informe plantea que el riesgo asociado a la IA debe abordarse como una cuestión de resiliencia empresarial, y no únicamente como un problema tecnológico o de cumplimiento normativo.
El 88% de las organizaciones ya utiliza IA
La dimensión del fenómeno está creciendo rápidamente. Según la encuesta 2026 State of AI de McKinsey & Company citada en el informe, el 88% de las organizaciones afirma utilizar actualmente inteligencia artificial en al menos una función empresarial.
A medida que estas herramientas se incorporan a procesos críticos y obtienen acceso a datos sensibles, aplicaciones corporativas y sistemas de toma de decisiones, también aparecen nuevos vectores de riesgo.
AXA XL y S-RM identifican posibles impactos en ámbitos como la ciberseguridad, el fraude, la responsabilidad civil, el riesgo operativo, los proveedores y la interrupción del negocio, además de sus posibles implicaciones aseguradoras.
Cinco prioridades para gestionar el riesgo de la IA
El informe establece cinco prioridades para los responsables empresariales:
- Definir responsabilidades claras sobre la IA en toda la organización, incluyendo las implementaciones formales, las funcionalidades integradas en software y la denominada “IA en la sombra”.
- Proteger los datos sensibles y reforzar los controles de identidad y acceso a medida que los sistemas adquieren mayor autonomía.
- Gestionar el riesgo durante todo el ciclo de vida de la IA, desde la recopilación de datos y el desarrollo de modelos hasta su implementación, supervisión y respuesta ante incidentes.
- Reforzar la gobernanza y la debida diligencia de proveedores de IA y otros terceros críticos.
- Prepararse para escenarios de pérdidas vinculadas a la IA, con posibles consecuencias en ciberseguridad, fraude, responsabilidad civil, interrupción del negocio y otras coberturas aseguradoras.
“La IA está pasando de la fase experimental a los sistemas y procesos en los que las organizaciones confían a diario, pero la gobernanza no siempre sigue el ritmo”, afirma Jonathan Salter, Head of Risk Consulting de AXA XL.
Según Salter, las organizaciones que quieran aprovechar el potencial de estas tecnologías necesitan conocer dónde se está utilizando la IA, comprender las consecuencias empresariales de posibles fallos e incorporar medidas de seguridad y resiliencia desde las primeras fases de implementación.
Datos, identidades y proveedores, entre los puntos críticos
El informe señala que los riesgos de la IA no aparecen necesariamente de manera aislada, sino que pueden amplificar vulnerabilidades ya existentes en las organizaciones.
“La IA rara vez surge de forma aislada. Amplifica las debilidades existentes en la gestión de identidades, la gobernanza de datos, la supervisión de proveedores y la preparación ante incidentes”, explica Rebiah Bardot-Girard, Head of Cyber Risk Consulting Services de AXA XL.
Por ello, el informe considera fundamental realizar un inventario práctico que permita identificar dónde se utiliza la IA, a qué datos tiene acceso y en qué procesos puede tomar decisiones o influir en ellas.
De la fuga de datos a la IA en la sombra
Entre los riesgos analizados aparecen la fuga de datos, la manipulación de modelos, la inyección de indicaciones, los resultados poco fiables, la IA en la sombra y los agentes excesivamente autónomos.
Frente a estos riesgos, el informe plantea cinco pilares para avanzar hacia una IA segura desde el diseño: gobernanza sólida de los datos, seguridad de modelos y aplicaciones, resiliencia del ecosistema, controles de acceso robustos y supervisión continua.
Esta última cuestión adquiere especial relevancia porque la evaluación previa a la implantación no garantiza por sí sola un control adecuado del riesgo.
El 64% evalúa la seguridad antes de implantar herramientas de IA
El informe recoge que algunas organizaciones ya están reforzando sus mecanismos de supervisión. Según datos del Foro Económico Mundial, el 64% evalúa actualmente la seguridad de las herramientas de IA antes de su implementación, frente al 37% registrado un año antes.
Sin embargo, AXA XL y S-RM advierten de que esta evaluación inicial debe complementarse con una supervisión permanente durante la implementación y el funcionamiento de los sistemas.
La razón es que el perfil de riesgo puede cambiar a medida que la IA obtiene acceso a nuevos datos, aplicaciones empresariales y procesos de decisión.
IA, ciberseguridad y transferencia de riesgos
AXA XL y S-RM plantean la gestión del riesgo de IA como un ámbito que requiere combinar gobernanza, ciberseguridad, gestión de riesgos y mecanismos de transferencia.
Ambas compañías señalan que su trabajo conjunto busca ayudar a las organizaciones a reforzar sus estructuras de gobernanza, simular posibles escenarios de incidentes y tomar decisiones sobre mitigación y transferencia de riesgos.