Recoletos Consultores publica una guía de seguridad en IA con recomendaciones para prevenir fraudes, proteger datos y controlar permisos en empresas y aplicaciones. Aborda los riesgos de la inteligencia artificial, la suplantación de identidad, el prompt injection y los accesos no autorizados.
Recoletos Consultores ha publicado «Tu IA puede ser brillante. ¿Pero es segura?» Se trata de un manual práctico de seguridad con inteligencia artificial de nueve páginas dirigido a empresas y profesionales que utilizan asistentes, automatizan tareas o desarrollan aplicaciones. La guía, difundida a través de ThynkIA, propone comprobaciones para reducir el riesgo de fraude, exposición de información y accesos innecesarios.
El recurso ha sido elaborado por Elena Yagüez Rico, directora de Marketing, Comunicación e inteligencia artificial
Incluye siete hábitos para personas usuarias, recomendaciones para conectar asistentes de forma segura, siete controles previos a la publicación de aplicaciones y pautas para mantenerlas después de su lanzamiento.
El manual describe tres situaciones ilustrativas:
- Una voz que suplanta a un responsable para solicitar un pago o un código.
- Un documento que introduce instrucciones ocultas a un asistente (prompt injection)
- Una aplicación que funciona, pero carece de responsable de mantenimiento.
Los ejemplos muestran por qué reconocer una voz, obtener una respuesta correcta o publicar una herramienta no garantiza que el proceso sea seguro.
Entre las medidas propuestas figuran verificar pagos por un canal independiente, limitar los permisos de los asistentes a cada tarea, retirar autorizaciones innecesarias, proteger credenciales y comprobar la restauración de las copias de seguridad. Son precauciones que forman parte de la gestión de riesgos empresariales y ayudan a proteger información de clientes, operaciones y procesos internos.
«El primer paso es concreto: revisar qué has conectado, qué has autorizado y quién se encarga de mantenerlo», resume el artículo con el que Recoletos Consultores presenta la guía.
La publicación da continuidad a la reflexión de Elena Yagüez en SegurosNews: «Prohibir la IA no elimina el riesgo. Ignorarla tampoco». Este enfoque conecta con las obligaciones del Reglamento Europeo de IA. En las empresas afectadas por NIS2 ayuda con la responsabilidad del administrador en materia de ciberseguridad.
Como punto de partida, el documento incluye una revisión de seguridad de 15 minutos. A las personas usuarias les propone identificar las herramientas conectadas a sus cuentas, retirar accesos y establecer verificaciones independientes para pagos. A quienes desarrollan aplicaciones les recomienda identificar al responsable de mantenimiento y comprobar credenciales y accesos a datos. La guía advierte de que esta revisión inicial no acredita por sí sola la seguridad de una aplicación ni sustituye las pruebas técnicas correspondientes.
Ante un posible incidente, el manual aconseja detener acciones, revocar permisos, avisar a los responsables y conservar evidencias, que pueden resultar necesarias para activar un ciberseguro. El objetivo es ordenar las primeras decisiones y evitar que un incidente se agrave por falta de control.
El manual está disponible para su descarga en el canal de Telegram de ThynkIA. Su revisión de 15 minutos permite comenzar por lo que cada empresa ya tiene conectado, autorizado y en funcionamiento.