El Club Excelencia en Gestión celebra un taller online sobre los riesgos que se pueden generar en las empresas al utilizar herramientas de inteligencia artificial generativa.

Iniciándonos en la IA: Fundamentos y aplicaciones prácticas

Enric Delgado, director del equipo de Client Engineering de IBM, ha ofrecido una clase magistral sobre los riesgos que se pueden generar en las empresas al utilizar herramientas de inteligencia artificial generativa.

Delgado se ha referido a los modelos propios, diseñados desde las propias organizaciones a través de la inyección de una gran inversión y los diseñados  mediante ‘modelos fundacionales’. Estas herramientas deben  mejorar la eficiencia y la productividad de manera ética y responsable, siempre con la supervisión humana. Dejar funcionar a la IA a su libre albedrío es una práctica plagada de riesgos que pueden poner en peligro la sostenibilidad de cualquier organización.

Claves para evitar problemas si nuestra empresa utiliza IA generativa

1. Alucinaciones. Este término se refiere a los errores o distorsiones que pueden aparecer en la generación de texto e imágenes. Sucede cuaundo los algoritmos decodifican incorrectamente la información. Se crea contenido que no está basado en datos reales, incluyendo vídeos manipulados.
2. La alimentación del modelo. Hay que entrenar al modelo con datos lo más curados y filtrados posible, teniendo en cuenta aspectos legales y éticos. Es fácil, y no por ello lícito, utilizar datos protegidos, sensibles o personales, sin consentimiento. Lo mismo ocurre con los datos sesgados que pueden promover resultados discriminatorios.
3. Utilización poco constructiva. Un mal uso de algoritmos puede desembocar en la generación de (des)información tóxica y agresiva. O en el uso no consentido de la imagen de las personas.
4. Modelos transparentes y explicables. Desde los puestos de liderazgo es importante saber explicar cómo se han diseñado las herramientas personalizadas de IA, cómo se han entrenado y cómo se está siguiendo su evolución. Acciones de este tipo indican que se ha asumido una responsabilidad y un compromiso asociados al cumplimiento de la ley y de la ética, lo que aporta confianza.
5. Introducción en el motor de la gestión. El gobierno de una organización no sólo debe ser transparente de puertas hacia fuera y contar cómo funcionan sus algoritmos, también a nivel interno. Hay que hacer partícipes a todas las personas que trabajan en ella de cómo es y cómo funciona el modelo, cómo se va a introducir en los engranajes del día a día para facilitar la labor de los trabajadores y mejorar el rendimiento, etc. Aportar todo este conocimiento a los miembros de la organización es vital para mejorar los niveles de control y minimizar los riesgos.

La supervisión humana es vital para que la IA genere un impacto positivo

La apuesta por la innovación y la actualización constante en el ámbito tecnológico es una de las palancas de acción de esa Gestión 5.0. Está muy presente en el Modelo EFQM impulsado en España por el Club Excelencia en Gestión.

Es una herramienta que permite medir el grado de madurez de la gestión de una organización para afrontar de forma ágil la transformación. Es necesaria para la sostenibilidad de cualquier organización a lo largo del tiempo, buscando un equilibrio entre la mejora de su funcionamiento en el presente y su preparación para el futuro.

También te puede interesar:

• ¿Es la Inteligencia Artificial el verdadero futuro del sector asegurador?
• Correduidea amplía su curso sobre Inteligencia Artificial aplicada al seguro