C84 Tech Talks | Karina Gibert, 3 preguntas sobre… Inteligencia Artificial

Charo Toribio
ctoribio@aecoc.es
C84 Nº 258 – JUNIO 2023

Karina Gibert
Directora del Intelligent Data Science & Artificial Intelligence de la UPC (IDEAI-UPC)

La IA generativa, con Chat GPT a la cabeza, está revolucionando la industria, aunque comienzan a surgir las primeras advertencias sobre los riesgos y desafíos a los que se enfrenta. Hablamos con Karina Gibert, directora del centro de investigación Intelligent Data Science & Artificial Intelligence de la UPC y decana del Colegio Oficial de Ingeniería Informática de Catalunya, sobre el potencial y los límites de la IA en toda su extensión.

Reto. En la industria europea de IA tenemos el reto de implementar regulaciones y certificaciones sin incrementar costes y manteniendo la competitivad.

 

Karina Gibert, Directora del Intelligent Data Science & Artificial Intelligence de la UPC (IDEAI-UPC).

1. ¿Qué oportunidades abre la IA a las empresas?

La inteligencia artificial (IA) es una herramienta hiperpoderosa que permite a las empresas identificar sus oportunidades, sus fallos, su posición en el mercado y cómo mejorarla. Es una de las mejores herramientas de observación de la estrategia empresarial. Pero me refiero a la IA en toda su expresión, no solo a la IA generativa con la que ahora hay un hype enorme a partir de herramientas como Chat GPT.

Hay otras ramas de IA que llevan muchos años dando apoyo a todo tipo de procesos empresariales. Debemos romper con la idea de que, si no eres una empresa hiper tecnificada, super sensorizada, que recopila datos cada 5 segundos, no puedas beneficiarte de la IA. Hay que reivindicar que la IA tiene otras ramas que pueden acelerar la transformación digital de las pymes, por ejemplo.

IA generativa. Aplicaciones inmediatas

La aportación diferencial de la IA generativa, que hoy es la “superestrella” y es la versión más avanzada de la IA subsimbólica (que aplica técnicas diferentes al pensamiento humano para resolver problemas), es que permite generar contenidos a partir de los datos con los que se le ha entrenado.

• Imágenes. Una de las primeras aplicaciones de la IA generativa fue el desarrollo de creaciones gráficas a partir de descripciones de texto, que se pueden emplear para publicidad (cartelería, promociones, etc.) moda o arte, por ejemplo.
• Textos. La revolución más grande de la IA generativa la ha marcado Chat GPT que genera textos con los que responde a preguntas formuladas en lenguaje natural. Aunque debemos tener en cuenta que no razona, simplemente une conceptos que tiene almacenados.
• Chat bots. Una de las aplicaciones de Chat GPT más inmediatas es la creación de chat bots que pueden ofrecer información al cliente (ofertas, características de los productos, etc.) o a los comerciales para preparar campañas, por ejemplo.
• Ecuaciones. Chat GPT también es capaz de resolver ecuaciones muy rápido. Aunque queda por ver hasta qué punto está bien resuelta la conexión de estos resultados con los modelos predictivos más antiguos. Como modelos predictivos nos referimos a la IA que aplica aprendizaje automático a partir de datos históricos para desarrollar modelos de predicción, a partir de las ventas históricas de una empresa es posible predecir demanda, costes, stocks, etc.

Supervisión humana. La IA nunca debería tomar decisiones automáticas sin pasar por la validación de una persona experta.

2. ¿Qué riesgos de la IA generativa deben considerar las empresas?

• Veracidad. Los resultados de la IA generativa siempre introducen incertidumbre. De hecho, recurrimos a la IA para resolver problemas que no tienen una solución exacta, porque si es posible obtener una solución exacta recurrimos a métodos matemáticos. La IA generativa ofrece aproximaciones eventualmente óptimas, aunque no son resultados exactos. Por ejemplo, los textos de la IA generativa pueden estar bien construidos, pero puede que no sean veraces. El riesgo es que si quien revisa el texto desconoce el tema puede que no sepa identificar si es correcto, entre otras cosas, porque Chat GPT no cita las fuentes de dónde extraer la información. La IA generativa no razona, se limita a aprender qué conceptos están relacionadas con las palabras que plantea el usuario y desarrolla textos, pero no conoce el contexto. Por ejemplo, hace poco un abogado me decía que le pidió a Chat GPT que redactara un contrato de alquiler y lo hizo muy bien, pero basándose en la Ley de EE.UU. Con el tiempo iremos viendo dónde falla, porque es normal que falle, bajará el ‘suflé’ y se volverán a priorizar otras técnicas de IA.
• Ética y supervisión humana. Sabiendo que los resultados de la IA pueden ser inciertos es fundamental analizar cómo se aplican estos resultados, quién interactúa con ellos, cómo los utiliza, etc. Y para ello la ética es esencial. Una de las exigencias de Europa es que todas las IA tengan supervisión humana. Dejando aparte casos en los que la IA no requiere supervisión (por ejemplo, un toro inteligente que mueve paquetes de noche en un almacén sin personas) una IA nunca debería tomar decisiones automáticas sin someterse a la validación de un experto porque las decisiones que toma la IA se basan en datos históricos, pero hay otros elementos que no se miden en datos. El experto puede ver estos otros elementos del contexto, pero la máquina solo ve datos.

IA para todos. No solo las empresas hiper tecnificada pueden beneficiarse de la IA. Las pymes, por ejemplo, se pueden beneficiar de ramas de la IA que acelerar su transformación digital.

3. ¿A qué desafíos se enfrenta el desarrollo de la IA?

• Regulación. En el IDEAI-UPC estamos revisando las guías de implementación de la regulación europea de la IA en España. Estas guías, además del sandbox, el espacio que permitirá a las empresas experimentar IA con apoyo público, se pondrán en marcha dentro de muy poco y servirán como piloto para analizar si la propuesta de regulación de la Comisión Europea es operativa. Ahora la IA crece de forma desbocada, caótica y descontrolada. Con Chat GPT hemos asistido a una carrera espacial, salió la primera versión en noviembre, la segunda al cabo de una semana, luego la tercera, la cuarta y la quinta. En paralelo, cualquiera que sepa programación puede subir una app al mercado y cualquier usuario puede bajarla y usarla, sin más. Sin embargo, no compras una silla sin saber quién la ha fabricado ni cómo. Todo lo tangible pasa por procesos de certificación y estandarización, pero la IA, que es tan potente pero que a veces se equivoca, no pasa por estos procesos. No es sostenible que cualquiera pueda lanzar una IA sin control. Europa hace un esfuerzo para que el desarrollo del sector se enmarque en un contexto ético. El reto es contar con mecanismos que nos permitan detectar donde se dan fraudes para aplicar sanciones. Pero me preocupa que no seamos capaces de detectar estos fraudes. No será suficiente con la regulación, que va muy por detrás del desarrollo de la tecnología. Creo que es fundamental implementar mecanismos de certificación, es decir, que no puedas lanzar una IA sin validar que los datos de entrenamiento no estaban sesgados, que no discrimina a minorías o que no respeta la privacidad, por ejemplo.
• Competitividad global. En un mercado tan intangible como la IA, que no pasa por aduanas, ni fronteras, podemos certificar toda la IA generada en Europa. ¿Pero cómo compite en un mercado global, con Ias chinas y americanas, que no se someterán a estas certificaciones? En Europa tenemos el reto de implementar estas certificaciones a la vez que respetamos el time to market, sin incrementar costes y manteniendo la competitivad. Si no, la supervivencia de la industria europea de la IA no está garantizada. Y si nuestra IA desaparece quedaremos en manos de productores que no respetan nuestras regulaciones. Es fundamental encontrar el equilibrio para mantener una IA ética e implementarla sin perjudicar la competitividad.

C84 | Charo Toribio
ctoribio@aecoc.es