Entre octubre de 2024 y junio de 2025, el itdUPM y la Cátedra UPM-Iberdrola para los Objetivos de Desarrollo Sostenible han puesto en marcha una serie de talleres multiactor con varias instituciones de sectores importantes de la economía como la energía, el transporte, las finanzas y la administración pública para reflexionar, con mirada crítica y rigurosa, sobre cómo se están desarrollando las aplicaciones de inteligencia artificial generativa en el ámbito de la atención al cliente.
El objetivo principal de estos talleres multiactor ha sido abrir un espacio para el diálogo entre personas expertas y profesionales de las operaciones de contact center, la tecnología, el cumplimiento y la gobernanza tecnológica y promover un diseño responsable de esta tecnología, sin perder de vista los valores humanos que deben acompañar toda innovación
.
¿Por qué la atención al cliente?
La función de atención al cliente o contact centers tiene tres características que la hacen actualmente ser un punto de mira en el presente para conocer y anticipar lo que podrá ser en el futuro una convivencia de humanos y la inteligencia artificial en el trabajo. Por una parte, la función de atención a clientes (o atención a ciudadanos en la administración pública) es crítica en todas las organizaciones, ya que el servicio a clientes y ciudadanos es el propósito de la organización y tiene un impacto directo en la fuente de ingresos de las empresas. Por otro lado, esta función emplea una cantidad considerable de personas en algunas empresas de servicios y representa un coste relevante en la cuenta de resultados. Finalmente, la oportunidad de integración con tecnología de Inteligencia artificial parece evidente: es una actividad intensiva en información, con una componente importante de tareas rutinarias, y segmentos de clientes más habituados a la interacción con agentes virtuales.
Una conversación entre tecnología y ética
A lo largo de los primeros cuatro talleres, el proyecto ha ido tejiendo una conversación que combina, de una forma sistémica, perspectivas técnicas, estratégicas, financieras, éticas, legales y sociales. En el primer encuentro, celebrado en octubre de 2024, se pusieron sobre la mesa las oportunidades de la IA generativa en atención al cliente. Pero también surgieron preocupaciones clave: ¿Cómo se protege la privacidad de los datos? ¿Cómo evitamos sesgos o discriminaciones? ¿Dónde reside el papel de las personas en un sistema cada vez más automatizado?
En marzo de 2025, el tercer taller se centró en uno de los desafíos más complejos: las «alucinaciones» o errores que presentan los modelos de lenguaje. Durante la sesión, se exploraron diversas estrategias de gobernanza para prevenir, detectar y mitigar estos problemas. La discusión fue especialmente valiosa, ya que contribuyó a concretar propuestas prácticas como la implementación de guardrails, el uso de técnicas RAG y la opción de recurrir a agentes humanos para la supervisión.
El cuarto encuentro, en junio, se centró en la gobernanza ética en la implementación de los modelos de agentes IA para atención al cliente. Marcos de desarrollo como Ethics by Design o como transparencia algorítmica se operacionalizan en el contexto de las operaciones de atención al cliente mediante dinámicas participativas como el «Museo de la Ética», donde se exploraron los límites de la creciente dependencia de la IA en nuestras empresas y en la sociedad en general. En cada un de estos talleres, se invitó a personas expertas de la academia y del sector de la tecnología que aportaron visiones técnicas y científicas sobre las posibilidades de las distintas tecnologías pero también sus limitaciones, a la vez que plantearon los dilemas más importantes a los que se enfrentan los desarrolladores de este tipo de tecnologías.
Gobernanza humana en la era de la IA
Uno de los mensajes más recurrentes en los talleres fue la importancia de no perder de vista lo fundamental: la tecnología puede ser una gran aliada, pero su implantación e integración en las operaciones de atención al cliente debe tener en cuenta efectos a largo plazo sobre la organización y las personas. Esa integración necesitará una rigurosa supervisión para asegurar que siga siendo una herramienta al servicio de la organización y debe priorizar el aumento de la capacidad de la organización y las personas, en lugar de estar impulsada únicamente por la búsqueda del ahorro de costes mediante la sustitución de personas. Habilidades humanas como la visión estratégica con propósito y el pensamiento crítico seguirán siendo esenciales y deberá asegurarse que se mantienen activas en nuestras organizaciones. Frente al excesivo tecno-optimismo —esa creencia de que la tecnología solucionará todos los problemas por sí sola y que su adopción es en todos casos beneficiosa—, el proyecto propone cultivar una relación con la inteligencia artificial que sea consciente, crítica y responsable.
Próximo curso 2025-26
El equipo del proyecto está trabajando en la creación de un repositorio abierto con toda la información y reflexiones recogidas, que incluya también artículos académicos y de bibliografía gris de la industria sobre la adopción de la IAG en la atención del cliente.
También queremos organizar un «diálogo improbable», abierto a los distintos actores de la industria, academia y administraciones, que reúna a voces diversas para seguir explorando estas cuestiones desde nuevos ángulos. Durante el resto del curso, seguiremos con talleres sobre temáticas específicas tanto en temas tecnológicos como en preocupaciones de distintas áreas de naturaleza legal o ético o gobernanza, como las posibles discriminaciones de representación en modelos de lenguaje, o la explicabilidad, o los requisitos de cumplimiento específicos de la nueva regulación europea de la IA.
Estamos siempre abiertos a acoger a nuevas empresas de sectores de servicios a nuestro grupo de trabajo que seguirá funcionando como grupo cerrado, utilizando la regla de Chatham House, para asegurar la confidencialidad y un espacio seguro de discusiones.
Desde el itdUPM insistimos en que este proyecto trata de construir un futuro donde la tecnología esté al servicio del desarrollo humano. Donde innovar no signifique correr, sino pensar mejor. Donde automatizar no implique dejar de decidir. Y donde el diálogo constante entre tecnología, ética y sociedad sea el motor que guíe cada paso hacia un futuro más consciente.
Entre octubre de 2024 y junio de 2025, el itdUPM y la Cátedra UPM-Iberdrola para los Objetivos de Desarrollo Sostenible han puesto en marcha una serie de talleres multiactor con varias instituciones de sectores importantes de la economía como la energía, el transporte, las finanzas y la administración pública para reflexionar, con mirada crítica y rigurosa, sobre cómo se están desarrollando las aplicaciones de inteligencia artificial generativa en el ámbito de la atención al cliente.
El objetivo principal de estos talleres multiactor ha sido abrir un espacio para el diálogo entre personas expertas y profesionales de las operaciones de contact center, la tecnología, el cumplimiento y la gobernanza tecnológica y promover un diseño responsable de esta tecnología, sin perder de vista los valores humanos que deben acompañar toda innovación
.
¿Por qué la atención al cliente?
La función de atención al cliente o contact centers tiene tres características que la hacen actualmente ser un punto de mira en el presente para conocer y anticipar lo que podrá ser en el futuro una convivencia de humanos y la inteligencia artificial en el trabajo. Por una parte, la función de atención a clientes (o atención a ciudadanos en la administración pública) es crítica en todas las organizaciones, ya que el servicio a clientes y ciudadanos es el propósito de la organización y tiene un impacto directo en la fuente de ingresos de las empresas. Por otro lado, esta función emplea una cantidad considerable de personas en algunas empresas de servicios y representa un coste relevante en la cuenta de resultados. Finalmente, la oportunidad de integración con tecnología de Inteligencia artificial parece evidente: es una actividad intensiva en información, con una componente importante de tareas rutinarias, y segmentos de clientes más habituados a la interacción con agentes virtuales.
Una conversación entre tecnología y ética
A lo largo de los primeros cuatro talleres, el proyecto ha ido tejiendo una conversación que combina, de una forma sistémica, perspectivas técnicas, estratégicas, financieras, éticas, legales y sociales. En el primer encuentro, celebrado en octubre de 2024, se pusieron sobre la mesa las oportunidades de la IA generativa en atención al cliente. Pero también surgieron preocupaciones clave: ¿Cómo se protege la privacidad de los datos? ¿Cómo evitamos sesgos o discriminaciones? ¿Dónde reside el papel de las personas en un sistema cada vez más automatizado?
En marzo de 2025, el tercer taller se centró en uno de los desafíos más complejos: las «alucinaciones» o errores que presentan los modelos de lenguaje. Durante la sesión, se exploraron diversas estrategias de gobernanza para prevenir, detectar y mitigar estos problemas. La discusión fue especialmente valiosa, ya que contribuyó a concretar propuestas prácticas como la implementación de guardrails, el uso de técnicas RAG y la opción de recurrir a agentes humanos para la supervisión.
El cuarto encuentro, en junio, se centró en la gobernanza ética en la implementación de los modelos de agentes IA para atención al cliente. Marcos de desarrollo como Ethics by Design o como transparencia algorítmica se operacionalizan en el contexto de las operaciones de atención al cliente mediante dinámicas participativas como el «Museo de la Ética», donde se exploraron los límites de la creciente dependencia de la IA en nuestras empresas y en la sociedad en general. En cada un de estos talleres, se invitó a personas expertas de la academia y del sector de la tecnología que aportaron visiones técnicas y científicas sobre las posibilidades de las distintas tecnologías pero también sus limitaciones, a la vez que plantearon los dilemas más importantes a los que se enfrentan los desarrolladores de este tipo de tecnologías.
Gobernanza humana en la era de la IA
Uno de los mensajes más recurrentes en los talleres fue la importancia de no perder de vista lo fundamental: la tecnología puede ser una gran aliada, pero su implantación e integración en las operaciones de atención al cliente debe tener en cuenta efectos a largo plazo sobre la organización y las personas. Esa integración necesitará una rigurosa supervisión para asegurar que siga siendo una herramienta al servicio de la organización y debe priorizar el aumento de la capacidad de la organización y las personas, en lugar de estar impulsada únicamente por la búsqueda del ahorro de costes mediante la sustitución de personas. Habilidades humanas como la visión estratégica con propósito y el pensamiento crítico seguirán siendo esenciales y deberá asegurarse que se mantienen activas en nuestras organizaciones. Frente al excesivo tecno-optimismo —esa creencia de que la tecnología solucionará todos los problemas por sí sola y que su adopción es en todos casos beneficiosa—, el proyecto propone cultivar una relación con la inteligencia artificial que sea consciente, crítica y responsable.
Próximo curso 2025-26
El equipo del proyecto está trabajando en la creación de un repositorio abierto con toda la información y reflexiones recogidas, que incluya también artículos académicos y de bibliografía gris de la industria sobre la adopción de la IAG en la atención del cliente.
También queremos organizar un «diálogo improbable», abierto a los distintos actores de la industria, academia y administraciones, que reúna a voces diversas para seguir explorando estas cuestiones desde nuevos ángulos. Durante el resto del curso, seguiremos con talleres sobre temáticas específicas tanto en temas tecnológicos como en preocupaciones de distintas áreas de naturaleza legal o ético o gobernanza, como las posibles discriminaciones de representación en modelos de lenguaje, o la explicabilidad, o los requisitos de cumplimiento específicos de la nueva regulación europea de la IA.
Estamos siempre abiertos a acoger a nuevas empresas de sectores de servicios a nuestro grupo de trabajo que seguirá funcionando como grupo cerrado, utilizando la regla de Chatham House, para asegurar la confidencialidad y un espacio seguro de discusiones.
Desde el itdUPM insistimos en que este proyecto trata de construir un futuro donde la tecnología esté al servicio del desarrollo humano. Donde innovar no signifique correr, sino pensar mejor. Donde automatizar no implique dejar de decidir. Y donde el diálogo constante entre tecnología, ética y sociedad sea el motor que guíe cada paso hacia un futuro más consciente.
