Artículo de Raquel Jorge Ricart a partir de la presentación del 4º Monográfico de la Revista Diecisiete: “Ética y revolución digital”

Nuestra sociedad se ve inmersa en un contexto actual de transformaciones sociales, económicas y culturales, en donde la revolución digital –la adopción masiva de tecnologías relacionadas con el procesamiento de datos- tiene un papel esencial. Bien como catalizador de nuevas realidades, bien como facilitador de que algunas realidades ya existentes cambien, lo cierto es que la Inteligencia Artificial, el Internet de las Cosas, el Big Data, el Blockchain, la nube, las plataformas colaborativas, la realidad aumentada, la realidad virtual, o el 5G están planteando cuestiones éticas en nuestra sociedad que no pueden ser ignoradas. Estamos ante lo que muchas personas consideran una nueva revolución industrial. Esta revolución ofrece indudables beneficios a las sociedades, pero también genera ciertos retos y dilemas que nos lleva a reflexiones profundas sobre la propia condición humana y sobre las organizaciones, abriendo preguntas sobre cómo será, o cómo queremos que sea, nuestro futuro cada vez más digital.

Agenda 2030, Revolución Digital y futuro

El 24 de marzo de 2021 más de 100 personas se reunieron para pasar de la reflexión a la acción en la presentación del  4º Monográfico de la Revista Diecisiete, que enmarca este reto bajo el título de “Ética y Revolución Digital”. El objetivo, el de siempre, ha sido ir más allá. Mediante este monográfico, bajo la iniciativa de Acción contra el Hambre y el Centro de Innovación en Tecnología para el Desarrollo Humano de la Universidad Politécnica de Madrid (itdUPM), y con el apoyo de la Cátedra Iberdrola “Ética y Revolución Digital”, la meta es abordar la nueva Hoja de Ruta de la Agenda 2030 y los 17 Objetivos para el Desarrollo Sostenible, que ha sido transformada por la Revolución Digital y necesita ser repensada, en especial por la pandemia de la COVID-19.

Tal y como destacó Carlos Mataix, profesor de la UPM y Director del itdUPM, no es solamente una hoja de ruta de la que partir para avanzar en la recuperación económica. También se enmarca como cambio de rumbo hacia un sistema global de producción, de consumo y de relación mucho más próspero y equilibrado con el planeta. Ello requiere una mirada interdisciplinar mediante la unión de saberes y personas distintas. De ahí que este 4º Monográfico sobre Ética y Revolución Digital aborde asuntos que tradicionalmente se habían visto como compartimentados pero que, sin embargo, se necesitan mutuamente en este contexto de transformación digital, tales como la sociología y personas especializadas en Tecnologías de la Información, así como de personas provenientes del sector académico, público, privado y social.

Ética, derecho y gobernanza global de la Revolución Digital

Este Monográfico aborda las tecnologías emergentes y disruptivas, pero también plantea si tenemos las herramientas adecuadas para controlarlas y, sobre todo, para hacer de la digitalización algo sostenible y enfocado hacia nuestro bienestar, tal y como plantea Jesús Salgado, uno de los tres editores de este número.

En esta primera mesa redonda, el debate se inicia planteando las tres vías de gestión de la Revolución Digital: la ética (con Txetxu Ausín, director del Grupo de Ética Aplicada del CSIC), el derecho (con Margarita Robles, profesora titular en la Universidad de Granada) y su gobernanza global (con Andrés Ortega, investigador Senior en el Real Instituto Elcano).

Respecto a la ética, Txetxu Ausín afirma que la relación humanos-algoritmos es un tema candente. Por una parte, supone una reducción de la toma de decisión autónoma por parte del ser humano. Por ejemplo, con los navegadores GPS en el coche. A ello se añade una capa cognitiva por la que la propia persona adquiere un sentido de confianza cuasi humano con el propio sistema de procesamiento de datos.

Txetxu Ausín plantea que, más que Revolución Digital, deberíamos hablar de Evolución Digital. Nuestras interacciones, cada vez más intensas con artefactos como los algoritmos, nos están llevando a configurar sistemas socio-técnicos, donde se van difuminando las fronteras entre los seres humanos y los artefactos. Txetxu Ausín no hablaría de la “cesión de autonomía”, sino de la generación de una “autonomía compartida”. Estamos evolucionando hacia sistemas inteligentes multi-agente, donde compartimos decisiones con los artefactos, con quienes compartimos una interacción física, cognitiva y hasta emocional. No es solamente el Internet de las Cosas, sino también el Internet de los Cuerpos, como la monitorización de nuestros datos sobre salud.

Respecto al Derecho y a la regulación jurídica de la revolución digital, Margarita Robles aborda el “dilema de las velocidades jurídicas”: si es más conveniente la autorregulación por parte del sector privado, o una regulación general promovida por el Estado. Los mundos jurídico y tecnológico funcionan a velocidades realmente distintas, y en muchas ocasiones ambas esferas no terminan de entenderse.

Las personas juristas han sufrido la sobresaturación del debate ético. Además, no se abordan los temas de fondo, como el hecho de que la revolución digital ponga en duda lo que siempre ha estado en el centro del Derecho: el individuo. Se plantean soluciones particulares o sectoriales, pero no se profundiza en el fondo de la cuestión ni de forma transversal. Por otra parte, el debate ético está monopolizado por los países industrializados y tecnológicamente desarrollados, lo cual excluye y margina de la discusión a todas aquellas narrativas procedentes de una ingente cantidad de otros países.

Es por ello que Txetxu Ausín considera que en esta (r)evolución digital, la ética no debe aportar solamente “recetarios de principios”, sino más bien hacer un análisis del fondo de la cuestión. Hay que moverse de modelos neofeudales o del capitalismo de la vigilancia, para pasar al modelo neoestatista de gestión pública.

Es aquí donde entra la cuestión de la gobernanza global. De acuerdo a Andrés Ortega, debemos ver la digitalización como un bien común. Nos beneficia en cierta forma, y también nos pertenece.

La digitalización y la conectividad son como la electricidad y el agua corriente en épocas anteriores: es un privilegio solo para sociedades ricas. La pandemia nos ha alertado sobre la necesidad de no dejar atrás a las personas sin acceso o excluidas. La tecnología debe permear un nuevo contrato social. Justamente el G20 está trabajando por lograr el derecho al acceso a Internet universal y de calidad. Hay que reforzar la dimensión tecnológica en la Agenda 2030 de los ODS. Hay que integrar la digitalización en las políticas de desarrollo de la agenda de España. Esto debe ir de la mano de programas de capacitación y recualificación digital para fomentar personas alfabetizadas digitalmente.

Se considera bien público porque:

1. No supone rivalidad: su consumo por cualquiera no reduce la cantidad disponible para los demás.
2. No es excluible: es difícil evitar que alguien lo consuma.
3. Está bastante disponible en el mundo.

Para ello, es necesario un enfoque de múltiples actores (multi-stakeholderism): multiactores, multinivel, policéntrica, que necesariamente no será solo de arriba a abajo, sino también de abajo a arriba. Es lo que algunos llaman “gobernanza inductiva”, y otros “gobernanza inclusiva”.

La idea de lo “común” no implica necesariamente una mayor regulación pública, pero sí una supervisión del interés público. El consumo digital supone más del 3% del suministro de electricidad en el mundo. Las transiciones ecológica y digital deben ir de la mano, lo que requiere saber conjugar a expertos sectoriales para que trabajen conjuntamente.

Una visión plural de la Revolución Digital: miradas desde el sector público, privado, social y académico

Abordar la Revolución Digital no se puede hacer desde un único sector, como indica Celia Fernández Aller, una de las tres editoras del Monográfico.

Desde la perspectiva del sector público, Ángel Gómez de Ágreda (Ministerio de Defensa) plantea que no tenemos que aplicar la ética solamente sobre nuestro comportamiento humano, sino también sobre el mundo que estamos construyendo para que nuestro comportamiento siga siendo humano. Que el entorno esté cambiando no significa que tengamos que hacer una ética diferenciada para las máquinas, sino para las personas en su relación con las máquinas. Esto es importante porque ya no hablamos de una herramienta, de un proceso meramente técnico, sino de nuestras identidades, de nuestra forma de ver la política. Como señala Gómez de Ágreda, “los datos no son nuestros, sino que nosotros somos datos”.

Desde la experiencia del sector académico, la digitalización de la enseñanza en universidades, como las africanas, supone un reto. Ángeles Manjarrés (UNED) ofrece una reflexión importante según la cual las tecnologías educativas tienen el potencial de garantizar una educación inclusiva, universal y de calidad. Personalizando los contenidos educativos de cada persona, los currículums educativos y sus herramientas pueden adaptarse a las personas discapacitadas o con características culturales particulares. Una dimensión importante es la educación afectiva, que posibilita que estos sistemas sean conscientes del estado anímico del estudiante y actuar en consecuencia. También permite al alumnado interaccionar con una máquina y expresar emociones.

Sin embargo, también implica sus riesgos:

1. No siempre hay garantía de que se aseguren principios como la autonomía, así como la protección de datos personales como el estado anímico del alumnado, de registro de expediente académico, e incluso datos fisiológicos. Es importante evitar los riesgos de manipulación de datos, en especial con menores de edad.
2. Para poder llevar a cabo contenidos educativos digitales en países en desarrollo, se requiere una capacidad computacional elevada, desde la disponibilidad de datos hasta estructuras pública que aseguren la continuidad de los servicios de las tecnologías educativas. Asimismo, la desventaja competitiva hace que no haya incentivos a invertir en tecnologías educativas en estos países.
3. Hay que prevenir que esta situación desemboque en una dualidad excluyente de los estudiantes que genere mayor desigualdad, entre un grupo de estudiantes de élite alfabetizados digitalmente, y otro grupo carente de dichas habilidades.

Desde la experiencia del sector social, Víctor Giménez (Acción contra el Hambre) señala que las ONGs se están adaptando a la transformación digital, tanto para la mejora de los servicios que ofrecen como para la propia adaptación a los retos que esta revolución digital supone en el día a día de los temas que trabajan. Esto les permite generar un impacto mayor, más diverso e incluso a veces inaudito en la capacidad operativa, analítica y ejecutiva de las ONGs.

En Acción contra el Hambre se está adaptando la transformación digital para:

• Optimizar procesos y formas de trabajo con la idea de poder llegar a más personas de una forma más eficiente y efectiva.
• Automatizar tareas con el objetivo de liberar acciones y focalizarse en actividades de mayor valor añadido.
• Gestionar el conocimiento de una forma mucho más rápida y transparente con los stakeholders con quienes se trabaja.
• Crear nuevos datos, más datos, y más efectivos.
• Identificar de forma más precisa las temáticas que aborda la ONG, como la medición de desnutrición.
• Anticiparse a crisis mediante modelos predictivos que permitan el análisis contextual (machine learning) con la experiencia de los equipos, combinando la inteligencia artificial con la humana. Esto permite análisis rápidos, ágiles y transparentes.

Desde el sector privado, María Luz Cruz (Iberdrola) señala que es el energético uno de los campos más relevantes con respecto a la revolución digital. Desde vehículos autónomos hasta redes inteligentes, el sector energético aplica la inteligencia artificial en todas las fases de la cadena de valor, especialmente a la hora de realizar predicciones y reconocimiento de patrones en base al análisis de datos complejos. Mediante “gemelos digitales” se permite evitar posibles fallos, maximizar a producción y evitar riesgos meteorológicos. Asimismo, los sistemas de drones autónomos acceden a zonas de difícil acceso de los aerogeneradores para garantizar que estos servicios críticos sigan en funcionamiento para el bienestar de la sociedad. En el área del cliente, esta transformación digital les ha permitido ofrecer nuevos servicios y conocer mejor sus necesidades, como a través del chatbot de forma inmediata, el desglose de los productos domésticos en un domicilio, o las tarifas disponibles.

Reflexiones finales

La Revolución Digital plantea retos en materia sectorial, de gobernanza global, de ética, de derecho. Sin embargo, lo cierto es que, a nivel técnico, todavía tiene retos que superar, como son la explicabilidad, la trazabilidad o la propia auditabilidad de los datos. Que la ética en la Revolución Digital forme parte de nuestro quehacer diario requiere de dos señas: de sentido y de sensibilidad. Sensibilidad para captar que lo que estamos haciendo tiene un impacto real; que no es una cuestión neutral. Sentido porque debemos ser capaces de impregnar en las mentes de todas las personas que la revolución digital no es solo una cuestión de racionalidad científico-experimental y lógico-deductiva, sino también de consenso, de cariz político y social.

Ahora bien, no debemos caer en la idea ciega de que toda revolución tecnológica necesita un profeta, como señalaba Yuval Noah Harari. Para Txetxu Ausín, la ética es racional, pero también emocional. De ahí, que necesitemos menos profetas y más sensibilidad moral. Dataficar nuestra realidad no significa dataficar nuestra mente. Al contrario, es el momento de utilizar la revolución digital como una oportunidad para abordar los retos sociales, económicos y ecológicos, pero también para abordar la forma en que modulamos nuestra inteligencia colectiva.

En una frase: la (r)evolución digital será si abogamos por un Humanismo Digital.

Más información: www.revista17.org

Resumen de la sesión (30 minutos)

Sesión íntegra