Línea de trabajo por una Revolución Digital contrastada desde los principios éticos que guían la Declaración Universal de los Derechos Humanos y la Agenda 2030
Por una revolución digital ligada a la ética
La Revolución Digital, y especialmente la Inteligencia Artificial, tiene el potencial de mejorar y humanizar a la sociedad cuando logramos que la digitalización se centre en las personas.
Y cuando no es así, la creciente influencia de los algoritmos, los datos y las herramientas digitales lleva a la deshumanización, a la instrumentalización de los individuos y a la pérdida de unicidad en sus relaciones, acciones y pensamientos.
Todo esto ocurre cuando eliminamos las implicaciones sociales, económicas y humanas de la tecnología digital para centrarnos en la competitividad o en meros procesos operativos.
Nos encontramos ante la encrucijada de dirigirnos hacia un reduccionismo en el desarrollo tecnológico o a lograr que ese desarrollo tecnológico se aborde actuando a favor de la sociedad. La Revolución Digital puede contribuir de manera decisiva a una sociedad más sostenible, igualitaria y que no deje a nadie atrás.
La existencia y prelación de principios éticos son muy variables entre las distintas culturas y sociedades. Al igual que ha ocurrido históricamente con códigos éticos de conducta como el juramento hipocrático o actualmente con la bioética, la revolución digital tiene que estar ligada a una ética y unos códigos de conducta para que el impacto de la digitalización en nuestras vidas y en el planeta sea positivo y contribuya al bien común.
El análisis ético avanza los usos y oportunidades de la tecnología en términos sociales y ambientales, y también nos advierte sobre malas prácticas.
Son los mecanismos de gobernanza privados y públicos los que podrán establecer cómo efectivamente se ordenan y regulan estos principios en nuestras organizaciones y en la sociedad.
¿Qué principios éticos proponemos para la revolución tecnológica?
Para entender qué significa un desarrollo positivo de la tecnología, necesitamos un conjunto de principios éticos que cuenten con el mayor consenso global.
La propuesta de la Cátedra Iberdrola-UPM es que estos principios éticos sean aquellos que rigen la Declaración Universal de Derechos Humanos y la Agenda 2030 de los Objetivos de Desarrollo Sostenible (ODS).
La crítica ética, además, tiene que venir acompañada de una acción positiva y constructiva.
Esto conlleva entender las complejidades de la tecnología y sus implicaciones sociales, pero también pasar a la acción e implementar soluciones digitales basadas en las personas y que contribuyan positivamente a la economía, sociedad y política.
La Revolución de los Datos y la Inteligencia Artificial están en el corazón de la Agenda 2030, y ya han contribuido a crear soluciones útiles para implementar los ODS.
Ahora, es necesario dar un paso más y preguntarse por el papel fundamental de la tecnología y la Inteligencia Artificial en las relaciones humanas, en los mecanismos de poder, en el desarrollo socio-económico y la convivencia con el planeta.
De esta forma, lograremos que la tecnología despliegue su potencial como mecanismo de transformación hacia la sostenibilidad y la equidad.
La digitalización desde la óptica de los ODS y de los Derechos Humanos demanda una transformación profunda del desarrollo productivo y económico que no es posible concebir desde una óptica meramente industrial o tecno-céntrica.
La lucha contra la pobreza y la desigualdad, la preocupación por el planeta o la resiliencia son los ejes apropiados para guiar un desarrollo tecnológico del alto impacto. A esos ejes es esencial añadir el papel fundamental y estratégico de las mujeres en ese desarrollo tecnológico.
La crisis generada por la COVID-19 ha puesto de manifiesto la necesidad latente de contar con mecanismos de respuesta potenciados por la tecnología digital. Estos mecanismos pueden dar lugar a una sociedad más resiliente, inclusiva y que proteja mejor a las personas más vulnerables.
La necesidad de una formación sobre ética y revolución digital
La penetración de la digitalización en todas las áreas de práctica y sectores implica que tanto profesionales como ciudadanía en general entiendan el impacto de esta digitalización en sus trabajos y en sus vidas, y adquieran los conocimientos y derechos sobre los usos de la tecnología.
Los y las profesionales de la Inteligencia Artificial y de otras tecnologías digitales tenemos, por otro lado, el deber de proporcionar esa formación a la sociedad, pero faltan los mecanismos de trabajo adecuados para poder cumplir con este deber.
Para ello, es imprescindible dotar a los programas formativos y educativos con los contenidos y herramientas que permitan a los profesionales digitales cumplir con este deber, y con especial atención a los sesgos de género.
Por ello, igual de prioritario que el desarrollo de las soluciones tecnológicas es contar con guías prácticas o marcos de principios y derechos, mecanismos de evaluación de impacto y otras herramientas de reflexión y acción ética y sostenible.
Actualmente, la ética se ha instrumentalizado desde una perspectiva corporativa y sectorial subordinándola a intereses comerciales y de negocio. Aun cuando diferentes áreas de práctica necesiten guías específicas, no podemos caer en una fragmentación de principios éticos.
La Agenda 2030 y la Declaración Universal de Derechos Humanos son el marco de referencia para volver a preguntarse por la universalidad de principios éticos que la sociedad necesita, sobre los que diseñar mecanismos de protección frente a derivaciones inaceptables del desarrollo tecnológico, pero que a la vez sean flexibles para articularse en las diferentes culturas y en diferentes sensibilidades.
El objetivo principal de esta línea de trabajo de la Cátedra Iberdrola-UPM será desarrollar estas guías y marcos sobre los principios éticos de la revolución digital.
Necesitamos revisar las prácticas de la revolución digital
Desde la Cátedra Iberdrola-UPM somos conscientes de la necesidad de revisar la propia práctica del desarrollo digital, la creación de algoritmos y el uso de la Inteligencia Artificial, tanto en la investigación como en la industria.
Por ello consideramos que el rigor científico es clave para evitar los sesgos de la Inteligencia Artificial y la digitalización, entender sus elementos constitutivos y sus consecuencias, y asimilar de forma saludable los nuevos espacios de interacción máquina – persona, y todo ello, teniendo sin dejar a nadie atrás.
- Análisis y reconocimiento de sesgos
La tecnología está teniendo, sin duda, un impacto directo en las formas de vida y los valores de las culturas.
La digitalización puede enriquecer la cultura y potenciar la representatividad y la importancia de lo local, pero también puede derivar en una homogeneización y globalización de comportamientos que merman la riqueza cultural de la humanidad.
Existe también el riesgo de un etnocentrismo tecnológico que enfoque el desarrollo tecnológico en cuestiones que importan a las potencias tecnológicas, lo que supone una peligrosa fuente de sesgos y brechas digitales entre unos países y otros.
- Conocer el impacto de las Tecnologías Digitales
El impacto de la digitalización debe ser parte del diseño de estrategias de ámbito local, nacional e internacional.
Las tecnologías digitales han demostrado su capacidad de escalar y de transformar procesos, negocios y comportamientos. Esto sin duda es una oportunidad, pero igualmente es un riesgo.
Debemos tener marcos de medición y estrategias de mitigación para predecir y reducir impactos negativos que pueden ser diferentes en naturaleza y magnitud en cada contexto geográfico.
Esta medición de impacto puede implicar definir protocolos de experimentación, considerando especialmente que el comportamiento de las máquinas y la Inteligencia Artificial puede variar significativamente entre entornos controlados y su entorno de uso real y su aplicación en diferentes escalas.
Necesitamos entender cómo las máquinas actúan en el mundo real y cómo cambian comportamientos en el tiempo.
La auditoría abierta y transparente de la Inteligencia Artificial y del resto de Tecnologías debería ser un mecanismo de protección social extendido a cualquier sistema digital de impacto público.
- Interacción máquina – persona
La digitalización, sin duda, cambia la forma de conexión y colaboración entre personas de forma progresiva y generando dinámicas sociales que hasta ahora no existían, como por ejemplo las diversas formas de interacción a través de redes sociales que generan opinión que se propaga a gran escala.
En estas formas de interacción, cada vez más, los algoritmos y la Inteligencia Artificial tienen más participación e influencia.
Las diversas formas de interacción “máquina-persona” deben diseñarse desde principios éticos y considerando derechos fundamentales, pero también considerando aspectos psicológicos, sociológicos y culturales.
Es fundamental que estas interacciones se orienten a diseñar “Inteligencia Colectiva” y no a instrumentalizar a los individuos. La complejidad de la sociedad es un elemento clave que tenemos que considerar para un desarrollo ético de la digitalización.
La denominada cuarta revolución industrial tiene que diseñarse y desarrollarse centrada en las personas (individual y colectivo), de lo contrario será realmente difícil cumplir la Agenda 2030 y diseñar un futuro digital.
Alianzas para generar impacto
La integración social y analítica que supone la revolución digital requiere de un tratamiento multidisciplinar sin precedentes que actualmente no está soportado por el sistema educativo.
El conocimiento especialista es necesario, pero no suficiente, para asegurar una digitalización que empodere a las personas y la sociedad. El tejido conectivo de instituciones y personas basado en alianzas multiactor es clave para afianzar la cadena de valor de las tecnologías digitales.
El caso de los datos es paradigmático, desde la producción, su custodia y compartición, su análisis e interpretación y su uso. Así, hay multitud de actores e intereses implicados que requieren de alianzas y un marco ético.
Es necesario generar el ecosistema que permita apoyar fines colectivos como la gestión de ciudades, la desigualdad o la descarbonización.
Igualmente, debemos explorar cómo la digitalización puede favorecer el consenso y el entendimiento de personas y comunidades, y ser un vehículo para una mayor colaboración y cooperación internacional.
El propio desarrollo de la Inteligencia Artificial debe tender hacia procesos abiertos, descentralizados y participativos, promoviendo la inclusión y la inteligencia colectiva.
En definitiva, consideramos que la digitalización tiene el potencial de interconectar el tejido social y productivo para favorecer la igualdad, la emergencia de nuevos modelos económicos y de gobernanza que contribuyan a la consecución de los ODS y la Agenda 2030.
Esta consideración es la que inspira el trabajo la Cátedra.
