Hacia un orden mundial artificial

141 ¿HACIA UN ORDEN MUNDIAL ARTIFICIAL? María Esteban Moncho Universidad de Sevilla Es un hecho ampliamente reconocido que hoy en día existe una gran interconexión. En la actual sociedad mundial1, parece cada vez más complicado seguir hablando de la economía, la soberanía política o la cultura como realidades exclusivas o predominantemente nacionales o estatales. Tal y como afirma Federico Arcos Ramírez21, desde hace casi tres décadas las comunidades políticas han dejado de constituir el espacio natural o privilegiado del movimiento de las personas, los bienes, los servicios, la información, las manifestaciones culturales, etc..., para dar paso a un mundo en el que todos estos procesos atraviesan continuamente las fronteras. Estos cambios provocados por la globalización han supuesto una revisión de muchos de los conceptos empleados desde la modernidad. Podemos afirmar que estamos ante una expresión en la que encontramos tanto las llamadas de atención en torno a los retos, riesgos y peligros a los que nos enfrentamos en la actualidad que por ser globales llevan aparejados, entre otras cosas, que diferentes Estados, o todos ellos, tengan que ponerse de acuerdo para solucionar determinados asuntos que afectan a la humanidad en su conjunto y que requieren la coordinación de todos para solucionarlos, tales como medio ambiente y cambio climático, finanzas, guerra nuclear, seguridad informática y nuevas tecnologías, ingeniería genética… ). 1 “Sociedad mundial” entendida como una pluralidad sin unidad. Beck Ulrich, ¿Qué es la globalización. Falacias del globalismo, respuestas a la globalización, Paidós, 1998. 2 Arcos Ramírez, Federico, “La justicia distributiva global: del igualitarismo de la suerte al constructivismo político”, DOXA, Cuadernos de Filosofía del Derecho, 35 (2012) ISSN: 0214-8676, 2012, pp.361-392. 142 Estamos inmersos en un mundo y una sociedad hiperconectados donde la información se transmite de forma constante, a gran velocidad, prácticamente a la carta y en muchos casos “recomendada” o dirigida. Tras la irrupción de la Inteligencia Artificial (IA) y sus increíbles avances y capacidades, ha surgido un amplio debate respecto a las posibles aplicaciones y oportunidades que nos brinda y respecto a sus riesgos y por tanto, sus límites y su regulación. Un debate a todos los niveles puesto que el uso de IA y la asequibilidad y accesibilidad de los servicios de IA están asociados a preocupaciones sobre la seguridad, salud y protección humanas, la libertad, la privacidad, la integridad, la dignidad, la autodeterminación y la no discriminación. Tal y como señala el Parlamento Europeo3, la IA es la habilidad de una máquina de presentar las mismas capacidades que los seres humanos como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear. Permite que los sistemas tecnológicos perciban su entorno, se relacionen con él y actúen con un fin específico. La máquina recibe datos, los procesa y responde a ellos. Los diferentes sistemas de IA son capaces de adaptar su comportamiento en cierta medida, analizar los efectos de las acciones previas y de trabajar de manera autónoma. Según la definición de la Comisión Europea existen dos tipos de Inteligencia Artificial: software (asistentes virtuales, software de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento de voz y rostro) e inteligencia artificial integrada (robots, drones, vehículos autónomos, Internet de las Cosas). Indudablemente, la IA puede aportar muchos beneficios como son una mejor asistencia sanitaria, un transporte más seguro y limpio o una energía más barata y sostenible. A través de su página web, el Parlamento Europeo reconoce que la IA tiene un papel central en la transformación digital de la sociedad, pasando a ser una prioridad para la Unión Europea (UE). En nuestro día a día encontramos aplicaciones de IA muy diversas, entre ellas, aplicaciones para crear recomendaciones 3 Página web del Parlamento Europeo. 143 personalizadas para los consumidores en compras por internet y publicidad, aplicaciones que tienen gran importancia en la optimización y mayor eficiencia en el comercio, motores de búsqueda que aprenden de datos de usuarios para ofrecer resultados de búsqueda relevantes, asistentes personales digitales, traducciones automáticas, ciberseguridad, en salud o en el transporte. Sin embargo, se trata de una tecnología no exenta de riesgos tanto para los individuos como para la humanidad como colectivo. En el presente trabajo me voy a centrar en dos cuestiones que pueden resultar especialmente problemáticas por la repercusión que ya están teniendo y que pueden llegar a tener tanto en la democracia como en el nuevo orden mundial que está surgiendo: el almacenamiento y tratamiento de los datos de los usuarios y la desinformación. Los sistemas de IA suelen basarse en grandes conjuntos de datos. Estos conjuntos de datos a menudo incluyen datos personales. Esto incentiva la recopilación, el almacenamiento y el tratamiento de datos a gran escala. Los datos a gran escala (Big Data) se refieren al gran volumen de datos, tanto estructurales como no, que se generan a diario. Muchas empresas optimizan sus servicios para recopilar la mayor cantidad de datos posible. El análisis del Big Data permite a las organizaciones descubrir patrones, tendencias y conocimientos que pueden utilizar para tomar decisiones, mejorar la eficiencia y obtener ventajas competitivas. Es una oportunidad para las organizaciones para transformar la información en valor. La llamada Internet de las Cosas, asimismo, es una fuente de datos de rápido crecimiento explotada tanto por las empresas como por los Estados. La recopilación de tan ingente cantidad de datos presenta una serie de desafíos entre los que se encuentran el almacenamiento y procesamiento de los mismos, su análisis y visualización así como la seguridad y privacidad. Tal y como señala el informe El derecho a la privacidad en la era digital 4 , la recopilación de datos se realiza en espacios íntimos, 4 Consejo de Derechos Humanos, El derecho a la privacidad en la era digital, Informe de la Alta Comisionada de las Naciones Unidas para los 144 privados y públicos. Los corredores de datos adquieren, fusionan, analizan y comparten datos personales con innumerables destinatarios. Estas transacciones de datos escapan en gran medida al escrutinio público y están escasamente limitadas por los marcos jurídicos vigentes. Los conjuntos de datos resultantes son vastos y la información recogida alcanza proporciones sin precedentes. Además de exponer la vida privada de las personas a las empresas y los Estados, estos conjuntos de datos hacen a las personas vulnerables en diversos aspectos. Las filtraciones de datos han expuesto en reiteradas ocasiones información delicada de millones de personas. Los grandes conjuntos de datos permiten innumerables formas de análisis e intercambio de datos con terceros, lo que a menudo conlleva otras intromisiones en la privacidad con consecuencias negativas para los derechos humanos. Los acuerdos que permiten a los organismos gubernamentales tener acceso directo a esos conjuntos de datos en poder de las empresas, por ejemplo, aumentan la probabilidad de que se produzcan injerencias arbitrarias o ilegales en el derecho a la privacidad de las personas afectadas. El almacenamiento a largo plazo de datos personales también conlleva riesgos específicos, ya que estos pueden quedar expuestos a futuras formas de explotación que no se preveían en el momento de su recogida. Con el tiempo, los datos pueden volverse inexactos, no pertinentes o arrastrar errores de identificación históricos, dando lugar a resultados sesgados o erróneos en el futuro tratamiento de los datos. Los procesos de toma de decisiones de muchos sistemas de IA son opacos. Derechos Humanos. Consejo de Derechos Humanos, 48º período de sesiones, 13 de septiembre a 1 de octubre de 2021. Temas 2 y 3 de la agenda. Informe anual del Alto Comisionado de las Naciones Unidas para los Derechos Humanos e informes de la Oficina del Alto Comisionado y del Secretario General Promoción y protección de todos los derechos humanos, civiles, políticos, económicos, sociales y culturales, incluido el derecho al desarrollo (A/HRC/48/31 GE.21-12684 17). 145 La complejidad del entorno de datos, los algoritmos y los modelos que subyacen al desarrollo y funcionamiento de estos sistemas, así como el secretismo deliberado de los agentes gubernamentales y privados, son factores que obstaculizan la comprensión del público de sus consecuencias para los derechos humanos y la sociedad. Los sistemas de aprendizaje automático añaden un importante elemento de opacidad, ya que pueden llegar a identificar patrones y desarrollar prescripciones que son difíciles o imposibles de explicar. Esto es lo que se suele denominar el problema de la “caja negra”. La opacidad dificulta el examen significativo de los sistemas de IA y puede ser un obstáculo para la rendición de cuentas efectiva en los casos en que estos sistemas lleguen a causar daños. No obstante, cabe señalar que estos sistemas no tienen por qué ser totalmente inescrutables. Si bien es cierto que los sistemas de IA no se basan exclusivamente en el tratamiento de datos de carácter personal, aunque éstos no sean personales, su uso puede tener consecuencias negativas para los derechos humanos, incluido el derecho a la privacidad, puesto que las herramientas de IA se utilizan profusamente para comprender los patrones y tendencias de comportamiento humano. La IA también se utiliza para evaluar la probabilidad de comportamientos o acontecimientos futuros. Las deducciones y predicciones realizadas mediante IA, a pesar de su carácter probabilístico, pueden servir de base para la adopción de decisiones que afectan a los derechos de las personas, a veces de forma totalmente automatizada5. El citado informe de la Alta Comisionada de las Naciones Unidas para los Derechos Humanos aprecia un riesgo de discriminación inherente a las decisiones basadas en la IA. Los sistemas de IA se basan en grandes bases de datos que contienen información personal compilada, intercambiada, combinada y analizada con métodos diversos y a veces opacos. Los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, discriminatorios, obsoletos o poco pertinentes. El almacenamiento de datos a largo plazo entraña también riesgos particulares, ya que en el futuro esa 5 Ibidem. 146 información podría aprovecharse de formas difíciles de prever en la actualidad. Por otro lado, la inteligencia artificial se basa en el uso de grandes bancos de datos. El documento revela que, además de exponer la vida privada de las personas a las empresas y los Estados, estos conjuntos de datos hacen que los individuos sean vulnerables de otras maneras. Por ejemplo, el acceso indebido por terceros a esos datos personales ha expuesto repetidamente información sensible de millones de personas. En base a ello, el informe considera que es necesario que tanto las empresas como los Estados incrementen la transparencia en lo que se refiere al desarrollo y aplicación de los sistemas de IA señalando que “la complejidad del contexto estadístico, los algoritmos y los modelos en los que se basa la elaboración y el funcionamiento de los sistemas de IA, así como el carácter secreto que le confieren los gobiernos y los agentes privados, contribuyen a que la población en general no alcance a comprender la repercusión de los sistemas de IA sobre la sociedad y los derechos humanos”6. Por otra parte, el acceso inmediato al conocimiento también ha conllevado el fenómeno conocido como desinformación. La desinformación puede definirse como la creación, difusión o promoción intencionada de información falsa, inexacta o engañosa con el objetivo de influir en la opinión pública, obtener beneficios políticos o económicos, o desestabilizar a individuos, instituciones o sociedades enteras. Implica una intencionalidad maliciosa, tratándose, por tanto, de un acto deliberado de manipulación. Es por ello que se observa, cada vez con mayor frecuencia, que los usuarios se enfrentan a contenidos que, bajo la apariencia de ser veraces, están diseñados para engañar, manipular o generar confusión. La desinformación puede adoptar diferentes formas, entre las que encontramos las noticias falsas o fake news (contenido que simula ser periodístico, pero es completamente inventado o distorsionado), contenido manipulado (imágenes, vídeos o audios editados para alterar su significado original), contexto falso (información 6 Ibidem. 147 veraz que se presenta fuera de contexto para inducir a error) y citas inventadas o tergiversadas (frases atribuidas falsamente a figuras públicas), entre otras. Las fake news o noticias falsas han sido protagonistas en elecciones, referéndums y conflictos geopolíticos recientes. La desinformación, la propaganda y las operaciones psicológicas (las llamadas PsyOps) no son nuevas, se han utilizado como herramientas o armas desde tiempos remotos. Tal y como señalan Ortigosa y Mallavibarrena, en estos últimos quince años, donde las redes sociales acogen y conducen grandes debates públicos sobre todo tipo de temas, hemos visto nacer como sociedad un nuevo fenómeno que no es más que una nueva generación de técnicas de desinformación basadas en los últimos avances de la tecnología. Fuentes presuntamente “confiables” en Internet nos informan de sucesos falsos o tergiversan al máximo noticias reales, mezclando dicha información (más o menos precisa y objetiva) con imágenes o grabaciones de vídeo que (de forma artificial) demostrarán la veracidad de dicha noticia. Los objetivos de estas noticias pueden ser diversos, incluyendo los económicos (si pueden generar beneficios a terceros en operaciones de bolsa o inversiones, por ejemplo), reputacionales (dañar la imagen pública de ciertas personalidades), tácticos (afectar a la confianza de las personas en una institución) o de tipo hacktivista (lanzar sus mensajes de forma especialmente llamativa)7. El principal problema con este tipo de actividades es que, como sucede a nivel general en Internet, no es sencillo identificar a las fuentes ni asociar dicha actividad con zonas geográficas concretas. Así, es posible usar identidades falsas e incluso actuar bajo “falsa bandera”. En consecuencia, es muy difícil valorar el grado de confianza que podemos tener en una determinada fuente o en una noticia. Muchas personas que consultan noticias en el teléfono móvil raramente verán los informativos de televisión con la debida atención o leerán prensa escrita. De esta forma, no habrá una fuente 7 Ortigosa Álvaro y Mallavibarrena Martiniano, “Fake news: no me leas que no te creo”, The Conversation, 3 de abril 2019. 148 confiable para contrastar la noticia y será fácil impresionar a una audiencia que, cada vez más, confía o decide no dedicar mucho tiempo a analizar la fiabilidad de la información que le llega8. Tal y como señalan Sánchez y Salazar, la conjunción entre fake news y las plataformas digitales es ideal para aquellos que buscan minar la credibilidad, confianza y seguridad de los ciudadanos en las entidades oficiales y en los servicios que éstas prestan. Entre estos organismos afectados se encuentran los electorales y, en consecuencia, también la democracia. Apuntan como causas las siguientes cinco: las redes sociales son instrumentos bidireccionales de comunicación; existe una masiva circulación de información que impide que los ciudadanos puedan validar o verificar cada una de las informaciones que reciben; las redes sociales se convirtieron en medios de denuncia pública y remplazaron a los medios tradicionales a los que apelaban los ciudadanos al interactuar con las entidades públicas; hay una acentuada y falsa creencia de que lo que ocurre en las redes escapa del control legal y judicial, y por último, los ciudadanos reciben información de forma masiva a partir de algoritmos que las mismas redes crean con la denominada “burbuja de interés” (el receptor es constantemente bombardeado con información sobre temas que son de su interés o con aquellos sobre los cuales tiende a mostrar algún tipo de repulsa) . Todo lo anterior 8 Ibidem. La viralidad es un método ágil de transmisión de la información en el que muchas personas retransmiten estas “noticias” que han recibido a sus contactos. Partiendo de un único mensaje original, podremos alcanzar a miles o quizás millones de personas. Cuanto más llamativa o escandalosa nos parezca la información recibida, más nos sentiremos obligados a compartirla (voluntariamente) con nuestra red. Esta comunicación puede ser realizada a través de redes sociales como Facebook o Twitter, donde terceros y autoridades podrán observar el proceso, y en Whatsapp, donde estas transferencias funcionan como un vulgar rumor y son mucho más difíciles de trazar o incluso perseguir, si fuera el caso. 149 conlleva la hegemonía de los sentimientos sobre el análisis racional de la información que se recibe9. El informe elaborado por el MIT en 2018 ya puso de manifiesto que este tipo de noticias se transmiten por Internet a una velocidad muy superior a las “reales”10 . Con este tipo de técnicas, agentes maliciosos podrán crear y hacer crecer noticias escandalosas, malintencionadas y casi siempre confusas. Respecto a las causas de la proliferación de la desinformación se observa que no es un fenómeno aislado, sino que es el resultado de múltiples factores interrelacionados. En primer lugar, un factor importante son las redes sociales y los algoritmos virales dado que las plataformas, en términos generales y a falta de regulación expresa al respecto, priorizan el contenido que genera interacción, sin verificar su veracidad. En segundo lugar, la falta de educación mediática conlleva que muchos usuarios no posean las herramientas necesarias para identificar fuentes fiables o contrastar la información. Un tercer factor relevante es la actual polarización política y social en la que los discursos extremos alimentan narrativas falsas que refuerzan prejuicios. Los intereses económicos y geopolíticos son un cuarto factor a tener en cuenta dado que la desinformación se utiliza como arma estratégica en conflictos políticos o comerciales. Por último, cabe destacar lo que se podría denominar analfabetismo digital entendido como el desconocimiento sobre cómo funcionan las tecnologías digitales y cómo éstas puede favorecer la manipulación. La desinformación tiene un gran impacto en la mayoría de ámbitos de la vida social, económica y política, afectando de forma directa a la convivencia y la cohesión social. La desinformación puede 9 Sánchez Iregui Javier Felipe y Salazar Foglia Daniel Felipe, ”Plataformas digitales y fake news: ¿una amenaza a la democracia?” DEMOCRACIA ACTUAL, Vol. 6, No. 1, enero - junio 2021, pp.44-62, ISSN: 2745-0295 (En línea). 10 Soroush Vosoughi, Deb Roy and Sinan Aral, “The spread of true and false news online”, Science, 9 de marzo de 2018. 156 sus amplios ámbitos de acción política, que permiten a los responsables políticos traducir los valores y principios fundamentales en acciones con respecto a la gobernanza de datos, el medio ambiente y los ecosistemas, el género, la educación, la investigación, la salud y el bienestar social, entre otros muchos. A este respecto la UNESCO17 ha establecido los diez principios básicos de un enfoque de la ética de la IA centrado en los derechos humanos: 1.- Proporcionalidad e inocuidad; 2.- Seguridad y protección; 3.- Derecho a la intimidad y protección de datos; 4.-Gobernanza y colaboración adaptativas y de múltiples partes interesadas: en el uso de datos, deben respetarse el derecho internacional y la soberanía nacional. La participación de diversas partes interesadas a lo largo del ciclo de vida de los sistemas de IA es necesaria para el desarrollo de enfoques inclusivos de gobernanza; 5. Responsabilidad y rendición de cuentas: los sistemas de IA deben ser auditables y trazables. Deben existir mecanismos de supervisión, evaluación de impacto, auditoría y diligencia debida para evitar conflictos con las normas de derechos humanos y amenazas al bienestar medioambiental; 6. Transparencia y explicabilidad; 7. Supervisión y decisión humanas: los Estados miembros deberían velar por que siempre sea posible atribuir la responsabilidad ética y jurídica a personas físicas o a entidades jurídicas existentes; 8. Sostenibilidad, entendida como un conjunto de objetivos en constante evolución; 9. Sensibilización y educación mediante una educación abierta y accesible, la participación cívica, las competencias digitales y la capacitación, y alfabetización mediática e información, y 10. Equidad y no discriminación: los actores de la IA deberían promover la justicia social, salvaguardar la equidad y luchar contra todo tipo de discriminación, adoptando un enfoque inclusivo para garantizar que los beneficios de la IA sean accesibles para todos. Tal y como señaló la Alta Comisionada de la ONU para los Derechos Humanos Michelle Bachelet, la inteligencia artificial puede ser una fuerza para el bien que ayude a las sociedades a superar 17 UNESCO, op.cit. 157 algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar derechos humanos. La IA puede ser una herramienta extraordinaria y la vez devastadora. Además enfatizó que cuanto mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la inteligencia artificial18. Como ya estamos observando, la utilización maliciosa de las nuevas aplicaciones y tecnologías efectivamente puede suponer una vulneración de derechos fundamentales tales como el derecho al honor, a la intimidad y a la propia imagen, el derecho a la igualdad y no discriminación o el derecho a comunicar o recibir libremente información veraz por cualquier medio de difusión. Cabe recordar que este derecho a comunicar y recibir información veraz ha sido determinante para la formación de una opinión pública libre y plural, base fundamental en un Estado democrático. Es innegable que la inteligencia artificial llega ahora a casi todos los rincones de nuestras vidas, e incluso alcanza a nuestros estados emocionales. Utilizando determinados algoritmos que buscan la mayor interacción de las personas con los dispositivos puesto que se traduce en beneficios económicos, una amplia desregulación respecto a la verificación de la veracidad de la información que se transmite a través de sus redes y plataformas y teniendo en consideración el enorme poder e influencia de las grandes empresas tecnológicas, el tema resulta de lo más complejo. Se puede proceder a la manipulación de la opinión pública, hacer perfiles, control social... en definitiva, un gran poder. Dado el rápido y continuo crecimiento de la IA, llenar el inmenso vacío de asunción de responsabilidades sobre cómo se recogen, almacenan, comparten y utilizan los datos es uno de los cometidos más urgentes que afrontamos en materia de derechos humanos. Tal y como señaló Bachelet, no podemos seguir reaccionando 18 Ibidem. 158 tardíamente a los efectos de la IA ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos. La capacidad de la IA para servir a la población es innegable, pero también lo es su capacidad de contribuir a violaciones de derechos humanos a gran escala, de manera casi indetectable. Es necesario adoptar urgentemente medidas para imponer límites basados en los derechos humanos a la utilización de la IA por el bien de todos19. El citado informe analiza además cómo la IA (incluidas la elaboración automática de perfiles, la toma de decisiones y otras tecnologías de aprendizaje para las máquinas) afecta al derecho a la intimidad y a otros derechos, incluidos los relativos a la salud, educación, libertad de movimiento, libertad de asociación y reunión pacífica, la libertad de expresión… El informe examina cómo a menudo los Estados y las empresas se han precipitado a incorporar los programas informáticos de IA sin ejercer la diligencia debida. “Los sistemas de IA se usan para decidir quién recibe servicios públicos, quién tiene oportunidad de obtener un empleo y, por supuesto, afectan a la información que la gente ve y puede compartir en internet”. Resulta fundamental en este punto el artículo 2, párrafo 1, del Pacto Internacional de Derechos Civiles y Políticos dispone que los Estados se comprometen a “respetar y garantizar” a todos los individuos que se encuentren en su territorio y estén sujetos a su jurisdicción los derechos reconocidos en el Pacto, sin discriminación alguna. En otras palabras, los Estados no solo deben abstenerse de violar los derechos reconocidos en el Pacto, sino que también tienen la obligación de adoptar medidas positivas para proteger el goce de esos derechos. Esto implica el deber de adoptar medidas legislativas y de otra índole para proteger a las personas. Este deber también se refleja en el primer pilar de los Principios Rectores sobre las Empresas y los Derechos Humanos, que señala el deber de los Estados de brindar protección frente a las consecuencias 19 Ibidem. 159 negativas para los derechos humanos que resultan de las actividades de las empresas. Por ende, las empresas tienen la responsabilidad de respetar todos los derechos humanos internacionalmente reconocidos. Esto implica que deben abstenerse de infringir los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos humanos en las que tengan alguna participación. El segundo pilar de los Principios Rectores sobre las Empresas y los Derechos Humanos proporciona un plan oficial aplicable a todas las empresas para dar cumplimiento a esa responsabilidad. Una responsabilidad de respetar los derechos humanos que comprende todas las actividades y relaciones comerciales de una empresa20. En la actualidad, el pleno ejercicio de la soberanía popular exige un reforzamiento de los mecanismos de participación política que garanticen la democracia y el pluralismo, utilizando todos los recursos y mecanismos que pone a nuestra disposición tanto la democracia representativa como la democracia directa. Asimismo, también deben idearse mecanismos para que los ciudadanos puedan participar activamente en la configuración de las normas y políticas que les van afectar y, entre ellas, las políticas que se han creado y se seguirán desarrollando en la esfera de la IA. Para ello es necesaria la participación ciudadana en la toma de decisiones, la transparencia y la rendición de cuentas. En una sociedad democrática moderna, la gobernanza es una preocupación primordial. Una gobernanza que va desde la gobernanza de datos hasta la gobernanza global. Una gobernanza global que, sin duda, debe ser democrática por las implicaciones que un régimen alternativo tiene para todos nosotros respecto a nuestros derechos y libertades. 20 En su resolución 17/4, el Consejo de Derechos Humanos aprobó por unanimidad los Principios Rectores sobre las Empresas y los Derechos Humanos. 160 Held apunta que hoy en día la gobernanza global21 posee algunas de las características de un sistema de múltiples niveles, dimensiones y actores. Es de múltiples niveles en la medida en que el desarrollo y la implementación de políticas globales pueden implicar un proceso de coordinación política entre organismos supraestatales, transnacionales, nacionales y, a menudo, subestatales. Es multidimensional en la medida en que la participación y configuración de los organismos difieren a menudo de un sector a otro y de un tema a otro, dando lugar a patrones políticos significativamente diferenciados. Por otra parte, muchas de las agencias y participantes en el complejo de la gobernanza global ya no son exclusivamente órganos intergubernamentales; también están implicados los representantes de la sociedad civil transnacional, además de una serie de organizaciones no gubernamentales22. Otra característica importante de la formulación y aplicación de la política pública global es que se produce dentro de una creciente gama de diferentes tipos de redes (transgubernamentales, trisectoriales y transnacionales), como plantea Held. A este complejo patrón de elaboración de normas y de gobernanza global se pueden añadir las nuevas configuraciones de gobiernos regionales. Además de la Unión Europea se ha producido un aumento significativo de relaciones regionales como en América, Asia y África23. Postula que, mientras muchos Estados conservan el derecho de la supremacía efectiva sobre lo que ocurre en su propio territorio, debemos entender este derecho en el contexto de expansión de las competencias de instituciones de gobierno regional y global, así como de las limitaciones y obligaciones derivadas de nuevas y cambiantes formas de regulación internacional. Por otra parte, aun cuando la 21 David Held se refiere a “gobernanza global” como el sistema de instituciones globales, y apunta como deficiencias principales de la misma las finanzas, el medio ambiente y la seguridad. Véase Held y McGrew, Governing Globalization: Power, Authority and Global Governance, Cambridge, Polity, 2002, pp. 78-84. 22 Hel d Dav id, Cosmopolitismo. Ideales y Realidades. Alianza Editorial, 2012, pp.40-41. 23 Ibidem, pp.40-42. 161 soberanía parece todavía intacta, los Estados ya no ostentan el control exclusivo sobre lo que ocurre dentro de sus límites territoriales. Complejos sistemas globales, desde el financiero hasta el ecológico, unen el destino de regiones situadas en el otro extremo del mundo. A pesar de que estos organismos y redes carecen de un programa político centralizado y coordinado que se asocia con los gobiernos nacionales, sería un error pasar por alto la creciente jurisdicción y alcance de la formulación de políticas globales, sobre todo, el amplio rango de asuntos que trata y su influencia creciente sobre los asuntos internos de los Estados24. El mundo es un mundo de comunidades de destino superpuestas en el que los destinos de las naciones están significativamente entrelazados. Las comunidades políticas están inmersas y arraigadas en las complejas estructuras de fuerzas, procesos y redes superpuestas. La globalización y los cambios en la naturaleza y forma de gobernanza global plantearon cuestiones relativas al ámbito de aplicación de la democracia, o la jurisdicción democrática, teniendo en cuenta que la relación entre quienes toman las decisiones y los que son afectados por ellas no es necesariamente simétrica o congruente con respecto al territorio. Afirma que el rápido incremento de los problemas y desafíos transnacionales ha generado un sistema de gobernanza multicéntrico, que se sitúa dentro y a caballo de las fronteras políticas. Se ha caracterizado por la transformación de ciertos aspectos de la toma de decisiones políticas de base territorial, por el desarrollo de organizaciones regionales y mundiales, y en muchos lugares, por la importancia cada vez mayor de la legislación regional e internacional25. 24 Ibidem, pp.42-44. 25 Held David, Un pacto Global: la alternativa socialdemócrata al consenso de Washington. Taurus, 2005, pp.106-107. 162 Surgen así cuestiones tanto sobre el destino de la idea de comunidad política como sobre el ámbito apropiado de la gobernanza efectiva de los asuntos humanos: nacional, regional o global26. Desde 1945 ha habido un importante afianzamiento de valores cosmopolitas en lo concerniente a la dignidad y valor iguales de todos los seres humanos en las normas y regulaciones internacionales; se ha vuelto a unir derecho internacional y moralidad, dado que la soberanía ya no se entiende meramente como poder efectivo sino cada vez más como autoridad legítima definida en términos del mantenimiento de los derechos humanos y los valores democráticos; se han establecido sistemas complejos de gobernanza, regionales y globales, y se ha llegado a reconocer de modo creciente que el bien público – ya se conciba como estabilidad financiera, ya como protección medioambiental o como igualitarismo globalrequiere de la acción multilateral coordinada si queremos alcanzarlo a largo plazo27. Un enfoque integral basado en los derechos humanos puede garantizar soluciones sostenibles beneficiosas para todos. Una sostenibilidad social, económica, ambiental y ahora tecnológica que repercute de forma directa en todas las demás esferas. Un enfoque de la IA basado en los derechos humanos exige la aplicación de varios principios básicos, como la igualdad y la no discriminación, la participación y la rendición de cuentas. Estos principios también constituyen el eje central de los Objetivos de Desarrollo Sostenible y los Principios Rectores sobre las Empresas y los Derechos Humanos. A las tecnologías de IA deben aplicárseles sistemáticamente los requisitos de legalidad, legitimidad, necesidad y proporcionalidad. Asimismo, la IA debería implantarse de modo que facilite el ejercicio efectivo de los derechos económicos, sociales y culturales 26 Held David, Globalización/Antiglobalización. Sobre la reconstrucción del orden mundial. Paidós Ibérica SA, 2003, p.149. 27 Ibidem, p.204 163 garantizando que se cumplan sus elementos clave de disponibilidad, asequibilidad, accesibilidad y calidad28. Podría pensarse que un enfoque basado en los derechos humanos sería únicamente apelar a valores occidentales. Sin embargo, tal y como afirma Amartya Sen29, no existe nada occidental en la idea de que cada persona tiene unos derechos básicos. Esto, no obstante, no significa que deba existir homogeneidad normativa ya que no pueden justificarse las mismas normas en todos los países. Asimismo, es importante señalar que Sen considera que las concepciones modernas de los derechos humanos pueden concitar un consenso universal bastante amplio en esta esfera. Ello se debe a que no se reclaman del universalismo universalista en el sentido que deberían poseer validez en todo el planeta, en la forma inventada por Occidente y que solo Occidente defiende para todos los hombres ciertos derechos irrenunciables. La curiosidad por otras concepciones y tradiciones de los derechos humanos no excluye la idea de unos derechos iguales para todos los hombres. En una línea similar, Jacques Maritain mantenía que las personas con ideas discrepantes sobre cuestiones metafísicas podían ponerse de acuerdo a efectos prácticos en una lista de derechos humanos30. Esta distinción entre el acuerdo práctico y la esfera metafísica ha demostrado tener gran importancia en la formulación concreta de la DUDH, al facilitar que los participantes procedentes de diferentes tradiciones religiosas puedan respetar sus diferencias respectivas, tal y como acertadamente señala Nussbaum31. Beck es más tajante afirmando que contra la barbarie la civilización solo 28 Informe El derecho a la privacidad en la era digital, op.cit. 29 Sen Amartya, La idea de la justicia, Taurus, 2010. 30 Para más información véase Maritain J.,The rights of Man and Natural Law, Nueva York, Scribner’s, 1943 (trad. Castellana, Los derechos del hombre y la ley natural, Madrid, Palabra, 2001); Man and the State, Chicago, University of Chicago Press, 1951 (trad.castellana, El hombre y el estado, Madrid, Encuentro, 1997). 31 Nussbaum, Las fronteras de la justicia. Consideraciones sobre la exclusión, Paidós, 2006, pp.257-261, 279, 300-301. 164 está protegida por tanto, y solo temporalmente, cuando los derechos fundamentales tienen validez global32. Y entiendo que esto resultaría aplicable tanto desde una concepción minimalista de los derechos humanos, en la que requieren autocontención (desde esta perspectiva los derechos humanos exigen que no perjudiquemos a otros de unas formas determinadas), como desde una óptica maximalista en la que los derechos humanos requieren nuestro esfuerzo por satisfacer los derechos humanos de cualquier persona en cualquier lugar del planeta. Ante estos retos, inquietudes y nuevas oportunidades planteadas por las nuevas tecnologías, sobre todo tras la llegada de la Inteligencia Artificial, la Unión Europea adoptó en junio de 2024 la primera norma jurídica de Inteligencia Artificial del mundo, el Reglamento de Inteligencia Artificial 2 de agosto de 2024. Los principios fundamentales de regulación se basan en cuatro elementos: seguridad y protección del usuario, transparencia, supervisión humana en sistemas de alto riesgo y responsabilidad de las empresas que desarrollen IA, garantizando su fiabilidad y cumplimiento legal. En base a ello, los objetivos principales de la norma son garantizar la seguridad previniendo daños a los ciudadanos asegurando que los sistemas de IA sean confiables; proteger los derechos fundamentales evitando discriminaciones, sesgos y usos indebidos de la IA; fomentar la innovación responsable facilitando el desarrollo de IA ética y beneficiosa para la sociedad y garantizar la transparencia exigiendo que los usuarios sean informados cuando interactúan con un sistema de IA. Esta normativa propone que los sistemas de Inteligencia Artificial que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen según el riesgo que supone para los usuarios. Para ello establece distintos niveles de peligro: riesgo inaceptable respecto al cual se prohíbe el uso de sistemas de IA que suponen un conjunto muy limitado de usos especialmente nocivos que se oponen a los valores de la UE por vulnerar los derechos fundamentales y afectar 32 Beck Ulrich, op.cit., p.184. 165 gravemente la seguridad o a la salud de las personas – manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos, puntuación social o sistemas de identificación biométrica en tiempo real y a distancia, salvo alguna excepción y con las debidas garantías- ; alto riesgo, que pueden suponer un perjuicio para la salud, seguridad o los derechos fundamentales de las personas; riesgo limitado, específico de transparencia, referido a la IA generativa la cual deberá revelar el contenido generado por IA y etiquetar claramente el contenido generado o modificado con la ayuda de IA, diseñar el modelo para evitar que genere contenido ilegales y publicar resúmenes de datos protegidos por derechos de autor utilizados para el entrenamiento, y riesgo mínimo implican mayor o menor número de requisitos de cumplimiento de la normativa sobre la IA (sobre las categorías detectadas establece una serie de obligaciones). En su virtud, la ley de IA establece normas de transparencia para los contenidos producidos por la IA generativa con el fin de abordar el riesgo de manipulación, engaño y desinformación. A tenor del gran impacto que estas nuevas tecnologías pueden tener en relación con los derechos fundamentales, éstos están en la base de la regulación legal. Si bien ya existe una fuerte protección de los derechos fundamentales y de la no discriminación a escala europea y en los Estados miembros, la complejidad y opacidad de determinadas aplicaciones de IA (como las llamadas “cajas negras”) pueden plantear serios problemas. Un enfoque de la IA centrado en los derechos humanos significa garantizar que las aplicaciones de IA cumplan con la legislación en materia de derechos fundamentales. Al integrar los requisitos de responsabilidad y transparencia en el desarrollo de sistemas de IA de alto riesgo y mejorar las capacidades de aplicación, la UE puede garantizar que estos sistemas se diseñen teniendo en cuenta el cumplimiento legal desde el principio. En caso de incumplimiento, estos requisitos permitirán a las autoridades nacionales tener acceso a la información necesaria para investigar si el uso de la IA cumple con el derecho de la UE. Además, la ley de IA exige que determinados implementadores de sistemas