Significado y alcance de los valores de la carta de Naciones Unidas en la regulación internacional de la inteligencia artificial (IA)

CAPÍTULO XVII SIGNIFICADO Y ALCANCE DE LOS VALORES DE LA CARTA DE NACIONES UNIDAS EN LA REGULACIÓN INTERNACIONAL DE LA INTELIGENCIA ARTIFICIAL (IA) 1 DANIEL GARCÍA SAN JOSÉ 2 Universidad de Sevilla [email protected] 1. INTRODUCCIÓN Este estudio parte de dos premisas (García San José, 2021a; 2021b): la primera premisa es que si bien la inteligencia artificial (en adelante “IA”) tiene potencial para transformar el futuro de la humanidad para mejor y en favor del desarrollo sostenible, también existe una conciencia generalizada de los riesgos y desafíos que conlleva, especialmente por lo que respecta a la agravación de las desigualdades y brechas existentes, así como las implicaciones para los derechos humanos (UNESCO, 2019b: punto 11); ahora bien, no existe un marco ético internacionalmente aceptado en relación con todas las aplicaciones e innovaciones de la inteligencia artificial (UNESCO, 2019b: punto 3). Este hecho puede explicarse, en parte, tras constatar que si bien a nivel doctrinal existe una cierta coincidencia a la hora de definir la IA (Boden, 2016), no ocurre lo mismo en cuanto a la definición de la IA cara a su regulación internacional pudiendo apreciarse diversidad de aproximaciones a su conceptualización a nivel normativo internacional y regional: sistemas de IA (Comisión Europea, 2020; UNESCO, 2021), IA (OCDE, 2019) (Naciones Unidas, 2019), sistemas algorítmicos (Consejo de Europa). De ahí que desde hace años se trabaje en los distintos foros internacionales y regionales en presentar diversos instrumentos reguladores de la IA desde principios éticos asumibles por el mayor número posible de Estados. En este sentido, pueden citarse como eslabones más relevantes de estos esfuerzos a nivel internacional, dentro de la Unión Europea su Libro Blanco de la Comisión Europea sobre la Inteligencia Artificial: un enfoque europea orientado hacia la excelencia y la confianza, COM (2020) 65 final, de 19 de febrero de 2020, que sigue 1 Estudio realizado en el marco del Proyecto de I+D del Ministerio de Ciencia e Innovación de España Biomedicina, Inteligencia Artificial, Robótica y Derecho: los Retos del Jurista en la Era Digital. (PID2019-108155RB-I00), en el que participo como investigador a tiempo completo. 2 ORCID: 0000-0003-1288-9655. Scopus: 37008234700. Dialnet: 170520. Para comentarios: [email protected] © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 432 DANIEL GARCÍA SAN JOSÉ las Directrices para una Inteligencia Artificial fiable del Grupo de Expertos de Alto Nivel, creado por la Comisión Europea y publicadas un año antes. En la otra gran Organización europea, el Consejo de Europa, se adoptó la Recomendación CM/Rec (2020) 1 del Comité de Ministros a los Estados Miembros sobre los impactos de los sistemas algorítmicos en los derechos humanos, el 8 de abril de 2020. A nivel universal, la UNESCO ha aprobado el 23 de noviembre de 2021 su Recomendación sobre la Ética de la IA que comentamos con más detalle en las páginas siguientes de este trabajo. De igual manera, deben citarse los Principios Éticos de la OCDE en materia de Inteligencia Artificial adoptados en mayo de 2019, los cuales fueron posteriormente incluidos como anexo a la Declaración Ministerial sobre Comercio y Economía Digital, del G20 en su cumbre de Tsukuba, Japón, en junio de ese mismo año. La OCDE también ha creado un grupo de expertos (AIGO) para que formulen directrices respecto a la especificación de los principios relativos a la inteligencia artificial en la sociedad. En el ámbito de Naciones Unidas, ha de mencionarse la estrategia del Secretario General de esta Organización en materia de nuevas tecnologías, recogida en la Resolución de la Asamblea General A/RES/73/17, de 3 de diciembre de 2018, así como los esfuerzos liderados por la Unión Internacional de Telecomunicaciones en la órbita del sistema de Naciones Unidas (sus principales organismos y agencias), que recoge anualmente en una publicación titulada United Nations Activities on Artificial Intelligence (AI), los progresos de la alianza AI for Good que lidera. La organización IEEE ha puesto en marcha una Iniciativa Mundial sobre la Ética de los Sistemas Inteligentes y Autónomos. La Unión Internacional de Telecomunicaciones y la Organización Mundial de la Salud han establecido también un Grupo de Debate sobre la “inteligencia artificial para la salud”. Las tecnologías de IA no son neutrales, sino que están intrínsecamente sesgadas por los datos en los que se basan y las decisiones que se toman durante la integración de esos datos (UNESCO, 2019a, apartado 3). En consecuencia, los debates actuales reflejan que hoy en día, en el plano mundial, sería necesario contar con una orientación ética universal global sobre los valores fundamentales que deben sustentar la elaboración de los sistemas de IA (UNESCO, Documento 2019a: apartado 11). En este sentido, la segunda premisa desde la que parte este estudio es que la mejor forma del instrumento a adoptar sería la de Recomendación. Los distintos informes mencionados en el estudio preliminar del Grupo de trabajo ampliado sobre la ética de la inteligencia artificial de la COMEST (Comisión Mundial de Ética del Conocimiento Científico y la Tecnología), coinciden en la conclusión de que no solo es deseable, sino asimismo urgente, que se adopten medidas para establecer un instrumento mundial no vinculante en forma de Recomendación. Una Recomendación, teniendo en cuenta su carácter no vinculante y el hecho de que © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XVII 433 se centra en los principios y normas para la regulación internacional de una cuestión concreta, sería un método más flexible y adaptado a la complejidad de las cuestiones éticas planteadas por la IA (UNESCO, 2019a: apartado 14). Recientemente, ya se ha señalado que la UNESCO aprobó el 23 de noviembre de 2021 la Recomendación sobre la ética de la Inteligencia Artificial (IA). Frente a otras opciones -como una Declaración o una propuesta de tratado internacionaldesde la UNESCO se pensó que dicho instrumento podría constituir una herramienta fundamental para fomentar la elaboración de textos legislativos, políticas y estrategias nacionales e internacionales en el ámbito de la inteligencia artificial y reforzar su aplicación, así como para potenciar la cooperación internacional en torno al desarrollo y el uso éticos de la inteligencia artificial en apoyo de los Objetivos de Desarrollo Sostenible (ODS) (UNESCO, 2019b: punto 11). Coincide, de este modo, con la aproximación que desde Naciones Unidas se viene siguiendo con relación a la IA a través de cumbres anuales celebradas bajo el lema AI for Good. Liderada por la Unión Internacional de Telecomunicaciones, se trata de un foro en el que participan la mayoría de agencias y organismos de la ONU y en el que se busca promover un diálogo a nivel global sobre las potencialidades de la IA en conexión con los objetivos del desarrollo sostenible previstos en la Agenda 2030, siguiendo así la Resolución de la Asamblea General de Naciones Unidas sobre el impacto del cambio tecnológico rápido en la consecución de los Objetivos de Desarrollo Sostenible y sus metas y la estrategia del Secretario General de las Naciones Unidas en materia de nuevas tecnologías, de septiembre de 2018. En dicha estrategia, el Secretario General de Naciones Unidas recordó la necesidad de colaborar estrechamente para superar los desafíos y conciliar los intereses, especialmente en las esferas de la privacidad y los derechos humanos, la ética, la igualdad y la equidad, la soberanía y la responsabilidad, la transparencia y la rendición de cuentas, a través de cinco principios: la protección y promoción de los valores globales establecidos en la Carta de las Naciones Unidas y la Declaración Universal de Derechos Humanos; el fomento de la inclusión y la transparencia entre gobiernos, empresas y sociedad civil para que se tomen decisiones colectivas con respecto a las nuevas tecnologías; el trabajo en colaboración estableciendo alianzas como el proyecto break through dentro del Pacto Mundial con el sector empresarial; el aprovechamiento de las capacidades y los mandatos existentes; finalmente, la humidad y el aprendizaje permanente. Al hilo de esta cuestión, nos parece relevante mencionar el razonamiento seguido por el Grupo de trabajo de la COMEST al preparar su estudio preliminar sobre la ética de la inteligencia artificial para la Conferencia plenaria de la UNESCO. Tras valorar entre la disyuntiva de proponer una Resolución o © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 434 DANIEL GARCÍA SAN JOSÉ una Recomendación, concluyó que existía una gran heteronomía en los principios y en la implantación de los valores promovidos por distintos foros internacionales y regionales, debida no tanto a la definición que se hubiera elegido para la IA, como en razón de los objetivos que se persiguiesen a cada una de estas iniciativas: gobernanza, formación de los ingenieros, y política pública. La cuestión para el Grupo de trabajo, en consecuencia, fue la siguiente: ¿permitiría una Declaración de la UNESCO sobre la ética de la IA que esta heteronomía se atenuase en torno a unos pocos principios rectores que respondieran de manera exhaustiva a las cuestiones éticas de la IA, así como a las preocupaciones específicas de la UNESCO en los ámbitos de la educación, la cultura, la ciencia y la comunicación? El Grupo de Trabajo no estimó que esto fuera posible y percibió, incluso, el riesgo de que, durante el proceso de aprobación de dicha Declaración, los Estados pudiesen convenir esencialmente algunos principios generales, abstractos y no vinculantes, propios del formato de Declaración elegido. Desde esta perspectiva, se cuestionaron si aportaría la Declaración de la UNESCO sobre la ética de la IA un valor añadido frente a otras declaraciones e iniciativas en curso, concluyendo que nada hacía pensar que así fuera. En su opinión, podía ser cuestionable que el instrumento preparado por la UNESCO fuera a establecerse de manera inmediata como una referencia internacional, en un contexto de competencia entre marcos éticos, en un período en el que emergen distintas tecnologías y sus usos no se han estabilizado aún. Por lo tanto, el Grupo de trabajo consideró que una Recomendación constituía una herramienta más adecuada en la situación actual. (COMEST, 2019, apartados 99 a 101). Sobre todo, considerando -como comentamos más adelante en el epígrafe III- que la Recomendación aprobada en 2021 por la UNESCO sobre la ética de la IA incluye mecanismos de seguimiento y evaluación del grado de cumplimiento de la misma por parte de los 193 Estados miembros de esta Organización. 2. SIGNIFICADO DE LOS VALORES DE LA CARTA DE NACIONES UNIDAS EN EL DERECHO INTERNACIONAL Hablar de valores en un sentido funcional (Abbagnano, 1982, 611) y, en concreto, de los valores de la Carta de Naciones Unidas como los principios rectores de esta Organización Internacional y de las relaciones que establecen entre sí sus Estados miembros, supone referirse a los objetivos que los redactores de este instrumento internacional pretendían alcanzar para el nuevo orden mundial surgido tras el final de la Segunda Guerra Mundial (los “propósitos” recogidos en el artículo primero de la Carta) y el modo de lograr su efectiva realización (los “principios” enunciados en el artículo segundo de dicho instrumento). De este modo, se estaba estableciendo la distinción que perdura hasta nuestros días, entre los valores instrumentales y los valores finales, permitiendo los primeros la concreción de los segundos. Entre los © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XVII 435 valores instrumentales de la Carta de San Francisco pueden citarse: el arreglo pacífico de las controversias internacionales, la igualdad de los Estados y el corolario deber de éstos de no intervención en los asuntos internos de otros Estados, la cooperación y el deber de cumplir de buena fe las obligaciones que hayan libremente asumido. Por su parte, entre los valores finales destacan la paz, la seguridad internacional y la justicia. Son valores que establecen obligaciones de todos (omnium) y frente a todos (erga omnes) pues, en última instancia, es la Humanidad la que se evoca como detentadora de los mismos cuando se afirma en el mismo preámbulo de la Carta: “Nosotros, los pueblos de las Naciones Unidas”. Una idea, ésta, que ha sido reiterada en la Declaración de los Principios del Derecho Internacional referentes a las relaciones de amistad y a la cooperación entre los Estados de conformidad con la Carta de las Naciones Unidas, anexa a la Resolución 2625(XXV) que fue adoptada por la Asamblea General de esta Organización el 24 de octubre de 1970, la cual es hoy considerada expresión del Derecho Internacional general. Los valores de la Carta de Naciones Unidas no sólo no han envejecido con el transcurso de los años sino que, por el contrario, son más fuertes y necesarios que nunca para regular todos los desafíos a los que ha de hacer frente la comunidad internacional en este siglo XXI. A esta realidad contribuye, sin duda, el hecho de que sean valores inclusivos, universales y atemporales, y que sean vistos como las reglas válidas para el juego de las relaciones internacionales en el que pueden participar los sujetos y actores internacionales presentes y futuros. Son valores inclusivos en la medida en que hacen referencia a todos los Estados, no sólo a aquellos que vencieron la Segunda Guerra Mundial, de modo que han podido ser asumidos por los “perdedores” de aquella contienda y, además, ser compartidos por los nuevos Estados surgidos del proceso de descolonización iniciado en los años siguientes a su conclusión. Son valores universales, a mayor abundamiento, debido al hecho de que no son tanto valores predicables del conjunto de Estados que integran la comunidad internacional, como de la propia comunidad internacional de Estados en su conjunto, en la que la idea del grupo sobresale sobre la de sus integrantes. Son valores atemporales, finalmente, porque la idea de Humanidad incluye a las generaciones presentes y a las futuras, de manera que los valores de la Carta de Naciones Unidas son objeto de una constante relectura, como una puesta al día según las circunstancias y momento histórico en el que se reivindican. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 436 DANIEL GARCÍA SAN JOSÉ 3. RELEVANCIA DE LOS VALORES RECOGIDOS EN LA RECOMENDACIÓN DE LA UNESCO SOBRE LA ÉTICA DE LA INTELIGENCIA ARTIFICIAL (IA) La inteligencia artificial tiene importantes implicaciones sociales y culturales. Al igual que otras muchas tecnologías de la información, la IA plantea cuestiones relacionadas con la libertad de expresión, la privacidad y la vigilancia, la propiedad de los datos, el sesgo y la discriminación, manipulación de la información y la confianza, las relaciones de poder, y el impacto medioambiental en lo que se refiere a su consumo de energía. Además, la IA plantea específicamente nuevos retos relacionados con su interacción con las capacidades cognitivas humanas. Los sistemas basados en la IA tienen consecuencias para la comprensión y la experiencia humanas. Los algoritmos de las redes sociales y los sitios de noticias pueden facilitar la propagación de desinformación y repercutir en el significado percibido de los “hechos” y la “verdad”, así como en la interacción y la participación en el ámbito político. El aprendizaje automático puede integrar y exacerbar el sesgo, lo que puede dar lugar a la desigualdad, a la exclusión, y a una amenaza a la diversidad cultural. La escala y el poder generados por la tecnología de la IA acentúa la asimetría entre individuos, grupos y países incluida la denominada “brecha digital” en cada nación, y entre naciones. Tal brecha puede verse agravada por la falta de acceso a elementos fundamentales como los algoritmos para el aprendizaje y la clasificación, los datos para capacitar y evaluar los algoritmos, los recursos humanos para codificar y configurar el software y preparar los datos, así como los recursos computacionales para el almacenamiento y el procesamiento de los datos (COMEST, 2019: apartado 22). A la luz de estas consideraciones, resulta especialmente relevante que la UNESCO declare, en el parágrafo quinto del Preámbulo de su Recomendación de 2021 sobre la ética de la IA, que se halla “guiada por los propósitos y principios de la Carta de las Naciones Unidas”. A mayor abundamiento, en el parágrafo 13 de este mismo Preámbulo se observa que el marco normativo para las tecnologías de la IA y sus implicaciones sociales se fundamenta en los marcos jurídicos internacionales y nacionales, los derechos humanos y las libertades fundamentales, la ética (…) y conecta los valores y principios éticos con los retos y oportunidades vinculados a las tecnologías de la IA, sobre la base de un entendimiento común y unos objetivos compartidos.” Añadiendo en el parágrafo siguiente (el décimo cuarto) que “los valores y principios éticos pueden ayudar a elaborar y aplicar medidas de política y normas jurídicas basadas en los derechos, proporcionando orientación con miras al rápido desarrollo tecnológico.” © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XVII 437 En su estudio preliminar, el Grupo de Trabajo de la COMEST al que me referí páginas atrás, propuso una serie de principios genéricos para el desarrollo, la implantación y el uso de la IA que no han sido reproducidos en su tenor literal, en la Recomendación aprobada por la Conferencia Plenaria de la UNESCO en 2021 sobre la ética de la IA. Estos principios eran los siguientes: a) Derechos humanos: la IA debe desarrollarse e implementarse de acuerdo con las normas internacionales de los derechos humanos. b) Integración: la IA debe ser inclusiva, con el objetivo de evitar sesgos, propiciar la diversidad y prevenir una nueva brecha digital. c) Prosperidad: la IA debe desarrollarse para mejorar la calidad de vida. d) Autonomía: la IA debe respetar la autonomía humana mediante la exigencia del control humano en todo momento. e) Explicabilidad: la IA debe ser explicable, capaz de proporcionar una idea de su funcionamiento. f) Transparencia: los datos utilizados para capacitar los sistemas de IA deben ser transparentes. g) Conocimiento y capacitación: el conocimiento de los algoritmos y una comprensión básica del funcionamiento de la IA son necesarios para capacitar a los ciudadanos. h) Responsabilidad: los desarrolladores y las empresas deben tener en cuenta la ética al desarrollar los sistemas inteligentes autónomos. i) Asunción de responsabilidades: Deben desarrollarse mecanismos que permitan atribuir responsabilidades respecto a las decisiones basadas en la IA y la conducta de los sistemas de IA. j) Democracia: la IA debe desarrollarse, implantarse y utilizarse con arreglo a principios democráticos. k) Buena gobernanza: los gobiernos deben presentar informes periódicos sobre su utilización de la IA en los ámbitos de la actividad policial, la inteligencia y la seguridad. l) Sostenibilidad: En todas las aplicaciones de la AI, los beneficios potenciales deben equilibrarse con el impacto medioambiental del ciclo de producción completo de la IA y las tecnologías de la información (COMEST, 2019, apartado 107). A pesar de esta propuesta, los Estados participantes en la Asamblea General de la UNESCO decidieron centrarse en aquellos valores que podían conectarse con la Carta de Naciones Unidas, lo cual es ciertamente relevante, si se considera que la Recomendación aprobada en noviembre de 2021 por la © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 438 DANIEL GARCÍA SAN JOSÉ UNESCO incluye mecanismos de seguimiento y evaluación de las políticas, los programas y los mecanismos relativos a la ética de la IA que los Estados adopten -de acuerdo con sus circunstanciasde forma creíble y transparente (UNESCO, 2021, apartado 131). En este sentido, se presentan varios posibles mecanismos de seguimiento y evaluación, tales como una comisión de ética, un observatorio de ética de la IA, un repositorio que abarque el desarrollo ético y conforme a los derechos humanos de los sistemas de IA, o contribuciones a las iniciativas existentes para reforzar la conformidad a los principios éticos en todas las esferas de competencia de la UNESCO, un mecanismo de intercambio de experiencias, entornos de pruebas reguladores de la IA y una guía de evaluación para que todos los actores de la IA determinen en qué medida cumplen las recomendaciones de actuación mencionadas en esta Recomendación (UNESCO, 2021, apartado 134). Tales procesos de seguimiento y evaluación deberían asegurar una amplia participación de todas las partes interesadas, entre ellas, aunque no exclusivamente, las personas vulnerables o en situación de vulnerabilidad (UNESCO 2021: apartado 132). Se añade además que se debería garantizar la diversidad social, cultural y de género, con miras a mejorar los procesos de aprendizaje y fortalecer los nexos entre las conclusiones, la adopción de decisiones, la transparencia y la rendición de cuentas sobre los resultados. En este mismo sentido, los Estados deberían elaborar instrumentos e indicadores adecuados para evaluar su eficacia y eficiencia en función de normas, prioridades y objetivos acordados, incluidos objetivos específicos para las personas pertenecientes a poblaciones desfavorecidas y marginadas y personas vulnerables o en situación de vulnerabilidad, así como el impacto de los sistemas de IA en los planos individual y social. El seguimiento y la evaluación del impacto de los sistemas de IA y de las políticas y prácticas conexas relativas a la ética de la IA deberían realizarse de manera continua y sistemática proporcionalmente a los riesgos correspondientes. Este proceso debería basarse en marcos acordados internacionalmente e ir acompañado de evaluaciones de instituciones, proveedores y programas públicos y privados, incluidas autoevaluaciones, así como de estudios de seguimiento y la elaboración de conjuntos de indicadores. La recopilación y el procesamiento de datos deberían realizarse de conformidad con el Derecho internacional, la legislación nacional en materia de protección y confidencialidad de datos y los valores y principios enunciados en la Recomendación de la UNESCO sobre la ética de la IA (UNESCO, 2021, apartado 133). © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XVII 439 4. EXAMEN CRÍTICO DE LOS VALORES COMPARTIDOS CON LA CARTA DE NACIONES UNIDAS: LA JUSTICIA SOCIAL EN LAS CONSIDERACIONES ÉTICAS DE LA INTELIGENCIA ARTIFICIAL La referencia a la idea de justicia social que subyace al principio ético de hacer una IA en beneficio de toda la Humanidad, a través de la solidaridad entre los países del mundo, es una vieja reivindicación del Derecho internacional, desde que se proclamó la Declaración Universal de los Derechos Humanos por la Asamblea General de Naciones Unidas, como anexa a la Resolución 217 (III), aprobada sin oposición el 10 de diciembre de 1948. En el párrafo segundo del Preámbulo de este referente mundial en la protección de los derechos humanos se afirma lo siguiente: “Considerando que… se ha proclamado como la aspiración más elevada del hombre el advenimiento de un mundo en el que los seres humanos, liberados del temor y de la miseria, disfruten de la libertad de palabra y de la libertad de creencias.” Es importante evocar estas referencias a la miseria y a un concepto más amplio de libertad, dentro del Preámbulo de la Declaración Universal de los Derechos Humanos porque es una contribución del mundo occidental -enfrentado durante la Guerra Fría a su antagónico socialistapese a lo que erróneamente pudiera pensarse tras hacer bandera la Unión Soviética y sus satélites, de los derechos sociales y económicos, frente a la defensa de los derechos civiles y políticos por parte de Estados Unidos y sus aliados. En efecto, un breve ejercicio de memoria histórica es necesario para hacer frente a las voces que pretenden desacreditar las aspiraciones de justicia social y de solidaridad en el aprovechamiento de las potencialidades de la IA como quimeras y ensoñaciones de países en desarrollo que confunden -así se les criticasus deseos y aspiraciones con la realidad del mundo en el que vivimos. Fue el presidente de Estados Unidos, Franklin D. Roosevelt, quien el 6 de enero de 1941 proclamó un discurso ante el Congreso norteamericano en el que evocaba cuatro libertades fundamentales de cualquier ser humano: la libertad de palabra y de pensamiento; la libertad religiosa; la libertad ante la necesidad (esto es, el germen de la idea de justicia social y de los derechos económicos y sociales); y la libertad frente al miedo, o lo que es igual, la obligación moral del desarme dirigido a prevenir agresiones armadas entre los Estados (Cassese, 1991, 37). La evocación de la idea de justicia social por parte del presidente que lideró el New Deal en su país, defendiendo el rescate social y económico de todos los americanos como motor de desarrollo de la nación, no fue aprovechado por el resto de países occidentales que durante años pusieron su acento sólo sobre los derechos civiles y políticos (las dos primeras libertades © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 446 DANIEL GARCÍA SAN JOSÉ equipos de investigación en el campo de la IA; la brecha educativa; las desigualdades en el acceso, la adopción, la utilización y la asequibilidad de la tecnología digital y de la IA; y la distribución desigual del trabajo no remunerado y de las responsabilidades de cuidado en nuestras sociedades (UNESCO, 2021, apartado 89). En lo que respecta al séptimo ámbito de actuación política, la cultura, los Estados deberían promover el conocimiento y la evaluación de los instrumentos de IA entre las industrias culturales locales y las pequeñas y medianas empresas que trabajan en el ámbito de la cultura, a fin de evitar el riesgo de concentración en el mercado cultural (UNESCO, 2021, apartado 97). En relación con el octavo ámbito de actuación, la educación y la investigación, los Estados deberían colaborar con organizaciones internacionales, instituciones educativas y entidades privadas y no gubernamentales para impartir al público de todos los países, a todos los niveles, conocimientos adecuados en materia de IA, a fin de empoderar a la población y reducir las brechas digitales y las desigualdades en el acceso a la tecnología digital resultantes de la adopción a gran escala de sistemas de IA (UNESCO, 2021, apartado 101). Además, los Estados deberían promover la participación y el liderazgo de las niñas y las mujeres, las personas de diversos orígenes étnicos y culturas, las personas con discapacidad, las personas marginadas y vulnerables o en situación de vulnerabilidad y las minorías, así como de todas aquellas personas que no gocen plenamente de los beneficios de la inclusión digital, en los programas de educación en materia de IA en todos los niveles, así como el seguimiento y el intercambio con otros Estados de las mejores prácticas en este ámbito (UNESCO, 2021, apartado 105). El noveno ámbito de actuación es la comunicación y la información y al respecto, se acuerda que los Estados deberían invertir en competencias digitales y de alfabetización mediática e informacional y promoverlas, a fin de reforzar el pensamiento crítico y las competencias necesarias para comprender el uso y las implicaciones de los sistemas de IA, con miras a atenuar y contrarrestar la desinformación, la información errónea y el discurso de odio. Una mejor comprensión y evaluación de los efectos tanto positivos como potencialmente perjudiciales de los sistemas de recomendación debería formar parte de esos esfuerzos (UNESCO, 2021, apartado 114). En relación con el décimo ámbito de actuación, relativos a la economía y al trabajo, se contempla que los Estados deberían evaluar y abordar el impacto de los sistemas de IA en los mercados de trabajo y sus consecuencias en las necesidades educativas en todos los países y, más concretamente, en los países cuya economía requiere mucha mano de obra. Para ello puede ser preciso introducir una gama más amplia de competencias “básicas” e © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XVII 447 interdisciplinarias en todos los niveles educativos, a fin de dar a los trabajadores actuales y a las nuevas generaciones una oportunidad equitativa de encontrar empleo en un mercado en rápida evolución y para asegurar que sean conscientes de los aspectos éticos de los sistemas de IA (UNESCO, 2021, apartado 116). Asimismo, los Estados deberían adoptar las medidas adecuadas para garantizar la competitividad de los mercados y la protección de los consumidores, considerando posibles medidas y mecanismos en los planos nacional, regional e internacional, a fin de impedir los abusos de posición dominante en el mercado, incluidos los monopolios, en relación con los sistemas de IA durante su ciclo de vida, ya se trate de datos, investigación, tecnología o mercados. Los Estados deberían prevenir las desigualdades resultantes, evaluar los mercados correspondientes y promover mercados competitivos. Se debería prestar la debida atención a los países de ingreso mediano bajo, en particular a los PMA, los PDSL y los PEID, que están más expuestos y son más vulnerables a la posibilidad de que se produzcan abusos de posición dominante en el mercado, como consecuencia de la falta de infraestructuras, capacidad humana y reglamentación, entre otros factores. Los actores de la IA que desarrollen sistemas de IA en países que hayan establecido o adoptado normas éticas en materia de IA deberían respetar estas normas cuando exporten estos productos, desarrollen sus sistemas de IA o los apliquen en países donde no existan dichas normas, respetando al mismo tiempo el Derecho internacional y las leyes, normas y prácticas nacionales aplicables de estos países (UNESCO, 2021, apartado 120). Finalmente, en conexión con el undécimo y último ámbito de actuación, la salud y el bienestar social, se prevé que los Estados deberían esforzarse por emplear sistemas eficaces de IA para mejorar la salud humana y proteger el derecho a la vida, en particular atenuando los brotes de enfermedades, al tiempo que desarrollan y mantienen la solidaridad internacional para hacer frente a los riesgos e incertidumbres relacionados con la salud en el plano mundial, y garantizar que su despliegue de sistemas de IA en el ámbito de la atención de la salud sea conforme al Derecho internacional y a sus obligaciones en materia de derechos humanos. Los Estados deberían velar por que los actores que participan en los sistemas de IA relacionados con la atención de la salud tengan en cuenta la importancia de las relaciones del paciente con su familia y con el personal sanitario (UNESCO, 2021, apartado 121). 5. CONCLUSIONES Al finalizar estas páginas es posible resumir los planteamientos anteriormente defendidos en las siguientes ideas a modo de síntesis: la IA es un medio y no un fin en sí misma. El fin es el desarrollo de los pueblos, de conformidad con los valores compartidos de la Carta de Naciones y de los © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 448 DANIEL GARCÍA SAN JOSÉ instrumentos internacionales que reivindican una aproximación ética al ciclo de vida de los sistemas de IA. Sin el desarrollo de los pueblos no puede afianzarse la paz, la seguridad y la justicia internacionales. Así lo entendieron nuestros padres y abuelos que desarrollaron un papel en la creación de la Organización de Naciones Unidas y, antes de ella, de la Sociedad de Naciones, tras sufrir el flagelo de dos Guerras Mundiales. Por ello es tan importante no perder de referencia que la IA es un medio y no un fin en sí misma. Como corolario de la idea anterior, hay que recordar que algunos fines no pueden alcanzarse por cualquier medio pues, aun siendo en sí legítimos tales fines, estos se deslegitiman si se consiguen a cualquier precio. De ahí que se defienda desde hace años a todos los niveles unos principios éticos para la IA en los que el respeto de la dignidad humana y la protección de los derechos humanos fundamentales, sea su piedra angular. En esta misión de asegurar el desarrollo de los pueblos respetando los derechos humanos fundamentales están implicados todos los sujetos y actores internacionales que participan en alguna medida en el ciclo de vida de los sistemas de IA. Nadie queda fuera ni puede pretender eludir su responsabilidad a este respecto. Nos jugamos demasiado en ello. 6. BIBLIOGRAFÍA Abbagnano, Nicola (1982), Diccionario de Filosofía, Fondo de Cultura Económica, México-Buenos Aires. Boden, Margaret (2016), AI: Its Nature and Future, Oxford University Press, Oxford. Carrillo Salcedo, Juan Antonio (1985), El Derecho Internacional en un mundo en cambio, Tecnos, Madrid. ⎯ (2001), Soberanía de los Estados y Derechos Humanos, Tecnos, Madrid. Cassese, Antonio (1991), Los derechos humanos en el mundo contemporáneo, Ariel, Barcelona. COMEST (Comisión Mundial de Ética del Conocimiento Científico y la Tecnología), “Estudio preliminar sobre la ética de la inteligencia artificial” SHS/COMEST/EXTWG-ETHICS-AI/2019/1, de 26 de febrero de 2019. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000367823 Visitado el 1 de marzo de 2022. Consejo de Europa (2020), Recomendación CM/Rec (2020) 1 del Comité de Ministros a los Estados Miembros sobre los impactos de los sistemas algorítmicos en los derechos humanos, el 8 de abril de 2020, Disponible en https://rm.coe.int/09000016809e1154 (visitado el 1 de marzo de 2022) © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XVII 449 García San José, Daniel (2021a), “Implicaciones jurídicas y bioéticas de la inteligencia artificial (IA). Especial consideración al marco normativo internacional”, en: Cuadernos de Derecho Transnacional, 13, 1, 255-276. ⎯ (2021b), “International lawyers' contribution to a friendly artificial intelligence”, en: Llano Alonso, Fernando, Joaquín Garrido Martín (eds.), Inteligencia artificial y Derecho. El jurista ante los retos de la era digital, Thomson-Reuter Aranzadi, Cizur Menor, 133-152. Institute of Electrical and Electronic Engineers (IEEE) (2018), Ethically Aligned Design Version 2 for Public Discussion, New Jersey, disponible en: https://ethicsinaction.ieee.org/ Visitado el 1 de marzo de 2022. Naciones Unidas, Estrategia del Secretario General de las Naciones Unidas en materia de nuevas tecnologías, de septiembre de 2018, disponible en https://www.un.org/en/newtechnologies/ Visitado el 1 de marzo de 2022. ⎯ (2018), Resolución de la Asamblea General A/RES/73/17 de 3 de diciembre de 2018. Disponible en internet en https://undocs.org/pdf? symbol=es/A/RES/73/17 Visitado el 1 de marzo de 2022. ⎯ (2022), Proyecto Breakthrough (IA para todos) de Naciones Unidas https://breakthrough.unglobalcompact.org/site/assets/files/1454/hhw-16- 0017-d_c_artificial_intelligence.pdf Visitado el 1 de marzo de 2022. OCDE (2019), Principios Éticos de la OCDE en materia de Inteligencia Artificial, op. cit., adoptados en mayo de 2019 y posteriormente incluidos como anexo a la Declaración Ministerial sobre Comercio y Economía Digital, del G20 en su cumbre de Tsukuba, Japón, en junio de ese mismo año. OECD (2019), Going Digital. Paris, disponible en: http://www.oecd.org/goingdigital/ai/ Visitado el 1 de marzo de 2022. UNESCO (2019a), Documento 206 EX/42, Estudio preliminar sobre los aspectos técnicos y jurídicos relativos a la conveniencia de disponer de un instrumento normativo sobre la ética de la inteligencia artificial, aprobado por la Conferencia General de la Organización el 30 de julio de 2019. Disponible en: https://unesdoc.unesco.org/ark:/48223/ pf0000369455_spa Visitado el 1 de marzo de 2022. ⎯ (2019b), Estudio preliminar sobre un posible instrumento normativo relativo a la ética de la inteligencia artificial, Doc. 40 C/67, aprobado por la Conferencia General de la Organización el 30 de julio de 2019. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000369455_spa Visitado el 1 de marzo de 2022. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 450 DANIEL GARCÍA SAN JOSÉ ⎯ (2020) Anteproyecto de Recomendación sobre la Ética de la IA, SHS/BIO/AHEG-AI/2020/4 REV 2, Doc. Final, Paris, 7 de septiembre de 2020. Disponible en: https://unesdoc.unesco.org/search/N-EXPLORE- 47510aaf-a4ce-45d0-8296-791ecfefa7c8 Visitado el 1 de marzo de 2022. ⎯ (2021) Recomendación sobre la Ética de la IA, aprobada el 23 de noviembre de 2021. Disponible en https://unesdoc/unesco.org/ark:/48223/ pf0000380455_spa Visitado el 1 de marzo de 2022. Unión Europea (2019), Directrices para una Inteligencia Artificial fiable del Grupo de Expertos de Alto Nivel creado por la Comisión Europea y publicadas en 2019 Disponible en: https://ec.europa.eu/futurium/en/aialliance-consultation/guidelines≠/ Visitado el 1 de marzo de 2022. ⎯ (2020), Libro Blanco de la Comisión Europea sobre la Inteligencia Artificial: un enfoque europea orientado hacia la excelencia y la confianza, COM (2020) 65 final, de 19 de febrero de 2020. Disponible en: https://ec.europa.eu/info/sites/default/files/commission-white-paper- artificial-intelligence-feb2020_es.pdf Visitado el 1 de marzo de 2022. Unión Internacional de Telecomunicaciones (2019), United Nations Activities on Artificial Intelligence (AI) disponible en internet en https://www.itu.int/dms_pub/itu-s/opb/gen/S-GEN-UNACT-2019-1-PDF- E.pdf Visitado el 1 de marzo de 2022. ⎯ (2021), AI for Good, balance anual de resultados, disponible en https://www.aiforgood.itu.int Visitado el 1 de marzo de 2022. ⎯ (2022) Focus Group on “Artificial Intelligence for Health”, disponible en: https://www.itu.int/en/ITU-T/focusgroups/ai4h/Pages/default.aspx Visitado el 1 de marzo de 2022. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected]