El derecho internacional frente a los riesgos de la inteligencia artificial (IA) en la investigación embrionaria humana

Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 512 El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA) en la investigación embrionaria humana* International Law against the risks of Artificial Intelligence (AI) in human embryonic research Daniel García San JoSé Catedrático de Derecho Internacional público Universidad de Sevilla Recibido: 14.03.2022 / Aceptado: 03.05.2022 DOI: 10.20318/cdt.2022.7193 Resumen: Desde hace años se trabaja por lograr un marco ético internacionalmente aceptado en relación con todas las aplicaciones e innovaciones de la inteligencia artificial (IA). La Recomendación de la UNESCO sobre la ética de la IA, adoptada en noviembre de 2021 es considerada un hito en este sentido. En este trabajo criticamos el carácter restrictivo del concepto de dignidad humana empleado en este instrumento por no proteger frente a los riesgos del empleo de los sistemas de Inteligencia Artificial (IA) en la experimentación embrionaria humana a través de úteros sintéticos. Proponemos el establecimiento de un alto comisionado de Naciones Unidas para el uso responsable de los sistemas de IA. Palabras clave: Regulación internacional de la IA, investigación embrionaria humana, dignidad humana, úteros sintéticos, alto comisionado Naciones Unidas para la IA Abstract: For years, efforts have been made to achieve an internationally accepted ethical framework in relation to all applications and innovations of artificial intelligence (AI). The UNESCO Recommendation on the Ethics of AI, adopted in November 2021, is considered a milestone in this regard. In this paper we criticize the restrictive nature of the concept of human dignity used in this instrument for not protecting against the risks of using systems of artificial intelligence (AI) in human embryonic experimentation through synthetic wombs. We propose the establishment of a United Nations high commissioner for the responsible use of AI systems. Keywords: International regulation of AI, human embryonic research, human dignity, synthetic wombs, United Nations High Commissioner for AI. Sumario: I. La dimensión ética de los sistemas de inteligencia artificial (IA). II. Crítica a la Recomendación de la UNESCO de 2021 sobre la ética en la IA y su conexión con los derechos humanos: la falta de concreción conceptual de la dignidad humana. III. Los desafíos de la IA para la investigación embrionaria humana a la luz de la doctrina del deslizamiento. IV. Indefensos ante los nuevos desafíos de los sistemas de IA aplicados a la investigación embrionaria: los úteros sintéticos y la fabricación en serie de cuerpos embrioides. V. La necesaria regulación de los sistemas de IA aplicada a la investigación embrionaria humana como una cuestión de interés general de la comunidad internacional.VI. ¿Un Alto Comisionado de Naciones Unidas para el uso responsable de los sistemas de IA? VII. Conclusiones. * Estudio realizado en el marco del Proyecto de I+D del Ministerio de Ciencia e Innovación de España Biomedicina, Inteligencia Artificial, Robótica y Derecho: los Retos del Jurista en la Era Digital. (PID2019-108155RB-I00), en el que participo como investigador a tiempo completo. 513 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé I. La dimensión ética de los sistemas de inteligencia artificial (IA) 1. Desde hace años se viene defendiendo desde diversos ámbitos institucionales la caracterización de la IA a partir de un componente ético1 con carácter complementario a su progresiva –y por el momentosectorial regulación internacional2. Aun cuando no hay consenso sobre una definición de ésta -a los efectos de este estudio emplearemos el término sistemas de inteligencia artificial (IA)3-, sí hay coincidencia acerca de la necesidad de contar con unas normas éticas aceptadas mundialmente, en la convicción de que pese a su carácter no vinculante, los valores y principios éticos pueden desempeñar una función esencial en la elaboración de normas relacionadas con los sistemas de IA en todo el mundo.4 2. A los efectos del presente estudio, es necesario constatar que se desprende de una lectura comparada de los principales textos emanados sobre los principios éticos para la IA, la ausencia de un acuerdo respecto de si los sistemas de IA suponen una amenaza sólo para los derechos humanos o también para la dignidad humana. La cuestión no es baladí, en tanto en cuanto, pretendemos poner de manifiesto que una lectura restringida de estos riesgos –limitándolos sólo a aquellos que puedan afectar a los derechos y libertades de los que son titulares las personas-, supone desconocer las amenazas crecientes y reales que los sistemas de IA suscitan al ser humano como especie humana y a su dignidad intrínseca. 3. La consideración de la dignidad humana sólo en relación con las personas nacidas, parece desprenderse de los principales textos adoptados en los últimos años sobre la dimensión ética de la inteligencia artificial. Así, por ejemplo, en los Principios Éticos de la OCDE en materia de Inteligencia Artificial, adoptados en mayo de 2019 y posteriormente incluidos como anexo a la Declaración Ministerial sobre Comercio y Economía Digital, del G20 en su cumbre de Tsukuba, Japón, en junio de ese mismo año5, en el principio titulado “Valores y equidad centrados en el ser humano” se enuncia de manera conjunta la dignidad y la autonomía, junto con una mención expresa a la capacidad de determinación humana, lo que implica que se está refiriendo a un ser humano con capacidad de tomar decisiones y, por ello, ya nacido.6 4. En cuanto al ámbito regional europeo, es de destacar que a pasar de que en el Estudio sobre las dimensiones en derechos humanos de las técnicas de procesamiento automatizado de datos (en particular algoritmos) y las posibles implicaciones sobre su regulación, elaborado por el Grupo de Expertos sobre internet (MSI-NET) del Consejo de Europa en 2017, se distingue entre las amenaza de la IA para los derechos humanos y para la dignidad humana7, en la Recomendación CM/Rec (2020) 1 del Comité 1 Al respecto, D., García San JoSé, “Implicaciones Jurídicas y Bioéticas de la Inteligencia Artificial (IA). Especial consideración al marco normativo internacional”, Cuadernos de Derecho Transnacional (Marzo 2021), Vol. 13, Nº 1, pp. 255-276. 2 Para un examen de dicho progresos normativos véase la página web preparada por la Biblioteca del Congreso de Estados Unidos: https://www.loc.gov/law/help/artificial-intelligence/international.php Visitado el 1 de marzo de 2022. 3 Siguiendo a la Recomendación de la UNESCO sobre la ética de la inteligencia artificial, aprobada el 23 de Noviembre de 2021, entendiendo por tales, a aquellos sistemas capaces de procesar datos e información de una manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control. Véase Apartado I (ámbito de aplicación), artículo 2, de la citada Declaración, disponible en http://unesdoc/ unesco.org/arki:/48223/pf0000380455_spa Visitado el 1 de marzo de 2022. 4 Preámbulo de la Recomendación de la UNESCO sobre la ética de la inteligencia artificial, parágrafo 15. Como se recuerda a lo largo de toda la Declaración [véase por ejemplo, Apartado I (ámbito de aplicación), artículo 4]: “la presente Recomendación se dirige a los Estados Miembros, tanto en su calidad de actores de la IA como de autoridades responsables de la elaboración de marcos jurídicos y reguladores a lo largo de todo el ciclo de vida de los sistemas de IA, así como de la promoción de la responsabilidad empresarial.” 5 Disponible en: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 Visitado el 1 de marzo de 2022. 6 Principio 1.2. Valores y equidad centrados en el ser humano: “a) Los actores de IA deben respetar el estado de derecho, los derechos humanos y los valores democráticos durante todo el ciclo de vida del sistema de IA. Estos incluyen la libertad, la dignidad y autonomía, la privacidad y protección de datos, la no discriminación e igualdad, la diversidad, la equidad, la justicia social y los derechos laborales reconocidos internacionalmente.” b) Para ello, los actores de IA deben implementar mecanismos y salvaguardas, como la capacidad de determinación humana, que sean adecuadas al contexto y acordes con el estado del arte.” (La cursiva es añadida). 7 Council of Europe Study DGI (2017) 12, p. 7: “El uso de algoritmos plantea desafíos considerables no solo para el área política específica en la que se operan, sino también para la sociedad en su conjunto. ¿Cómo salvaguardar los derechos hu- 514 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 de Ministros a los Estados Miembros sobre los impactos de los sistemas algorítmicos en los derechos humanos, el 8 de abril de 20208, no aparece una sola mención a la dignidad en conexión con los riesgos de la inteligencia artificial. Todas las referencias se hacen en dicho texto a los derechos y libertades fundamentales9. Si bien esa actitud parecería lógica desde el punto de vista del Convenio europeo para la protección de los derechos humanos y las libertades fundamentales, es criticable por cuanto desconoce la importante labor desarrollada en el seno del Consejo de Europa en materia de bioética en conexión con el respeto de la dignidad humana y la protección de los derechos fundamentales. 5. En efecto, desde principios de la década de los 80, la Organización del Consejo de Europa se ocupa de las cuestiones bioéticas y de sus implicaciones, fundamentalmente a través de las Recomendaciones que periódicamente adopta su Asamblea Parlamentaria y que dirige al Comité de Ministros y a los Estados miembros de este Organismo Internacional. Los trabajos de la Asamblea Parlamentaria pueden ilustrarse con los siguientes ejemplos: Recomendación 934 (1982) sobre ingeniería genética; Recomendación 1046 (1986) sobre el uso de embriones y fetos humanos con fines diagnósticos, terapéuticos, científicos, industriales y comerciales; Recomendación 1100 (1989) sobre el uso de embriones y fetos humanos en la investigación científica; Recomendación 1240 (1994) sobre la protección y patentabilidad del material de origen humano; Recomendación 1425 (1999) sobre biotecnología y propiedad intelectual; o Resolución 1352 (2003) sobre investigación con células madre humanas.10 6. La Asamblea Parlamentaria del Consejo de Europa también elaboró varios Dictámenes en relación con los borradores de tratados elaborados en el marco de esta Organización. En este sentido, se puede mencionar el Dictamen N° 198 (1996) sobre el proyecto de Convenio para la protección de los derechos humanos y la dignidad del ser humano en relación con las aplicaciones de la biología y la medicina: Convenio sobre derechos humanos y biomedicina; Opinión No. 202 (1997) sobre el proyecto de Protocolo adicional a la Convención sobre Derechos Humanos y Biomedicina relativo a la prohibición de la clonación de seres humanos; o el Dictamen No. 252 (2004) sobre el proyecto de Protocolo adicional al Convenio sobre Derechos Humanos y Biomedicina sobre investigación biomédica.11 7. Por su parte, el Comité de Ministros del Consejo de Europa ha preparado una interesante documentación sobre temas de bioética, algunos ejemplos de los cuales son: la Recomendación N° R (90)3 relativa a la investigación médica en seres humanos, en la que se enumeran aquellos principios llamados a regir la medicina investigación sobre seres humanos; Resolución No. 3 sobre derechos humanos y progreso científico en los campos de la biología, la medicina y la bioquímica, adoptada en la Conferencia Ministerial Europea sobre Derechos Humanos celebrada en Viena el 19 y 20 de marzo de 1985; Resolución No. 3 sobre Bioética adoptada en la 17ª Conferencia de Ministros de Justicia Europeos en Estambul del 5 al 7 de junio de 1990; de la Declaración Final resultante de la Segunda Cumbre del Consejo de Europa, celebrada en Estrasburgo el 11 de octubre de 1997, que incluye una referencia explícita a la prohibición de la clonación de seres humanos dentro del punto I “Democracia y Derechos Humanos” de su Plan de Acción fortalecer la estabilidad democrática en los Estados miembros.12 8. En conexión a la otra gran Organización en el ámbito europeo, la Unión Europea, es destacable que en el Libro Blanco de la Comisión Europea sobre la Inteligencia Artificial: un enfoque europeo manos y la dignidad humana frente a las tecnologías que cambian rápidamente?” Disponible en https://pace.coe.int/en/pages/ artificial-intelligence Visitado el 1 de marzo de 2022. 8 Disponible en https://rm.coe.int/09000016809e1154 Visitado el 1 de marzo de 2022. 9 BOE núm. 243, de 10 de octubre de 1979, páginas 23564 a 23570, sometido a diversas modificaciones, la más reciente recogida en el BOE núm. 130, de 28 de mayo de 2010, páginas 46324 a 46335, relativa a la ratificación de su Protocolo Adicional Nº 14. 10 Texts of the Council of Europe on bioethical matters, 2014, Vol. I y II, disponible en: https://www.coe.int/t/dg3/healthbioethic/Texts_and_documents/INF_2014_5_vol_II_textes_%20CoE_%20bio%C3%A9thique_E%20(2).pdf Visitado el 1 de marzo de 2022. 11 Véase https://www.coe.int/en/web/bioethics Visitado el 1 de marzo de 2022. 12 Ibídem. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 515 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 orientado hacia la excelencia y la confianza13, se evidencia una cierta ambigüedad con respecto a esta cuestión. Así, por ejemplo, la Comisión incluye en su página 3, una referencia expresa a la dignidad humana no tanto como un derecho fundamental sino como un valor europeo: “Teniendo en cuenta el enorme impacto que puede tener la inteligencia artificial en nuestra sociedad y la necesidad de que suscite confianza, resulta clave que la inteligencia artificial europea se asiente en nuestros valores y derechos fundamentales, como la dignidad humana y la protección de la privacidad.” Por el contrario, en la página 12 del Libro Blanco, la dignidad aparece considerada como un derecho fundamental: “La Comisión seguirá de cerca las políticas de terceros países que limitan los flujos de datos y hará frente a las restricciones indebidas en las negociaciones comerciales bilaterales y mediante acciones en el contexto de la Organización Mundial del Comercio. La Comisión está convencida de que la cooperación internacional sobre cuestiones relativas a la IA debe basarse en un enfoque que promueva el respeto de los derechos fundamentales, especialmente la dignidad humana, el pluralismo, la inclusión, la ausencia de discriminación y la protección de la privacidad y de los datos personales, y se esforzará por exportar estos valores al resto del mundo.” (La cursiva es añadida) 9. Esta interpretación restrictiva del término dignidad, como referida a la persona nacida, está reforzada en la página 14 del Libro Blanco al referirse a los problemas de la IA en unos términos que no dejan lugar a dudas14 y que, por ello, entran en contradicción con los términos empleados al concretar los riesgos específicos para los derechos fundamentales derivados de la recopilación y el uso de datos biométricos para la identificación remota, por ejemplo mediante la instalación de sistemas de reconocimiento facial en lugares públicos, respecto de los cuáles la Comisión precisa que lo que está en juego es la dignidad de la persona (no la dignidad humana en un sentido amplio).15 10. En este contexto de incertidumbre, sucintamente presentado, las continuas referencia a la dignidad humana y los derechos humanos a lo largo de la Recomendación de la UNESCO sobre la ética de la IA, aprobada el 21 de noviembre de 2021, en su preámbulo, en su apartado II [Fines y objetivos, art. 8.c)] pero sobre todo, en el apartado III.1 [Valores, artículo 13 en conexión con el artículo 16], pueden dar lugar a una falsa impresión de que con este instrumento se está poniendo un dique a posibles abusos de la IA tanto a los derechos y libertades de la persona, como a la dignidad del ser humano. 11. Señala el apartado 13 de la Recomendación de la UNESCO sobre la ética de la IA que: “La dignidad inviolable e intrínseca de cada ser humano constituye la base del sistema universal, indivisible, inalienable, interdependiente e interrelacionado de derechos humanos y libertades fundamentales. Por consiguiente, el respeto, la protección y la promoción de la dignidad humana y de los derechos establecidos por el Derecho internacional, en particular, el Derecho internacional de los derechos humanos, son esenciales a lo largo del ciclo de vida de los sistemas de IA. La dignidad humana tiene que ver con el reconocimiento del valor intrínseco e igual de cada ser humano, con independencia de su raza, color, ascendencia, género, edad, idioma, religión, opiniones políticas, origen nacional, étnico o social, condición económica o social de nacimiento, discapacidad o cualquier otro motivo.” 13 COM (2020) 65 final, de 19 de febrero de 2020. Disponible en: https://ec.europa.eu/info/sites/default/files/commissionwhite-paper-artificial-intelligence-feb2020_es.pdf Visitado el 1 de marzo de 2022. 14 “A. DEFINICIÓN DE LOS PROBLEMAS. Aunque la IA puede ofrecer muchas ventajas, por ejemplo, mejorando la seguridad de los productos y los procedimientos, también puede resultar nociva. Los daños pueden ser tanto materiales (para la seguridad y la salud de las personas, con consecuencias como la muerte, y menoscabos al patrimonio) como inmateriales (pérdida de privacidad, limitaciones del derecho de libertad de expresión, dignidad humana, discriminación en el acceso al empleo, etc.) y pueden estar vinculados a una gran variedad de riesgos. El marco regulador debe centrarse en cómo minimizar los distintos riesgos de sufrir daños, especialmente los más significativos.” (La cursiva es añadida) 15 Nota a pie 57, en página 27 del Libro Blanco: “Por ejemplo, la dignidad de las personas. Con relación a este aspecto, los derechos al respeto de la vida privada y a la protección de los datos personales son parte primordial de la preocupación en torno a los derechos fundamentales cuando se utiliza la tecnología de reconocimiento facial. Tiene, además, un efecto fundamental en el derecho a la no discriminación y los derechos de grupos específicos, como los niños, las personas mayores o las personas con discapacidad. Además, no deben socavarse los derechos de expresión, asociación y reunión mediante el uso de esta tecnología.” El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 516 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 12. El parágrafo que se ha querido reproducir literalmente por su importancia, evidencia que la definición de dignidad humana manejada en este instrumento es muy restrictiva, en tanto que se refiere a la dignidad de una persona humana ya nacida, y por tanto no válida para valorar las cuestiones éticas que pueden derivarse de las aplicaciones de la IA en el campo de la experimentación embrionaria humana. A mayor abundamiento, el apartado 15 de la misma Recomendación dispone que: “Las personas pueden interactuar con los sistemas de IA a lo largo de su ciclo de vida y recibir su asistencia, por ejemplo, para el cuidado de las personas vulnerables o en situación de vulnerabilidad, incluidos, entre otros, los niños, las personas de edad, las personas con discapacidad o los enfermos. En el marco de esas interacciones, las personas nunca deberían ser cosificadas, su dignidad no debería ser menoscabada de ninguna otra manera, y sus derechos humanos y libertades fundamentales nunca deberían ser objeto de violación o abusos.” 13. Ante esta redacción, no cabe sino preguntarse ¿por qué habría que evitar la cosificación de una persona humana ya nacida por parte de los sistemas de IA y no hacer lo mismo respecto de una persona humana en formación aún no nacida? Es una cuestión que merece una respuesta desde el Derecho, no sólo porque ya ha sido objeto de análisis a propósito de las implicaciones derivadas del respeto de la dignidad humana tratándose de la investigación y experimentación embrionaria humanas16, sino esencialmente, porque en el estado actual de los avances científicos y tecnológicos, con los embriones somáticos gestados en úteros sintéticos monitorizados por sistemas de IA, las respuestas que hemos avanzado hasta ahora pueden no ser suficientes para afrontar los riesgos y desafíos derivados de la IA aplicada a la clonación reproductiva o con fines terapéuticos, tales como la obtención de “piezas de repuesto” para nuestros envejecidos o enfermos cuerpos. II. Crítica a la Recomendación de la UNESCO de 2021 sobre la ética en la IA y su conexión con los derechos humanos: la falta de concreción conceptual de la dignidad humana 14. Se ha avanzado en el epígrafe anterior una de las ideas-eje de este estudio: que el concepto de “dignidad humana” recogida en los principales instrumentos internacionales para una ética de la IA que sea respetuosa desde el punto de vista de los derechos humanos, no es satisfactoria desde el punto de vista de los riesgos que para la investigación embrionaria humana con fines de clonación –tanto reproductiva como terapéuticase plantean. En este apartado se consideran esas insuficiencias detectadas también a nivel doctrinal. 15. De entrada, ha de ponerse de manifiesto que para los que nos dedicamos al Derecho Internacional, es posible encontrar razones a favor y en contra de la IA. Frente los autores que defienden las posibilidades de la aplicación sin restricción de los sistemas de IA al Derecho internacional, tanto público17 como privado18, se posicionan quienes se fijan en los riesgos más que en sus posibles beneficios.19 Ese debate, que está lejos de cerrarse, se manifiesta de igual modo en lo que concierne a las implicaciones positivas y negativas de los sistemas de IA para los derechos humanos y la dignidad. Así, por ejemplo, en el documen16 Tanto por parte del Grupo Europeo de Ética para las Ciencias y las Nuevas Tecnologías, cuyos trabajos pueden consultarse en https://ec.europa.eu/info/research-and-innovation/strategy/support-policy-making/scientific-support-eu-policies/ege_en Asimismo, en el ámbito del Consejo de Europa, puede citarse la labor de su Comité de Bioética (consultable en https://www. coe.int/en/web/bioethics/home) Lo mismo es predicable en relación con la UNESCO (https://en.unesco.org/partnerships/partnering/bioethics) 17 abhivarDhan, “The Wider Realm to Artificial Intelligence in International Law”, 2018, en https://www.researchgate.net/ publication/324454009_The_Wider_Realm_to_Artificial_Intelligence_in_International_Law Visitado el 1 de marzo de 2022. 18 Véase: D. J. SvanteSSon, “A vision for the Future of Private International Law and the Internet –Can International Intelligence Succeed Where Humans Have Failed?”, Harvard Journal of International Law, 2019, publicado on line en apartado Perspectives y disponible en: https://harvardilj.org/2019/08/a-vision-for-the-future-of-private-international-law-and-the-internet-can-artificial-intelligence-succeed-where-humans-have-failed/ Visitado el 1 de marzo de 2022. 19 M. MaaS, “International Law Does Not Compute: Artificial Intelligence and The Development, Displacement or Destruction of the Global Legal Order”, Melbourne Journal of International Law, Vol. 20, 2019, pp. 1 a 20. Documento Disponible en: https://law.unimelb.edu.au/__data/assets/pdf_file/0005/3144308/Maas.pdf Visitado el 1 de marzo de 2022. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 517 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 to “Governing Artificial Intelligence: Upholding Human Rights and Dignity” elaborado por el instituto de investigación no gubernamental Data and Protection20 la primera vez que aparece el término “dignidad humana” en conexión con la IA (p. 5 del informe) se acompaña de una nota a pie de página muy significativa en la que se asume como muy controvertida, a nivel doctrinal, la cuestión relativa a la definición de dignidad humana, de modo que se deja fuera del informe –al tiempo que se reconoce que el concepto de dignidad humana es un tema muy importante para el trabajo futuro. Coincidente con otros instrumentos relativos a la conexión entre IA y los derechos humanos, se asume la definición de dignidad humana que puede extraerse de la Carta de Naciones Unidas, la Declaración Universal de los Derechos Humanos, así como de los principales tratados de derechos que vinculan los derechos humanos, la dignidad y la igualdad de derechos entre hombres y mujeres; esto es, respecto de personas humanas ya existentes. 16. En otro documento significativo relativo a la conexión entre los sistemas de IA y los derechos humanos, Directrices éticas para una IA fiable, elaborado en 2019 por el Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial, dependiente de la Comisión Europea, cuando se enuncia (p. 13, parágrafo 41) el principio de la dignidad humana afirmando que “la dignidad humana contiene en sí la idea de que todo ser humano posee un valor intrínseco que jamás se debe menoscabar, poner en peligro ni ser objeto de represión por parte de otros (ni de las nuevas tecnologías, como los sistemas de IA)” se aprecia una similar aproximación al concepto de dignidad humana –limitando ésta a los seres humanos ya nacidos-, que además viene a corroborar la inclusión aclaratoria en la nota a pie nº 20, según la cual, «para comprender el concepto de dignidad humana utilizado en este documento, véase E. Hilgendorf, “Problem Areas in the Dignity Debate and the Ensemble Theory of Human Dignity”, en D. Grimm, A. Kemmenger, C. Möllers (eds.), Human Dignity in Context. Explorations of a Contested Concept, 2018, pp. 325 y ss.» 17. En este mismo sentido puede verse un estudio publicado recientemente por la Agencia Europea para los Derechos Humanos (FRA), y en el que puede leerse: “A la hora de utilizar la IA, se debe considerar una gran variedad de derechos que varían en función de la tecnología y el ámbito de utilización. Además de los derechos relativos a la privacidad, la protección de datos, la igualdad y la no discriminación, y el acceso a la justicia, podrían considerarse otros derechos, como, por ejemplo, la dignidad humana, el derecho a la seguridad social y la asistencia social, el derecho a una buena administración (especialmente relevante para el sector público) y la protección de los consumidores (particularmente importante para las empresas). En función del contexto de utilización de la IA, deberá considerarse cualquier otro derecho protegido por la Carta.”21 Esto es, la consideración de la dignidad humana que se emplea en este instrumento –coincidente con otros reseñadoses la de la dignidad de la persona humana, no del ser humano. 18. Esta aproximación a nivel doctrinal, complementaria a la realizada en el epígrafe primero a los principales textos internacionales reivindicando una aproximación ética a los sistemas de IA, permite concluir que si algo caracteriza a la regulación de los sistemas de IA es que cada Estado aborda la cuestión de un modo singular, sin coordinación con otros22, más allá de algunos intentos de establecer principios éticos subyacentes a estos sistemas a nivel regional europeo o recientemente en el seno de la UNESCO que, por las razones que desarrollo en los epígrafes siguientes, nos parecen claramente insuficientes. 19. En la Recomendación de la UNESCO se aprecian varias evidencias de que se ha optado por un concepto restrictivo de la dignidad humana, de manera que protege la dignidad de la persona pero no del ser humano. Véanse, por ejemplo, que los ámbitos de acción política que se enuncian en la Recomendación para vehiculizar la puesta en práctica por parte de los Estados de los valores y principios 20 Elaborado por M. latonero (octubre de 2018). Puede consultarse en su web www.datasociety.net//library/governingartificial-intelligence/ Visitado el 1 de marzo de 2022. 21 FRA, Construir correctamente el futuro. La Inteligencia Artificial y los derechos fundamentales (2021), p. 5, disponible en https://fra.europa.eu/en/publication/2020/artificial-intelligence-and-fundamental-rights visitado el 1 de marzo de 2021. 22 Véase a. atabekov y o. YaStrebov, “Legal Status of Artificial Intelligence Across Countries: Legislation on the Move”, European Research Studies Journal, 2018, Vol. XXI, Nº 4, pp. 773-782. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 518 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 enunciados en la misma, aluden a los derechos humanos pero no a la dignidad humana, pese a las referencias conjuntas a sendos términos presentes en el preámbulo de este instrumento. Así, por ejemplo, en el ámbito de actuación 1 “Evaluación del impacto ético”, se afirma expresamente que “las obligaciones de los Estados miembros en materia de derechos humanos deberían formar parte de los aspectos éticos de las evaluaciones de los sistemas de IA” (apartado 52 de la Recomendación). 20. Asimismo, nótese que el enunciado del último ámbito de actuación contemplado (“Salud y bienestar”) supone un cambio con respecto a la propuesta preparada por el equipo de trabajo encargado de presentar un estudio preliminar sobre los aspectos técnicos y jurídicos relativos a la conveniencia de disponer de un instrumento normativo sobre la ética de la IA23. En dicha propuesta se hablaba de la IA, las ciencias de la vida y la salud (apartados 39 a 42 de la misma). Tal cambio no parece casual pues de los diez parágrafos dedicados en la Recomendación de la UNESCO a desarrollar este ámbito de actuación no aparece una sola referencia a la dignidad humana ni a la bioética (sólo a los derechos humanos), a diferencia de lo que el grupo de trabajo presentó en su estudio preliminar: “la conexión entre la IA y la bioética” (apartado 39) así como las “implicaciones de la IA para la cuestión de lo que significa ser humano” (apartado 42). Al hacerlo, la Recomendación de la UNESCO sobre la ética de la IA se distancia del Convenio relativo a los derechos humanos y la biomedicina (Convenio de Oviedo)24 que distingue entre “persona” (cada individuo) y “ser humano” (término comprensivo de la vida humana en todas sus formas) en su preámbulo25 y en su artículo primero26. 21. La actitud de la UNESCO se enmarca en un contexto más amplio de incertidumbres y contradicciones que abogan por una clarificación en beneficio del principio de seguridad jurídica. Así, por ejemplo, al firmar el Protocolo Adicional al Convenio relativo a los derechos humano y la biomedicina sobre el trasplante de órganos y de tejidos humanos, hecho en Estrasburgo el 24 de enero de 200227, los Países Bajos introdujeron una declaración interpretativa por la que dejaban clara cuál era su interpretación del concepto “dignidad del ser humano” que aparecía en el artículo 1 de dicho Protocolo en los siguientes términos: “Las Partes en el presente Protocolo protegerán a la persona en su dignidad y su identidad y le garantizarán, sin discriminación, el respeto a su integridad y a sus demás derechos y libertades fundamentales con respecto a los trasplantes de órganos y de tejidos de origen humano”. Los Países Bajos dejaban constancia expresa de que la dignidad aludida en esta disposición estaba referida exclusivamente a un ser humano individual; esto es, se trataba de la dignidad de quien ha nacido. 22. Pienso que esta interpretación es incongruente con el Convenio de Oviedo –del que el Protocolo Adicional es secundarioy coincido con las críticas que desde la doctrina se han formulado al respecto.28 Pese a todo, la interpretación defendida por los Países Bajos de restringir la protección de 23 UNESCO, Documento 206 EX/42, Estudio preliminar sobre los aspectos técnicos y jurídicos relativos a la conveniencia de disponer de un instrumento normativo sobre la ética de la inteligencia artificial, aprobado por la Conferencia General de la Organización el 30 de julio de 2019. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000369455_spa Visitado el 1 de marzo de 2022. 24 BOE nº 251, de 20 de octubre de 1999, pp. 36825-36830. 25 Párrafo 10 de su preámbulo: “Convencidos de la necesidad de respetar al ser humano a la vez como persona y como perteneciente a la especie humana y reconociendo la importancia de garantizar su dignidad.” 26 Artículo 1. Objeto y finalidad: “Las Partes en el presente Convenio protegerán al ser humano en su dignidad y su identidad y garantizarán a toda persona, sin discriminación alguna, el respeto a su integridad y a sus demás derechos y libertades fundamentales con respecto a las aplicaciones de la biología y la medicina.” A mayor abundamiento, añade el artículo 2. Primacía del ser humano: “El interés y bienestar del ser humano deberán prevalecer sobre el interés exclusivo de la sociedad o de la ciencia.” Nótese que se emplea el término “ser humano” y no el de “seres humanos” como sinónimo de “personas”. 27 BOE núm. 25, de 29 de enero de 2015, pp. 6977 a 6985. 28 Véase, por ejemplo, Requena Casanova quien piensa que el término “persona” en el Convenio de Oviedo es usado de un modo similar a como hace el Convenio europea para la protección de los derechos humanos y las libertades fundamentales, de 11 de noviembre de 1950, como sujeto de derecho y, por tanto, con derechos y obligaciones. En cambio, en opinión de este autor, el término “ser humano” alude en el Convenio de Oviedo a la vida en todas sus formas y, como tal, protege la dignidad e identidad del embrión humano en todo momento de su formación, de una manera coherente con el artículo 13 de dicho Convenio que prohíbe las manipulaciones que alteren el patrimonio genético de dichos embriones. M. requena caSanova, “Nota El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 519 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 la dignidad humana sólo a las personas ya nacidas, fue acogida por la Unión Europea cuando aprobó la Carta de Derechos Fundamentales29. Véase que dentro del Capítulo I “Dignidad”, la referencia a los derechos humanos frente a la clonación humana no aparece en el artículo 2 (Derecho a la vida) sino en el artículo 3 (Derecho a la integridad física)30. 23. Esto podría haber terminado por zanjar la cuestión. Sin embargo, estamos lejos de haber escrito el último capítulo de esta historia considerando la sentencia del Tribunal de Justicia de la Unión, de 18 de octubre de 2011, en el asunto C-34/10 Oliver Brustle contra Greenpeace ev31, en especial, considerando sus parágrafos 33 y 34, leídos a la luz del parágrafo 96 de las conclusiones del Abogado General, de 10 de marzo de 2011 en el caso, cuando expresamente señaló que “la dignidad humana es un principio que debe aplicarse no sólo a la persona humana existente, al niño nacido, sino también al cuerpo humano desde el primer estadio de su desarrollo, es decir, de la fecundación.” Considerando esta sentencia habría que admitir, al menos, que no es indiscutible la afirmación según la cual la protección de la dignidad humana es sólo predicable respecto de la persona humana, con exclusión de la persona humana en formación (en estado embrionario). Y esta duda razonable acerca de lo que ha de entenderse por dignidad humana cobra todo su sentido en relación con los úteros sintéticos monitorizados mediante sistemas de inteligencia artificial en la medida en que existe un riesgo de que el ser humano sea considerado como una mercancía o producto, de un modo claramente contrario al concepto de dignidad humana presente en el Convenio de Oviedo.32 III. Los desafíos de la IA para la investigación embrionaria humana a la luz de la doctrina del deslizamiento 24. La doctrina del deslizamiento, en términos sucintos, asume que una vez que se admite una excepción a la regla general, la siguiente excepción será aún mayor de modo que, de una manera imparable, terminará por erosionar la regla existente hasta hacerla desaparecer. Este es el principal temor de quienes critican el eventual derecho absoluto de los padres a potenciar a su descendencia eliminando genes no deseados o introduciendo otros “a elección”. Uno puede suponer que la mejora del embrión humano podría ser socialmente aceptable en algunos casos, aparte de las enfermedades hereditarias para las que no hay cura, como algunos tipos de cáncer. Existe la posibilidad, sin embargo, de que una vez abierta la puerta, nada pueda evitar una de las reglas de oro del libre mercado: “lo que quieras te lo vendo”. Así, los padres que deseen alcanzar alguna idea de perfección humana en sus descendientes tendrán que gastar mucho dinero, demasiado para no querer arruinar en el futuro a su descendencia estando con personas que no han sido mejoradas genéticamente. Por lo tanto, la división de la sociedad aumentará constantemente.33 sobre la ratificación por España del Convenio para la Protección de los Derechos Humanos y la Dignidad del Ser Humano con respecto a las aplicaciones de la Biología y la Medicina (Convenio relativo a los derechos humanos y la biomedicina), Revista Española de Derecho Internacional, Vol. LI, 1999, p. 796. 29 DOCE C364/1. 30 Cuyo tenor es el siguiente: “1. Toda persona tiene derecho a su integridad física y psíquica. 2. En el marco de la medicina y la biología se respetarán, en particular, el consentimiento libre e informado de la persona de que se trate, de acuerdo con las modalidades establecidas en la ley; la prohibición de prácticas eugenésicas, y en particular las que tienen por finalidad la selección de las personas; la prohibición de que el cuerpo humano o partes del mismo en cuanto tales se conviertan en objeto de lucro; la prohibición de la clonación reproductiva de seres humanos.” 31 Relativo a si era o no conforme a la Directiva 98/44/EC una solicitud de patente de obtención de células progenitoras neuronales a partir de células madre embrionarias obtenidas de embriones humanos creados a tal fin y que serían destruidos en el proceso. 32 Siguiendo a autores como Ruiz Miguel, considero que la dignidad debe proteger también a los embriones humanos en la medida en que, como apunta este autor, todo ser dotado de genoma humano diferenciado ha de ser considerado como ser humano. c. ruiz MiGuel, “Los datos sobre características genéticas: libertad, intimidad y no discriminación”, Estudios de Derecho Judicial. Monográfico: Genética y Derecho. Consejo General del Poder Judicial, 2001, Nº 36, p. 40. 33 Sobre la doctrina del deslizamiento en el ámbito de la investigación embrionaria humana véase: a. ruíz De la cueSta, “El debate doctrinal sobre el principio de la protección de la vida humana: una lectura crítica desde la concepción gradualista o progresiva”, en AA.VV.: Marco Jurídico Europeo relativo a la Investigación Biomédica en Transferencia Nuclear y Reprogramación Celular, Cizur Menor, Thomson-Reuter Aranzadi, 2012, pp. 23-39. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 520 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 25. Un tema altamente controvertido en conexión con el principio de la dignidad humana es el relativo al estatus moral del embrión humano. Desde algunas posiciones éticas extremas hay quienes refutan la necesidad de brindar ese debido respeto al embrión humano o, en sentido opuesto, lo consideran como persona, para brindarle la mayor protección posible. La mayoría de los autores, sin embargo, comparten la necesidad del debido respeto a los embriones que no pueden ser considerados como meros objetos ni como personas titulares de derechos. Sin embargo, todos discrepan al determinar qué significa “debido respeto” en este contexto. En términos muy concisos, la tesis mayoritaria considera la personalidad como una cuestión de grado, por lo que la pregunta es si la personalidad potencial es moralmente significativa. Desde hace años se viene defendiendo restringir la personalidad moralmente relevante solo a la potencialidad activa, en los últimos meses de gestación humana. Sin embargo, autores como Michael Tooley apuntan que existe una potencialidad plenamente activa si en un útero artificial, en el que se introduce un óvulo no fertilizado junto con un espermatozoide, un dispositivo asegura que la fertilización se produzca pronto y que, si no hay interferencia, el resultado sea la aparición, dentro de nueve meses, de un bebé humano normal, que luego recibirá la atención adecuada para que pueda seguir desarrollándose. Esta situación implica, en su opinión, una potencialidad plenamente activa con las consideraciones morales a favor y en contra que pudieran suscitarse en caso de que se decidiese apagar dicha máquina en un momento temprano de la gestación artificial, con el resultado de la destrucción de una potencialidad completamente activa para la personalidad de ese embrión, comparable a la destrucción de una persona.34 26. Conscientes de la controversia que rodea al estatus moral de la personalidad potencial, otros autores como Bonnie Steinbock, prefieren afirmar que los embriones extracorpóreos muy tempranos no tienen estatus moral sino valor moral, por lo que cualquier embrión humano debe ser respetado y no puede ser tratado como “cosas” sin importancia moral.35 La distinción que este autor propone entre estatus moral y valor moral se refiere al tipo de razones invocadas para tal respeto: mientras que en el estatus moral, la protección del respeto proviene de su interés o bienestar, en el valor moral esto no es posible porque los embriones humanos en sus primeras fases (preembriones hasta el 14º día) son seres no sensibles (como obras de arte, robles antiguos, áreas silvestres, etc.) La conclusión inevitable, por lo tanto, es que el debido respeto a los embriones humanos como forma de vida humana se asegura usándolos únicamente para fines moralmente significativos, como permitir que las personas infértiles se conviertan en padres y en la investigación que podría curar enfermedades devastadoras o salvar vidas.36 27. Para superar esta polémica, los autores españoles han abogado por una nueva conceptualización jurídica más allá de la definición biológica del embrión.37 El Profesor De Miguel Beriain, por ejemplo, mantiene la descripción del embrión como una célula o grupo de células capaces de auto desarrollarse hasta dar origen a una persona y que se encuentran en las condiciones idóneas para hacerlo.38 Tal definición parece especialmente útil en el caso de la transferencia nuclear de células somáticas en España porque la definición actual incluida en el artículo 3 de la Ley 14/2007, de 3 de julio, de Investigación Biomédica en España39, puede ser así coherente con el artículo 18.2 del Convenio sobre Bio34 M. tooleY, “Personhood”, in A Companion to Bioethics, h. kuhSe y P. SinGer (eds.), 2nd ed., 2009, Oxford, Wiley-Blackwell, pp. 135-136. Otros autores, como Ronald Lindsay, llegan a una conclusión similar cuando evidencia que a través de la transferencia nuclear a un óvulo, una célula somática puede expresar su potencial para transformarse en un embrión que está latente en sus genes pero que ha sido suprimido. Cada célula somática en el cuerpo de una persona humana tiene el mismo estatus moral que la persona misma, porque cada célula tiene el potencial de convertirse en una persona, tal como lo hace el embrión. r. linDSaY, Future Bioethics, 2008, New York, Prometeus Books, p. 258. 35 b. Steinbock, “Moral Status, Moral Value and Moral Embryos: Implications for Stem Cell Research”, The Oxford Handbook of Bioethics, b. Steinbock (ed.), Oxford, Oxford University Press, 2007, p. 433. 36 b. Steinbock, “Moral Status, Moral Value and Moral Embryos: Implications for Stem Cell Research”, op. cit., p. 438. 37 Í. De MiGuel beriain, “El embrión humano después de Dolly: Nuevas pautas para nuevos tiempos”, Law and Human Genome Review, Vol. 29, 2008, p. 45. 38 Ibidem, p. 63. 39 Ley 14/2007 de investigación biomédica en España (BOE nº 159 de 4 de julio de 2007). El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 527 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 gital, y que está copresidido por Melinda Gates y Jack Ma, fue asesorado por investigadores del Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge y el Centro para la Gobernanza de la IA de la Universidad de Oxford en el Instituto del Futuro de la Humanidad.76 En el informe preparado por estos académicos, se insistía en que Cualquier régimen sobre IA debería cumplir los siguientes cuatro objetivos: coordinación: Para coordinar y catalizar los esfuerzos relacionados con la IA en el marco de los tratados y organizaciones internacionales existentes (tanto agencias especializadas como órganos subsidiarios); cobertura integral: para llenar los vacíos existentes en la gobernanza internacional, como el uso de tecnologías de vigilancia habilitadas por IA, guerra cibernética y el uso de IA en la toma de decisiones; cooperación sobre competencia: esto es, fomentar la cooperación internacional y la colaboración entre grupos de AI en proyectos para el bien público; y beneficio colectivo: para garantizar el desarrollo benévolo y responsable de las tecnologías de IA y la distribución equitativa de los beneficios. 50. A la luz de esos objetivos, proponían tres opciones como componentes de un régimen internacional para la IA: en primer lugar, la creación de un coordinador de los esfuerzos existentes para gobernar la IA y catalizar los tratados multilaterales y agendas para temas pendientes.77 En segundo lugar, pensaron en el establecimiento de un Panel Intergubernamental sobre IA (IPAI) y como tercera opción, proponían una Organización de Investigación de las Naciones Unidas sobre IA (UNAIRO), a partir de las contribuciones voluntarias de los Estados, y que tendría como principal tarea centrarse en la creación de tecnologías de IA de interés público, incluso para ayudar a cumplir objetivos internacionales como los Objetivos de Desarrollo Sostenible (ODS) de 2015. 51. Aun cuando en su informe final, el Panel de Alto Nivel de Naciones Unidas para la Cooperación Digital opta por otras medidas menos institucionalizadas78 que las propuestas por los expertos independientes que le asesoraron, de las tres propuestas que presentaron aquéllos, puede considerarse como la mejor la primera. Extrapolando al ámbito de la Inteligencia Artificial el Informe del Secretario General de Naciones Unidas titulado “La solidaridad intergeneracional y las necesidades de las generaciones futuras”79, en el que se hace eco de diversas propuestas referentes a un Alto Comisionado para las generaciones futuras80, creo que puede defenderse el establecimiento en seno de Naciones Unidas un alto comisionado para un uso responsable de los sistemas de inteligencia artificial. 52. Al igual que se defendió con respecto de las generaciones futuras81, un alto comisionado de Naciones Unidas para la IA promovería los objetivos globales de desarrollo y aplicación de los sistemas de IA de un modo acorde con los propósitos y principios de la Carta de Naciones Unidas; en particular, el respeto de la dignidad humana y la protección de los derechos humanos fundamentales. Alentaría la atención de la comunidad internacional hacia las cuestiones que tienen una importancia crítica para el bienestar de las generaciones presentes y futuras. 76 l. keMP, P. cihon, M. MaaS, (et al.) “UN High-level Panel on Digital Cooperation: A Proposal for International AI Governance. UN High-Level Panel on Digital Cooperation”, 2019. Disponible en: https://www.cser.ac.uk/news/advice-un-highlevel-panel-digital-cooperation/ Visitado el 1 de marzo de 2022. 77 Siguiendo el precedente del Programa de las Naciones Unidas para el Medio Ambiente (PNUMA) al sincronizar los acuerdos internacionales sobre el medio ambiente y facilitar otros nuevos, como la Convención de Viena para la Protección de la Capa de Ozono de 1985. Las nuevas instituciones también podrían unirse bajo un organismo paraguas, como lo hizo la Organización Mundial del Comercio (OMC) de 1994 para los acuerdos comerciales. 78 Recomendación Nº 5B del Informe titulada The Age of Digital Interdependence: “We support a multi-stakeholder “systems” approach for cooperation and regulation that is adaptive, agile, inclusive and fit for purpose for the fast-changing digital age.” Disponible en: https://www.un.org/en/pdfs/DigitalCooperation-report-for%20web.pdf Visitado el 1 de marzo de 2022. El sitio oficial del Panel de Alto Nivel de Naciones Unidas para la cooperación digital es externo a Naciones Unidas: https:// digitalcooperation.org/ Visitado el 1 de marzo de 2022. 79 Doc. A/68/322, de 15 de agosto de 2013. 80 Esas propuestas pueden consultarse en www.unesd2012.org/compdocument.html Visitado el 1 de marzo de 2022. 81 Parágrafo 56 del Informe del Secretario General, Doc. A/68/322, de 15 de agosto de 2013. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 528 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 53. Se reconoce en la Recomendación aprobada por la UNESCO el 23 de noviembre sobre la ética de la inteligencia artificial una obviedad: las tecnologías de la IA pueden agravar las divisiones y desigualdades existentes en el mundo, dentro de los países y entre ellos, y que es preciso defender la justicia, la confianza y la equidad para que ningún país y ninguna persona se queden atrás, ya sea mediante el acceso equitativo a las tecnologías de la IA y el disfrute de los beneficios que aportan o mediante la protección contra sus consecuencias negativas, reconociendo al mismo tiempo las diferentes circunstancias de los distintos países (…) (L)a economía digital presenta importantes desafíos sociales, económicos y ambientales y ofrece oportunidades de compartir los beneficios especialmente para los países de ingreso mediano bajo, incluidos, entre otros, los países menos adelantados (PMA), los países en desarrollo sin litoral (PDSL) y los pequeños Estados insulares en desarrollo (PEID) que requieren el reconocimiento, la protección y la promoción de las culturas, los valores y los conocimientos endógenos a fin de desarrollar economías digitales sostenibles.”82 Por ello, concluye el preámbulo de esta Declaración observando que: “es necesario fortaleces la cooperación y la solidaridad mundiales, en particular mediante el multilateralismo, para facilitar el acceso equitativo a las tecnologías de la IA y hacer frente a los desafíos que éstas plantean en culturas y sistemas éticos diversos e interconectados, para reducir la posibilidad de usos indebidos, para aprovechar todo el potencial que la IA puede aportar, especialmente en el ámbito del desarrollo83. 54. Así resulta de modo evidente, en cuanto a la experimentación embrionaria y a utilización de sistemas de inteligencia artificial monitorizando úteros sintéticos que cosifican la vida humana y la equiparan en su dimensión terapéutica como un producto más en el mercado a disposición del mejor postor. La figura de un alto comisionado de Naciones Unidas promovería la integración de cuestiones éticas en las decisiones que pudieran tomarse por parte de todos los actores implicados (Gobiernos, empresas y particulares) en el ciclo de vida de los sistemas de inteligencia artificial84. Al mismo tiempo, desempeñaría una labor de promoción de los valores que impulsan los avances científicos y tecnológicos en un contexto institucionalizado de cooperación internacional y no de confrontación, en beneficio de toda la humanidad. 55. De modo similar a lo postulado para un eventual alto comisionado para las generaciones futuras85, tratándose de los sistemas de IA, entre las facultades y responsabilidades básicas de esta figura, cabría citar las siguientes: a) fijación de prioridades y labor de liderazgo a nivel internacional; b) supervisión, alerta temprana y examen; c) participación pública; d) capacidad de innovación a nivel nacional e infranacional; e) concienciación del público y aportación de pruebas; y f) presentación de informes. 56. Frente a otras opciones alternativas que también se consideraron en el referido informe del Secretario General sobre solidaridad intergeneracional86, la opción del alto comisionado para un uso responsable de los sistemas de inteligencia artificial parece la más conveniente, por idénticas razones a las expresadas por el Secretario General en su referido informe de 2013 con respecto a una figura similar para las generaciones futuras: no sólo este alto comisionado actuaría como defensor de una IA responsable (friendly, en los términos acuñados en el seno de la Unión Europea)87, mediante contactos con los 82 Preámbulo de la Recomendación de la UNESCO sobre la ética de la IA, parágrafos 7 y 8. 83 Preámbulo de la Recomendación de la UNESCO sobre la ética de la IA, parágrafo 21. 84 Es decir, todas las etapas de vida de los sistemas de IA que van desde la investigación, la concepción y el desarrollo hasta el despliegue y la utilización, pasando por el mantenimiento, el funcionamiento, la comercialización, la financiación, el seguimiento y la evaluación, la validación, el din de la utilización, el desmontaje y la terminación. Véase Recomendación de la UNESCO sobre la ética de la IA, Apartado I (Ámbito de aplicación), art. 2.b), op. cit. 85 Parágrafo 57 del Informe del Secretario General, Doc. A/68/322, de 15 de agosto de 2013. 86 Véase Parás 65 a 67 del mismo: la figura de un enviado especial, la inclusión de un tema al respecto en el programa de un foro político de alto nivel o la coordinación interinstitucional dentro del sistema de las Naciones Unidas por medio de la Junta de los Jefes Ejecutivos del Sistema de las Naciones Unidas para la coordinación y sus mecanismos, a fin de garantizar la coherencia en materia de políticas dentro del sistema. 87 Siguiendo las Directrices para una Inteligencia Artificial fiable del Grupo de Expertos de Alto Nivel creado por la Comisión Europea y publicadas en 2019 Disponible en: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines≠/ Visitado el 1 de marzo de 2022. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 529 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 Estados miembros y otras partes interesadas, así como entre las entidades y los organismos especializados de Naciones Unidas, sino que además contaría con el apoyo específico de una oficia conexa, de un modo similar a los otros altos comisionados ya existentes: el alto comisionado para los refugiados88 y el alto comisionado para los derechos humanos89. 57. De esta manera, la oficina conexa al alto comisionado para el uso responsable de los sistemas de IA realizaría investigaciones y promovería los conocimientos expertos sobre buenas prácticas en materia de diseño, planificación, desarrollo, aplicación y supervisión de los sistemas de IA de conformidad con los principios y valores de la Carta a nivel internacional, regional, nacional e infranacional, y difundiría esos conocimientos y experiencia según se considerase oportuno. A todo lo anterior, habría que añadir que este alto comisionado y su oficina conexa prestarían asesoramiento, previa solicitud de las Naciones Unidas o de alguna de sus entidades, organismos especializados u organizaciones afiliadas, sobre el cumplimiento de los compromisos intergubernamentales que se adopten en el marco de un uso responsable de los sistemas de IA. Por último, previa solicitud, la oficina conexa al alto comisionado para el uso responsable de los sistemas de IA prestaría su apoyo y asesoramiento a los Estados miembros de Naciones Unidas, a nivel individual, sobre las mejores prácticas y las medidas normativas para reforzar una IA responsable. 58. Hasta la fecha ha sido la oficina de la Alta Comisionada de las Naciones Unidas para los derechos humanos quien se ha ocupado de analizar los riesgos de la IA para la privacidad. En su informe de 13 de septiembre de 202190, la Alta Comisionada defendió la necesidad de imponer una moratoria inmediata a la comercialización y empleo de los sistemas de IA que suponen una grave y directa amenaza a los derechos humanos, como son los sistemas de reconocimiento facial en espacios públicos y privados, o la elaboración automática de perfiles que afectan al derecho a la intimidad y a otros derechos, incluidos los relativos a la salud, la educación, la libertad de movimiento, la libertad de reunión y asociación, y la libertad de expresión. En su discurso de 15 de septiembre de 2021, al presentar dicho informe, la Alta Comisionada de Naciones Unidas para los derechos humanos, Michelle Bachelet, enfatizó que uno de los retos más urgentes al que debía hacer frente desde su oficina era llenar el inmenso vacío de asunción de responsabilidades sobre cómo se recogen, almacenan, comparten y utilizan los datos sobre los que se basan los sistemas de IA.91 59. Los riesgos de la IA para los derechos humanos son reales, como subraya en su discurso la Sra. Bachelet: riesgo de discriminación a partir de bases de datos sesgadas usadas por herramientas de IA cuando deducen y predicen pautas de conducta humana y riesgos de violación de la privacidad merced a las tecnologías biométricas, incluyendo el reconocimiento facial, con las que se identifica a distancia y en tiempo real a los individuos en todo momento sin su conocimiento ni consentimiento. A la luz de estos riesgos, concluye su discurso afirmando que “no podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos. La capacidad de la IA para servir a la población es innegable, pero también lo es su capacidad de contribuir a violaciones de derechos humanos a gran escala, de manera casi indetectable. Es necesario adoptar urgentemente medidas para imponer límites basados en los derechos humanos a la utilización de la IA por el bien de todos.”92 88 Su estatuto, adoptado por la Asamblea General de Naciones Unidas en su Resolución 428(V) de 14 de diciembre de 1950 puede consultar en la web: https://www.acnur.org/5b07680a4.pdf 89 Creado por la Resolución 48/141 de la Asamblea General de Naciones Unidas, de 7 de enero de 1994, disponible en http://www.un.org/ga/search/view_doc.asp?symbol=A/RES/48/14&Lang=S 90 “The right to privacy in the digital age”, Doc. A/HRC/48/31 de 13 de septiembre de 2021, disponible en https://www. ohchr.org/en/issues/digitalage/pages/digitalageindex.aspx Visitado el 1 de marzo de 2022. 91 Puede leerse el discurso de la Sra. Michelle Bachelet en su web oficial, en http://www.ohchr.org/SP/NewsEvents/Pages/ DisplayNews.aspx?NewsID=27469&LangID=S Visitado el 1 de marzo de 2022. 92 Ibidem. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 530 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 60. Por nuestra parte no hay nada que objetar a lo manifestado en su discurso siempre y cuando no se limite a tomar en consideración los derechos humanos en detrimento del principio de la dignidad humana, entendida ésta no sólo como la dignidad de una persona ya nacida sino como la dignidad de la especie humana. 61. Para la propuesta del mandato del Alto Comisionado de Naciones Unidas para la Inteligencia Artificial, pensamos que deberían incluirse o. al menos, hacerse referencia a los siguientes principios informadores que, sin carácter exhaustivo, es posible identificar a nivel internacional en relación con la investigación embrionaria humana93: — principio de la dignidad humana en su sentido más amplio, como defendemos en relación con las cuestiones bioéticas, y de la protección de los distintos bienes jurídicos que implica la primacía del ser humano, como persona y especie, en la investigación y la experimentación científica; — principio de que la experimentación con seres humanos nacidos o en formación embrionaria (cualquiera que sea su origen) que pueda suponer riesgos o molestias para los sujetos participantes sólo debe realizarse cuando no existan procedimientos alternativos de eficacia comparable y siempre teniendo en cuenta el respeto del principio de precaución para prevenir riesgos para la vida y la salud. — principio de la participación voluntaria, libre e informada de los sujetos con garantía del derecho a la intimidad de los mismos y confiriendo especial protección a las personas más vulnerables. — principio de la prohibición del lucro y de la utilización con fines económicos de partes del cuerpo humano, con independencia de la protección por vía de patentes, de los descubrimientos realizados en virtud de la libertad de investigación. — principio de justicia y de beneficiencia, en particular, con respecto a la mejora y protección de la salud y la concepción de la ciencia como un bien público de interés general en beneficio de toda la humanidad, que debe ser contrapuesto con otros principios informadores en presencia, como la legítima protección jurídica de los resultados de la investigación con el fin de su comercialización. 62. Además de estos principios, la figura de un alto comisionado de las Naciones Unidas para el uso responsable de la IA, que habría de ser nombrado por el Secretario General de dicha Organización, con la aprobación de la Asamblea General, con un mandato de cuatro años, renovable por una vez, desempeñaría su cometido en el marco de la Carta de San Francisco, de la Recomendación de la UNESCO sobre la ética de la IA, adoptada el 24 de noviembre de 202194, y de otros instrumentos internacionales relevantes, en materia de protección de derechos humanos95, de protección del medio ambiente96 y de la 93 Véase D. García San JoSé, (coord.): Régimen jurídico de la investigación biomédica en Andalucía, en el marco de la legislación nacional e internacional, Murcia, Laborum, 2009, pp. 144-145. 94 https://unesdoc/unesco.org/ark:/48223/pf0000380455_spa 95 Tales como la Declaración universal de los derechos humanos (1948), el Estatuto de los refugiados (1951), el Convenio sobre la discriminación en el empleo y la ocupación (1958), la Convención relativa a la lucha contra las discriminaciones en la esfera de la enseñanza (1960), la Convención internacional sobre la eliminación de todas las formas de discriminación racial (1965), los dos Pactos Internacionales sobre Derechos Humanos (1966), la Convención sobre la eliminación de todas las formas de discriminación contra la mujer (1979), la Convención sobre la protección y promoción de la diversidad de las expresiones culturales (2005), la Convención sobre los derechos del niño (1989), la Convención sobre los derechos de las personas con discapacidad (2006), la Resolución del Consejo de Derechos Humanos sobre el derecho a la privacidad en la era digital [A/HRC/ RES42/15 (2019)] y la Resolución del Consejo de Derechos Humanos titulada “Las tecnologías digitales nuevas y emergentes y los derechos humanos” [A/HRC/RES/41/11) (2019)]. 96 Tales como la Declaración sobre el Derecho al desarrollo (1986), la Declaración sobre las responsabilidades de las generaciones actuales para con las generaciones futuras (1997), la Declaración de las Naciones Unidas sobre los Derechos de los Pueblos Indígenas (2007), la Resolución de la Asamblea General sobre el examen de la Cumbre Mundial sobre la Sociedad de la Información (A/RES/70/125) de 2015, la Resolución de la Asamblea General de Naciones Unidas “Transformar nuestro mundo: la Agenda 2030 para el desarrollo sostenible” (A/RES70/1) de 2015, la Recomendación relativa a la preservación del El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 531 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 bioética97, en el respeto de la soberanía, la integridad territorial y la jurisdicción interna de los Estados, a fin de promover un uso responsable y ético de los sistemas de IA en todas las etapas de su ciclo vital, como una preocupación legítima de la comunidad internacional. 63. Como señaló la Directora General de la UNESCO en su discurso al presentar la Recomendación sobre la ética de la IA, aprobada por esta Organización el 23 de noviembre de 2021: “el mundo necesita reglas para que la inteligencia artificial beneficie a la humanidad”.98 La pregunta que sigue –y que no se formuló por parte de la Sra. Audray Azoulayes la siguiente: ¿de qué humanidad estamos hablando? Sea cual sea la respuesta que demos a esta pregunta, parece evidente que no tendrían sentido los desvelos por proteger los derechos y libertades de las personas que conforman la humanidad, en su dimensión presente y futuras, si descuidamos el deber de preservar la dignidad intrínseca a la especie humana, permitiendo que embriones humanos o embriones somáticos sean cosificados y fabricados en serie para fines reproductivos o de piezas de repuesto para cuando nuestros cuerpos envejezcan o enfermen. Conclusiones 64. Al finalizar estas páginas, las principales ideas que presentamos como conclusiones a este estudio son las siguientes: los sistemas de IA están presentes en todos los ámbitos de nuestras vidas, para bien o para mal. Es un hecho que no va a cambiar por mucho que nos esforcemos en negarlo o en restarle importancia. Lo que sí puede variar, a mayor o menor intensidad, es el alcance de los efectos positivos y negativos de los sistemas de IA en nuestros derechos y libertades. 65. Pese a que carecemos aún de una regulación internacional, a escala global, sobre los sistemas de IA en todo su ciclo vital, desde hace años se busca por parte de la comunidad internacional institucionalizada, consensuar un conjunto de principios y reglas de carácter ético que sirvan de marco jurídico para incidir en potenciar las consecuencias positivas de los sistemas de IA para todos, al tiempo que se reducen los eventuales riesgos y amenazas de esos sistemas para los derechos y libertades fundamentales, como la privacidad y la protección de datos, la no discriminación e igualdad, la diversidad, la equidad, la justicia social y los derechos laborales reconocidos internacionalmente. 66. El resultado más reciente y notable de esta cooperación institucionalizadas que busca poner en valor la necesidad de contar con unos sistemas de IA responsables a lo largo de todo su ciclo vital, es la Recomendación de la UNESCO sobre la ética de la inteligencia artificial, aprobada por su Asamblea General el 21 de noviembre de 2021. Sin pretender desmerecer el significado histórico de este instrumento, al que se ha llegado a calificar como el primer código mundial sobre la inteligencia artificial, en este estudio hemos querido destacar sus debilidades; entre ellas, la principal desde nuestro punto de vista, consistía en el hecho de que sólo considere las amenazas de los sistemas de IA para los derechos humanos, pero no para la dignidad humana, entendiendo ésta en un sentido amplio, como la dignidad inherente al ser humano como especie, y no sólo en un sentido restrictivo, como la dignidad inherente a toda persona individualmente considerada. 67. Desconocer las amenazas crecientes y reales que los sistemas de IA plantean al ser humano como especie humana y a su dignidad, supone dar la espalda a los avances normativos logrados con gran esfuerzo por la comunidad internacional en cuestiones bioéticas tan controvertidas como la investigación embrionaria humana. Sin duda, el ejemplo más representativo de tales esfuerzos sea el Convenio Patrimonio Documental, comprendido el Patrimonio Digital, y el acceso al mismo (2015), la Declaración de Principios Éticos en relación con el cambio climático (2017), y la Recomendación sobre la Ciencia y los investigadores científicos (2017). 97 Tales como el Convenio relativo a los derechos humanos y la biomedicina (Convenio de Oviedo 1997), la Declaración Universal sobre el Genoma Humano y los Derechos Humanos (1999) y la Declaración universal sobre Bioética y Derechos Humanos (2005). 98 http://news.un.org/es/story/2021/11/1500522 Visitado el 1 de marzo de 2022. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)... Daniel García San JoSé 532 Cuadernos de Derecho Transnacional (Octubre 2022), Vol. 14, Nº 2, pp. 512-532 ISSN 1989-4570 - www.uc3m.es/cdt - DOI: 10.20318/cdt.2022.7193 relativo a los derechos humanos y la biomedicina de 1997 (Convenio de Oviedo), que distingue –para proteger mejor la dignidad y los derechos humanosentre “persona” (cada individuo) y “ser humano” (término comprensivo de la vida humana en todas sus formas), en su preámbulo y en su artículo primero. 68. En este estudio hemos puesto de manifiesto los desafíos para el Derecho de la IA aplicada a la investigación embrionaria humana, a la luz de la doctrina del deslizamiento; en virtud de la cual se aprecia cómo el umbral de lo admisible en este ámbito de investigación va creciendo en lo que parecería un proceso imparable de cosificación e instrumentalización del ser humano, agravado por una desprotección en su dignidad apreciable en los principales instrumentos relativos a la ética de la IA. 69. De la investigación con embriones humanos crio-conservados por ser sobrantes de tratamientos de fecundación in vitro, se pasó a la creación de embriones somáticos que planteaban menos problemas morales por cuanto no eran fruto de la fecundación humana sino resultado de técnicas como la transferencia de células del cuerpo reprogramadas hasta un estado de pluripotencia, a óvulos enucleados, como una fuente inagotable de células diferenciadas “a la carta”. Más tarde se aceptó la creación de embriones híbridos para fines de investigación y experimentación; esto es, embriones que son resultado de la unión de material biológico de dos especies distintas, humana y animal. A este proceso siguió la edición genómica con técnicas como CRISPR-Cas9 y las nuevas directrices aprobadas en mayo de 2021 por la Sociedad Internacional para la Investigación con Células Madre, ampliando el límite vigente hasta ahora de 14 días para la experimentación con embriones humanos. 70. A la luz de esta doctrina del deslizamiento, el último y más reciente paso dado ha sido la creación por parte de científicos chinos de úteros sintéticos en los que un sistema de inteligencia artificial monitoriza un dispositivo de cultivo en serie de embriones de ratón. Los ingentes datos que manejan los sistemas de inteligencia artificial permiten lo que se denomina “inteligencia anticipatoria”, según la cual, los sistemas de IA pueden tomar decisiones de manera autónoma, sin la intervención humana. Los úteros sintéticos no son una excepción y gracias a este sistema de IA, una maquina supervisa en todo momento la evolución de cada embrión, detectando defectos graves o cigotos inviables, procediendo directamente a su eliminación. 71. Es notorio el hecho de que la investigación con embriones humanos está orientada no tanto a la reproducción asistida como hacia la medicina regenerativa que permite-si se cuenta con la materia prima necesaria, y sin duda, los cuerpos embrioides humanos lo sonreparar, reemplazar o regenerar células, tejidos y órganos humanos deteriorados por cualquier causa, incluidos defectos congénitos, enfermedades, traumatismos o simple envejecimiento. De este modo, razonablemente podría considerarse que los úteros sintéticos monitorizados con sistemas de IA son el frontispicio de la fabricación en serie de cuerpos embrioides que no pueden ser calificados como embriones humanos, al no ser fruto de la fecundación de un óvulo con un espermatozoide, sino resultado de otras técnicas; y carecer de protección en su dignidad humana –por precaria que ésta seapese a que en su proceso de gestación artificial monitorizada por sistemas de IA, su singularidad genética los haga similares a cualquier otro embrión humano en formación. 72. Una frase repetida a menudo, pese a su obviedad, en este ámbito es que el Derecho siempre va por detrás de los desafíos que plantean los avances científicos y tecnológicos para las sociedades. Los límites de la aplicación de los sistemas de IA a la investigación embrionaria humana, como la denominada maternidad subrogada, plantean indudables cuestiones de índole moral; pero no por ello podemos desconocer nuestras responsabilidades como juristas en dichas sociedades. Si sólo regulásemos aquellos problemas manifestados en nuestra zona de confort, sin duda dormiríamos mejor por las noches. Pero los desafíos de la IA aplicados a la investigación embrionaria humana están ahí, acechando nuestras debilidades, y desde el fondo de nuestra conciencia se reclama una protección de la dignidad humana junto a la salvaguardia de los derechos humanos fundamentales que podrían estar en peligro con estas biotécnicas. El Derecho internacional frente a los riesgos de la Inteligencia Artificial (IA)...Daniel García San JoSé