La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data

La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data ARTIFICIAL INTELLIGENCE AND THE DIGITAL HUMAN BODY: IN SEARCH OF THE HABEAS DATA Simona Fanni Università di Cagliari, Italia [email protected] Recibido: 07 de noviembre 2020 | Aceptado: 20 de diciembre 2020 RESUMEN PALABRAS CLAVE El título de la inestimable obra de Günther Anders, “La obsolescencia del hombre”, parece haber captado el espíritu de los retos que el impacto de la inteligencia artificial sobre el cuerpo humano plantea para el jurista en la era digital: definir una moderna Magna Charta, dirigida al habeas data, para salvaguardar el cuerpo humano digital. En este sentido, la privacidad, la autodeterminación informativa y la identidad requieren una protección adecuada. La UNESCO, la Unión Europea y el Consejo de Europa vienen desarrollando algunas iniciativas importantes en el campo de la inteligencia artificial, que afectan al habeas data. El próposito del presente trabajo consiste en analizar el corriente escenario normativo, de iure condito, y el marco normativo en evolución, de iure condendo, para evaluar la efectividad de la protección que el derecho internacional y el derecho de la Unión Europea otorgan al cuerpo digital, a la búsqueda del habeas data. Inteligencia Artificial Habeas Data Privacidad Autodeterminación informativa Indentidad No discriminación UNESCO Unión Europea Consejo de Europa ABSTRACT KEYWORDS The title of Günther Anders’ major work “The obsolescence of man” seems to capture the essence of the challenges that the impact of artificial intelligence on the human body poses for jurists, namely, the definition of a modern Magna Charta for the digital human body, aimed at addressing the habeas data. Privacy, informational self-determination and identity need to be properly protected in the digital era. UNESCO, the European Union and the Council of Europe are developing important responses at the moment, and they can also rely on some interesting legal tools that can be found in their respective frameworks, which can be used for dealing with the challenges under consideration. In this respect, the purpose of the present study is to analyse the current and future legal scenario under international law and European Union law, both de iure condito and de iure condendo, in search of the habeas data. Artificial Intelligence Habeas Data Privacy Informational self-determination Identity Non-discrimination UNESCO European Union Council of Europe IUS ET SCIENTIA 2020 • Vol. 6 • Nº 2 • ISSN 2444-8478 https://editorial.us.es/es/revistas/ius-et-scientia https://dx.doi.org/10.12795/IETSCIENTIA • © Editorial Universidad de Sevilla 2020 CC BY-NC-ND 4.0. https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 • pp. 200 - 224 I. INTRODUCCIÓN En su inestimable obra “La obsolescencia del hombre”,1 Günther Anders afirma que la tecnología se ha convertido en el sujeto de la historia. Al ser humano, anticuado respecto al incesante progreso tecnológico, no quedaría más opción que renunciar a su tradicional papel de protagonista en la escena de la vida. El concepto de la obsolescencia del ser humano, de forma brillante y provocatoria, parece captar el espíritu de los retos que el progreso científico y tecnológico plantea para el jurista. La importancia de tales desafíos crece cuando ellos afectan al cuerpo humano, suscitando interrogantes profundos, que trascienden la esfera estrictamente jurídica y alargan nuestro horizonte, así que tenemos que dirigir nuestra mirada a otras dimensiones científicas, como la filósofia, la ética, la biomédicina, para encontrar referencias adecuadas y, a menudo, nuevas. De hecho, cuando la ciencia y la tecnología afectan al ser humano, el resultado es una “disruption”, una ruptura de las categorías tradicionales a las que nos dirigimos para encontrar respuestas. Ello, sin duda alguna, occurre de una manera contudente cuando el progreso y sus estupefacientes éxitos se compenetran con el cuerpo humano, desafiando la propia concepción de “corporalidad”. Se trata de una relación que se expresa en una doble dirección: en algunos casos, la ciencia y la tecnología se incorporan en nuestro cuerpo, de formas distintas. Esta integración puede llegar a afectar la propia esencia genética del ser humano, como occurre en el caso de la edición genética. En otros casos, que nos conciernen más de cerca en nuestra reflexión, la integración de la tecnología en la esfera corporal se realiza a través de la implantación de dispositivos tales como los dispositivos ICT (o sea “Tecnología de Información y Comunicaciones).2 Este tipo de dispositivos se caracteriza por recabar y elaborar la información procedente de nuestro cuerpo. Por ende, estos dispositivos establecen una conexión entre la intimidad de nuestra esfera física con el entorno, con fines médicos.3 Al lado de estos ejemplos de integración de la ciencia y de la tecnología dentro de nuestra esfera corporal, en los que resona el eco del homme machine de La Mettrie4 y de los cyborgs, se coloca una categoria de interactuación entre el cuerpo y el entorno caracterizada por la exteriorización del mismo cuerpo y, en un sentido más amplio y profundo, de la persona. En particular, se trata de ese fenómeno que se ha denominado “data mining”, es decir, la actividad que se refiere a la impresionante cantidad de datos que, cada día, cada uno de nosotros vierte al mundo digital, de una forma masiva sin precedentes. Las fuentes a través delas que compartimos tanta información, se hallan 1. Revisión lingüística por la doctora Flavia Alejandra Auad Gandarias ANDERS, G., L’Uomo è antiquato, Vol. I: Considerazioni sull’anima nell’epoca della Seconda Rivoluzione Industriale, Bollati Boringhieri, Torino, 2005. 2. RODOTÀ, S., Il Diritto di Avere Diritti, Laterza, Bari, 2015 pp. 359 ss.; CÁRCAR BENITO, J. E., “El transhumanismo y los implantes cerebrales basados en las tecnologías de inteligencia artificial: sus perímetros neuroéticos y jurídicos”, IUS ET SCIENTIA, Vol. 5, n° 1, 2019, pp. 157-189. 3. CÁRCAR BENITO, J. E., “El transhumanismo y los implantes cerebrales basados en las tecnologías de inteligencia artificial: sus perímetros neuroéticos y jurídicos”, cit. 4. LA METTRIE, J. O., L’Homme Machine, Nabu Press, 2014. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 201 en una multitud de actividades que solemos realizar online, las que abarcan, por ejemplo, tanto el uso de las redes sociales como la navegación en internet. Para aclarar las proporciones de este fenómeno, se puede recordar que para el corriente año 2020 se estimaba que el volumen de datos procesados en el mundo alcanzaría la cifra de 44 Zettabytes (lo cual es impresionante, de pensar que cada Zettabyte corresponde a 1021 bytes).5 De forma sugerente, un estudio realizado por la Unión Europea se ha dirigido a este escenario definiéndolo un “tsunami digital”.6 En este caso, al contrario de lo que occure con respecto a la incorporación de implantes dentro del cuerpo humano, cuando nos hallamos en el ámbito de los datos personales, el cuerpo humano se exterioriza, se proyecta en una dimensión exterior, sin desprendersesino llegando a ocupar un espacio más extenso. Alain Gras se ha dirigido a este proceso definiéndolo una “exosomatization”, en la que la “intimité” se ve acompañada por la “extimité”.7 De tal manera, viene perfilándose una nueva dimensión del cuerpo, que trasciende su dimensión material, corporal, para asumir una dimensión digital, de carácter informativo, que contribuye también a describir la identidad de la persona. Existe un hilo conductor que agrupa los ejemplos considerados, un mínimo común denominador que expresa la esencia del procesamiento de la información procedente del cuerpo, tanto en el caso de la implantación de dispositivos tecnológicos para que se incorporen en la esfera física, como en el caso de la denominada “exosomatization”. Se trata de la inteligencia artificial (IA). Este concepto, esta realidad, no tiene una única definición, lo cual en sí mismo constituye un reto para el jurista. Sin embargo, no faltan las referencias para orientarnos a efectos de aclarar la naturaleza y los rasgos de la IA. Al respecto, parece oportuno recordar que el término IA apareció por primera vez hace sesenta años, en 1956, cuando fue acuñado por John McCarthy, científico informático del Massachusetts Institute of Technology. Como el proprio McCarthy aclaró sucesivamente, por IA él entendía “la ciencia y la ingeniería de crear máquinas inteligentes, especialmente programas de computación inteligentes. Está relacionada con la tarea similar de utilizar ordenadores para comprender la inteligencia humana, pero la IA no se limita a métodos que sean observables biológicamente”.8 Las palabras de John McCarthy nos enseñan la esencia definitoria de la IA, la cual, de hecho, representa el fil rouge entre las varias definiciones que se han dado hasta la fecha. En efecto, la IA se caracteriza por el próposito de construir máquinas capaces de realizar funciones que, si 5. CASONATO, C., “Costituzione e Intelligenza Artificiale: un’agenda per il prossimo futuro”, BioLaw Journal – Rivista di BioDiritto, Special Issue, n° 2, 2019, pp. 711-725, 713. 6. THE FUTURE GROUP, Freedom Security, Privacy: European Union Home Affairs in an Open World, June 2008. Disponible en https://euro-police.noblogs.org/gallery/3874/eu-futures-jha-report.pdf. Fecha de consulta: 29/11/2020. Véase: RODOTÀ, S., Il Diritto di Avere Diritti, cit., p. 325. 7. GRAS, A., “L’homme machine ou l’homme sans essence: la tentation au coeur de progrès techno-scientifique”, coord. POR HERVÉ, C., STANTON-JEAN, M., MOLINARI, P. A., GRIMAUD, M. A., LAFORÊT, E., L’humain, l’humanité et le progrès scientifique, Dalloz, Paris, 2009, pp. 63-68, 64, 23. 8. ALANDETE, D., “John McCarthy, el arranque de la inteligencia articial”, El País, 27 de Octubre de 2011. Disponible en https://elpais.com/diario/2011/10/27/necrologicas/1319666402_850215.html. Fecha de consulta: 29/11/2020. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 202 las performaran seres humanos, requerirían inteligencia,9 y, más precisamente, consiste en un conjunto de tecnologías computacionales que se inspiran en el sistema nervioso y en el cuerpo humano – si bien se diferencien de los mismos en su funcionamiento.10 Para aclarar aún más el concepto de IA, se puede recordar la definición bastante amplia y completa que dio el High Level Expert Group on AI creado por la Comisión Europea, que afirmó que los sistemas de IA consisten en software y posiblemente también en hardware, “diseñados por el ser humano, para perseguir un objetivo complejo, actúan en la dimensión física o digital percibiendo dicho entorno mediante la adquisición de datos, interpretando los datos estructurados y no estructurados recolectados, razonando según el conocimiento que el sistema tenga o procesando la información derivada de los datos adquiridos e identificando la mejor actividad que pueda ser desarrollada con el propósitó de alcanzar el objetivo establecido”.11 El funcionamento de la AI se basa en el algoritmo que, según subrayó de una manera sugeriente Andrea Zanni, encarna una “glándula pineal cartesiana”, que ha conseguido reunir la res cogitans y la res extensa, por haber hecho posible que la máquinas computen.12 Al respecto, con referencia al tema del procesamiento automático de datos, que afecta al cuerpo digital, cabe destacar el concepto de machine learning y de deep learning, que representan algunas de las técnicas abarcadas por la IA, tal como, por ejemplo, el machine reasoning y la robótica. El machine learning y el deep learning constituyen una forma de aprendizaje automático. Más específicamente, el concepto de machine learning se refiere “a un conjunto de técnicas a través de las que el sistema de IA tiene la capacidad de mejorar el rendimiento de sus funciones mediante la experiencia”.13 Por lo tanto, el machine learning “hace referencia a la capacidad de una máquina o de un software para aprender mediante la adaptación de ciertos algoritmos de su programación respecto a cierta entrada de datos en su sistema”.14 En este sentido, el aprendizaje consiste en la capacidad del sistema de “identificar una gran cantidad de patrones complejos determinados por una gran cantidad de parámetros”.15 El deep learning es una tipología de machine learning, también conocida como “redes neurales 9. EUROPEAN PARLIAMENT, European Parliamentary Research Service, Scientific Foreign Unit (STOA), PE 641.530 – June 2020, The Impact of General Data Protection Regulation (GDPR) on artificial intelligence, p. 2. Disponible en https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641530/ EPRS_STU(2020)641530_EN.pdf. Fecha de consulta: 29/11/2020. 10. FASAN, M., “La tecnologia ci salverà? Intelligenza artificiale, salute individuale e salute collettiva ai tempi del Coronavirus”, BioLaw Journal – Rivista di BioDiritto, Special Issue, n° 1, 2020, pp. 677- 683, 678. 11. AI-HLEG (2019). 12. ZANNI, A., “La dittatura del calcolo di Paolo Zellini”, Recensione, Il Tascabile, 5 de Diciembre de 2018. Disponible en https://www.iltascabile.com/recensioni/dittatura-calcolo-zellini/. Fecha de consulta: 29/11/2020. 13. FASAN, M., “La tecnologia ci salverà? Intelligenza artificiale, salute individuale e salute collettiva ai tempi del Coronavirus”, cit., p. 678. 14. Elon Smart Tech, “¿Qué es el machine learning?”. Disponible en https://www.elon.co/que-el-es- machine-learning/. Fecha de consulta: 29/11/2020. 15. Ibid. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 203 profundas”, y es capaz “de aprender sin la supervisión de datos no estructurados y no clasificados, de modo tal que este sistema analiza la información y construye correlaciones y esquemas comunes para utilizar en el proceso decisional final”.16 La mejora de la capacidad computacional así como el incremento de la cantidad masiva de datos disponibles, han sido dos factores esenciales para alcanzar estos éxitos, sobre todo a partir de alrededor del año 2010. Aunque el aprendizaje automático constituya un éxito para el progreso científico y tecnológico, se pueden relevar algunas cuestiones críticas: en primer lugar, se destacan la imprevedibilidad de los resultados, así como el riesgo de bias durante la elaboración de los datos, un “efecto colateral” este último, que puede provocar consecuencias discriminatorias o estigmatización (los rights-harming impacts). En segundo lugar, no se pueden pasar por alto ni el riesgo de errores,17 ni la opacidad de algunos procesos, lo cual, sin duda, puede perjudicar la transparencia. Se puede recordar, en este sentido, la cuestión de la black box, que se refiere a la imposibilidad para los propios programadores de explicar el proceso adoptado por la máquina para tomar su decisión, en el ámbito del aprendizaje automático.18 Los riesgos considerados pueden afectar a la esfera de los derechos fundamentales y a algunos de los principios relevantes en el ámbito del procesamiento automático de los datos, tales como el principio de transparencia, de la minimización de datos, así como el principio de la limitación del próposito y el principio de responsabilidad. Sin duda, al pensar en la entidad y en la fuerza del fenómeno del “tsunami digital”, no es posible evitar darse cuenta de que estamos destinados a vivir en un “entorno inteligente”, en el que tanto la integridad de la persona como su autonomía se ven constantemente reducidas.19 En este contexto, frente a estos retos, corresponde al jurista un papel tanto complejo como esencial: definir la regla “artificial” para que pueda remplazar la regla natural – es decir, la natural dimensión del cuerpo, la corporalidad – que se ve disrupted 20 por el advenimiento de la IA y de sus poderosos éxitos. Aún más, en este sentido, el papel del jurista consiste en la definición no sólo de una regla, sino de un marco jurídico capaz de llenar el vacío dejado por la ruptura de la regla natural21 a razón del advenimiento de la IA. Este reto es muy amplio y complejo, y abarca muchos ámbitos. 16. FASAN, M., “La tecnologia ci salverà? Intelligenza artificiale, salute individuale e salute collettiva ai tempi del Coronavirus”, cit., p. 679. 17. SIMONCINI, A., “L’algoritmo incostituzionale: intelligenza artificiale e il futuro delle libertà”, Bio- Law Journal -Rivista di BioDiritto, n° 1, 2019, pp. 63-89, 85. 18. CASONATO, C., “Costituzione e Intelligenza Artificiale: un’agenda per il prossimo futuro”, cit., p. 717; D’ALOIA, A., “Il diritto verso il “mondo nuovo”. Le sfide dell’Intelligenza Artificiale”, BioLaw Journal -Rivista di BioDiritto, n° 1, 2019, pp. 3-31, 21. 19. RODOTÀ, S., Il Diritto di Avere Diritti, cit., pp. 314, 315. 20. La IA ha tenido un efecto de “disruption” jurídica, tal como causó el advenimiento de internet. Véase: PAJNO, A., BASSINI, M., DE GREGORIO, G., MACCHIA, M., PATTI, F. P., POLLICINO, O., QUATTROCOLO, S., SIMEOLI, D., SIRENA, P., “Intelligenza Artificiale: criticità emergenti e sfide per il giurista”, BioLaw Journal -Rivista di BioDiritto, n° 3, 2019, pp. 205-235. Un interesante análisis del tema de la disruption normativa fue desarrollado también por MOBILIO, G., “L’Intelligenza Artificiale e i rischi di una “disruption” della regolamentazione giuridica”, BioLaw Journal -Rivista di BioDiritto, n° 2, 2020, pp. 401-424. 21. Este concepto fue analizado por RODOTÀ, S., Il Diritto di Avere Diritti, cit., pág. 285. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 204 Frente a este escenario tan vasto, la presente reflexión se concentra en el ánalisis del desafío de definir un nuevo estatuto para el cuerpo digital, a través de un enfoque basado en los derechos humanos, desde el punto de vista del derecho internacional público y del derecho de la Unión Europea. En particular, se analizan las actividades, los proyectos y las herramientas de la UNESCO, de la Unión Europea y del Consejo de Europa, puesto que estas organizaciones internacionales vienen apuntando a la adopción de específicas respuestas a los retos planteados por la IA. Especifícamente, el próposito del presente trabajo consiste, de iure condito, en analizar el state of the art, enfocándose en las herramientas existentes que puedan resultar relevantes, a fin de formular algunas consideraciones críticas – de iure condendo - sobre el escenario in progress, así como algunas propuestas sobre una moderna Magna Charta dedicada al habeas data.22 II. EL HABEAS DATA, LA PRIVACY Y LA AUTODETERMINACIÓN INFORMATIVA El impacto de la tecnología en el ser humano y en su corporalidad no constituye un desafío inédito para el jurista. La definición del estatuto del ser humano y de su cuerpo es un reto que tiene raíces antiguas, que a lo largo de los siglos se ha expresado mediante la abstracción o la afirmación de la corporalidad. Con la introducción del prosopon del sujeto jurídico y de la personalidad jurídica, la persona física, corporal, se poyectaba en la abstracta persona jurídica. La adopción del sujeto abstracto derrama luz sobre la ausencia de una específica dísciplina de la corporalidad en varios codígos civiles europeos. Sin embargo, hay excepciones interesantes, tales como, por ejemplo, el Code Civil francés, que fue reformado durante los años Noventa del siglo pasado con el próposito de introducir una regulación del cuerpo fundamentada en la conexión entre la corporalidad y la dignidad,23 en la que resuena un eco kantiano.24 El enfoque del legislador francés representa una respuesta interesante a los retos que el progreso científico y tecnológico – por ejemplo, la biomédicina y la investigación biomédica - plantean para el cuerpo en su dimensión física. Frente a los desafíos planteados por la IA, en vez, es preciso volver a una lógica de abstración, para que el jurista se dirija al cuerpo digital, a su dimensión informativa. 22. Sobre el concepto de habeas data, véase: Ibid., págs. 318 ss. y págs. 397 ss. 23. En este sentido, véase el emblemático Artículo 16 del Code Civil, el que prevé: “la loi assure la primauté de la personne, interdit toute atteinte à la dignité de celle-ci et garantit le respect de l’être humain dès le commencement de sa vie”. A continuación, el Artículo 16-1, establece que “[1] Chacun a droit au respect de son corps. [2] Le corps humain est inviolable. [3] Le corps humain, ses éléments et ses produits ne peuvent faire l’objet d’un droit patrimonial”. Las modificaciónes consideradas se introdujeron mediante la adopción de la Loi n° 94-653 du 29 juillet 1994 - art. 2 JORF 30 juillet 1994. 24. Se trata de un enfoque notable, aún más de tomar en consideración que, en otros casos, como ocurrió en ocasión de la reforma del Codigo Civil alemán, el Bürgerliches Gesetzbuch (BGB), se adoptó un enfoque distinto, puesto que se dedicó el Libro I a la tríada “Personas físicas, consumidores, empresarios”, lo cual implica una conmixtión entre la corporalidad y la esfera económica. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 205 Observando la protección que hasta la fecha el derecho ha otorgado, se destaca la privacy. Su contenido ha tenido una interesante evolución, que parece particularmente relevante para la presente reflexión. La concepción original de la privacy se caracterizaba por tener un contenido negativo, que se inspiraba en la lógica de lo jus excludendi que hallamos en el paradigma del derecho de propriedad. De hecho, según la definición que se dio al principio desde la doctrina, la privacy se entendía como el “derecho a que nos dejen solos”.25 Desde esta perspectiva, la privacy prentendía proteger ese espacio en el que construimos nuestra personalidad y nuestra identidad y, por lo tanto, constitutía una “proyección, en la esfera privada, de los principios fundamentales de la democracia”.26 Fue Alan Westin, en los años Setenta del siglo pasado, quien introdujo un concepto novedoso de privacy, describiéndola como el derecho de controlar el uso que los demás hacen de mis datos.27 Se trata, evidentemente, de un concepto que tiene un contenido positivo, que contribuye a devolver a la persona la “soberanía” sobre su cuerpo inmaterial. A lo largo de los años, se han dado muchas definiciones más de privacy, que se basan en el concepto afirmado por Westin; por ejemplo, se ha afirmado que la privacy constiuye la protección de las elecciones de vida, para ampararlas frente a cualquier forma de control público, así como frente a la estigmatización social.28 Además, se ha definido la privacy como la libertad de cada vínculo irrazonable que nos impida construir nuestra identidad;29 aparece particularmente interesante para la presente reflexión también la concepción según la que la privacy representa el derecho a mantener el control sobre la información que nos pertenezca y de definir y construir nuestra esfera privada.30 Cabe recordar que esta concepción “positiva” de la privacy se encuentra también en la jurisprudencia, destacándose una sentencia dictada por el Tribunal Constitucional alemán en 1983, que reconoció que la autodeterminación informativa es un derecho fundamental.31 Enfocándonos en la IA, se puede pensar en varios riesgos que surgen de la dimensión del algoritmo y del procesamiento automático, que plantean importantes retos para el jurista a la hora de proteger la privacy o la autodeterminación informativa, así como la identidad de la persona que también puede referirse al cuerpo digital y a la 25. WARREN, S., BRANDEIS, L. D., “The Right to Privacy”, Harvard Law Review, Vol. 4, n° 5, 1890, pp. 193-220, 195 ss. RODOTÀ, S., Il Diritto di Avere Diritti, cit., p. 320. 26. RODOTÀ, S., Il Diritto di Avere Diritti, cit., pp. 370 ss. 27. WESTIN, A., Privacy and Freedom, Atheneum, New York, 1970. 28. FRIEDMAN, L. M., The Republic of Choice. Law, Authority and Culture, Harvard University Press, Cambridge (Mass.)-London, 1990, p. 184. 29. AGRE, P. E., ROTENBERG, M., (Coord. por), Technology and Privacy. The New Landscape, Mit Press, Cambridge (Mass.), 2001, p. 7. 30. RODOTÀ, S., Tecnologie e Diritti, Il mulino, Bologna, 1995, p. 22. 31. Se trata de una visión que durante los años se ha radicado en la jurisprudencia constitucional alemana, y que se reafirmó también en 2008, cuando se declaró la incostitucionalidad de una modificación de la ley sobre los servicios de seguridad del Land Norte-Westfalia, que permitía a los servicios de seguridad intervenir sobre los instrumentos de comunicación y tener acceso a los sistemas informativos tecnológicos mediante cualquier medio. Véase RODOTÀ, S., Il Diritto di Avere Diritti, cit. pp. 316 ss. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 206 esfera del habeas data. A este respecto, se pueden destacar una serie de actividades que se llevan a cabo online, y que afectan a los datos en la dimensión de internet. En este sentido, podemos recordar la recolección, el procesamiento, la reutilización de los datos, y actividades tales como el seguimiento (tracking)32 y perfilado (profiling), que casi parecen resonar el eco de una distopía de George Orwell, la de un “Gran Hermano” que se apropia de nuestra información, penetrando la intimidad de nuestras vidas, entendidas como proyecciones de nuestros cuerpos digitales. No sorprende, por lo tanto, que desde la doctrina se hayan utilizado expresiones tales como “data-veillance” para dirigirse a los riesgos que el utilizo de los algoritmos, por parte tanto de los gobiernos como de las entidades privadas, conlleva.33 Concretamente, la autodeterminación informativa puede verse vulnerada desde muchos puntos de vista, por ejemplo, en relación con el principio de finalidad – que tiene la función de legitimizar la recolección de los datos - y el principio de limitación del próposito, así como es dificil cumplir con el principio de minimización, dada la gran cantidad de datos que las actividades de AI consideradas utilizan (una disponibilidad tan amplia e impresionante como para ser llamada “data mining”). Es difícil imaginar como el sujeto fuente, titular de los datos pueda efectivamente ejercer su control sobre sus datos frente al algoritmo y a la capacidad de “autodesarrollarse” de los sistemas de autoaprendizaje. De una forma semejante, difícilmente se podrá garantizar plenamente la transparencia de las actividades que se lleven a cabo utilizando los datos. La opacidad de algunos procesos, el problema de la black box, son ejemplos elocuentes a este respecto. El tema de la falta de supervisión humana se ha destacado particularmente en el ámbito de las decisiones individuales - incluida la elaboración de perfiles - basada únicamente en el tratamiento automatizado, que produzcan efectos jurídicos o afecten de modo similar al sujeto interesado, las que, como veremos, están prohibidas, si bien se contemplen algunas excepciones. La cuestión de la elaboración de perfiles merece especial atención: ella, de hecho, puede afectar de una forma contundente a la identidad. En general, se plantea la cuestión que, de una forma sugerente, Stefano Rodotà había llamado “la identidad desconocida”,34 la que se 32. El seguimiento o tracking se realiza mediante el empleo de cookies. Una cookie es “un pequeño fichero de texto que se almacena en un determinado ordenador al acceder a determinadas páginas web. Cuando se vuelve a visitar el mismo sitio, la cookie permite al sitio web reconocer su navegador. Las cookies permiten almacenar las preferencias del usuario y otro tipo de información”; véase: https://www.endalia.com/informacion-sobre-cookies/#:~:text=Una%20cookie%20es%20un%20pe- que%C3%B1o,y%20otro%20tipo%20de%20informaci%C3%B3ny%20otro%20tipo%20de%20infor- maci%C3%B3n”. Fecha de consulta: 29/11/2020. En algunos casos, según un estudio realizado por la Universidad de Berkeley, ocurre que se realicen formas invasivas de tracking de las cuales los usuarios no pueden darse cuenta. Véase: COUNCIL OF EUROPE, Study on the human rights dimensions of automated data processing techniques and possible regulatory implications, prepared by the Committee of Experts on Internet Intermediaries (MSI-NET), Council of Europe Study, DGI(2017)12, p. 13. Disponible en https://edoc.coe.int/en/internet/7589-algorithms-and-human-rights-study-on-the-human-ri- ghts-dimensions-of-automated-data-processing-techniques-and-possible-regulatory-implications. html. Fecha de consulta: 29/11/2020. 33. COUNCIL OF EUROPE, Study on the human rights dimensions of automated data processing techniques and possible regulatory implications, cit., p. 15. 34. RODOTÀ, S., Il Diritto di Avere Diritti, cit. p. 319. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 207 refiere a la dificultad, para el propio sujeto fuente, de tener un conocimiento completo de su identidad tal como resulta de los datos “diseminados” por el mundo de internet. El problema relativo a la elaboración de perfiles es bastante amplio: en primer lugar, ellos pueden resultar incoherentes respecto a las persona real, causando una disonancia entre la corporalidad digital y la corporalidad física, sin olvidar que la identidad constituye un concepto complejo, que abarca múltiples rasgos de la persona, por ejemplo, de carácter genético, social, cultural, espiritual, y también la educación y la formación. En segundo lugar, el perfil elaborado puede, potencialmente, conducir a efectos discriminatorios y a la estigmatización del sujeto interesado. Cabe recordar brevemente dos cuestiones más, es decir, el tema de los baby data y el tema del cloud data storage. Los baby data derivan de la comparación entre datos diferentes, y los resultados alcanzables resultan ser difícilmente predecibles. El cloud data storage, o almacenamiento en la nube, es un modelo de almacenamiento, basado en una red de computadoras, a través del que se pueden archivar, organizar y distribuir datos en una estrctura dicha “nube” (cloud), a la que cada sujeto que tenga los necesarios permisos puede acceder, a través de internet. De hecho, los datos no se almacenan en un servidor local, sino en un servidor remoto en el que, por lo tanto, podrían ser procesados mediante algoritmos de algunas formas intrusivas que no ocurrirían si estuvieran almacenados en un servidor local. Ese riesgo puede surgir también mientras los datos se trasladan del servidor local al servidor remoto.35 Tampoco se pueden pasar por alto las criticidades inherentes al consentimiento informado en relación con las tecnologías de comunicación e información. En este sentido, desde la doctrina, Carlo Casonado ha sugerido el concepto de “consentimiento conscientemente desinformado”,36 puesto que generalmente se aceptan las condiciones de privacidad establecidas por las aplicaciones que utilizamos y los sitios internet por los que navegamos sin que, de verdad, nos informemos adecuadamente. Por ende, el consentimiento informado, que debería encarnar el núcleo de la protección otorgada a la privacidad y al control sobre nuestros datos, se ha convertido una garantía vacía. Frente a tan complejo escenario, cabe preguntarse cuál protección pueda asegurarse al ser humano y a su corporalidad inmaterial, digital. En particular, cabe investigar de qué forma se puede mantener la promesa del habeas corpus contenida en la Magna Charta. En este sentido, en la dimensión del incesante progreso científico y tecnológico, un enfoque basado en los derechos fundamentales puede proporcionar respuesta interesantes. A favor de esta idea, puede recordarse el papel que, a nivel universal, los derechos fundamentales vienen desempeñando en la realidad de internet. A nivel global, de hecho, se ven como un amparo frente de los riesgos que surgen de nuestra vida online.37 Además, parece relevante recordar que, según un estudio llevado a cabo por el Berkman Centre de la Universidad de Harvard, se han formulado hasta ochenta 35. COUNCIL OF EUROPE, Study on the human rights dimensions of automated data processing techniques and possible regulatory implications, cit., p. 13. 36. CASONATO, C., “Costituzione e Intelligenza Artificiale: un’agenda per il prossimo futuro”, cit., p. 719. 37. RODOTÀ, S., Il Diritto di Avere Diritti, cit. p. 416. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 208 tiene que adoptar “las medidas adecuadas para salvaguardar los derechos, la libertades y los intereses legítimos” del interesado. Por ejemplo, la seudonimización de los datos, su anonimización, así como la adopción de mecanismos de certificación podrían considerarse “medidas adecuadas” a este fin. Desde la doctrina, se ha puesto de relieve que los princípios que el Artículo 22 contempla consisten en la no exclusividad, la conocibilidad y, se ha también añadido la no discriminación.54 La no exclusividad, a la que se ha referido la jurisprudencia norteamericana en la emblemática sentencia que se dictó en el caso Compas, requiere la participación humana en el proceso de toma de decisión. Es decir, la IA puede constituir una componente del proceso de toma de decisión, pero será evaluada por un ser humano. El principio de conocibilidad tiene una relevancia esencial con referencia a la autodeterminación informativa, y pone de relieve algunas cuestiones complejas, sobre todo, con respecto al GDPR, al derecho del interesado a recibir la información y la explicación del proceso que ha llevado a la decisión que le afecte. El debate se enfoca en dos posiciones, que surgen de la interpretación conjunta del Artículo 22(3) (que establece el derecho a impugnar la decisión, lo cual supone que el interesado reciba la relativa información a este fin) del GDPR y de su Considerando 71, en el que tal derecho está detalladamente descrito. En concreto, una parte de la doctrina afirma que el derecho a la información, por ser previsto en un Considerando, consistiría en una buena práctica; otra parte de la doctrina afirma que el Considerando 71 prevé una obligación, pero, concretamente, se debería cumplir con ella sólo si proporcionar una explicación resulte ser factible en la práctica, es decir, por ejemplo, por si resulte ser compatible con “technologies, costs and business practices”.55 Ambas interpretaciones parecen admisibles; sin duda, la formulación del texto normativo aparece ambigua a este respecto. De todas formas, en caso de extender el cuadro hermenéutico también a los Artículos 13, 14 (que preven el derecho de información) y 15 (sobre el derecho de acceso) se puede aclarar más detelladamente el contenido de la información que debería proporcionarse al interesado. En particular, se debería comunicar al interesado que se está llevando a cabo un proceso automatizado inherente a sus datos, incluida la elaboración de perfiles, y se le debería proporcionar también la información significativa relativa a lógica aplicada en el proceso y a la consecuencias que puedan afectar a sus datos.56 Otra forma de protección que se halla en el GDPR, y que resulta ser relevante para la salvaguardia del cuerpo digital, consiste en la privacy by design, que se fundamenta en la evaluación del riesgo y que tiene como objetivo asegurar la efectividad de la protección del usuario, y en la privacy by default, que contribuye a prevenir una recolección de datos desproporcionada respecto a los propósitos y las finalidades previstas. 54. SIMONCINI, A., “L’algoritmo incostituzionale: intelligenza artificiale e il futuro delle libertà”, cit., pp. 77 ss. 55. EUROPEAN PARLIAMENT, European Parliamentary Research Service, Scientific Foreign Unit (STOA), PE 641.530 – June 2020, The Impact of General Data Protection Regulation (GDPR) on artificial intelligence, cit., p. 63. 56. Ibid., pág. 64. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 215 El escenario normativo de la UE es significativo también desde el punto de vista de los derechos humanos, puesto que la Carta de los Derechos Fundamentales de la Unión Europea (CDFUE)57 contiene algunas previsiones interesantes y elocuentes a la hora de pensar en una Magna Charta para el habeas data. En particular, se destaca el Artículo 8, que se enfoca especifícamente en el derecho a la protección de datos de carácter personal, que condiciona el tratamiento de dichos datos, “de modo leal [y ]para fines concretos” al consentimiento del interesado o a “otro fundamento legítimo previsto por la ley”. Se protegen el derecho de acceso y el derecho a obtener la rectificación de los datos – lo cual contribuye a asegurar que los datos reflejen y describan la auténtica identidad de la persona. Además, se prevé el ejercicio del control por parte de una autoridad independiente. El Artículo 8 representa una previsión novedosa y notable, por haber captado la autonomía ontologica del derecho a la protección de los datos de carácter personal respecto al derecho al respeto dela vida privada y familiar, en cuyo ámbito se veía tradicionalmente colocado - como todavía sigue ocurriendo, por ejemplo en el contexto del Convenio Europeo de los Derechos Humanos. En efecto, de esta forma, la CDFUE ha conseguido reconocer explicitamente, en el marco de la protección de los derechos fundamentales, la evolución del concepto de privacy y la afirmación de la autonomía informativa, contemplando expresamente su contenido positivo que se extiende más allá de la lógica del jus excludendi. La CDFUE contiene también otra previsión que parece interesante para el cuerpo digital y su identidad, es decir la prohibición de discriminación. La previsión podría ser significativa para la prevención de la discriminación y de la estigmatización que el cuerpo digital y su identidad pueden sufrir en el ámbito de la IA. Además, según aclaró el Tribunal de Justicia de la UE (TJUE) a partir del caso Mangold,58 el Artículo 21 se destaca por producir efectos entre particulares: por lo tanto, la protección asegurada por esta previsión se podría invocar en el caso de que el tratamiento de los datos, su procesamiento automático sean realizados por sujetos particulares, tales como las empresas, por ejemplo. De todas formas, parece interesante recordar que la Presidencia del Consejo, el pasado 21 de octubre de 2020, ha remarcado la exigencia que, en marco de la IA, se asegure la misma protección tanto en el mundo físico como en el mundo digital, subrayando que se deben asegurar garantías adecuadas con respecto a la protección de los datos y otra normas éticas. En este sentido, se podría también suponer una aplicación “flexible” del Artículo 3 de la CDFUE, susceptible de incorporar el cuerpo digital. De hecho, dicha previsión no ha dado por alto el impac- to del progreso tecnológico sobre el derecho a la integridad de la persona. Finalmente, cabe recordar que el Artículo 51(1) de la CDFUE prevé que sus disposiciones se dirijan a los Estados Miembros de la UE “únicamente cuando apliquen el Derecho de la Unión”,59 57. Carta de los Derechos Fundamentales de la Unión Europea, 2012/C 326/02. Disponible en https://www.boe.es/doue/2010/083/Z00389-00403.pdf. Fecha de consulta: 29/11/2020. 58. Tribunal de Justicia (Gran Sala), Sentencia del 22 de noviembre de 2005, Werner Mangold c. Rüdiger Helm, C-144/04, §§ 75-78. 59. En este sentido, el la jurisprudencia del Tribunal de Justicia de la UE ha proporcionado una valiosa orientación a partir de la sentencia dictada en el caso Åkerberg Fransson, Tribunal de Justicia (Gran Sala), Sentencia de 26 de febrero de 2013, Åklagaren c. Hans Åkerberg Fransson, C-617/10. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 216 es decir, por ejemplo, cuando adopten medidas relativas al GDPR a nivel nacional con el próposito de dirigirse a la IA. Al lado de la Unión Europea, en el mismo continente, si bien con una diferente composición y una distinta vocación, hallamos el Consejo de Europa (CdE), que tampoco ha pasado por alto los retos que la IA plantea para el jurista y, en particular para el cuerpo digital y el habeas data. A partir de los años Setenta, el CdE ha venido desarrollando un escenario normativo amplio y articulado en el ámbito de la bioética, los derechos humanos y el progreso científico y tecnológico, en el que se destaca el Convenio sobre la Biomedicina y los Derechos Humanos (Convenio de Oviedo), que se adoptó en el año 1997. Al lado de este escenario normativo, que ha proporciornado una valiosa orientación sobre cuestiones tan cruciales como compleja (se podría decir, en inglés, highly sensitive), se destaca el fundamental papel que, en la esfera judicial de la protección de los derechos fundamentales, desempeña el Tribunal Europeo de Derechos Humanos (TEDH), cuya jurisprudencia ha conseguido adoptar respuesta interesantes y novedosas en relación con la ciencia y la tecnología. A lo largo de los años, el CdE ha venido desarrollando un interesante marco normativo de soft law enfocado en varias importantes cuestiones inherentes a la IA, que comprende, de una forma heterogénea, herramientas tales como, por ejemplo, Recomandaciones, Declaraciones, PACE Reports, Estudios e Informes. La culminación de este proceso fue la creación del Comité Ad Hoc sobre Inteligencia Artificial (CAHAI), el pasado día 11 de septiembre de 2019. Conforme a su mandato, el CAHAI se dedica a examinar la viabilidad y los elementos potenciales para desarrollar un marco normativo inherente a la IA, basado en los estándares del CdE en al ámbito de los derechos humanos, la democracia y el Estado de Derecho. El CdE pretende adoptar un enfoque cross-cutting, es decir transversal, con respecto a las distintas areas temáticas y operativas relevantes en este contexto. Se prevé que el proyecto termine en el año 2021; de momento, el documento más elocuente a nuestra disposición consiste en el First Progress Report,60 que el CAHAI adoptó el pasado día 23 de septiembre de 2020. En este documento, se pueden hallar algunas referencias interesantes, para poder tener una idea del enfoque relativo al cuerpo digital y de la protección de los datos en el marco de la IA. Después de remarcar el propósito del CdE de definir el alcance y las implicaciones de la IA en la mayoría de sus marcos operativos, destacando, entre ellos, la protección de los datos y la lucha contra la discriminación, el apartado 19 del First Progress Report proporciona información y orientación sobre medidas específicas y concretas que se deberían adoptar para proteger el derecho a la privacy y asegurar la protección de los datos. En este sentido, se hace hincapié en la creación de mecanismos de producción normativa de carácter colaborativo (por ejemplo, sandboxing), y en la creación de una orden profesional para figuras profesionales expertas en la materia de los datos, con el propósito de adoptar cartas y estandáres éticos. De hecho, la promoción de un enfoque ético es crucial: por ejemplo, se puede suponer la promoción de estandáres de 60. COUNCIL OF EUROPE, Ad hoc Committee on Artificial Intelligence (CAHAI), Progress Report, 1384th meeting, 23 September 2020. Disponible en https://search.coe.int/cm/Pages/result_details. aspx?ObjectID=09000016809ed062. Fecha de consulta: 29/11/2020. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 217 formación deontológica para los programadores de sistemas de IA; además, se podrían promover herramientas para un entrenamiento de datos “ético”. Además, el apartado 22 hace hincapié en la creación de mecanismos de verificación ex ante o de certificación, así como de mecanismos de control realizados por autoridades independientes. En el mes de diciembre de 2020, el CAHAI eaxaminará el borrador de su Estudio de Factibilidad y, probablemente, en ese momento se tendrá a disposición más información sobre el contenido de las medidas que se adoptarán, así como de su forma. Este tema parece muy interesante: de hecho, de momento, el Anexo I al First Progres Report, ambiciosamente, ha tomado en consideración también la posible adopción de una herramienta de hard law, tal como un convenio o un convenio cuadro. De lado a la compleja actividad del CAHAI, en el ámbito del CdE se destaca el Convenio 108+,61 una herramienta que ofrece una importante orientación para la búsqueda del habeas data para salvaguardar el cuerpo digital justamente en relación con la IA. Se trata de la versión modernizada – adoptada en el año 2018 - del Convenio 108 para la Protección de las Personas con respecto al Tratamiento Automatizado de Datos de Carácter Personal, que el CdE adoptó en 1981. El Convenio 108+ ha incorporado específicos cambios, cuyo contenido está en línea con el GDPR. Se destaca, en particular, el Artículo 9 del Convenio 108+, que establece los derechos del interesado, los que incluyen: el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado de los datos sin que el punto de vista del interesado sea tomado en consideración; el derecho a conocer la existencia de un fichero automatizado de datos de carácter personal y obtener la transmisión de toda la información relativa al tratamiento y sus finalidades; el derecho a obtener – a solicitud, sin demora o gastos excesivos - la rectificación o la cancelación de los datos que se hayan tratado con infracción del Convenio; el derecho a contar con remedios judiciales y no judiciales apropriados en caso de violación de sus derechos; también el interesado tiene el derecho a la asistencia de una autoridad de supervisión para ejercer sus derechos. Además, con las Líneas Guía sobre la IA y la protección de los datos,62 el Comité Consultivo relativo al Convenio 108 ha remarcado que los Estados Partes de este tratado se comprometen a asegurar y a posibilitar un desarrollo y un empleo de la IA de forma coherente con el derecho a la privacy y a la protección de los datos, también según el Artículo 8 del Convenio Europeo de los Derechos Humanos (CEDH).63 El Comité ha aclarado que el desarrollo de la 61. COUNCIL OF EUROPE, Modernised Convention for the Protection of Individuals with Regard to the Processing of Personal Data, Amending protocol to the Convention for the Protection of Individuals with Regard to the Processing of Personal Data, adopted by the Committee of Ministers at its 128th Session in Elsinore on 18 May 2018. Disponible en https://rm.coe.int/convention-108-conven- tion-for-the-protection-of-individuals-with-regar/16808b36f1. Fecha de consulta: 29/11/2020. 62. CONSULTATIVE COMMITTEE OF THE CONVENTION FOR THE PROTECTION OF INDIVIDUALS WITH REGARD TO AUTOMATIC PROCESSING OF PERSONAL DATA (CONVENTION 108), Guidelines on Artificial Intelligence and Data Protection, Directorate General of Human Rights and Rule of Law, Strasbourg, 25 January 2019, T-PD(2019)01. Disponible en https://rm.coe.int/guidelines-on-artificial-inte- lligence-and-data-protection/168091f9d8. Fecha de consulta: 29/11/2020. 63. CONSEJO DE EUROPA, Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales (Convenio Europeo de Derechos Humanos), Modificado por los Protocolos nos. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 218 IA basado en el tratamiento automatizado de los datos deberá fundamentarse en los principios contemplados en el Convenio 108+, es decir: legitimidad; justicia; “limitados y necesarios” (el tratamiento debe ser limitado y debe hacerse todo lo razonablemente posible para limitar el procesamiento de datos al mínimo necesario); transparencia; responsabilidad proactiva; seguridad y gestión del riesgo; privacy by design y by default. Con respecto a este último tema, podría ser beneficioso tomar en consideración la orientación proporcionada por el Comité de los Ministros en la Recommendation CM/ Rec(2020)1,64 que contempla algunas indicaciones utiles para dirigirse al problema del “consentimiento conscientemente desinformado”. Por ejemplo, el tracking debería estar en modo opt-out. Parece interesante poner de relieve que las garantías aseguradas en el marco del Convenio 108+ se podrían utilizar para incrementar el nivel de protección otorgado en el ámbito del CEDH, de manera hermenéutica. En particular, se puede suponer el empleo del Convenio 108+ para interpretar el alcance y el contenido del CEDH, especialmente de su Artículo 8, que contempla el derecho al respeto a la vida privada y familiar, conforme al Artículo 31(3)(c) del Convenio de Viena sobre el Derecho de los Tratados (CVDT). De esta forma, se podría promover la incorporación de los estándares considerados, de manera interpretativa, en la jurisprudencia del TEDH. La incorporación de tal interpretación del Artículo 8 del CEDH podría ser beneficiosa también para aumentar la protección del derecho a la protección de los datos de carácter personal en el ámbito de la jurisprudencia del TJUE, mediante el diálogo judicial y la fertilización cruzada, puesto que el nivel de protección asegurado en el marco del CEDH define el nivel mínimo de protección según la CDFUE. De hecho, dicha visión sería conforme a las previsiones contenidas en el Artículo 52(3) CDFUE y el Artículo 6(3) del Tratado sobre la UE (TUE).65 IV. CONSIDERACIONES FINALES El Profesor Andrea Zatti, en su recensión sobre el libro de Paolo Zellini “La dittatura del calcolo”, ha hecho una comparación entre el algoritmo y el Golem, sugiriendo que, de momento, sólo hemos conseguido despertar esta misteriosa criatura pero aún no sabemos 11 y 14, completado por el Protocolo adicional y los Protocolos nos. 4, 6, 7, 12, 13 y 16 , 4 de Noviembre de 1950, ETS 5. Disponible en https://www.echr.coe.int/Documents/Convention_SPA.pdf. Fecha de consulta: 29/11/2020. 64. COUNCIL OF EUROPE, Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems, Adopted by the Committee of Ministers on 8 April 2020 at the 1373rd meeting of the Ministers’ Deputies. Disponible en https://search.coe.int/ cm/pages/result_details.aspx?objectid=09000016809e1154. Fecha de consulta: 29/11/2020. 65. El Artículo 52(3) de la CDFUE establece que: “En la medida en que la presente Carta contenga derechos que correspondan a derechos garantizados por el [CEDH] su sentido y alcance serán iguales a los que les confiere dicho Convenio. Esta disposición no obstará a que el Derecho de la Unión conceda una protección más extensa.” Conforme al Artículo 6(3) del TUE “[l]os derechos fundamentales que garantiza el [CEDH] [...] formarán parte del Derecho de la Unión como principios generales.” IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 219 qué hacer para ponerla a dormir. De hecho, no nos queda más opción que controlar el algoritmo: en nuestra reflexión, para conseguir este propósito, sugerimos el concepto del habeas data, una moderna Magna Charta para proteger el cuerpo digital y su identidad. La UNESCO, la Unión Europea y el Consejo de Europa, cada una de forma coherente con su vocación, se han comprometido para proporcionar respuestas adecuadas frente a este reto que se presenta para el jurista en la era digital. El hilo conductor entre las iniciativas de estas tres organizaciones internacionales es un enfoque antropocéntrico, que reconoce y protege el derecho a la privacy y a la protección de los datos personales, sin pasar por alto la exigencia de prevenir la discriminación y la stigmatización. Sin duda, se trata de iniciativas tanto esenciales - dado el incesante afirmarse y difundirse de la IA - como ambiciosas: el enfoque es prudente, consciente de no poder prescindir de la precaución, pero, a la vez, es contundente en su determinación Además, todas la Organizaciones consideradas tienen una larga experiencia y una comprobada capacidad de promocionar y adoptar estandáres comunes capaces de conseguir la aprobación y hasta el consensus de los Estados, incluso en materias altamente sensibles por su naturaleza ética y política. Sin duda, se podría suponer que las inciativas que vienen desarrollándose puedan crecer y fortalecerse: por ejemplo, la UNESCO podría adoptar iniciativas parecidas a las que ha adoptado en el campo de la genética, es decir, promover la adopción de una Declaración, incrementando la armonización de los estándares e involucrando el Programa de Bioética, que tiene una interesante capacidad de divulgación y promoción efectiva a nivel nacional, además de contar con un valioso mecanismo de supervisión. Con respecto a la Unión Europea, se podría suponer que sus esfuerzos lleven a la adopción de una herramienta semejante al GDPR o a su regulación en materia de seguridad de los productos; sin duda parece razonable esperar la adopción de un instrumento capaz de conciliar los objetivos inherentes al mercado común y un irrenunciable enfoque antropocéntrico, que se dirija a los derechos humanos y, en particular, a la protección de los datos de carácter personal y a la prevención de la discriminación. Será interesante observar la evolución del escenario del CdE: a la luz de su experiencia en la promoción de tratados internacionales en materias altamente sensibles y complejas, se podría hasta suponer que el CAHAI consiga promover la adopción de un convenio cuadro, para establecer obligaciones estatales sin renunciar a la flexibilidad necesaria para posibilitar la convergencia de las posiciones de los Estados, que en este ámbito tienen fuertes implicaciones políticas y económicas. En este sentido, el Acuerdo de París parece representar un modelo interesante, también con respecto a la creación de un órgano de supervisión que promueva la adopción de estándares éticos y operativos inspirado en la Conferencia de la Partes. Además, el CdE ha conseguido, en varias ocasiones, involucrar Estados extraeuropeos que se han vuelto partes de sus tratados. Piénsese, por ejemplo, en su Convenio en materia de cybercrime. De momento, parece interesante que países tales como México, Estados Unidos de América, Japon, Israel y la Santa Sede participen en los trabajos del CAHAI en calidad de observadores. Sin duda, se puede suponer que las negociaciones serán complejas, pero las divergencias éticas IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 220 y políticas parecen menos profundas de las que se encontraron durante la negociación del Convenio de Oviedo. Finalmente, como se ha sugerido, sería beneficioso que el TJUE y el TEDH establecieran un diálogo judicial y una fertilización cruzadas entre sus jurisprudencias en este marco. Se podría sugerir también que dichos Tribunales – como ya el TEDH hizo en el pasado – se refirieran también al derecho a la ciencia de manera hermenéutica, conforme al Artículo 31(3)(c) CVDT. En este sentido, los jueces europeos, en sus funciones judiciales en los indicados TEDH y TJUE, al momento de elaborar y dictar sus correspondientes sentencias, podrían beneficiarse de la orientación proporcionada en materia por el Comité de Derechos Económicos, Culturales y Sociales, especialmente a través del General Comment n. 25, adoptado en el mes de abril de 2020, en relación con el Artículo 15(2)(b) del Pacto Internacional de Derechos Económicos, Sociales y Culturales. Por ejemplo, ello contribuiría a definir el papel de los actores no estatales, mediante la definición de un “duty of human rights due diligence”. A lo mejor, los tiempos no están todavía maduros para la adopción de una herramienta tal como un convenio cuadro “universal”, que sería deseable dado el alcance global de la IA y de sus desafíos. Pero, parece ser que las condiciones para un logro tan ambicioso estén paulatinamente madurando. Si, de momento, aún no sabemos como poner a dormir el Golem, venimos consiguiendo sin embargo, que se convierta en un buen vigilante para salvaguardar el cuerpo digital y el habeas data en la era de la IA. BIBLIOGRAFÍA AGRE, P. E., ROTENBERG, M., (Coord. por), Technology and Privacy. The New Landscape, Mit Press, Cambridge (Mass.), 2001. ALANDETE, D., “John McCarthy, el arranque de la inteligencia articial”, El País, 27 de octubre de 2011. Disponible en https://elpais.com/diario/2011/10/27/necrologicas/1319666402_850215.html. Fecha de consulta: 29/11/2020. ANDERS, G., L’Uomo è antiquato, Vol. I: Considerazioni sull’anima nell’epoca della Seconda Rivoluzione Industriale, Bollati Boringhieri, Torino, 2005. ANDORNO, R., “Global bioethics at UNESCO: in defence of the Universal Declaration on Bioethics and Human Rights”, Journal of Medical Ethics, n° 33 (3), 2007, pp. 150–154. CÁRCAR BENITO, J. E., “El transhumanismo y los implantes cerebrales basados en las tecnologías de inteligencia artificial: sus perímetros neuroéticos y jurídicos”, IUS ET SCIENTIA, Vol. 5, n° 1, 2019, pp. 157-189. CASONATO, C., “Costituzione e Intelligenza Artificiale: un’agenda per il prossimo futuro”, Bio- Law Journal – Rivista di BioDiritto, Special Issue, n° 2, 2019, pp. 711-725. COMISIÓN EUROPEA, Libro Blanco sobre la Inteligencia Artificial – un enfoque europeo orientado a la excelencia y a la confianza, Bruselas, 29 de febrero de 2020, COM(2020) 65 final. Disponible en https://op.europa.eu/es/publication-detail/-/publication/ac957f13-53c6-11ea- aece-01aa75ed71a1. Fecha de consulta: 29/11/2020. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 221 COUNCIL OF EUROPE, Study on the human rights dimensions of automated data processing techniques and possible regulatory implications, prepared by the Committee of Experts on Internet Intermediaries (MSI-NET), Council of Europe Study, DGI(2017)12. D’ALOIA, A., “Il diritto verso il “mondo nuovo”. Le sfide dell’Intelligenza Artificiale”, BioLaw Journal -Rivista di BioDiritto, n° 1, 2019, pp. 3-31. ELON SMART TECH, “¿Qué es el machine learning?”. Disponible en https://www.elon.co/queel-es-machine-learning/. Fecha de consulta: 29/11/2020. EUROPEAN PARLIAMENT, European Parliamentary Research Service, Scientific Foreign Unit (STOA), PE 641.530 – June 2020, The Impact of General Data Protection Regulation (GDPR) on artificial intelligence. FASAN, M., “La tecnologia ci salverà? Intelligenza artificiale, salute individuale e salute collettiva ai tempi del Coronavirus”, BioLaw Journal – Rivista di BioDiritto, Special Issue, n° 1, 2020, pp. 677-683, 678. FRIEDMAN, L. M., The Republic of Choice. Law, Authority and Culture, Harvard University Press, Cambridge (Mass.)-London, 1990. GRAS, A., “L’homme machine ou l’homme sans essence: la tentation au coeur de progrès techno-scientifique”, coord. POR HERVÉ, C., STANTON-JEAN, M., MOLINARI, P. A., GRIMAUD, M. A., LAFORÊT, E., L’humain, l’humanité et le progrès scientifique, Dalloz, Paris, 2009, pp. 63-68. LA METTRIE, J. O., L’Homme Machine, Nabu Press, 2014. MOBILIO, G., “L’Intelligenza Artificiale e i rischi di una “disruption” della regolamentazione giuridica”, BioLaw Journal -Rivista di BioDiritto, n° 2, 2020, pp. 401-424. PAJNO, A., BASSINI, M., DE GREGORIO, G., MACCHIA, M., PATTI, F. P., POLLICINO, O., QUATTROCOLO, S., SIMEOLI, D., SIRENA, P., “Intelligenza Artificiale: criticità emergenti e sfide per il giurista”, BioLaw Journal -Rivista di BioDiritto, n° 3, 2019, pp. 205-235. RODOTÀ, S., Il Diritto di Avere Diritti, Laterza, Bari, 2015. RODOTÀ, S., Tecnologie e Diritti, Il mulino, Bologna, 1995. RODOTÀ, S., “Towards a Declaration of Internet Rights”, p. 1. Disponible en https://www. camera.it/application/xmanager/projects/leg17/attachments/upload_file/upload_fi- les/000/000/194/Internet_Libe_inglese.pdf. Fecha de consulta: 29/11/2020. RUÍZ-CANELA LÓPEZ, M., “Farmacogenética y farmacogenómica (Ético)”, Enciclopedia de Bioderecho y Bioética. Disponible en https://enciclopedia-bioderecho.com/voces/155. Fecha de consulta: 29/11/2020. SIMONCINI, A., “L’algoritmo incostituzionale: intelligenza artificiale e il futuro delle libertà”, Bio- Law Journal -Rivista di BioDiritto, n° 1, 2019, pp. 63-89. THE FUTURE GROUP, Freedom Security, Privacy: European Union Home Affairs in an Open World, June 2008. Disponible en https://euro-police.noblogs.org/gallery/3874/eu-futures-jha-re- port.pdf. Fecha de consulta: 29/11/2020. WARREN, S., BRANDEIS, L. D., “The Right to Privacy”, Harvard Law Review, Vol. 4, n° 5, 1890, pp. 193-220. WESTIN, A., Privacy and Freedom, Atheneum, New York, 1970. ZANNI, A., “La dittatura del calcolo di Paolo Zellini”, Recensione, Il Tascabile, 5 de Diciembre de 2018. Disponible en https://www.iltascabile.com/recensioni/dittatura-calcolo-zellini/. Fecha de consulta: 29/11/2020. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 222 Referencias normativas FRANCIA: Loi n° 94-653 du 29 juillet 1994 - art. 2 JORF 30 juillet 1994. UNESCO: UN Educational, Scientific and Cultural Organisation (UNESCO), Declaración Internacional sobre los Datos Genéticos Humanos, 16 de Octubre de 2003. Disponible en http://www.unesco. org/new/en/social-and-human-sciences/themes/bioethics/human-genetic-data/. Fecha de consulta: 29/11/2020. UN Educational, Scientific and Cultural Organisation (UNESCO), Ad Hoc Expert Group (AHEG) for the preparation of a draft text of a recommendation on the ethics of artificial intelligence, First Draft of the Recommendation on the Ethics of Artificial Intelligence, SHS/BIO/AHEGAI/2020/4 REV.2, Paris, 7 de Septiembre de 2020. Disponible en https://unesdoc.unesco. org/ark:/48223/pf0000373434/PDF/373434eng.pdf.multi. Fecha de consulta: 29/11/2020. UNIÓN EUROPEA: Carta de los Derechos Fundamentales de la Unión Europea, 2012/C 326/02. Disponible en https://www.boe.es/doue/2010/083/Z00389-00403.pdf. Fecha de consulta: 29/11/2020. COMISIÓN EUROPEA, Libro Blanco sobre la Inteligencia Artificial – un enfoque europeo orientado a la excelencia y a la confianza, Bruselas, 29 de febrero de 2020, COM(2020) 65 final. Disponible en https://op.europa.eu/es/publication-detail/-/publication/ac957f13-53c6-11ea- aece-01aa75ed71a1. Fecha de consulta: 29/11/2020. Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/ CE (Reglamento general de protección de datos). Disponible en https://eur-lex.europa.eu/ legal-content/ES/ALL/?uri=CELEX%3A32016R0679. Fecha de consulta: 29/11/2020. CONSEJO DE EUROPA: CONSULTATIVE COMMITTEE OF THE CONVENTION FOR THE PROTECTION OF INDIVIDUALS WITH REGARD TO AUTOMATIC PROCESSING OF PERSONAL DATA (CONVENTION 108), Guidelines on Artificial Intelligence and Data Protection, Directorate General of Human Rights and Rule of Law, Strasbourg, 25 January 2019, T-PD(2019)01. Disponible en https://rm.coe.int/ guidelines-on-artificial-intelligence-and-data-protection/168091f9d8. Fecha de consulta: 29/11/2020. CONSEJO DE EUROPA, Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales (Convenio Europeo de Derechos Humanos), Modificado por los Protocolos nos. 11 y 14, completado por el Protocolo adicional y los Protocolos nos. 4, 6, 7, 12, 13 y 16 , 4 de Noviembre de 1950, ETS 5. Disponible en https://www.echr.coe.int/Documents/ Convention_SPA.pdf. Fecha de consulta: 29/11/2020. COUNCIL OF EUROPE, Modernised Convention for the Protection of Individuals with Regard to the Processing of Personal Data, Amending protocol to the Convention for the Protection of Individuals with Regard to the Processing of Personal Data, adopted by the Committee of Ministers at its 128th Session in Elsinore on 18 May 2018. Disponible en https://rm.coe.int/ convention-108-convention-for-the-protection-of-individuals-with-regar/16808b36f1. Fecha de consulta: 29/11/2020. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 223 COUNCIL OF EUROPE, Ad hoc Committee on Artificial Intelligence (CAHAI), Progress Report, 1384th meeting, 23 September 2020. Disponible en https://search.coe.int/cm/Pages/result_details.aspx?ObjectID=09000016809ed062. Fecha de consulta: 29/11/2020. COUNCIL OF EUROPE, Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems, Adopted by the Committee of Ministers on 8 April 2020 at the 1373rd meeting of the Ministers’ Deputies. Disponible en https://search.coe.int/cm/pages/result_details.aspx?objectid=09000016809e1154. Fecha de consulta: 29/11/2020. Jurisprudencia Tribunal de Justicia (Gran Sala), Sentencia de 26 de febrero de 2013, Åklagaren c. Hans Åkerberg Fransson, C-617/10. Tribunal de Justicia (Gran Sala), Sentencia del 22 de noviembre de 2005, Werner Mangold c. Rüdiger Helm, C-144/04. Internet https://www.endalia.com/informacion-sobre-cookies/#:~:text=Una%20cookie%20es%20 un%20peque%C3%B1o,y%20otro%20tipo%20de%20informaci%C3%B3n. Fecha de consulta: 29/11/2020. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 200 - 224 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.13 La inteligencia artificial y el cuerpo humano digital: a la búsqueda del habeas data Simona Fanni 224