Ética e inteligencia artificial. Una discusión jurídica

Ética e inteligencia artificial. Una discusión jurídica ETHICS AND ARTIFICIAL INTELLIGENCE. A LEGAL DISCUSSION Ramón Darío Valdivia Jiménez Facultad de Teología “San Isidoro de Sevilla” Centro de Estudios Universitarios Cardenal Spínola CEU San Pablo rdv[email protected] 0000-0001-9064-1853 Recibido: 28 de octubre 2020 | Aceptado: 28 de diciembre 2020 RESUMEN PALABRAS CLAVE La humanidad ha recorrido un proceso evolutivo basado en el avance de la tecnología creada por la inteligencia humana. Actualmente, el concepto de inteligencia se ha desprendido de la corporalidad del ser humano, y tiene la pretensión de cambiarla: sus modelos, relaciones y convicciones. Este trabajo reivindica que, todavía, apreciamos una dependencia, siquiera simbólica, de esa Inteligencia Artificial a los arquetipos sociales de nuestra Weltanschauung. Desde este punto de vista, los avances tecnológicos generarán un desarrollo humano, pero no alcanzan todavía la posibilidad de cambiar al hombre sustancialmente. Uno de los árbitros más importantes que moderarán el constante diálogo entre la Inteligencia física humana y la nueva Inteligencia Artificial, es el Derecho, que tendrá la misión de compatibilizar la relación entre el ser y el deber ser. En esta relación, propongo tres imágenes que sirvan de guía para esta discusión: la nube, el muro y la peste. Inteligencia Artificial Derecho Ética Nube Muro Peste Platón Blockchain Covid-19 ABSTRACT KEYWORDS Humanity has gone through an evolutionary process based on the advancement of technology created by human intelligence. Currently, the concept of intelligence has detached itself from the corporality of the human being and has the intention of changing it: its models, relationships and convictions. This paper claims the dependence, even symbolic, of that IA to the social archetypes of our weltanchauung. From this point of view, technological advance will generate human development, but they do not yet reach the possibility of substantially changing human being. One of the most important referees that will moderate the constant dialogue between human “physical and artificial intelligence” is Law, which will have the mission of reconciling the relationship between being and what should be. In this relation, I propose three images that serve as a guide for this discussion: the cloud, the wall, and the plague. IA Law Ethics Cloud Wall Plague Plato Blockchain Covid-19 IUS ET SCIENTIA 2020 • Vol. 6 • Nº 2 • ISSN 2444-8478 https://editorial.us.es/es/revistas/ius-et-scientia https://dx.doi.org/10.12795/IETSCIENTIA • © Editorial Universidad de Sevilla 2020 CC BY-NC-ND 4.0. https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 • pp. 111 - 134 I. INTRODUCCIÓN A raíz del creciente interés por el fenómeno de la Inteligencia Artificial, la tecnología se ha mostrado como la llave exclusiva que puede abrir el futuro de un nuevo mundo que se está pergeñando. La civilización, tal y como la hemos conocido y estudiado en nuestros libros de ciencias sociales y naturales, parece estar llegando a su fin, como llegaron el fin del Imperio romano, o la Edad Media. El humanismo que generaron la filosofía griega, el Derecho romano y la espiritualidad cristiana parece que están siendo superados a una velocidad vertiginosa por la inmediatez de una tecnología capaz de almacenar, distribuir y reducir las experiencias humanas en meros datos que pueden ser elaborados y codificados con procedimientos matemáticos que, diseñados para facilitar la vida del hombre, pueden alcanzar una autonomía propia, generando una subjetividad “electrónica” propia, diferente de la humana. A priori, más potente, rápida y perfecta, frente a la vulnerabilidad que experimenta la condición humana. Sin embargo, este fenómeno de la Inteligencia Artificial y la relación entre el hombre con la tecnología no deja de suscitar, en nuestra perspectiva jurídica, algunas aporías que he querido condensar con tres imágenes, dos propias de la cultura tecnológica: la nube y el muro, y la otra, sobrevenida por la pandemia, expresión de la limitación que ha revelado la tecnología para hacerle frente que se ha solventado tan solo con un método milenario: la distancia social. La aporía de la que hablan estas imágenes puede entenderse como la imposibilidad de seguir un camino trazado de antemano desde el punto de vista físico, o la indigencia desde el punto de vista socioeconómico, o la obtusa confusión desde el proceder lógico y, por citar otra excepción, la angustia moral y psicológica que supone la contradicción1. Aunque sirva de mera presentación de estas imágenes en el perenne mundo cultural simbólico, las imágenes de la nube, el muro y la peste son unos ejemplos de una estructura simbólica que, desde el punto de vista de la fenomenología, expresa la ambivalencia que en toda la cultura supone la tecnociencia. Cuando me refiero a la estructura simbólica del fenómeno tecnológico me permito mostrar su incidencia cultural en la historia de la civilización, especialmente en este tránsito a la llamada tardo-modernidad. Bastaría citar las referencias trascendentales que las nubes, como portadoras del agua, han tenido en todas las sociedades. Por ejemplo, en el mundo semítico, le correspondió a la nube la misión de guiar al pueblo de Israel por medio del desierto hasta llegar a la Tierra Prometida, adquiriendo este elemento climatológico un valor de conocimiento seguro, más alto de lo que la mera sabiduría humana pudiera garantizar. Fiarse de ella, suponía la única supervivencia del pueblo en una tierra hostil, como representa el desierto. También, en el contexto del tránsito entre la mitología y la filosofía griega aparecen las nubes: en primer lugar, presidiendo la relación entre la vinculación de la justicia y el cosmos, como se pone de manifiesto en el conflicto entre el filósofo 1. Cfr. C. ROSSITTO, “Aporía” en Virgilio MELCHIORRE (ed.), Enciclopedia Filosofica, vol. 1, Bompiani, Milano, 2006, p. 571. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 112 Sócrates y el dramaturgo Aristófanes en Las Nubes2 y, en segundo lugar, cuando en la cosmología platónica, el ateniense hace suya la expresiva imagen del mundo celeste de las ideas, en la que las nubes permiten ocultar al mundo terreno de la doxa, la ciencia verdadera de la realidad, de la areté, pues a través de las nubes la dramatización mítica del discurso cosmológico de Platón intentaba superar «las aporías con las que tropieza la razón para explicar el Mundo»3. Recurriendo a esta analogía platónica, advierto que, desde la perspectiva contemporánea de la tecnología, las nubes (clouds) también aparecen como el único espacio de seguridad en el que se pueda conservar no sólo el conocimiento humano, sino que pueda servir de ámbito de desarrollo de una alta tecnología que sirva de prototipo al mundo terreno, garantizado por una impenetrabilidad como con el que se protegía el mundo de las ideas platónico. Se percibe así la aporía de que la técnica que debe sostener y recrear el nuevo mundo sea al mismo tiempo tan frágil, que no pueda estar al alcance del resto de los mortales. La segunda imagen de la aporía de la técnica se describe también a través del muro. Como instrumento arquitectónico, también es protagonista en el universo simbólico, de la necesidad de la defensa, de protección y, por ende, de la confianza en que el Derecho pueda servir como muro para ordenar la sociedad y alejarse de la barbarie de la anarquía. Este vínculo entre el Derecho y el muro también adquieren relevancia en el entorno de la cultura política griega, que recreaba físicamente su autoctonía cultural mediante unos muros de defensa con los que combatir a los enemigos. De un modo semejante se comprenden no sólo los muros de las fortalezas medievales, sino también los textos épicos que ensalzan las técnicas militares con las que se ofrecía seguridad y protección en los feudos en los que el orden estaba garantizado por la ley de la fuerza del señor. Aquella imagen del carácter simbólico del muro sólido, construido de piedras o ladrillos, se hacen presente en la época contemporánea con el mismo sentido, pero con distintos materiales. Si hace bien poco, en la guerra armamentística entre las superpotencias se hablaba de los muros nucleares, que se localizaban con radares galácticos que permitían proyectos de defensa de las fronteras, actualmente, a través de la necesidad de ámbitos de seguridad cada vez más exigentes en el mundo virtual, la IA ha desarrollado un modelo de gestión de la confianza cibernética en el sensible mundo de la economía, denominado blockchain. Este último modelo del muro, elaborado originalmente como una pluralidad de bloques tecnológicos, entrelazados unos a otros mediante hashes4, está destinado a proteger las transacciones de forma encriptada, como la original moneda llamada bitcoin5. 2. ARISTÓFANES, Las Nubes, El Cid editor, Santa Fe, 2004. 3. Jean SEIDENGART, “Cosmo-lógica”, en André JACOB (dir.) El universo filosófico, José Ignacio GALPARSOLO RUÍZ– Francisco José POZA MARTÍN (trads.), Akal, Madrid, 2007. 4. María Isabel ROJO, Blockchain. Fundamentos de la cadena de bloques, Ediciones de la U, Bogotá, 2019, 27: «matrícula que identifica a cada bloque de forma única y que, si se produce cualquier cambio en ese bloque, la matrícula también cambia» 5. Cfr. David ARROYO GUARDEÑO - Jesús DÍAZ VICO – Luís HERNÁNDEZ ENCINAS (eds.) ¿Qué sabemos de Blockchain?, CSIC-Los Libros de la Catarata, Madrid, 2019, p. 14. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 113 Y la tercera imagen, la peste, también atraviesa lo simbólico universal. Es la poderosa relevancia de la enfermedad mortal que desnuda la pretensión humana en su rabiosa impotencia para acceder a la inmortalidad, o aún mejor, a la eternidad, como aparece en el drama de Oscar Wilde El retrato de Dorian Gray en el que el personaje Lord Henry le revela al protagonista que «El verdadero misterio del mundo es lo visible, no lo que no se ve»6. La peste ha atravesado también todo el escenario diacrónico de la existencia para revelar la inminencia del encuentro con la muerte y, debido a sus cualidades fisiológicas de alta mortalidad, la necesidad de protegerse de ella. Desde el código de Hammurabi en el que aparecía el dios Erra como el dios de la peste, los profetas veterotestamentarios que amenazaban con las plagas de la peste, el hambre o la espada a quienes se burlasen de los preceptos divinos7, o las prescripciones medievales, que obligaban a los enfermos vivir en los lazaretos8, la insuficiencia de la medicina revelaba entonces, como hoy, que la única salida era (y es) la exigencia de que la sociedad pueda defenderse de la expansividad de la muerte mediante una distancia social obligada9. Lo que hoy llamamos “distancia social”, que se ha formalizado jurídicamente a través del constitucionalismo con la figura del “estado de alarma” ha sido el único modo de afrontar la actual epidemia, a través de un modelo social defensivo ante lo desconocido, el virus Covid-19. Sin duda, esta inseguridad e incertidumbre, como la que reflejaba la necesidad de protección y garantía que representaban las nubes y el muro, ha alterado el optimismo 6. Oscar WILDE, El retrato de Dorian Gray, Feedbooks, 2010, p. 20. 7. En el código del Levítico 13, 45-46 aparece la siguiente prescripción de la exclusión del campamento a los afectados por la lepra que se impondrá rigurosamente en toda la tradición judía: «El enfermo de lepra andará con la ropa rasgada y la cabellera desgreñada, con la barba tapada y gritando: “¡Impuro, impuro!”. Mientras le dure la afección, seguirá siendo impuro. Es impuro y vivirá solo y tendrá su morada fuera del campamento» y, especialmente en el caso del profeta Jeremías, que es quien cita más veces esta amenaza de la “espada, el hambre y la peste: Jr 14,12; 21, 7; 21,9; 24,10; 27,8; 28,8; 32, 24; 34, 17; 38,2; 42,17; 42,22; 44, 13. 8. ALFONSO XI, “Tratado de Prouision sobre los enfermos de esta casa (1334)” en: Esteban MORENO TORAL, Estudio Social y Farmacoterapéutico de la lepra: El hospital de San Lázaro de Sevilla (s. XIII-XIX), Universidad de Sevilla, Sevilla, 1995, pp. (241-244), 241: «Sepades que Cristóbal Marín, mayoral de la cas de los malatos de San Lázaro de Seuilla (…) mandava que todos aquellos que danados de gafedat que no consyntiédes que moren entre los omes sanos porque se les pode do ende seguir muy grant mal (…) E yo por guardamiento de vosotros e por que tengo que pode acaesçer muy grant daño tuvelo por bien». 9. Miguel FERNÁNDEZ BRAÑA, La lucha continua: una historia de infecciones y cáncer, Tébar, Madrid, 2014, p. 67: «Otra consecuencia de la lucha contra la enfermedad fue el aislamiento, tanto en las ciudades –impidiendo el paso de los viajeros por los caminos, llegando incluso a acabar con ellos–, como en las propias casas, aunque era peor el remedio que la enfermedad, ya que de esta manera se constituían grupos cerrados que favorecían el ataque de las pulgas. El aislamiento llegó a tal extremo que en Londres se ponía guardia en la puerta de las casas de los enfermos y a través de ellos recibían las vituallas (…) También se prohibieron reuniones, con hechos a veces pintorescos, como el ocurrido en Polonia en 1771, donde se cerraron las iglesias ortodoxas. Pero cuando se prohibió besar a los iconos, el pueblo se amotinó y… mató al obispo. Una última consecuencia de la plaga es la utilización de la cuarentena (…), El nombre u la costumbre de mantener aislada una nave en caso de sospecha se ha mantenido hasta la actualidad». IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 114 antropológico que la literatura transhumanista del homo-Deus había desarrollado en los últimos años10 y que, como veremos, ha sido incapaz de prever. En efecto, la nueva peste de este siglo parece haber limitado el alcance la utopía ante la terca realidad de la imprevisibilidad de la muerte. Los límites ético-jurídicos que el transhumanismo ha generado se han chocado, como de repente, con la fuerza del argumento de lo desconocido11. Una vez demostrada la perennidad de estas imágenes en la simbólica cultural, pasemos a describir más detenidamente, su vinculación jurídica. II. LA NUBE: LO PLATÓNICO DE LA CONEXIÓN DIGITAL La nube (cloud), como creación humana, está caracterizada como el lugar de almacenamiento de datos con una seguridad privilegiada. Esta necesidad de protección surge de la fragilidad del instrumento humano por excelencia, la memoria, o del peligro de que estos datos computacionales puedan deteriorarse o ser sustraídos en los terminales puestos en las manos humanas. De esta forma, la nube permite ser personificada en el actual modelo antropológico como un gran cerebro, todo memoria. Esta sinécdoque, desde el punto de vista de la ideología transhumanista más radical, se ha caracterizado como un “gran hermano” según la novela de George Orwell 1984 que podría llegar a adquirir no sólo una inteligencia capaz de almacenar datos, sino de alcanzar una autonomía volitiva respecto a sus creadores, convirtiéndose así en una hipotética amenaza ante la vulnerabilidad del género humano. De hecho, en la novela orwelliana aparece bajo el signo de la seguridad que puede proporcionar su conocimiento, y también la capacidad de chantajear, debido a la información depositada en su sistema. 1. La atribución de personalidad electrónica Esta hipótesis, desde el punto de vista jurídico, comienza con el planteamiento doctrinal acerca de la atribución de personalidad a la Inteligencia Artificial como una subjetividad robótica, superando la consideración ontológica de cosa. Este planteamiento doctrinal ha sido considerado muy positivo por sus promotores porque, al dotarle de subjetividad propia, se garantiza su desarrollo tecnológico a través de unos derechos y obligaciones y, en consecuencia, le puede permitir activarse eficientemente en el mundo jurídico de un modo autónomo, sin la necesidad de un control externo, pudiendo alcanzar la eficacia de una voluntad propia, diferida de la de sus creadores. 10. Cfr. Yuval Noah HARARI, Homo Deus: breve historia del mañana, Joandomènec Ros (trad.), Debate, Barcelona, 2017, pp. 298-304. 11. Fernando LLANO ALONSO, Homo excelsior: los límites ético-jurídicos del transhumanismo, Tirant lo Blanch, Valencia, 2018, p. 185: «La sacralización de la biotecnología y de los algoritmos informáticos vendría a ser para Harari, además del nuevo dogma de la fe del transhumanismo más extremo, algo así como el último tren que puede tomar el Homo sapiens para adaptarse al progreso y evolucionar a una nueva especie – Homo Deus– si no quiere enfrentarse abiertamente a la extinción». IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 115 Lo platónico de la atribución de una personalidad propia a la nube, como ejemplo de toda la IA, es paradójico, porque en su creación ha sufrido el proceso inverso al dictado por el fundador de la Academia. No es el momento de su origen donde aparece su vinculación platónica, sino en el proceso de que esa nube pueda adquirir, al independizarse de la voluntad humana, una valencia de idea arquetípica, es decir, marcada por la inteligibilidad, la inmaterialidad y la incorruptibilidad. El carácter inteligible de la nube parte de que, al componerse de un instrumento sostenido por fórmulas matemáticas, estables y empíricamente demostrables, se aleja de la subjetividad limitada y arbitraria de la mente humana, por lo que parecería razonable que, una vez alcanzada la plena autonomía del proceso técnico, la inteligibilidad humana dependa de la técnica, reservando la condición arquetípica a la nube, en vez de a su humano creador. En segundo lugar, la atribución a la nube de la característica de inmaterialidad de la idea platónica procedería de un complejo proceso evolutivo en el que los caracteres materiales del hombre, derivados del cuerpo o de la mente, adquirieron en el pasado una relevancia axiológica que ha tenido consecuencias jurídicas. Así, por ejemplo, como los caracteres fenotípicos del cuerpo humano tales como el sexo o la raza, dieron lugar, en el pasado, a proyectos axiológicos supremacistas o igualitaristas que influyeron en la condición jurídica de la persona, hoy, se proyectan hacia la posibilidad de que esta supermemoria, inmaterial, pueda ser reconocida también con una personalidad jurídica, tal y como esgrimió en los inicios del desarrollo de la Inteligencia Artificial el artículo de Marshall Willick12. Y, en tercer lugar, la hipótesis de caracterizar a la Inteligencia Artificial como una idea platónica adquiere aún una relevancia exponencial cuando, además del desarrollo de la personalidad jurídica, a este tipo de inteligencia se le dota, además, de un carácter moral (AMA – Artificial Moral Agent-)13 con la que, aseguran sus promotores, estas nubes pueden ser programadas para actuar con unas reglas éticas absolutas, ya sean de menor o mayor intensidad o precisión según el lenguaje matemático de su programación14. Con su autonomía jurídicamente garantizada, en principio, esta nube podría seguir el canon de una perfecta ejecución de lo programado, sin que tenga que intervenir la condición libre del género humano que le hace ser incorruptible moralmente. Así, lo que en principio se conocía como un mero depósito de memoria, puede llegar a convertirse en un sistema de control exhaustivo, capaz de desarrollar un comportamiento ético con el que se evite la corrupción o, al menos, el uso inmoral de los datos almacenados. De esta manera, aunque no se haya logrado aún esa forma tan compleja, lo que subyace, una vez que hemos dotado a esta nube de cierta personalidad moral, no es ni más ni menos que la pretensión de control de aquella suprema idea platónica que habitaba en la cúspide del mundo suprasensible: la idea del Bien, que era la que ordenaba toda la realidad sensible. 12. Marshall WILLICK, “Artificial Intelligence. Some Legal Approaches and Implications” en AI Magazine, 4 (2) 5, p. 3, https://doi.org/10.1609/aimag.v4i2.392. 13. Wendell WALLACH – Colin ALLEN, Moral Machine. Teaching Robots Right from Wrong, Oxford University Press, Oxford, 2009, p. 16. 14. Vanessa NUROCK, “¿Puede prestar cuidados la Inteligencia Artificial?” Cuadernos de Relaciones Laborales, 38 (2) 2020, 217-229, p. 224. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 116 Por esa pretensión, parece razonable que el Derecho haya podido sentir la inevitable atracción hacia ese sistema futurible de ordenación autónoma, que pueda generar la IA como un sistema de control de la realidad. A favor de la atribución de autonomía personal a la IA por sus posible beneficios se pronunció el considerando 59 f) de la Resolución del Parlamento Europeo de 16 de febrero de 2017, que refería sobre la necesidad de: «crear a largo plazo una personalidad jurídica específica (…) de forma que, como mínimo, los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente»15. Sin embargo, una perspectiva más moderada se ha presentado con el argumento de que una autonomía tal sólo puede predicarse de los seres humanos. Ya sea por la falta de empatía ante la responsabilidad de los defectos que pudiera ocasionar, como advierte la Resolución del Parlamento Europeo de 12 de febrero de 201916, o con una argumentación más crítica aún, en el Informe del Grupo de Expertos sobre Responsabilidad y Nuevas Tecnologías, en contra de otorgar entidad jurídica a la personalidad electrónica (además de la física y jurídica)17, puesto que, por ejemplo, en el caso de las reclamaciones, la posibilidad de una concesión de personalidad electrónica carecerían de verdadera operatividad, aún cuando la capacidad de gestión fuera superior a las anteriores personalidades18. Pareciera así, que el rol del Derecho es el de aquellos hombres que, inmersos en el fondo de la caverna, quisieran impedir que el hombre se dejara irradiar por la eterna luz de la técnica que los contemporáneos derivan de la idea del Bien, y que deslumbra a quienes, permaneciendo aún en las sombras temen las consecuencias de esa luz cegadora para el intrépido personaje que desafía las leyes que rigen la caverna. 2. La tensión aporética: Unidad y pluralidad en el lenguaje y en el Ordenamiento jurídico La aporía jurídica que se describe en el conflicto de personalidad electrónica de la IA, tiene otra derivada presente en la doctrina platónica, basada en la difícil relación entre la unidad y la multiplicidad, entre lo personal y lo social. En efecto, en el universo platónico, las ideas son la unidad de la multiplicidad19, es decir, la posibilidad de que lo 15. Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)) en https://www. europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.html 16. Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica (2018/2088(INI)) en https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_ES.html 17. https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199. 18. Miguel L. LACRUZ MANTECÓN, Robots y personas. Una aproximación jurídica a la subjetividad cibernética, Reus, Madrid, 2020, p. 86. 19. Cfr. I. RAMELLI, “Uno-molti”, en Virgilio MELCHIORRE (ed.), Enciclopedia Filosofica, vol. 12, Bompiani, Milano, 2006, p. 11911. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 117 plural pueda percibirse en una unidad sinóptica, que puede condensarse en la idea de la justicia, con la que el ateniense busca la solución al dualismo, pues desde el principio universal en el que la formula, refiere a la puesta en práctica desde la propia naturaleza hacia la plenitud de la realidad, hacia la armonía20. Creo que, precisamente, la nube aparece con esta tensión de armonizar en una globalidad las diferencias del mundo contemporáneo. La gramática que ordena la conexión digital tiene la finalidad de una sociedad más justa, si bien tiene el inconveniente de que sólo puede realizarse mediante el mismo lenguaje; un lenguaje matemático que es el único que puede acoger los datos y la información en un mismo y único lugar en el que se encuentra el todo, sin atender a cualquier otra pluralidad lingüística, nacional o normativa. De este modo, la técnica parece haber descifrado la unidad con la que se ha podido superar el drama babeliano de la naturaleza humana y, así, mediante el dominio de esta gramática informática, aspirando al principio de justicia, se pueda acceder a una única cultura, cuyo lenguaje se está convirtiendo en principio normativo para todas las sociedades. A mi juicio, esta es una de las razones por las que el Derecho positivo ha recelado de la Inteligencia Artificial porque al invocarse la dimensión axiológica, con sus connotaciones universales, parecería que además de la indeterminación normativa, el concepto de justicia se evaporaría frente a la rígida pretensión de la única expresividad normativa del Ordenamiento jurídico. Sin embargo, de esta unidad axiológica, y de su inevitable imposición globalizadora, depende ciertamente el éxito de la Inteligencia Artificial, pues está llamada a convertirse en el instrumento privilegiado para la construcción de una nueva sociedad en la que los sistemas normativos nacionales sólo pueden tener la capacidad de gravar, en todo caso, la actividad mercantil de algunas de sus transacciones. La comunicación o conexión digital, entonces, permite la relación entre los diversos, pero obedeciendo unas leyes que, precisamente, no son las impuestas por un Estado determinado, sino por el mercado de los datos, aparentemente anónimo. Sin embargo, eso no supone un obstáculo a la justicia. Lo verdaderamente justo aparece siempre y cuando, todos puedan acceder a ese lenguaje matemático que impone la nube (como expresión de la Inteligencia Artificial) para acceder a esa idea de justicia universal, cosa que veremos en la segunda imagen. III. EL MURO DE LA ECONOMÍA SOCIAL Así como en el despertar de la reivindicación de los derechos subjetivos del siglo XIV se generó una nueva cultura social, del mismo modo, hoy estamos presenciando que este modelo matemático va a provocar unos cambios tan sustanciales en la vida social y 20. Guido FASSÒ, Storia della filosofía del diritto, vol. I. Antichità e medioevo, Laterza, Roma, 2001, p. 49: «Ciò tuttavia non è perché Platone ignori o svaluti l’aspetto intersoggetivo, sociale, del comportamento dell’uomo: anzi, è appunto dal problema del “giusto” in senso propio e stretto che Platone è condotto ad estendere il concetto di esso a quello di una “giustizia” che altro non è se non perfetta armonía degli elementi dell’anima; sempre rispondendo all’esigenza di spingere la ricerca fino all’essenza assoluta di ogni cosa, di ogni valore, di cui si voglia, socráticamente, definiré il concetto». IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 118 jurídica como en aquel tiempo, si bien con un matiz muy distinto. Si entonces, aquellos derechos subjetivos florecieron costosamente en torno al siglo XVI, la nueva mutación social se está produciendo con una velocidad asombrosa. Con el modelo blockchain, la tecnología dirigida, originalmente al campo de la economía, ha encontrado su último bastión de libertad frente a las concurrencias del poder político intervencionista. La tecnología madre de este producto recibe el nombre de DLT (tecnología de registros distribuidos), que consiste en un protocolo formal de reglas matemáticas, capaz de efectuar registros de datos o abonos con eficacia jurídica21. Se desarrolla a través de un sistema peer to peer electrónico, en el que las partes determinan la mayoría de los contenidos contractuales, por ejemplo, en las cuestiones acerca la ley o el foro aplicable en casos de devolución de las prestaciones22 con lo que se acentúa el carácter jurídico-privado de su naturaleza. Su objeto, por tanto, es asegurar los intercambios de datos y registros monetarios de las transacciones, sin que se tenga la necesidad de recurrir a terceras instituciones políticas, de matriz gubernamental, que garanticen su eficacia23. De manera que, en el fondo, el propósito del blockchain no es otro que volver al origen de la economía de mercado: construir mediante materiales sólidos los muros del nuevo sistema económico basado en el principio de la confianza, para que proteja el mercado tanto de las pretensiones del poder institucional como de la barbarie que los circunda. Sin lugar a duda, este modelo adquirirá un protagonismo político evidente en esta nueva década. No por casualidad, el auge de este sistema coincidió con la crisis financiera de los años anteriores, en la que los sistemas de control estatales demostraron su ineficacia, ya fuera porque fueron vulnerables para impedir la predicción del cataclismo económico, o peor aún, porque estas instituciones formaron parte del mismo sistema corrupto que maquillaba las cuentas de resultados de esas empresas financieras. El caso es que, el éxito de estos sistemas de bloques tecnológicos generados por la Inteligencia Artificial, están suplantando los modelos de confianza que, en el pasado, adquirieron las instituciones internacionales (FMI, Banco Mundial, Bancos Centrales Nacionales, etc.) precisamente 21. Javier Wenceslao IBÁÑEZ JIMÉNEZ, Blockchain: primeras cuestiones en el ordenamiento español, Dykinson, Madrid, 2018, p. 49: «En una blockchain se pueden asegurar indistintamente las dos funciones jurídicas señaladas: la publicitaria y la creadora de derechos». Sobre la legitimación registral de la blockchain advierte en la p. 50: «Para que funcione el principio de modo semejante al de un registro público oficial bajo los principios avanzados de registración deberán cumplirse las premisas de que: a) (…) queden bajo tutela judicial y produzcan eficacia hasta que se declare su eventual inexactitud; b) se establezca formalmente la presunción legal de existencia (…)». 22. Andrea STAZI, Automazione contrattuale e “Contratti Inteligenti”. Gli Smart contracts nel diritto comparato, Giappichelli editore, Torino, 2019, pp. 137-138: «Al di là di tali previsioni, date le molteplici e spesso nuove caratteristiche dei “contratti intelligenti”, le parti possono evitare incertezze relative alla legge applicabile indicandola preventivamente nel contratto. Analogamente (…), le piattaforme Blockchain per smart contracts o le parti possono inserire negli stessi clausule arbitrali o meccanismi di recupero delle prestazioni». 23. Cfr. Sebastiano MAFFETTONE, Politica. Idee per un mondo che cambia, Le Monnier, Firenze, 2019, p. 82. Cfr. Javier Wenceslao IBÁÑEZ JIMÉNEZ, Blockchain: primeras cuestiones en el ordenamiento español, Dykinson, Madrid, 2018, p. 16. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 119 A pesar de que la ciencia no recuerda un esfuerzo competitivo de esta magnitud por alcanzar un freno a la última gran pandemia de nuestro siglo, a finales de noviembre de 2020 aún está en discusión la eficacia de las vacunas que se han desarrollado a toda velocidad durante el presente año45. Durante estos meses, y hasta que no se alcance el objetivo de una vacuna segura, que no dejará de tener perfiles éticos que puedan ser debatidos racionalmente, las autoridades sanitarias y gubernativas no han tenido otra salida que imponer duras restricciones a los derechos y libertades fundamentales que tan arduamente se consiguieron en el siglo pasado. En el periodo álgido de la primera ola de la pandemia, el concepto “distancia social” ganó presencia en el léxico a partir de la imposición coercitiva de los confinamientos. La sigilosa propagación de un virus, tan desconocido como letal, impidió que ninguna alarma sanitaria prendiese seriamente antes de inicios del mes de enero, en la mayoría de los países europeos. De hecho, en el Reino de España, el gobierno promocionó manifestaciones públicas durante la primera semana de marzo a sabiendas de la situación que se estaba gestando, pues sólo una semana después de aquella concentración masiva, estaba declarando la restricción más importante de derechos y libertades del periodo democrático. Pero, aún cuando las recomendaciones sanitarias elevaban su voz, ni las instancias gubernamentales, ni mucho menos la población civil estaba dispuesta a abandonar un modo de vida libre de toda restricción. Fue entonces cuando, bajo el argumento de la presión hospitalaria, en algunos estados de la Unión Europea se introdujo la práctica de unos confinamientos domiciliarios con el objetivo de implantar la distancia social, concepto que se ha instalado desde la dimensión social de nuestras instituciones, para proteger a los más vulnerables. Con “distancia social” califico la obligación de practicar una separación interpersonal de, al menos 1,5 m., así como la obligatoriedad del uso de las mascarillas quirúrgicas46. Junto con estas medidas interpersonales, se han implementado otras medidas restrictivas como el toque de queda, limitaciones de aforos, restricciones sobre reuniones públicas, limitaciones sobre la libre circulación de personas, y cierres perimetrales de ciudades y regiones enteras, etc. En la mayoría de los casos, cuando no suponían una sanción su incumplimiento, se han impuesto generando un clima de sospecha social hacia quien infringiera estas normas. Con este contexto, mi objetivo al analizar el concepto de “distancia social” es percibir la aporía jurídica que suponen estas obligaciones en personas que no han recibido ni la 45. https://www.astrazeneca.es/medios/notas-prensa/2020/azd_1222_vaccine_met_primary_ efficacy_endpoint_in_preventing_covid19.html [Consultado 28 noviembre 2020] 46. Obligatoriedad que no se generalizó hasta que no fue posible el acceso universal a ellas. https://www.boe.es/eli/es/o/2020/05/19/snd422. Toda vez que dicha obligatoriedad es discutible, más jurídica que sanitariamente, pues su precio llevaba aparejado cargar un IVA del 21% hasta el 4%. Resolución de 13 de noviembre de 2020 de la Dirección General de Cartera Común de Servicios del Sistema Nacional de Salud y Farmacia, por la que se publica el Acuerdo de la Comisión Interministerial de Precios de los medicamentos de 12 de noviembre de 2020 por el que se revisan los importes máximos de venta al público, en aplicación de lo previsto en el art. 94.3 del texto refundido de la Ley de Garantías y Uso racional de los medicamentos y productos sanitarios aprobado por el Real Decre- to Legislativo 1/2015 de 24 de julio en https://www.boe.es/eli/es/res/2020/11/13/(2) IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 126 información suficiente, ni con la calidad necesaria, para que pudieran responder a esta emergencia con las garantías constitucionales requeridas. Quiero precisar que subrayar algunas de las consecuencias que la tecnología ha provocado, por ejemplo en los ancianos, no tiene la finalidad de censurar el avance tecnológico, ni tampoco asumir las tesis “negacionistas”, solamente quiero promover una conciencia de responsabilidad y especial cuidado hacia quienes han tenido la dificultad de adaptación al frenético ritmo que ha impuesto la adaptación tecnológica en las condiciones de pandemia, porque la alternativa a esta protección es únicamente la exclusión. Entiendo que, con la implementación de estas medidas de “distancia social” se ha creado una nueva frontera, levantada por los muros que prometían proteger nuestra civilización tecnocrática. Lo que había comenzado bajo la pretensión de una nueva conectividad, la digitalización, el trabajo telemático, el internet de las cosas, ha generado a mi modo de ver un ámbito más de exclusividad. 1. Conectividad: entre el desarraigo y la protección Desde que el 25 de julio de 1995, el ministro socialista de Obras Públicas, Transporte y Medio Ambiente Josep Borrell concediera a Telefónica Móviles iniciar el servicio GSM hasta nuestros días, la penetración de la tecnología de telefonía móvil e internet de las cosas ha sido exponencial en la sociedad española, demostrando que la conectividad ha sido uno de los acontecimientos más destacados en la transición del milenio. Si entonces la adquisición de terminales llegó al 2,5%, veinticinco años después el porcentaje supera con creces el 100% dando casi por descontado que la mayoría de los ciudadanos tienen acceso al menos a un dispositivo electrónico. En efecto, si hace veinticinco años, la telefonía móvil permitía la conectividad en cualquier lugar donde llegara la señal, hoy las grandes compañías telefónicas, a través de la inteligencia artificial conocen cada particular de nuestra vida a través del uso de los datos que se le proporcionan con el uso cotidiano del internet de las cosas. Si entonces, la publicidad nos invitaba a consumir aquel producto que ofrecía la libertad de movimiento, en nuestros días, su uso, lejos de percibirse como un producto liberador implica una experiencia ambivalente, por un lado, de la dependencia personal que genera la conectividad, y por otro, de la mayor posibilidad de sufrir la manipulación y control externo de los datos que producimos. Así, lo paradójico de este asunto es que un instrumento que se implantaba en nuestra cultura como un elemento con el que superar la “distancia social”, hoy pueda ser percibido desde la antropología reciente como una herramienta que ha dado paso a la extrema individualización, a la asimilación de la persona por el terminal, es decir, a la robotización del sujeto-persona. De hecho, en innumerables técnicas de identificación personal, por ejemplo, en el acceso a las cuentas bancarias y a otras claves electrónicas, el número de terminal móvil puede sustituir hasta a la identificación estatal del Documento Nacional de Identidad o Pasaporte. Y, tal y como sucedía en la técnica del Blockchain, quien ha expedido esa identificación no ha sido una autoridad independiente estatal, sino una empresa privada, con inevitables fines mercantiles que, por el simple uso de su tecnología, poseen esos datos sensibles de todos sus abonados. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 127 Aquella promesa de libertad se ha transformado en una dependencia que puede alterar las relaciones sociales. Sin embargo, esta situación, que ha generado conflictos jurídicos entre las grandes compañías que se sostienen por la inteligencia de los Big Data y los organismos europeos y nacionales47 no se ha percibido aún como un verdadero problema por la sociedad. Todo lo contrario, en este tiempo de pandemia, la tecnología ha permeado aún con una mayor fuerza en el consumo de los datos, sea porque la distancia social exigía un nuevo modo de comunicación, o sea porque se ha acelerado el proceso de individualización radical en un nuevo modelo de sociedad del que todavía no alcanzamos a prever su verdadera dimensión. Si en las anteriores pandemias, el control de la población suponía un aislamiento absoluto de los afectados, generando una exclusión radical, en la presente, el modelo tecnológico parece haber humanizado esa exclusión, con la contrapartida de que ese modelo comunicativo pueda sustituir las inconveniencias que genera la vida social humana por otra cuyo modelo no deja de ser artificial. En efecto, si en medio de esta pandemia las relaciones humanas se han podido desarrollar satisfactoriamente a través de los terminales tecnológicos ¿pueden estos sustituirse por la caricia humana? O, en un caso más extremo, el uso de esta tecnología ¿no ha eximido, en algún caso, la responsabilidad civil del cuidado humano de los mayores, o de la custodia de los hijos cuyos padres han disuelto la relación? Con esta nueva realidad se dibuja, por tanto, un futuro con unas nuevas condiciones, en las que la tecnología tendrá que dar cuenta de que no basta una regulación positiva de todos los particulares de la nueva vida social. En esta, en medio de la incertidumbre que genera el contacto físico, parece que vuelve a imponerse la ideología del estado de naturaleza de matriz hobbsiana, que concibe a los hombres como lobos para los hombres, especialmente por su alta posibilidad de contagio en tiempo de pandemia. Por eso, si ya me parece peligroso que sea el Leviathan-Estado quien reciba la libertad para el pactum subjectionis, más dudas me genera que ese lugar lo ocupen, deliberadamente, esas grandes compañías, que promueven el nuevo pacto social tecnológico, por supues- to, con el beneficio de que esa “distancia social” sea salvada por medio de los Big Data. A pesar de que, en efecto, la hiperconectividad haya podido aliviar el efecto des-huma- nizador de la pandemia, hay sectores de la población que han visto mermadas sus expectativas. Apuntábamos cómo la insuficiente formación tecnológica ha podido generar la exclusión, no sólo desde el punto de vista cultural, sino también desde la administración pública. Así, en la época de pandemia se redujo la capacidad de acceder a los servicios sociales esenciales de los que deben responder, por ejemplo, los ayuntamientos y entidades locales, que se sirven del instrumento del padrón municipal como cauce administrativo para innumerables servicios con los que satisfacer las demandas sociales, no sólo de esos entes locales, sino también otras entidades (ONG’s) que lo solicitan para una mayor efectividad de sus limitados recursos. En este caso se produjo una circunstancia peculiar, propia de la parálisis que generó la pandemia, pues sólo tres días después de la declaración de estado 47. https://ec.europa.eu/transparency/regdoc/rep/1/2017/EN/COM-2017-228-F1-EN-MAIN- PART-1.PDF IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 128 de alarma (14 de marzo de 2020)48, el 17 de febrero de 2020, se derogó una Resolución del Instituto Nacional de Estadística y de la Dirección General de Coordinación de Competencias con las Comunidades Autónomas y las Entidades Locales que disponía instrucciones técnicas a los Ayuntamientos sobre la gestión del padrón municipal. Sin embargo, a pesar de que esta reforma se aprobó en el mes de febrero, no fue publicada hasta el 2 de mayo de 2020, es decir, más de un mes y medio después, con el agravante de que no había posibilidad de contactar con la oficina del censo por estar en medio de la pandemia49. Este caso, sin duda, fue una causa flagrante de exclusión social que, aunque comprensible en aquel momento para los integrantes de la plantilla de aquellas oficinas, supuso una situación de “desarraigo administrativo”50 para los que debían ser beneficiarios de esa política social. Estos se preguntaban ¿Cómo podrían obtener alimentos y un modo de vivir digno en esa situación quienes dependían, por un lado, de ínfimas ayudas públicas, por otro, del altruismo de instituciones del tercer sector y, finalmente de un trabajo degradado, si, en primer lugar, los organismos oficiales estaban clausurados; en segundo lugar, estas instituciones del tercer sector solicitan generalmente, al menos, la inscripción en un padrón municipal, que también estaba clausurado; y en tercer lugar, bajo la obligación de estar confinados que les impedía ejercer ese trabajo degradado? Ciertamente, a este sector de la población, la tecnología no dio respuesta en los casi noventa y nueve días de confinamiento oficioso. Para responder a esta pregunta habría que mirar, en primer lugar, cómo aquella imperiosa necesidad se solventó, precariamente, gracias al cuidado entre esos mismos desarraigados y, en más de una ocasión, a que las exigencias necesarias de control del tercer sector se vieron levantadas por la urgencia de atenderlos. Sin embargo, es llamativo cómo mientras que, en un primer escenario de nuestro mundo la conectividad resolvía algunos problemas: laborales, mediante el teletrabajo; educativos, a través de las plataformas virtuales de enseñanza; y emocionales, por medio de los medios virtuales; para esos desarraigados, sus necesidades básicas no se colmaron con la Inteligencia Artificial, sino con una humanidad que salió a socorrerlos y, en la medida de las posibilidades, a protegerlos y cuidarlos. Parece aún que, en este ámbito de la pobreza extrema, la oferta que tiene la IA no está desarrollada, pues en todo caso aparecen algoritmos para predecir cuáles son los focos donde incentivar más la ayuda humanitaria, pero se eximen de realizarla51. 48. https://www.boe.es/eli/es/rd/2020/03/14/463 49. Cfr. https://www.boe.es/buscar/act.php?id=BOE-A-2020-4784#A15 50. Simone WEIL, Raíces del existir. Preludio a una declaración de deberes hacia el ser humano, María Eugenia VALENTIÉ (trad.), Sudamericana, Buenos Aires, 1954, p. «El desarraigo es, sin lugar a duda, el mal más peligroso de las sociedades humanas, pues se multiplica a sí mismo. Los seres verdaderamente desarraigados casi no tienen más que dos comportamientos posibles: o caen en la inercia del alma casi equivalente a la muerte, como la mayor parte de los esclavos en la época del Imperio Romano, o se precipitan en una actividad que tiende siempre a desarraigar, a veces por los métodos más violentos a aquellos que no lo están todavía, o que lo están en parte». Siguiendo esta intuición de la filósofa parisina, utilizar la expresión “desarraigo administrativo” imputaría a la Administración pública de esas condiciones en las que puede derivar la ausencia de intervención y protección. 51. https://www.juanbarrios.com/inteligencia-artificial-para-mapear-la-pobreza/ [Consultado el 1 enero 2020]. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 129 2. La ficción y la realidad Además de esta y otras deficiencias éticas, la pretensión optimista de los correligionarios del transhumanismo, generado por la Inteligencia Artificial, se ha encontrado, de repente, con esta “peste contemporánea” que, por lo menos, ha retrasado la imparable carrera de sus deseos de matar a la muerte, como señalaba el autor de la famosa Fábula del dragón tirano52. Precisamente, para el filósofo sueco de la Universidad de Oxford Nick Bostrom, la nueva humanidad contemporánea se vería aliviada con la desaparición de las enfermedades, y con el tiempo, la prolongación de la vida hasta límites desconocidos, pero lo único que podría frenar el avance del imperio tecnológico contra ese dragón serían las pandemias, o las guerras químicas y otros riegos que, por impredecibles, seguirían computando lamentablemente en el haber de la muerte53. Aunque suene como un recurso literario, el tiempo le ha dado la razón, al menos con esta pandemia, pues la Inteligencia Artificial ha quedado presa de esa advertencia. Nada hizo prever que pudiera ocurrir este desastre que sólo se ha podido combatir con las tradicionales técnicas del aislamiento social, antes de que se puedan desarrollar las inmunoterapias. En efecto, la peste, la lepra, la pandemia, como desde el siempre, han desplegado su potencial desestabilizador de la civilización54, generando un miedo e incertidumbre que, precisamente, es el caldo de cultivo de la aparición de los nuevos populismos que, además de a la política, afectan también a la credibilidad científica55. Sin embargo, a pesar de que los efectos de estos nuevos populismos sirvan de efecto efervescentes para la propagación de la barbarie, el problema de fondo subyace sin que queramos ver la realidad, un problema que nace desde el momento que comienza la vida y no se extingue: la muerte. Por más que Bostrom haga fe de un voluntarismo ciego en la ciencia y la tecnología, y acuse a quienes critiquen su optimismo radical en la Inteligencia Artificial, sorprendente la ingenuidad benévola con la que, determinada ciencia se ha empoderado del sentido de la vida. Aunque cueste reconocerlo, la pandemia ha dejado desnuda la narración del filósofo sueco, al que también se le puede argüir con el cuento del Hans Christian Andersen, El traje nuevo del Emperador, en el que precisamente también un niño deja en evidencia a toda la corte de aduladores, gritando que el rey estaba desnudo. Efectivamente, la pandemia ha dejado desnuda, no a una ciencia que lucha denodadamente por alcanzar una vacuna cuanto antes, sino a esa corte 52. Nick Bostrom, La fábula del dragon tirano, 2015 en https://tendencias21.levante-emv.com/ el-envejecimiento-es-una-tiranico-dragon-que-puede-ser-abatido_a703.html 53. Cfr. Nick Bostrom, “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards”, Journal of Evolution and Technology, vol. 9, nº 1, 2002 en https://www.nickbostrom.com/existential/risks.html: «There are several features of today’s world that may make a global pandemic more likely than ever before. Travel, food-trade, and urban dwelling have all increased dramatically in modern times, making it easier for a new disease to quickly infect a large fraction of the world’s population». 54. Cfr. Andrés Sáez, La peste Antonina: una peste global en el siglo II, Revista Chilena de Infectología, vol. 33, nº 2 (2016). 55. Cristina G. Lucio, “Crece el miedo a la vacuna: «El populismo lo ha impregnado todo y eso genera desconfianza» en https://www.elmundo.es/ciencia-y-salud/salud/2020/11/23/5fbb42abfc6c- 834b3a8b45d5.html IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 130 pseudocientífica que, aprovechando el esfuerzo del rigor científico, profetiza con fervor la llegada de una nueva humanidad. Me parece que la muerte es demasiado seria y atroz como para jugar con ella, aunque los populismos busquen distraernos con sus fantasías e ilusiones, para pescar a río revuelto. V. CONCLUSIÓN Con estas tres imágenes de alto valor simbólico: la nube, el muro y la peste he querido mostrar la difícil armonización entre la emergente Inteligencia Artificial y su ámbito de regulación jurídica para que pueda proteger también a los más desfavorecidos. La novedad a la que apunta toda la Inteligencia Artificial trata desprenderse de los elementos que puedan limitarla, al mismo tiempo que busca depender exclusivamente de una perspectiva socializadora del Derecho, para que no la rija ni la excesiva eticidad de la dimensión axiológica, ni la rigidez estatalista de la dimensión normativa. Así, los protagonistas del nuevo derecho que parece emerger ante nosotros van a ser también los operadores tecnológicos, algunos de ellos también dependientes de los mismos algoritmos que se van autoformando, y sólo en último término podrá encontrarse un poder legislativo, posiblemente anónimo. ¿No es esto, al menos, inquietante? Con las imágenes de la nube, el muro y la peste, he querido mostrar algunas de las aporías a las que conduce la Inteligencia Artificial, y que puede que solo se resuelvan cuando aparezca una nueva racionalidad marcada por la lógica cuántica, cosa que todavía queda demasiado lejana para hermenéutica legislativa contemporánea. Pero sea como fuere, la realidad parece imponerse, ya sea en los límites de la definición de la personalidad electrónica, en las relaciones económicas y en el ámbito socializador de la comunicación. Estas dudas no obstan para que el desarrollo tecnológico siga creciendo y aportando nuevas soluciones a los problemas que nuestra sociedad padece, sin embargo, parece que la agenda por la cual se guía el esfuerzo económico y científico de la Inteligencia Artificial no está aún coordinado con las exigencias reales a las que nos enfrentamos. Las diversas hipótesis que han reflejado las imágenes de la nube, el muro y la peste demuestran que la perspectiva de este desarrollo tan acelerado no está acompasado con las necesidades humanas, sino que están introduciendo un programa axiológico en el que la dependencia de la Inteligencia Artificial supere las expectativas de las condiciones biológicas, de manera que puedan percibirse como necesarias, por ejemplo, la exigencia de una agencia de atribución de personalidad ajena a cualquier ámbito biológico (quedando desfasada incluso la ideología de género, por ejemplo), la posibilidad de que las máquinas puedan ser verdaderos sujetos morales o incluso agentes jurídicos (legislativos o jueces), e incluso la posibilidad de que puedan crearse instancias que permitan comprender como necesaria la dependencia de un mundo limitado regido por las leyes naturales respecto a otro indefinido, regido sólo por las infinitas cualidades del poder del algoritmo, es decir, por la nueva civilización IA. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 131 BIBLIOGRAFÍA Alfonso XI. 1334. “Tratado de Prouision sobre los enfermos de esta casa” en MORENO TORAL, Esteban. 1995. Estudio Social y Farmacoterapéutico de la lepra: El hospital de San Lázaro de Sevilla (s. XIII-XIX), Universidad de Sevilla, Sevilla, (241-244). ARISTÓFANES. 2004. Las Nubes, El Cid editor, Santa Fe. ARROYO GUARDEÑO, David - Díaz Vico, Jesús – Hernández Encinas, Luis (eds.). 2019. ¿Qué sabemos de Blockchain?, CSIC-Los Libros de la Catarata, Madrid. BAENA ZAPATERO, Rafael. 2018. “Blockchain y Derecho de la Competencia: Una primera, y probablemente prematura, exploración” en García Mexía, Pablo (dir.), Criptoderecho. La regulación de Blockchain, Wolters Kluwer, Las Rozas, (583-615). CASEY, Michael J. – VIGNA, Paul. 2018. “In Blockchain We Trust”, MIT Technology Review, vol. 121, nº 3. FASSÒ, Guido. 2001. Storia della filosofía del diritto, vol. I. Antichità e medioevo, Laterza, Roma. FERNÁNDEZ BRAÑA, Miguel. 2014. La lucha continua: una historia de infecciones y cáncer, Tébar, Madrid. GARCÍA MEXÍA, Pablo. 2018. “Del ciberderecho al criptoderecho. La criptoregulación” en Pablo García Mexía (dir.), Criptoderecho. La regulación de Blockchain, Wolters Kluwer, Las Rozas, (75-140). HARARI, Yuval Noah. 2017. Homo Deus: breve historia del mañana, Joandomènec Ros (trad.), Debate, Barcelona. IBÁÑEZ JIMÉNEZ, Javier Wenceslao. 2018. Blockchain: primeras cuestiones en el ordenamiento español, Dykinson, Madrid. LACRUZ MANTECÓN, Miguel L. 2020. Robots y personas. Una aproximación jurídica a la subjetividad cibernética, Reus, Madrid. LLANO ALONSO, Fernando. 2018. Homo excelsior: los límites ético-jurídicos del transhumanismo, Tirant lo Blanch, Valencia. LUHMANN, Niklas. 1996. Confianza, Rodríguez Mansilla, Darío (ed.), Anthropos, Barcelona. MAFFETTONE, Sebastiano. 2019. Politica. Idee per un mondo che cambia, Le Monnier, Firenze. MORALES BARROSO, José. 2018. “¿Qué es Blockchain?” en Pablo García Mexía (dir.), Criptoderecho. La regulación de Blockchain, Wolters Kluwer, Las Rozas, (39-74). NASARRE AZNAR, Sergio. 2020. “Naturaleza jurídica y régimen civil de los «token» en «blockchain» en García Teruel, Rosa María (Coord.), La tokenización de bienes en blockchain. Cuestiones civiles y tributarias, Thomson Reuters, Cizur Menor, (61-107). NUROCK, Vanessa. 2020. “¿Puede prestar cuidados la Inteligencia Artificial?” Cuadernos de Relaciones Laborales, vol. 38 nº. 2, (217-229). PÉREZ LUÑO, Antonio-Enrique. 2005. Teoría del Derecho. Una concepción de la experiencia jurídica, Tecnos, 2005. RAMELLI, Ilaria. 2006. “Uno-molti”, en Virgilio Melchiorre (ed.), Enciclopedia Filosofica, vol. 12, Bompiani, Milano, (11911-11912). ROJO, María Isabel. 2019. Blockchain. Fundamentos de la cadena de bloques, Ediciones de la U, Bogotá. ROSSITTO, Cristina. 2006. “Aporía” en Melchiorre, Virgilio (ed.), Enciclopedia Filosofica, vol. 1, Bompiani, Milano, (570-572). RUBIO NÚÑEZ, Rafael. 2018. “Blockchain: Gobierno y Democracia”, en Pablo GARCÍA MEXÍA (dir.), Criptoderecho. La regulación de Blockchain, Wolters Kluwer, Las Rozas, (217-249). IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 132 SÁEZ, Andrés. 2016. La peste Antonina: una peste global en el siglo II, Revista Chilena de Infectología, vol. 33, nº 2, (218-221). SEIDENGART, Jean. 2007. “Cosmo-lógica”, en André Jacob (dir.) El universo filosófico, José Ignacio Galparsolo Ruíz– Francisco José Poza Martín (trads.), Akal, Madrid, (485-495). STAZI, Andrea. 2019. Automazione contrattuale e “Contratti Inteligenti”. Gli Smart contracts nel diritto comparato, Giappichelli, Torino. WALLACH, Wendell –Allen, Colin. 2009. Moral Machine. Teaching Robots Right from Wrong, Oxford University Press, Oxford. WEIL, Simone. 1954. Raíces del existir. Preludio a una declaración de deberes hacia el ser humano, Valentié, María Eugenia (trad.), Sudamericana, Buenos Aires. WILDE, Oscar. 1890. El retrato de Dorian Gray, Feedbooks. WILLICK, Marshall. 1983 “Artificial Intelligence. Some Legal Approaches and Implications” en AI Magazine, vol. 4 (nº. 2), https://doi.org/10.1609/aimag.v4i2.392. Recursos electrónicos BOSTROM, Nick. 2015. La fábula del dragon tirano, en https://tendencias21.levante-emv.com/ el-envejecimiento-es-una-tiranico-dragon-que-puede-ser-abatido_a703.html —, 2002. Nick Bostrom, “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards”, Journal of Evolution and Technology, vol. 9, nº 1, en https://www.nickbostrom. com/existential/risks.html CRISTINA G. Lucio, “Crece el miedo a la vacuna: «El populismo lo ha impregnado todo y eso genera desconfianza» en https://www.elmundo.es/ciencia-y-salud/salud/2020/11/23/5fb- b42abfc6c834b3a8b45d5.html MAY, Timothy. 1992. “Crypto Anarchist Manifesto” en https://www.activism.net/cypherpunk/ crypto-anarchy.html. https://www.astrazeneca.es/medios/notashttps://humaniq.com/ https://www.elmundo.es/ciencia-y-salud/salud/2020/11/23/5fbb42abfc6c834b3a8b45d5.html https://www.juanbarrios.com/inteligencia-artificial-para-mapear-la-pobreza/ [Consultado el 1 enero 2020]. https://es.linkedin.com/pulse/la-revolución-blockchain-y-cómo-hará-avanzar-justicia-jo- se-gefaell. (Consultado el 23 de noviembre de 2020). https://www.silicon.es/ibm-q-system-one-los-sistemas-de-computacion-cuantica-ya-apun- tan-a-uso-comercial-2388825. (Consultado 22 noviembre 2020). prensa/2020/azd_1222_vaccine_met_primary_efficacy_endpoint_in_preventing_covid19. html [Consultado 28 noviembre 2020] Legislación Constitución española (BOE nº 311, de 29 de diciembre de 1978) Expert Group on Liability and New Technologies – European Union. 2019. Liability for Artificial Intelligence and other ermerging digital technologies, in https://ec.europa.eu/newsroom/ dae/document.cfm?doc_id=63199. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 133 European Commission, Communication on the Mid-Term Review on the implementation of the Digital Single Market Strategy, en https://ec.europa.eu/transparency/regdoc/rep/1/2017/ EN/COM-2017-228-F1-EN-MAIN-PART-1.PDF Ley 15/2007 de 3 de julio de Defensa de la Competencia en https://www.boe.es/eli/ es/l/2007/07/03/15 Orden SND/422/2020, de 19 de mayo, por la que se regulan las condiciones para el uso obligatorio de mascarilla durante la situación de crisis sanitaria ocasionada por el COVID-19 en https://www.boe.es/eli/es/o/2020/05/19/snd422 Real Decreto 1673/2010 de 4 de diciembre por el que se declara el estado de alarma para la normalización del servicio público esencial del transporte aéreo en https://www.boe.es/ eli/es/rd/2010/12/04/1673 Real Decreto 463/2020 de 14 de marzo, por el que se declara el estado de alarma para la gestión de la situación de crisis sanitaria ocasionada por el COVID-19, en https://www.boe.es/ eli/es/rd/2020/03/14/463 Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)) en https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.html Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica (2018/2088(INI)) en https:// www.europarl.europa.eu/doceo/document/TA-8-2019-0081_ES.html Resolución de 13 de noviembre de 2020 de la Dirección General de Cartera Común de Servicios del Sistema Nacional de Salud y Farmacia, https://www.boe.es/eli/es/res/2020/11/13/(2) Resolución de 29 de abril de 2020, de la Subsecretaría, por la que se publica la Resolución de 17 de febrero de 2020, de la Presidencia del Instituto Nacional de Estadística y de la Dirección General de Cooperación Autonómica y Local, por la que se dictan instrucciones técnicas a los Ayuntamientos sobre la gestión del Padrón municipal en https://www.boe. es/buscar/act.php?id=BOE-A-2020-4784#A15 Tratado Funcionamiento de la Unión Europea en DOUE, nº 83, de 30 de marzo de 2010. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 111 - 134 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.09 Ética e inteligencia artificial. Una discusión jurídica Ramón Darío Valdivia Jiménez 134