Inteligencia artificial y derechos fundamentales

R.E.D.S. núm. 24 ISSN:2340-4647 pág. 39 INTELIGENCIA ARTIFICIAL Y DERECHOS FUNDAMENTALES* Carmen Requejo Conde Profesora titular de Derecho penal Universidad de Sevilla ________________________________________________________________________________________ Fecha de recepción: 29/09/2024 Fecha de aceptación: 29/11/2024 RESUMEN: Se realiza una aproximación al concepto y evolución de la inteligencia artificial, poniendo de manifiesto el peligro a los derechos fundamentales de la persona ante su desmesurado avance y con un marco legislativo ya en vigor. Se analiza la pugna de la herramienta como fuente de riesgos para fines ilícitos (ciberdelincuencia) y como instrumento de lucha contra la criminalidad (ley de inteligencia artificial) ABSTRACT: An approach is made to the concept and evolution of artificial intelligence, bringing to light the danger to the fundamental rights of the person in the face of its excessive advance and with a legislative framework already in force. The conflict of the tool as a source of risks for illicit purposes (cybercrime) and as an instrument to fight crime (artificial intelligence law) is analyzed. PALABRAS CLAVE: ley de inteligencia artificial. Derechos fundamentales. Ciberdelincuencia KEYWORDS: artificial intelligence law. Fundamental rights. Cybercrime SUMARIO: 1-Introducción. 2-Aproximación al concepto y evolución de la inteligencia artificial. 3-Derechos fundamentales en peligro ante el avance de la inteligencia artificial. 4- ¿Un nuevo Derecho penal para los sistemas de inteligencia artificial? 5-Conclusiones. - Referencias bibliográficas *Trabajo realizado en el marco del Proyecto de investigación « Sentir el delito, atender al daño: prevención aplicada a esferas experienciales de relevancia victimal, tecnológica, espacial y normativa ». Plan Propio de Investigación y Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 40 Transferencia en el marco del Programa Operativo FEDER Andalucía 2021-2027. IP Dra. Myriam Herrera Moreno. 1.INTRODUCCIÓN Desde que a mediados de los años cincuenta John McCarthy acuñara el término de inteligencia artificial1, muchos han sido los foros de debate2 y trabajos científicos sobre esta denominada «cuarta revolución industrial» (Schwab)3 y tercera forma de conocer el mundo junto a la fe y la razón4. La inteligencia artificial se presenta como un sistema de múltiples riesgos, de mayor o menor porcentaje (alto, mínimo, limitado, inadmisible, sobrevenido, etc.)5, pero, al mismo tiempo, se ha erigido en una herramienta con multitud de aplicaciones, entre ellas la lucha contra la criminalidad. Establecer sistemas predictivos de comportamientos delictivos 1 Conferencia de Dartmouth (Hanover, USA), BUSTINCE SOLA, «Caminos hacia la superinteligencia (emulación de cerebro humano)», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA: La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes, 2021, p. 546. Con anterioridad otros científicos admitieron la posibilidad de un conocimiento artificial (Ramón Llul, siglo XIII), un sistema binario con cálculo universal de conocimiento (Leibniz, siglo XVII), o iniciaron una teoría de la computación (Turing, años cuarenta del siglo XX). Un origen histórico de la evolución del origen de la inteligencia artificial en REBOLLO DELGADO: Inteligencia artificial y derechos fundamentales, 2023, p. 19; RUSSELL/NORVIG: Inteligencia artificial. Un enfoque moderno, 2008 , pp. 19 ss. 2 Sirva como ejemplo la Semana de la inteligencia artificia celebrada los días 23 a 27 de octubre de 2023 en la Facultad de Derecho de la Universidad de Sevilla, con dieciséis mesas de debate y cincuenta ponentes, algunas de cuyas opiniones se recogen en este trabajo. Al cierre de este trabajo, del 21 al 25 de octubre de 2024, había tenido lugar, como continuación de la primera, la IIª Semana de la Inteligencia artificial . Anteriormente, el webinar I Congreso Internacional sobre Inteligencia artificial y Derecho: los retos del jurista en la era digital , de 9 y 11 de diciembre de 2020, con cinco mesas y diecisiete ponentes, vid. LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, 2021, p. 21. Y más reciente, el seminario La inteligencia artificial en la sociedad, ¿quieres mejorar tu entorno personal y profesional? (11.04.2024), de la cátedra de inteligencia artificial y sostenibilidad de la Universidad de Sevilla. 3 Cfr. el propio título del libro de ABADÍAS SELMA/GARCÍA GONZÁLEZ: Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, 2022 . También ABADÍAS SELMA: Justicia juvenil e inteligencia artificial en la era de la cultura “touch” , 2022, p. 26; FLORENCIA SUÁREZ: «El dilema del tranvía. Cuarta Revolución Industrial. Ética del algoritmo. IA en vehículos. Causas de Justificación», en Revista Pensamiento Penal 2022, nº. 445; AZUAJE PIRELA / FINOL GONZÁLEZ: «Aproximaciones a la noción de inteligencia artificial y otros conceptos vinculados con ella», en AZUAJE PIRELA: Introducción a la ética y el derecho de la inteligencia artificial, 2023 p. 19: « la inteligencia artificial es la nueva electricidad », citando palabras de Jewell; LÓPEZ HERNÁNDEZ: «Transhumanismo: ¿qué tan ética resulta la evolución?», en AZUAJE PIRELA: Introducción a la ética y el derecho de la inteligencia artificial , 2023, p. 83; LLANO ALONSO /GARRIDO MARTÍN, cit. p. 26, y LLANO ALONSO: «De máquinas y hombres. Tres cuestiones ético-jurídicas sobre la inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN, cit. p. 202 y p. 225; MORENTE PARRA: «La inteligencia híbrida: ¿hacia el reconocimiento y garantía de los neuroderechos?», en LLANO ALONSO /GARRIDO MARTÍN, cit. p. 261; GARCÍA HERRERA: «Panorama legislativo de la inteligencia artificial en la Unión europea», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA: La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes ,) 2021, p. 266; LLEDÓ BENITO, «Visión del Derecho penal en relación con la robótica, IA y ciberdelincuencia», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA, cit., considerando que más que una nueva revolución industrial sería una nueva era de la humanidad, p. 158, y en El derecho penal, robots, IA y cibercriminalidad: desafíos éticos y jurídicos. ¿Hacia una distopía?, 2022, p. 45 s.: la primera revolución estuvo asociada a la máquina de vapor, la segunda a la electricidad y la tercera a lo digital y tecnológico; QUINTERO OLIVARES, «Inteligencia artificial, peligrosidad y derecho penal», 2023, en https://almacendederecho.org/inteligencia-artificial-peligrosidad-y-derecho-penal , quinto párrafo; ORTEGO RUIZ: La personalidad jurídica internacional de los robots, 2022, p. 183. 4 KISSINGER / SCHMIDT / HUTTENLOCHER: La era de la inteligencia artificial y nuestro futuro humano , 2021, p. 161. 5 NAVA GARCÉS, «La regulación de la inteligencia artificial y el Derecho penal», en ARELLANO TOLEDO: Derecho, ética e inteligencia artificial , 2023, p. 432, citando a Federico Bueno, para quien el riesgo inadmisible está prohibido, sujeto quien lo utilice a una sanción económica de hasta un 5% del beneficio obtenido, en casos de persuasión o manipulación subliminal, cuando se usa contra personas vulnerables, o los que utilizan datos biométricos en espacios abiertos sin consentimiento judicial en investigaciones policiales sobre delitos muy graves como el terrorismo. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 41 (reincidencia)6, de perfilación criminal, de reconocimientos biométricos, o la propia función que hoy corresponde a los jueces o a la policía científica cediéndolos a la inteligencia artificial7, son algunos de los grandes desafíos a los que se enfrenta la nueva realidad legislativa en un difícil equilibrio con el respeto a los derechos fundamentales de la persona. En ello, la ciberjusticia, proyectada hacia una mejora en el acceso a la justicia, y la desjudicialización, reduciendo la carga del sistema judicial, serán tendencias emergentes con sus pros y contras8. En efecto, uno de los principales problemas en la aplicación de la inteligencia artificial que muchos autores han venido ampliamente abordando es el impacto que ello supone en los derechos fundamentales consagrados en la Carta Magna y leyes de desarrollo9 ante la posible falta de transparencia, inseguridad o sesgos de los sistemas algorítmicos. No es hasta abril de 2021 cuando la inteligencia artificial comienza a regularse a través de una propuesta de la Comisión europea que culmina en abril de 2024 con la aprobación del Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión. Con anterioridad, en 2017, el Parlamento europeo había solicitado ya propuestas de regulación de la inteligencia artificial, en base al art. 225 del Tratado de funcionamiento de la Unión europea, elaborando principios éticos10 a seguir y con iniciativas de creación, por ejemplo, de un registro de robots inteligentes (androides)11. 6Práctica que la Ley de inteligencia artificial en su art. 6 y anexo III considera de alto riesgo, « llevar a cabo evaluaciones de riesgos individuales de personas físicas con el objetivo de determinar el riesgo de que cometan infracciones penales o reincidan en su comisión, así como el riesgo para las potenciales víctimas de delitos » . Sobre ello, cfr. algoritmo de Rossmo para predecir comportamientos delictivos de agresores seriales en una zona geográfica determinada, ABADÍAS SELMA, Justicia juvenil… cit. p. 76. Sobre ello Caso Loomis y la herramienta COMPAS, ibídem, p. 79, también PALMA HERRERA, «Inteligencia artificial y lucha contra la delincuencia. Potencialidad y peligros en el mundo global», en LLANO ALONSO /GARRIDO MARTÍN, cit. p. 290, y MAGDALENA LAYAS, «¿Por qué debería confiar en ti (máquina)?», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA, cit. p. 634. 7 Inteligencia artificial judicial (IAJ) e Inteligencia artificial policial (IAP). 8 DE ASÍS PULIDO, «Derecho al debido proceso e inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN: Inteligencia artificial y derecho: el jurista ante los retos de la era digital, cit. pp. 85-87. 9 Sobre cuatro generaciones de derechos humanos, LÓPEZ-ONETO, Fundamentos para un derecho de la inteligencia artificial ¿Queremos seguir siendo humanos?, 2020 pp. 202 s., derechos civiles y políticos (siglo XVIII), económicos, sociales y culturales (finales del siglo XIX y transcurso del siglo XX), de solidaridad (a partir de la década de los setenta del siglo XX) y relativos al mundo digital. Todo ello bajo un «Derecho internacional de los derechos humanos», siendo sujeto titular de derecho internacional la propia humanidad, que gozaría del derecho a seguir existiendo como conjunto universal de homo sapiens, frente a peligros como las bombas atómicas, la ingeniería genética o esta otra de la inteligencia artificial. 10 Como las leyes de Asimov, un robot nunca hará daño a un humano, cumplirá las órdenes dadas por este (salvo que haya conflicto con la primera ley), se protegerá a sí mismo (salvo conflicto con las leyes anteriores) y no dañará a la humanidad ni permitirá que por inacción resulte dañada.Vid MADRID, «Las máquinas y la agencia moral», en AZUAJE PIRELA (coord.): Introducción a la ética y el derecho de la inteligencia artificial, cit., p. 97; BARRIO ANDRÉS, «Hacia un derecho de los robots: los principios generales de la lex robótica», en ARELLANO TOLEDO: Derecho, ética e inteligencia artificial, cit.,, p. 257; LLANO ALONSO, «De máquinas y hombres. Tres cuestiones ético-jurídicas sobre la inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN: Inteligencia artificial y derecho: el jurista ante los retos de la era digital , cit., p. 208. 11 A su vez, otras normas complementarias de la inteligencia artificial que han ido conformando el denominado Derecho de la inteligencia artificial (DIA) han sido, por ejemplo, el Libro Blanco sobre la inteligencia artificial de la Comisión europea (19.02.2020), la Artificial Inteligence and Gender Equality. Key Findings of Unesco´s Global Dialogue (2020) de la UNESCO, el Régimen de la responsabilidad civil de la inteligencia artificial 2020-2014 (2020) de la Unión europea, el documento Working Paper and Recommendations on the Publications of Personal Data on the Web, Websites Contents Indexing and the Protection of Privacy del Grupo de Berlín (2013), el documento Rewards and Risks of big data (2014), la Carta de Derechos Humanos y Principios para Internet (2015), o la Resolución del Parlamento europeo de 14 de marzo de 2017, respecto al uso de macrodatos. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 42 Junto a ello, la Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales , dio un paso importante en el establecimiento de ese equilibrio necesario entre el uso de esta herramienta y la protección de derechos fundamentales como la presunción de inocencia, el derecho de defensa y a un juicio justo, los derechos a la igualdad y no discriminación (frente a los aprendizajes automatizados12 o al transhumanismo13), a la intimidad, libertad, autonomía individual y dignidad de la persona. Con ello, aprobado el Reglamento y publicado en el Diario Oficial de la Unión Europea (DOUE) el 12 de julio de 2024 como Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial)14, esta norma (con rango de ley) puede marcar un hito a nivel histórico y mundial que sirva de modelo a otros como el estadounidense y el chino, colocando a Europa en un punto de referencia y liderazgo en el proceso de regulación de los sistemas de inteligencia artificial en pos de la protección de los derechos fundamentales de los ciudadanos15. 2.APROXIMACIÓN AL CONCEPTO Y EVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL Se ha puesto ya en entredicho por numerosos autores la superioridad del ser humano sobre la inteligencia artificial y el temor a que esta pueda llegar a destruirlo16 o a tomar el control 12 Sobre todo contra personas de determinadas etnias o razas. Aprendizaje en que el sistema aprende las habilidades requeridas a partir de datos en vez que tener que programarlos para saber qué hacer en cada situación, Cfr. AZUAJE PIRELA / FINOL GONZÁLEZ, cit., p. 26; ANDREU-PÉREZ et al, «Avances científicos tecnológico de inteligente artificial responsable», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA, cit. p. 594. 13 Superación de las capacidades humanas por razones genéticas, culturales o ambientales, LÓPEZ HERNÁNDEZ, cit., pp. 70 s., buscando un estado de superbienestar, suprasalud, supralongevidad y suprainteligencia; JURI, «La gobernanza de los datos», en AZUAJE PIRELA, cit. p. 198, el humano en fase de transición hacia lo posthumano; BELTRÁN DE HEREDIA RUIZ, Inteligencia artificial y neuroderechos: la protección del yo inconsciente de la persona , 2023, pp. 185 ss., abogando por una «automatización centrada en los humanos», ya que «toda tecnología es expresión de la voluntad humana», no siendo «necesario todo lo que es tecnológicamente posible». 14 Con entrada en vigor el 1 de agosto de 2024, será aplicable de manera progresiva hasta el 2 de agosto de 2026. Sobre la primera redacción de la ley, cfr. MORENO CATENA: «Reflexiones en torno al borrador de la Ley de IA de la Unión Europea», Semana de la Inteligencia artificial , Facultad de Derecho, Universidad de Sevilla, 23-27 de octubre de 2023, conferencia de clausura, https://tv.us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20C ONFERENCIA%20DE%20CLAUSURA./1_t41mp2g4 . 15 Que dejan la gobernanza de los datos en manos de empresas privadas, que los obtienen a veces de forma opaca, o en manos del Gobierno, en vez de ser los mismos ciudadanos quienes decidan y participen del uso que hagan de ellos, LLANO ALONSO, «La Ley europea de inteligencia artificial», 2024, https://x.com/Derecho_US/status/1785378979408392683 ; MONTORO SÁNCHEZ, «Implicaciones relativas al derecho fundamental a la protección de datos de carácter personal por el uso de la inteligencia artificial en el proceso penal», en IBÁÑEZ LÓPEZ-POZAS (coord.): Inteligencia artificial: los derechos humanos en el centro , 2023, p. 178; RIVERO ORTEGA: Derecho e inteligencia artificial: cuatro estudios, 2023, p. 79; PANIAGUA ALARIO: «Análisis de la primera ley integral sobre inteligencia artificial en el mundo», Blog Prodat, 5 de febrero de 2024, https://www.legaltoday.com/opinion/blogs/nuevas-tecnologias-blogs/blog-prodat/analisis-de-la-primera-ley- integral-sobre-inteligencia-artificial-en-el-mundo-2024-02-05/ , segundo párrafo. 16 ROMEO CASABONA/RUEDA MARTÍN: Derecho penal, ciberseguridad, ciberdelitos e inteligencia artificial. Volumen II, Inteligencia artificial y responsabilidad penal, 2023, pp. 57 s., poniendo como ejemplo el sistema Deep Blue, creado por IBM, cuando ganó una partida de ajedrez a Kaspárov; KISSINGER / SCHMIDT / HUTTENLOCHER: La era de la inteligencia artificial y nuestro futuro humano , cit., p. 17, en estas conductas de jugar al ajedrez (el sistema Alpha Zero, creado por Google Deep Mind, ganó al programa de ajedrez Stockfish) o en el descubrimiento de antibióticos; LLANO ALONSO, «De máquinas y hombres. Tres cuestiones ético-jurídicas sobre la inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN: Inteligencia artificial y derecho: el jurista ante los retos de la era digital , cit. pp. 202 y 205 s, se prevé que en 2045 la inteligencia artificial supere sin retorno a la inteligencia humana; LLEDÓ YAGÜE, «Realidades y disrupciones en torno al robot inteligente (el futuro del hombre quebradizo)», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA, cit. p. 70. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 43 sobre él17. Para otros, los algoritmos serían, en cambio, una especie de «sabios-idiotas» por su «gran estrechez de percepción»18. Lo que es indudable es que la inteligencia artificial vino para quedarse, produciendo una transformación de la sociedad mucho más que en otras épocas históricas19 donde la máquina se impuso pero dominada por el hombre y no teniendo a este como socio (o eventual enemigo) en la toma de decisiones20. El diccionario de la RAE define la inteligencia artificial como aquella «disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico»21. En términos generales ha sido ampliamente considerada por la doctrina como una «disciplina científica que busca desarrollar métodos y algoritmos, soportados en sustratos artificiales que permitan generar comportamientos inteligentes » (LÓPEZ-ONETO)22, y ello a partir de cuatro enfoques basados en el razonamiento y en la conducta, esto es, sistemas que piensen como humanos, que piensen racionalmente, que actúen como humanos23 y que actúen racionalmente24. Se trata de definiciones que le atribuyen naturaleza de ciencia y se refieren al método que utiliza, el sustrato en el que se apoya y la finalidad que tiende a alcanzar. Es así, pues, una disciplina científica, rama de la ciencia computacional con 17 En un espacio temporal próximo cifrado entre 25 a 40 años, LIÉBANA CÁRDENAS, «Voluntad superinteligente. Efectos de los avances del hardware», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA, cit. p. 589. También en esta misma obra MAGDALENA LAYAS, «¿Por qué debería confiar en ti (máquina)?», esta será la última generación más inteligente que las máquinas, a pesar de no reconocer a estas voluntad, sensibilidad ni ecuanimidad, pp. 618 ss. y p. 640. En esta línea cfr. también la aportación de LASSALLE: Civilización artificial. Sabiduría o sustitución: el dilema humano ante la IA, 2024, Barcelona, Arpa, que en su Introducción (p. 11) plantea como interrogante una inteligencia artificial humana o bien nihilista, que dará lugar a una civilización artificial, que vaticina para la mitad del presente siglo (p. 15). 18 BELTRÁN DE HEREDIA RUIZ, op. cit. pp. 76 s., con carencia de ««curiosidad, imaginación y sentido real del mundo», mostrando todavía una «falta espeluznante de sentido común»» (en palabras de Carr). 19 Como la etapa racionalista de la Ilustración, la revolución industrial y otras épocas anteriores, KISSINGER / SCHMIDT / HUTTENLOCHER, op. cit. pp. 35 ss. 20 KISSINGER / SCHMIDT / HUTTENLOCHER, cit. p. 163. 21 https://dle.rae.es/inteligencia . 22 Cit. pp. 39 ss. Entendiendo por algoritmo una secuencia finita y determinista de pasos mecánicos precisos que producen la solución a un problema, AZUAJE PIRELA / FINOL GONZÁLEZ, cit. p. 15. También la ofrecida por REBOLLO DELGADO: Inteligencia artificial y derechos fundamentales, cit . , p. 19, algoritmos con la finalidad de crear software, máquinas que presenten las mismas capacidades que el ser humano; y por ROUHIAINEN: Inteligencia artificial. 101 cosas que debes saber hoy sobre nuestro futuro, 2018, la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano, p. 17; igualmente BESTINCE SOLA, cit. p. 546, aunque poniendo el punto de referencia más en la máquina que en el humano, al definirla como la ciencia que crea máquinas que, si fueran hechas por un ser humano, diríamos que este humano es inteligente; LLEDÓ BENITO, El derecho penal, robots, IA y cibercriminalidad…, cit. p. 50, ciencia de la computación que estudia el hardware y software para simular el comportamiento y compresión humanos; compresión desde el punto de vista informático de lo que se denomina comportamiento inteligente (NAVA GARCÉS, cit. p. 433). Otras definiciones de inteligencia artificial que destacan algunas cualidades del humano que se pretende emular por la máquina son aportadas por ABADÍAS SELMA: Justicia juvenil e inteligencia artificial en la era de la cultura “touch” , cit. pp. 30 ss.: destacamos tres, inteligencia manifestada a través de las máquinas, como ayuda idónea al ser humano, agente racional, flexible y servicial (Rousé), y la capacidad de una máquina de presentar las mismas capacidades que el ser humano, razonamiento, aprendizaje, creatividad y capacidad de seleccionar entre distintas variables y alternativas posibles (Simón Castellano), a las que REBOLLO DELGADO, cit. pp. 20-21, añade la adaptación, autocorrección, mejoramiento implícito y percepción modular del mundo, definiéndola como la ciencia capaz de «imitar el cerebro, que no el cuerpo, de una persona en todas sus funciones». 23 Test de Turing, según el cual si el hombre no es capaz de darse cuenta de que está interactuando con una máquina, esta es inteligente, ALZAMORA, «Inteligencia artificial e inteligencia humana, una distinción necesaria», en AZUAJE PIRELA: Introducción a la ética y el derecho de la inteligencia artificial , cit. p. 45. 24 REBOLLO DELGADO, cit. pp. 20-21: redes neuronales artificiales (piensan como humanos), robots (actúan como humanos), sistemas expertos o programas informáticos (piensan racionalmente), agentes artificiales (actúan racionalmente). McCarthy definió la inteligencia artificial refiriéndose a ciencia e ingenio de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes; RUSSELL/NORVIG: Inteligencia artificial. Un enfoque moderno , cit. p. 2, quien la categoriza también como ciencia desde 1987 (p. 29 s.). Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 44 interconexiones con otras disciplinas, que versa sobre una inteligencia no natural creada por el ser humano que se comportaría tal como lo hace este, que interactúa autónoma y flexiblemente con su entorno, de manera apropiada para sus circunstancias y metas, aprendiendo de su experiencia y tomando decisiones adecuadas a pesar de sus limitaciones perceptibles y computacionales25. Son ya innumerables los ejemplos de uso de la inteligencia artificial sobre los que se empezó a legislar, desde la identificación facial26, robots27, vehículos autónomos28, etc. Algunos de ellos forman parte de una inteligencia artificial calificada de débil, porque solo funciona eficaz y eficientemente para una tarea específica pero falla en las que no son predecibles, intentando emular así al ser humano, frente a una inteligencia artificial considerada fuerte, de múltiples objetivos, incluso los suyos propios, que ante situaciones con carencia de entrenamiento sea capaz de tomar decisiones correctas, y una tercera que se ha hecho llamar súper-inteligencia artificial, con conciencia, que es la que pueda llegar no solo a emular totalmente al humano sino a superarlo («singularidad tecnológica»)29, o incluso que pudiera llegar a ir contra sus propios principios. También se han ofrecido otras clasificaciones, como inteligencia artificial asistida, automatizada, aumentada y autónoma (ABADÍAS SELMA)30, o inteligencia artificial predictiva y generativa31. En cualquier caso, debiera reunir las cualidades de ser una inteligencia artificial lícita, ética y robusta (SÁNCHEZ BRAVO)32. Lícita porque ha de cumplir leyes y reglamentos (como el ya promulgado). Ética porque ha de ajustarse a principios éticos de respeto a los derechos fundamentales de los usuarios, como un instrumento al servicio de estos y no como un fin en sí misma. Y robusta porque ha de tener solidez técnica y social. 25 AZUAJE PIRELA / FINOL GONZÁLEZ, cit. p. 20 s. 26 Proceso de reconocimiento mediante algoritmos a través de un mapeo de expresiones faciales, diferenciando características geométricas de un rostro respecto de otros. Puede ser estático (datos permanentes, como el iris, huellas digitales, etc.), dinámico (cambiantes, como la voz, gestos o modo de caminar) y mixto (por ejemplo, conferencia de una persona), CONTRERAS /SOTO, «Reconocimiento facial, ética e inteligencia artificial», en AZUAJE PIRELA (coord.): Introducción a la ética y el derecho de la inteligencia artificial , cit. pp. 121 s., comprende operaciones como detección de una imagen de un rostro, análisis facial mediante sus características geométricas, verificación con una base de datos e identificación por cotejo. 27 Antropoides equipados con máquinas complejas y capacidad de abstracción, JURI, cit. p. 198. 28 Que pueden causar daños, como el atropello mortal de un coche autónomo de Uber en marzo de 2019 en Tempe (Arizona), cfr. MADRID, «Las máquinas y la agencia moral», en AZUAJE PIRELA (coord.): Introducción a la ética y el derecho de la inteligencia artificial, cit. p. 96. 29 ELENA ORTEGA: «La singularidad tecnológica:¿mito o nueva frontera de lo humano?» p. 88, file:///C:/Users/PC2_2010/Downloads/pdf-2.pdf . Cfr. este concepto también en NOWOTNY, La fe en la inteligencia artificial. Los algoritmos predictivos y el futuro de la humanidad, 2022, p. 26. También sobre ello ALMAZORA, cit. p. 46; LLANO ALONSO, «De máquinas y hombres. Tres cuestiones ético-jurídicas sobre la inteligencia artificial», cit., p. 210 s., distinguiendo entre conciencia funcional (entender estados psicológicos) y conciencia fenoménica (referida a cualidades subjetivas de las experiencias individuales); ABADÍAS SELMA, Justicia juvenil e inteligencia artificial en la era de la cultura “touch” , cit. p. 42. 30 Justicia juvenil e inteligencia artificial en la era de la cultura “touch” cit. p. 43, en función de que consiga hacer tareas a mayor velocidad, tareas habituales y excepcionales de la vida cotidiana, que tome decisiones, y que lo haga sin intervención del hombre. 31 Seminario La inteligencia artificial en la sociedad ¿quieres mejorar tu entorno personal y profesional? (Universidad de Sevilla, 11.04.2024): estos son sistemas de inteligencia artificial que anticipan y predicen comportamientos o bien están destinados específicamente a generar, con distintos niveles de autonomía, contenidos como texto, imágenes, audio o vídeo complejos, GONZÁLEZ PULIDO, «El uso de la inteligencia artificial generativa en la investigación de la ciberdelincuencia de género: ante el auge de los deepfakes», en. IUS ET SCIENTIA, 2023, Vol. 9, Nº 2, p. 159, https://revistascientificas.us.es/index.php/ies/article/view/24691/22096 . 32 «Inteligencia artificial, control y nuevos marcos normativos en la Unión europea», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, cit . p. 310. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 45 Este amplio y desconocido horizonte que se encamina hacia la «civilización artificial» de Lassalle33, supuso comenzar a legislar sobre una inteligencia artificial ya omnipresente34. Con la propuesta de la Comisión europea en 2021 y la aprobación del Reglamento del Parlamento Europeo y del Consejo por el que se establecían normas armonizadas en materia de inteligencia artificial, se inició la regulación de esta mediante una norma específica, aunque el término era ya utilizado por la jurisprudencia española hasta diez años atrás35. Esta norma comunitaria terminaría definiéndola como aquel sistema de «software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I36 y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa» (art. 3.1) . Es decir, un sistema que opera con elementos de autonomía y que, basándose en datos y entradas obtenidos de humanos o máquinas, infiere cómo alcanzar unos objetivos propuestos, usando para ello técnicas basadas en el aprendizaje-máquina o en lógica y conocimiento, y genera como salida contenidos, predicciones, recomendaciones o decisiones que influyen en el entorno con el que el sistema interactúa. Esta definición parece incluir un modelo de inteligencia artificial fuerte, aumentada y robusta, porque aunque el origen de su funcionamiento y los medios utilizados puedan ser humanos o artificiales, su finalidad es la autonomía (toma de decisiones)37. No se basa en un lenguaje de programación elaborado por el ser humano sino en un «entrenamiento de datos» que conforma una información de entrada y que genera una información de salida autónoma, del propio sistema38. Pero consciente del peligro que la herramienta encerraba, la Ley de inteligencia artificial dedica el título III a regular los sistemas de alto riesgo, como un conjunto de familias de sistemas de inteligencia artificial en los que su salida es relevante respecto a una acción o decisión que pueda presentar un riesgo a la salud, la seguridad o los derechos fundamentales, como los sistemas de identificación biométrica39, de protección de infraestructuras críticas40, de selección y promoción de personal, de utilización en fronteras, 33 Cit. ibídem, cfr. el propio título. 34 KISSINGER / SCHMIDT / HUTTENLOCHER, cit. pp. 15, 23, 25, 168; BARRIO ANDRÉS, en ARELLANO TOLEDO: Derecho, ética e inteligencia artificial , cit. p. 19, señalando como hito de los últimos años la democratización de la inteligencia artificial. 35 Sentencia de la AP de Madrid (Sección 13ª), núm. 387/2014 de 11 de noviembre (ECLI:ES:APM:2014:16549 ). 36 Estrategias de aprendizaje automático, incluidos el aprendizaje supervisado, el no supervisado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje profundo. Estrategias basadas en la lógica y el conocimiento, especialmente la representación del conocimiento, la programación (lógica) inductiva, las bases de conocimiento, los motores de inferencia y deducción, los sistemas expertos y de razonamiento (simbólico). Y estrategias estadísticas, estimación bayesiana, métodos de búsqueda y optimización. 37 Sobre la dificultad en la traducción de la Ley de inteligencia artificial y su articulado reglamentista, PLAZA PANADÉS, «Claves del futuro Reglamento (Ley) de Inteligencia Artificial de la UE», en Las claves de la futura Ley de Inteligencia Artificial Europea , 2024, ed. Aranzadi. Destaca este autor la necesidad de reemplazar la expresión inicial aprendizaje-máquina por aprendizaje automático, y la capacidad de inferencia como fundamental en un sistema de inteligencia artificial que trasciende el tratamiento básico de datos y permite el aprendizaje, el razonamiento o la modelización (p. 10 y p. 15). 38 PLAZA PANADÉS, ibídem, p. 11. 39 Que el Reglamento de inteligencia artificial (art. 5) circunscribe a la búsqueda de víctimas potenciales de delitos; prevención de amenazas específicas y sustanciales sobre infraestructuras críticas o sobre personas físicas; prevención de ataques terroristas; y persecución de crímenes punibles con más de cinco años de privación de libertad. Antes se valorará la probabilidad y escala del daño posible sin esos sistemas y del daño que estos podrían ocasionar; mediará autorización judicial o administrativa; y se impondrán limitaciones temporales, geográficas y personales. Cfr. alguna crítica a la regulación en REBOLLO DELGADO, cit. p. 41, se trataría de una regulación de resultados, no de garantías en el proceso de aplicación. 40 Aquellas infraestructuras estratégicas cuyo funcionamiento es indispensable y no permite soluciones alternativas, por lo que su perturbación o destrucción tendría un grave impacto sobre los servicios esenciales (art. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 46 o los usados por las Fuerzas y Cuerpos de Seguridad del Estado o la Administración de Justicia. Por lo tanto, estos sistemas quedarán supeditados al cumplimiento de requisitos específicos, como la gestión del riesgo a través de un proceso iterativo continuo durante todo el ciclo de vida del sistema con actualizaciones sistemáticas periódicas (art. 9). La protección de los derechos fundamentales fue una de las razones y objetivos de la propuesta legislativa, de ahí que, más allá de la transparencia, se exija, además, vigilancia, solidez, trazabilidad, precisión y alta calidad de los datos tratados en los sistemas de alto riesgo en aras de alcanzar la anunciada ponderación y el necesario equilibrio con aquellos derechos con los que puede colisionar o llegar a lesionar. 3.DERECHOS FUNDAMENTALES EN PELIGRO ANTE EL AVANCE DE LA INTELIGENCIA ARTIFICIAL Como ya manifestara hace unos años Stephen Hawkins, «el desarrollo de la inteligencia artificial podría ser lo peor o lo mejor que le ha pasado a la humanidad»41, augurio que siguen expresando en la actualidad otros autores a través de un «dilema fáustico» relacionado con el «gen utópico, utilitarista y determinista» de la inteligencia artificial, muy propio del lugar de donde emergió42. Pues, en efecto, un desarrollo sin un eficaz control normativo afectará a la continuidad del ser humano como especie, de ahí el recurso utilizado del principio de precaución ante un riesgo que se atisbe como no soportable y ante el que debe ser la inteligencia artificial la que se ponga al servicio de la sustentabilidad del mundo43. En palabras de JONAS44, hasta que no podamos hacer proyecciones seguras sobre los efectos beneficiosos o dañinos de los desarrollos y aplicaciones de la inteligencia artificial, «no habrá mejor valentía que la cautela» en pos de conservar la humanidad. En concreto, la invasión de la inteligencia artificial en el «espacio de información » puede llegar a comprometer algunos de los derechos más básicos como la libertad y dignidad de la persona45. Porque explicar resultados alcanzados sobre la base de principios morales aporta siempre un componente de justicia y permite un reconocimiento público de los logros que no es seguro que sea capaz de ofrecer un sistema de algoritmos que mermara la autonomía y el sentido de la dignidad del ser humano46. Y esto es aún más importante en el ámbito de la 2e de la Ley 8/2011, de 28 de abril, por la que se establecen medidas para la protección de las infraestructuras críticas ). 41En LÓPEZ-ONETO, cit. p. 161, que podría desaparecer por el surgimiento de esta nueva especie causada por la hibridación del ser humano con la inteligencia artificial. También LLANO ALONSO, «De máquinas y hombres. Tres cuestiones ético-jurídicas sobre la inteligencia artificial», cit. p. 214, y REBOLLO DELGADO, cit. p. 25. 42El empirismo utilitario de Bacon y Hobbes y su conexión entre la investigación científica de la naturaleza y el aumento del poder de cambio que acompaña la acción humana gracias al conocimiento de aquella, LASSALLE, cit. apartado 1, p. 19. 43 LÓPEZ-ONETO, cit. p. 162; BUSTOS RUBIO, «Automatización, robotización y delitos contra la seguridad y salud en el trabajo», en ABADÍAS SELMA /GARCÍA GONZÁLEZ, cit. p. 246; LLEDÓ BENITO, El derecho penal, robots, IA y cibercriminalidad …, cit. p. 102. 44 En LÓPEZ-ONETO, cit. p. 234. 45 KISSINGER / SCHMIDT / HUTTENLOCHER, cit. p. 28; BARRIO ANDRÉS, «Hacia un derecho de los robots: los principios generales de la lex robótica», en AZUAJE PIRELA (coord.): Introducción a la ética y el derecho de la inteligencia artificial, cit. p. 263. Junto a la igualdad y fraternidad, características de la Revolución industrial del siglo XVIII, LASSALLE, cit., apartado 1, p. 16. 46Entendida la dignidad como el «estatus normativo intrínseco, no instrumental, igualitario, y altamente prioritario de la persona humana» (Gilabert), o como «esfuerzo de humanización, de profundización en cada ser humano de todas las dimensiones de su condición, para desarrollarlas plenamente, generalizarlas lo más posible y extenderlas a la sociedad toda» (Bustamante Alarcón), o «el derecho a tener derechos» (Peces Barba), definiciones recogidas por LAUKYTE, «Dignidad humana y nuevos derechos: el derecho a la inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, cit. pp. 183 y 195-196; para MORENTE PARRA, cit. p. 263, la dignidad es un concepto dinámico fruto de la interacción de dos dimensiones, autorreferencial (derivada de la autonomía de la voluntad y del libre desarrollo de la personalidad) y referencial (relativa al desarrollo de la personalidad participada colectivamente); AZUAJE PIRELA, «Inteligencia artificial y nuevo escenario internacional», 2022, en Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 47 Administración de justicia. Las tensiones entre los individuos y las instituciones y grandes sistemas, incluida la inteligencia artificial, corren el riesgo de usurpar la libertad de aquellos por medio de la manipulación, sintiéndose por ello tentados a rechazarla para suavizar sus efectos, lo que a la larga puede ser imposible de eludir dado su extraordinario avance47. Para otros autores, pesimistas ante el desmesurado progreso de la inteligencia artificial, esta puede (o incluso tiene como finalidad) controlar y esclavizar al hombre, buscando modificarlo genéticamente llevándole a una confusión o pérdida de su identidad mediante la sutil imposición de otra, la identidad digital48, identidad artificial49 o «personalidad virtual»50, que ya comenzó sutilmente a funcionar con la comercialización de los teléfonos móviles smartphones y los códigos QR51 y que podría evolucionar hasta la implantación de una red neuronal 5G52: el internet aplicado a las cosas se va así extendiendo al internet aplicado sobre el cuerpo humano mediante sensores externos (pulseras, relojes) o incluso internos (extremidades biónicas, exoesqueletos, prótesis intrusivas, implantes intracerebrales, microchips) y de ahí su desarrollo ulterior hacia la ciborgización53, criogenización, etc. que supondrían el control de información por la inteligencia artificial54. En este sentido, y ante el temor de que de la máquina incorporada al cuerpo del humano se pudiera pasar a intentar acoplar la conciencia a la máquina, las normas se han adelantado ya a prohibir toda inteligencia artificial que emplee técnicas subliminales que trasciendan la conciencia de una persona para alterar sustancialmente su comportamiento55. Todo Estado que permitiese un uso de la inteligencia artificial vulnerador de los derechos https://issuu.com/apuntesinternacionales/docs/v2_-_revista_diplomacia_145_-_210122/s/14610180 , la « muerte por el algoritmo es la máxima indignidad » , citando a Bartneck (epígrafe 2.3); KISSINGER / SCMIDT / HUTTENLOCHER, cit. p. 166; AZUAJE PIRELA / FINOL GONZÁLEZ, cit. p. 21. Por ejemplo, como manifestación del derecho a la dignidad estaría el derecho a excluir la atención por un robot y a su no imposición, BARRIO ANDRÉS, cit. p. 261. 47 BELTRÁN DE HEREDIA RUIZ, cit. p. 183, manipulación subliminal mediante un saqueo despiadado de datos. En aras del derecho a la libertad de expresión frente a la distorsión de la inteligencia artificial, KISSINGER / SCHMIDT / HUTTENLOCHER, cit. p. 179; REBOLLO DELGADO, cit. p. 73 y pp. 75 ss. 48 JURI, cit. p. 199, «ciudadano digital» como «súbdito digital» ante una fuente heterónoma, distorsionadora de la percepción que tiene cada individuo de su propia identidad, como única e intransferible. Identidad digital que es el precio a pagar por acceder gratuitamente a los servicios prestados a través de la red, convirtiéndonos en el propio producto, REBOLLO DELGADO, cit. p. 96. 49 LASSALLE, cit. apartado 1, p. 21. 50 Fabricada no a partir de lo que realmente somos sino de lo que los algoritmos y big data entienden que somos, REBOLLO DELGADO, cit. p. 56, pudiendo llevar a un proceso de desanonimización; ANDREU-PÉREZ, cit. p. 606 s. 51 Utilizado en múltiples trámites como los pasaportes vacunales durante la pandemia por el covid, las cuentas bancarias, las operaciones con dinero virtual, los coches automáticos, etc. 52 Redes neuronales inspiradas en el cerebro humano. Cfr., ORTEGO RUIZ, La personalidad jurídica internacional de los robots, cit. p, 181. 53 LÓPEZ HERNÁNDEZ, cit. pp. 74 s. 54Cfr. alertando sobre este fenómeno, ZARAGOZA, « Una nueva humanidad », https://www.facebook.com/Doctorinakipinuel/videos/719919290185071/?_rdr (09.11.2023). 55Art. 5 de la Ley de inteligencia artificial. Críticamente a este precepto, PLAZA PANADÉS, cit. p. 15, para quien los derechos fundamentales deben estar siempre por encima de la tecnología, y, por tanto, toda técnica subliminal que trascienda la conciencia de una persona afectará a su honor y a su intimidad, por lo que no es necesario que merme su capacidad de decisión, no es suficiente con que se prohíba solo cuando tenga la capacidad de mermarla o de sufrir un perjuicio. El capítulo 3 del Reglamento de inteligencia artificial establece que en caso de alto riesgo, los sistemas proporcionarán un nivel adecuado de precisión, robustez y ciberseguridad, que se declarará en la documentación que los acompaña. Se diseñarán con tolerancia a errores o inconsistencias en su interacción con su entorno, en particularidad con personas u otros sistemas. Incorporarán medidas de ciberseguridad apropiadas y proporcionadas a sus circunstancias, en particular de protección contra la manipulación de los datos de entrenamiento. Sobre ello cfr. BELTRÁN DE HEREDIA RUIZ, cit. p. 140; REBOLLO DELGADO, cit. p. 40. R.E.D.S. núm. 24 ISSN:2340-4647 pág. 54 Carmen Requejo Conde con la investigación de un delito concreto», no pudiendo «autorizarse medidas de investigación tecnológica que tengan por objeto prevenir o descubrir delitos o despejar sospechas sin base objetiva» (art. 588 bis a)95. Y ahora también, la propia Ley de inteligencia artificial considera de alto riesgo los sistemas de evaluación de riesgos predictivos de delitos o de reincidencia o relativos a la fiabilidad de las pruebas en una investigación o enjuiciamiento criminal, que se diseñarán y desarrollarán para que alcancen el nivel adecuado de precisión, solidez y ciberseguridad y así funcionen durante todo su ciclo de vida96. Asistimos, pues, a la pugna de dos vectores de fuerzas opuestas entre ciberdelincuentes y defensores de la legalidad en el uso de la inteligencia artificial para ver quién consigue anticiparse y superar al otro. Y eso hace que, ya como fuente de riesgos para fines ilícitos, ya como instrumento de lucha contra la criminalidad, esta denominada «gobernanza algorítmica»97 se vaya lentamente imponiendo y reemplazando a los gestores humanos en cada vez más sectores de la sociedad sin apenas ser conscientes de ello. 5. CONCLUSIONES La denominada cuarta revolución industria vino para quedarse, erigiéndose en una herramienta multifuncional como la de ser un mecanismo de lucha contra la cibercriminalidad y de auxilio a la justicia. El impacto de la inteligencia artificial en los derechos fundamentales de la persona y la búsqueda del adecuado equilibrio entre ambos, con la aparición incluso de nuevos derechos (neuroderechos), supuso comenzar a legislar aprobándose en 2024 el reglamento que ha marcado un punto de referencia e inflexión en Europa. Pero poco o nada ha previsto sobre los regímenes de responsabilidad por el uso de máquinas y algoritmos, y, en concreto, sobre si asistiremos a un nuevo derecho penal de la inteligencia artificial en el que a modo de lo que sucedió con la persona jurídica se pueda afirmar que «machina delinquere potest» o la existencia de una «personalidad electrónica» responsable. En cualquier caso, inteligencia no implica necesariamente sabiduría, y una inteligencia artificial podrá ser rica y sofisticada en tecnología pero no podrá hacer justicia, ni poseerá humanidad, sensibilidad o la capacidad de reflexión que tiene el humano98. Probablemente todos alguna vez hemos preferido una atención personalizada al realizar una gestión con un sistema informático ante las dificultades que una comunicación estereotipada y rígida entrañaba; y todos también alguna vez hemos sentido un trato mecanicista de un funcionario que lejos de facilitarnos empáticamente la información correcta que necesitábamos actuaba de manera autómata como pudiera haberlo hecho un robot99. El 95 Se trata de normas exhaustivas en la interceptación de comunicaciones telefónicas y telemáticas, captación y grabación de comunicaciones orales mediante la utilización de dispositivos electrónicos, utilización de dispositivos técnicos de seguimiento, localización y captación de la imagen, registro de dispositivos de almacenamiento masivo de información y registros remotos sobre equipos informáticos (arts. 588 ter-588 septies), así como otros que vayan apareciendo en el futuro. Cfr. NAVA GARCÉS, cit. p. 444, detección de anomalías, estadísticas convencionales, análisis de redes, procesamiento de datos en tiempo real, o minería de datos y aprendizaje automático. 96Asuntos relacionados con la aplicación de la ley, Título III, arts. 15 y 13, Anexo III y art. 6. 97 RIVERO ORTEGA, cit. p. 79. 98 NOWOTNY, cit. pp. 13, 19, 23 30; DEL MORAL GARCÍA, «Justicia penal e IA», conferencia de inauguración, IIª Semana de la inteligencia artificial, Facultad de Derecho, Universidad de Sevilla, 21 de octubre de 2024. 99 El propio art. 22.1 del Reglamento (UE) 2016/679 del Parlamento europeo y del Consejo de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE establece que « todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar». Y en todo caso, «como mínimo el derecho a obtener intervención humana por parte del responsable, a expresar su punto de vista y a impugnar la decisión ». Cfr. MONTORO SÁNCHEZ, cit. p. 176 s, derecho a no ser objeto de una decisión basada en un tratamiento automatizado; FERNÁNDEZ-ALLER / SERRANO PÉREZ: «¿Es posible una inteligencia artificial respetuosa con la protección de datos?», en Doxa. Cuadernos de Filosofía del Derecho, 2022, 45, https://rua.ua.es/dspace/bitstream/10045/123591/1/Doxa_45_11.pdf , p. 320 s. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 55 temor a que una excesiva automatización acabe en un proceso cada vez más deshumanizador hará difícil alcanzar ese equilibrio que algunos denominan «humanismo digital»100. Asimismo, el hecho de que ante la comisión de infracciones vulneradoras de derechos fundamentales la responsabilidad civil o penal pueda quedar dificultada o diluida, más aún si cabe que cuando esta se dirige contra multinacionales o grandes corporaciones, hace que nos enfrentemos con recelo y expectación a esta nueva revolución. REFERENCIAS BIBLIOGRÁFICAS ABADÍAS SELMA, Alfredo: «¿Hacia un delito de discriminación laboral tecnológica?. Exégesis del artículo 314 del código penal en tiempos de la “cultura touch”», en ABADÍAS SELMA, Alfredo /GARCÍA GONZÁLEZ, Guillermo (coord.): Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, 2022, Atelier, Barcelona, pp. 185-231. ABADÍAS SELMA, Alfredo : Justicia juvenil e inteligencia artificial en la era de la cultura “touch” , 2022, Valencia, Tirant lo Blanch. ALZAMORA, Jorge: «Inteligencia artificial e inteligencia humana, una distinción necesaria», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 37-48. ANDREU-PÉREZ Y OTROS: «Avances científicos tecnológico de inteligente artificial responsable», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 593 -615. ARELLANO TOLEDO, Wilma: Derecho, ética e inteligencia artificial , 2023, Valencia, Tirant lo Blanch (Prólogo de Barrio Andrés). AZUAJE PIRELA, Michelle: «Inteligencia artificial y nuevo escenario internacional», 2022, en https://issuu.com/apuntesinternacionales/docs/v2_-_revista_diplomacia_145_- _210122/s/14610180 . AZUAJE PIRELA, Michelle / FINOL GONZÁLEZ, Daniel: «Aproximaciones a la noción de inteligencia artificial y otros conceptos vinculados con ella», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 19-33. BALLESTER CASANELLA, Blanca: «Las diferentes formas en que se manifiesta la inteligencia artificial en la sociedad y en la economía», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 303-331. BARRIO ANDRÉS, Moisés: «Hacia un derecho de los robots: los principios generales de la lex robótica», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 251-270. BEDECARRATZ SCHOLZ, Francisco Javier / ARAVENA FLORES, Marcos Antonio: «Principios y directrices éticas sobre inteligencia artificial», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 204-218. 100 NOWOTNY, cit. p. 22. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 56 BELTRÁN DE HEREDIA RUIZ, Ignasi: Inteligencia artificial y neuroderechos: la protección del yo inconsciente de la persona , 2023 Aranzadi, Navarra. BUSTINCE SOLA, Humberto: «Caminos hacia la superinteligencia (emulación de cerebro humano)», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA: La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes, 2021, Madrid, Dykinson, pp. 545- 572. BUSTOS RUBIO, Manuel: «Automatización, robotización y delitos contra la seguridad y salud en el trabajo», en ABADÍAS SELMA, Alfredo /GARCÍA GONZÁLEZ, Guillermo (coord.): Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, 2022, Atelier, Barcelona, pp. 233-260. CAMPIONE, Roger: «Inteligencia artificial y derechos fundamentales», Semana de la Inteligencia artificial , Facultad de Derecho, Universidad de Sevilla, 23-27 de octubre de 2023, decimosexta mesa, https://tv.us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20D ECIMOSEXTA%20MESA./1_dmx7wpwp . CONTRERAS, Pablo /SOTO, Karina: «Reconocimiento facial, ética e inteligencia artificial», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 117-132). CORNEJO PLAZA, Mª Isabel / GUIÑAZÚ, Mª Flavia: «Límites éticos y legales (neuroderechos) a la utilización de las interfaces cerebro-computadora (BCIS) para aumentar las capacidades cognitivas», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 101-115. DE ASÍS PULIDO, Miguel: «Derecho al debido proceso e inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, Navarra, Aranzadi, 2021, pp.67-89. DEL ROSAL BLASCO, Bernardo: «¿El modelo de la responsabilidad penal de las personas jurídicas para los daños punibles derivados del uso de la inteligencia artificial?», en Revista de Responsabilidad penal de las personas jurídicas y compliance, 2023 , vol. 2, https://www.redepec.com/wp-content/uploads/pdf/-el-modelo-de-la-responsabilidad-penal-de- las-personas-jur-dicas-para-los-da-os-punibles-derivados-del-uso-de-la-inteligencia- artificial--3098.pdf . ELENA ORTEGA, José Manuel: «La singularidad tecnológica:¿mito o nueva frontera de lo humano?», file:///C:/Users/PC2_2010/Downloads/pdf-2.pdf . ESTEPA ALONSO , A.: «Ciberseguridad y Ciberdelitos» ,Semana de la Inteligencia artificial , Facultad de Derecho, Universidad de Sevilla, 23-27 de octubre de 2023, sexta mesa, https://tv.us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20S EXTA%20MESA./1_a6wumac2 . FERNÁNDEZ-ALLER, Celia / SERRANO PÉREZ, Mª Mercedes: «¿Es posible una inteligencia artificial respetuosa con la protección de datos?», en Doxa. Cuadernos de Filosofía del Derecho, 2022, 45, pp. 307 ss., en https://rua.ua.es/dspace/bitstream/10045/123591/1/Doxa_45_11.pdf . FERRÉ, Xavier, «Cómo la inteligencia artificial está cambiado la ciberdelincuencia», 2023, en https://www.eleconomista.es/economia/noticias/12289891/05/23/como-la-inteligencia- artificial-esta-cambiando-la-ciberdelincuencia.html . Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 57 FLORENCIA SUÁREZ, María: «El dilema del tranvía. Cuarta revolución industrial. Ética del algoritmo. IA en vehículos. Causas de justificación», en Revista Pensamiento Penal 2022, nº. 445, https://www.studocu.com/bo/document/universidad-mayor-de-san- andres/derecho-penal/inteligencia-artificial-y-derecho-penal/64449088 . GARCÍA HERRERA, Vanessa: «Panorama legislativo de la inteligencia artificial en la Unión europea», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 265-302. GIRALDI, Angelo: «Deshumanizando la culpabilidad: los sistemas inanimados en la teoría del delito », en PERIS RIERA /MASSARO, Derecho penal, inteligencia artificial y neurociencias, Diritto penale, intelligenza artificiale e neuroscienze, 2023 , Roma Trepress, pp. 129-158. GÓMEZ VALDEZ, Manuel A.: «Si tan solo tuviera un cerebro. La inteligencia artificial frente al Derecho internacional», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, 2021 , pp.169-181. GONZÁLEZ PULIDO, Irene: «El uso de la inteligencia artificial generativa en la investigación de la ciberdelincuencia de género: ante el auge de los deepfakesp», en IUS ET SCIENTIA, 2023, Vol. 9, Nº 2, pp.158-180, https://revistascientificas.us.es/index.php/ies/article/view/24691/22096 . IRAZÁBAL ARANA, Elen: La inteligencia artificial explicada para abogados, 2023 , Madrid, La Ley. JURI, Yamila Eliana: «La gobernanza de los datos», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 189-201. KISSINGER, Henry A. / SCHMIDT, Eric / HUTTENLOCHER, Daniel: La era de la inteligencia artificial y nuestro futuro humano , 2021, Anaya, Madrid. LASSALLE, José Mª: Civilización artificial. Sabiduría o sustitución: el dilema humano ante la IA, 2024, Barcelona, Arpa. LAUKYTE, Migle: «Dignidad humana y nuevos derechos: el derecho a la inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital , 2021, pp. 183-199. LIÉBANA CÁRDENAS, J.L.: «Voluntad superinteligente. Efectos de los avances del hardware», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (directores) y CRUZ BLANCA /LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 573-592. LLANO ALONSO, Fernando: «De máquinas y hombres. Tres cuestiones ético-jurídicas sobre la inteligencia artificial», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital , 2021, pp. 201- 234. LLANO ALONSO, Fernando: «La Ley europea de inteligencia artificial», Diario Sevilla, Tribuna, 2024, https://x.com/Derecho_US/status/1785378979408392683 . Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 58 LLEDÓ BENITO, Ignacio : El derecho penal, robots, IA y cibercriminalidad: desafíos éticos y jurídicos. ¿hacia una distopía?, 2022. Madrid, Dykinson. LLEDÓ BENITO, Ignacio: «Visión del Derecho penal en relación con la robótica, IA y ciberdelincuencia», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 149-196. LLEDÓ YAGÜE, Francisco: «Realidades y disrupciones en torno al robot inteligente (el futuro del hombre quebradizo)», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 25-78. LÓPEZ HERNÁNDEZ, Hernán: «Transhumanismo: ¿qué tan ética resulta la evolución?», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 69-86. LÓPEZ-ONETO, Marcos: Fundamentos para un derecho de la inteligencia artificial ¿Queremos seguir siendo humanos?, 2020, Tirant, Valencia. MADRID, Raúl: «Las máquinas y la agencia moral», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 87-100. MAGDALENA LAYAS, L.: «¿Por qué debería confiar en ti (máquina)?», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/ MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson pp. 617-641. MARTÍNEZ GALINDO, Gema: «Los derechos de los trabajadores frente a la ciberdelincuencia y sus eventuales responsabilidades», en ABADÍAS SELMA /GARCÍA GONZÁLEZ (coord.): Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, 2022 , pp. 159-183. MONJE BALMASEDA, Óscar: «Responsabilidad civil, robótica e inteligencia artificial», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR /MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 239-264. MONTORO SÁNCHEZ, J.A.: «Implicaciones relativas al derecho fundamental a la protección de datos de carácter personal por el uso de la inteligencia artificial en el proceso penal», en IBÁÑEZ LÓPEZ-POZAS (coord.): Inteligencia artificial: los derechos humanos en el centro , 2023, Madrid, Dykinson. MORENO CATENA, V.: «Reflexiones en torno al borrador de la Ley de IA de la Unión Europea», Semana de la Inteligencia artificial , Facultad de Derecho, Universidad de Sevilla, 23-27 de octubre de 2023, conferencia de clausura, https://tv.us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20C ONFERENCIA%20DE%20CLAUSURA./1_t41mp2g4 . MORENTE PARRA, Vanesa: «La inteligencia híbrida: ¿hacia el reconocimiento y garantía de los neuroderechos?», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, 2021, pp. 259-277. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 59 NAVA GARCÉS, A.E.: «La regulación de la inteligencia artificial y el Derecho penal», en ARELLANO TOLEDO, Wilma: Derecho, ética e inteligencia artificial , 2023, Valencia, Tirant lo Blanch (Prólogo de Barrio Andrés). NOWOTNY, Helga: La fe en la inteligencia artificial. Los algoritmos predictivos y el futuro de la humanidad. Trad. Alfred Bosch Barcelona, 2022, Ed. Galaxia Gutenberg. ORTA PÉREZ, « Metaverso y empresa », Semana de la Inteligencia artificial , Facultad de Derecho, Universidad de Sevilla, 23-27 de octubre de 2023, décima mesa, https://tv.us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20D %C3%89CIMA%20MESA./1_i8axkaw2 . ORTEGO RUIZ, M.: La personalidad jurídica internacional de los robots, 2022, Valencia, Tirant lo Blanch. PALMA HERRERA, J.M.: «Inteligencia artificial y lucha contra la delincuencia. Potencialidad y peligros en el mundo global», en LLANO ALONSO / GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital , 2021, pp. 279-293. PANIAGUA ALARIO, Ana Mª: «Análisis de la primera ley integral sobre inteligencia artificial en el mundo», Blog Prodat, 5 de febrero de 2024, https://www.legaltoday.com/opinion/blogs/nuevas-tecnologias-blogs/blog-prodat/analisis-de- la-primera-ley-integral-sobre-inteligencia-artificial-en-el-mundo-2024-02-05/ . PÉREZ DEL PRADO, Daniel : Derecho, economía y digitalización: el impacto de la inteligencia artificial, los algoritmos y la robótica sobre el empleo y las condiciones de trabajo, 2023, Valencia, Tirant lo Blanch. PÉREZ-LUÑO ROBLEDO, E. C.: «¿Puede la inteligencia artificial facilitar el ejercicio de la abogacía?», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, 2021 , pp. 295-303. PLAZA PANADÉS, Javier: «Claves del futuro Reglamento (Ley) de Inteligencia Artificial de la UE», en Las claves de la futura Ley de Inteligencia Artificial Europea , 2024, ed. Aranzadi. QUINTERO OLIVARES, Gonzalo: «Inteligencia artificial, peligrosidad y derecho penal», 2023, en https://almacendederecho.org/inteligencia-artificial-peligrosidad-y-derecho-penal. REBOLLO DELGADO, Lucrecio: Inteligencia artificial y derechos fundamentales , 2023, Madrid. Dykinson. REMÓN, Enrique / FRÖHLINGSDORF, Javier: «La IA exige una respuesta clara por parte de nuestro derecho penal», 2023, en https://www.expansion.com/juridico/opinion/2023/06/29/649d6eaf468aeb9c768b4608.html. RIVERO ORTEGA, Ricardo: Derecho e inteligencia artificial: cuatro estudios, 2023, Santiago de Chile, ed. Olejnik. ROMEO CASABONA, Carlos Mª /RUEDA MARTÍN, Mª Ángeles (eds.): Derecho penal, ciberseguridad, ciberdelitos e inteligencia artificial. Volumen II, Inteligencia artificial y responsabilidad penal, 2023, Comares, Granada. ROUHIAINEN, Lasse: Inteligencia artificial. 101 cosas que debes saber hoy sobre nuestro futuro, 2018, Barcelona, Ed. Planeta. Carmen Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 60 RUSSELL, Stuart J./ NORVIG, Peter: Inteligencia artificial. Un enfoque moderno, 2008, 2ª ed. Madrid, Pearson Educación. Trad. Corchado R., Martín R., Castillo Sanz y Díez Plata. SAIZ GARITAONANDIA, Alberto: «Desmontando mitos y confirmando realidades», en Revista del Consejo general de la abogacía española, 2023, nº. 139, pp. 30 ss. SÁNCHEZ BRAVO, Álvaro: «Inteligencia artificial, control y nuevos marcos normativos en la Unión europea», en LLANO ALONSO /GARRIDO MARTÍN (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, 2021 , pp. 307-330. SERRANO PÉREZ, M.M. / FERNÁNDEZ ALLER, C.: «Derecho constitucional e inteligencia artificial», en LLEDÓ YAGÜE / BENÍTEZ ORTÚZAR / MONJE BALMASEDA (directores) y CRUZ BLANCA/LLEDÓ BENITO (coord.): La robótica y la inteligencia artificial en la nueva era de la inteligencia artificial 4.0 (Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes) , 2021, Madrid, Dykinson, pp. 487-544. SOLAR CAYÓN, José I.: «Inteligencia artificial en la abogacía: el futuro ya está aquí», en LLANO ALONSO /GARRIDO MARTÍN, (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital 2021, pp. 331-363. VANTIN, Serena: «Inteligencia artificial y derecho antidiscriminatorio», en LLANO ALONSO /GARRIDO MARTÍN, (editores): Inteligencia artificial y derecho: el jurista ante los retos de la era digital, 2021, pp. 367-384. VIOLLIER, Pablo / FISCHER, Emma: «La intervención humana como resguardo ante la toma de decisiones: implicancias éticas y jurídicas», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 151-169. ZAMARRO BALLESTEROS, Ricardo: «Culpable, la IA», 2023, en https://www.abogacia.es/actualidad/opinion-y-analisis/culpable-la-ia/ . ZARAGOZA, Juan: « Una nueva humanidad », en https://www.facebook.com/Doctorinakipinuel/videos/719919290185071/?_rdr (09.11.2023). ZAROR MILLARES, Danielle: «¿Por qué resulta tan problemático legislar la tecnología?», en AZUAJE PIRELA, Michelle (coord.): Introducción a la ética y el derecho de la inteligencia artificial, 2023, La Ley, Madrid, pp. 237-250.