Inteligencia artificial y derechos fundamentales

R.E.D.S. núm. 24 ISSN:2340-4647 pág. 39 INTELIGENCIA ARTIFICIAL Y DERECHOS FUNDAMENTALES* Ca men Requejo Conde P o eso a i ula de De echo penal Uni e sidad de Se illa ________________________________________________________________________________________ Fecha de ecepción: 29/09/2024 Fecha de acep ación: 29/11/2024 RESUMEN: Se ealiza una ap oximación al concep o y e olución de la in eligencia a i icial, poniendo de mani ies o el pelig o a los de echos undamen ales de la pe sona an e su desmesu ado a ance y con un ma co legisla i o ya en igo . Se analiza la pugna de la he amien a como uen e de iesgos pa a ines ilíci os (cibe delincuencia) y como ins umen o de lucha con a la c iminalidad (ley de in eligencia a i icial) ABSTRACT: An app oach is made o he concep and e olu ion o a i icial in elligence, b inging o ligh he dange o he undamen al igh s o he pe son in he ace o i s excessi e ad ance and wi h a legisla i e amewo k al eady in o ce. The con lic o he ool as a sou ce o isks o illici pu poses (cybe c ime) and as an ins umen o igh c ime (a i icial in elligence law) is analyzed. PALABRAS CLAVE: ley de in eligencia a i icial. De echos undamen ales. Cibe delincuencia KEYWORDS: a i icial in elligence law. Fundamen al igh s. Cybe c ime SUMARIO: 1-In oducción. 2-Ap oximación al concep o y e olución de la in eligencia a i icial. 3-De echos undamen ales en pelig o an e el a ance de la in eligencia a i icial. 4- ¿Un nue o De echo penal pa a los sis emas de in eligencia a i icial? 5-Conclusiones. - Re e encias bibliog á icas *T abajo ealizado en el ma co del P oyec o de in es igación « Sen i el deli o, a ende al daño: p e ención aplicada a es e as expe ienciales de ele ancia ic imal, ecnológica, espacial y no ma i a ». Plan P opio de In es igación y Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 40 T ans e encia en el ma co del P og ama Ope a i o FEDER Andalucía 2021-2027. IP D a. My iam He e a Mo eno. 1.INTRODUCCIÓN Desde que a mediados de los años cincuen a John McCa hy acuña a el é mino de in eligencia a i icial1, muchos han sido los o os de deba e2 y abajos cien í icos sob e es a denominada «cua a e olución indus ial» (Schwab)3 y e ce a o ma de conoce el mundo jun o a la e y la azón4. La in eligencia a i icial se p esen a como un sis ema de múl iples iesgos, de mayo o meno po cen aje (al o, mínimo, limi ado, inadmisible, sob e enido, e c.)5, pe o, al mismo iempo, se ha e igido en una he amien a con mul i ud de aplicaciones, en e ellas la lucha con a la c iminalidad. Es ablece sis emas p edic i os de compo amien os delic i os 1 Con e encia de Da mou h (Hano e , USA), BUSTINCE SOLA, «Caminos hacia la supe in eligencia (emulación de ce eb o humano)», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA: La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es, 2021, p. 546. Con an e io idad o os cien í icos admi ie on la posibilidad de un conocimien o a i icial (Ramón Llul, siglo XIII), un sis ema bina io con cálculo uni e sal de conocimien o (Leibniz, siglo XVII), o inicia on una eo ía de la compu ación (Tu ing, años cua en a del siglo XX). Un o igen his ó ico de la e olución del o igen de la in eligencia a i icial en REBOLLO DELGADO: In eligencia a i icial y de echos undamen ales, 2023, p. 19; RUSSELL/NORVIG: In eligencia a i icial. Un en oque mode no, 2008 , pp. 19 ss. 2 Si a como ejemplo la Semana de la in eligencia a i icia celeb ada los días 23 a 27 de oc ub e de 2023 en la Facul ad de De echo de la Uni e sidad de Se illa, con dieciséis mesas de deba e y cincuen a ponen es, algunas de cuyas opiniones se ecogen en es e abajo. Al cie e de es e abajo, del 21 al 25 de oc ub e de 2024, había enido luga , como con inuación de la p ime a, la IIª Semana de la In eligencia a i icial . An e io men e, el webina I Cong eso In e nacional sob e In eligencia a i icial y De echo: los e os del ju is a en la e a digi al , de 9 y 11 de diciemb e de 2020, con cinco mesas y diecisie e ponen es, id. LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, 2021, p. 21. Y más ecien e, el semina io La in eligencia a i icial en la sociedad, ¿quie es mejo a u en o no pe sonal y p o esional? (11.04.2024), de la cá ed a de in eligencia a i icial y sos enibilidad de la Uni e sidad de Se illa. 3 C . el p opio í ulo del lib o de ABADÍAS SELMA/GARCÍA GONZÁLEZ: P o ección de los abajado es e in eligencia a i icial: la u ela de los de echos sociales en la cua a e olución indus ial, 2022 . También ABADÍAS SELMA: Jus icia ju enil e in eligencia a i icial en la e a de la cul u a “ ouch” , 2022, p. 26; FLORENCIA SUÁREZ: «El dilema del an ía. Cua a Re olución Indus ial. É ica del algo i mo. IA en ehículos. Causas de Jus i icación», en Re is a Pensamien o Penal 2022, nº. 445; AZUAJE PIRELA / FINOL GONZÁLEZ: «Ap oximaciones a la noción de in eligencia a i icial y o os concep os inculados con ella», en AZUAJE PIRELA: In oducción a la é ica y el de echo de la in eligencia a i icial, 2023 p. 19: « la in eligencia a i icial es la nue a elec icidad », ci ando palab as de Jewell; LÓPEZ HERNÁNDEZ: «T anshumanismo: ¿qué an é ica esul a la e olución?», en AZUAJE PIRELA: In oducción a la é ica y el de echo de la in eligencia a i icial , 2023, p. 83; LLANO ALONSO /GARRIDO MARTÍN, ci . p. 26, y LLANO ALONSO: «De máquinas y homb es. T es cues iones é ico-ju ídicas sob e la in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN, ci . p. 202 y p. 225; MORENTE PARRA: «La in eligencia híb ida: ¿hacia el econocimien o y ga an ía de los neu ode echos?», en LLANO ALONSO /GARRIDO MARTÍN, ci . p. 261; GARCÍA HERRERA: «Pano ama legisla i o de la in eligencia a i icial en la Unión eu opea», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA: La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es ,) 2021, p. 266; LLEDÓ BENITO, «Visión del De echo penal en elación con la obó ica, IA y cibe delincuencia», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA, ci ., conside ando que más que una nue a e olución indus ial se ía una nue a e a de la humanidad, p. 158, y en El de echo penal, obo s, IA y cibe c iminalidad: desa íos é icos y ju ídicos. ¿Hacia una dis opía?, 2022, p. 45 s.: la p ime a e olución es u o asociada a la máquina de apo , la segunda a la elec icidad y la e ce a a lo digi al y ecnológico; QUINTERO OLIVARES, «In eligencia a i icial, pelig osidad y de echo penal», 2023, en h ps://almacendede echo.o g/in eligencia-a i icial-pelig osidad-y-de echo-penal , quin o pá a o; ORTEGO RUIZ: La pe sonalidad ju ídica in e nacional de los obo s, 2022, p. 183. 4 KISSINGER / SCHMIDT / HUTTENLOCHER: La e a de la in eligencia a i icial y nues o u u o humano , 2021, p. 161. 5 NAVA GARCÉS, «La egulación de la in eligencia a i icial y el De echo penal», en ARELLANO TOLEDO: De echo, é ica e in eligencia a i icial , 2023, p. 432, ci ando a Fede ico Bueno, pa a quien el iesgo inadmisible es á p ohibido, suje o quien lo u ilice a una sanción económica de has a un 5% del bene icio ob enido, en casos de pe suasión o manipulación subliminal, cuando se usa con a pe sonas ulne ables, o los que u ilizan da os biomé icos en espacios abie os sin consen imien o judicial en in es igaciones policiales sob e deli os muy g a es como el e o ismo. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 41 ( eincidencia)6, de pe ilación c iminal, de econocimien os biomé icos, o la p opia unción que hoy co esponde a los jueces o a la policía cien í ica cediéndolos a la in eligencia a i icial7, son algunos de los g andes desa íos a los que se en en a la nue a ealidad legisla i a en un di ícil equilib io con el espe o a los de echos undamen ales de la pe sona. En ello, la cibe jus icia, p oyec ada hacia una mejo a en el acceso a la jus icia, y la desjudicialización, educiendo la ca ga del sis ema judicial, se án endencias eme gen es con sus p os y con as8. En e ec o, uno de los p incipales p oblemas en la aplicación de la in eligencia a i icial que muchos au o es han enido ampliamen e abo dando es el impac o que ello supone en los de echos undamen ales consag ados en la Ca a Magna y leyes de desa ollo9 an e la posible al a de anspa encia, insegu idad o sesgos de los sis emas algo í micos. No es has a ab il de 2021 cuando la in eligencia a i icial comienza a egula se a a és de una p opues a de la Comisión eu opea que culmina en ab il de 2024 con la ap obación del Reglamen o del Pa lamen o Eu opeo y del Consejo po el que se es ablecen no mas a monizadas en ma e ia de in eligencia a i icial (ley de in eligencia a i icial) y se modi ican de e minados ac os legisla i os de la Unión. Con an e io idad, en 2017, el Pa lamen o eu opeo había solici ado ya p opues as de egulación de la in eligencia a i icial, en base al a . 225 del T a ado de uncionamien o de la Unión eu opea, elabo ando p incipios é icos10 a segui y con inicia i as de c eación, po ejemplo, de un egis o de obo s in eligen es (and oides)11. 6P ác ica que la Ley de in eligencia a i icial en su a . 6 y anexo III conside a de al o iesgo, « lle a a cabo e aluaciones de iesgos indi iduales de pe sonas ísicas con el obje i o de de e mina el iesgo de que come an in acciones penales o eincidan en su comisión, así como el iesgo pa a las po enciales íc imas de deli os » . Sob e ello, c . algo i mo de Rossmo pa a p edeci compo amien os delic i os de ag eso es se iales en una zona geog á ica de e minada, ABADÍAS SELMA, Jus icia ju enil… ci . p. 76. Sob e ello Caso Loomis y la he amien a COMPAS, ibídem, p. 79, ambién PALMA HERRERA, «In eligencia a i icial y lucha con a la delincuencia. Po encialidad y pelig os en el mundo global», en LLANO ALONSO /GARRIDO MARTÍN, ci . p. 290, y MAGDALENA LAYAS, «¿Po qué debe ía con ia en i (máquina)?», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA, ci . p. 634. 7 In eligencia a i icial judicial (IAJ) e In eligencia a i icial policial (IAP). 8 DE ASÍS PULIDO, «De echo al debido p oceso e in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN: In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, ci . pp. 85-87. 9 Sob e cua o gene aciones de de echos humanos, LÓPEZ-ONETO, Fundamen os pa a un de echo de la in eligencia a i icial ¿Que emos segui siendo humanos?, 2020 pp. 202 s., de echos ci iles y polí icos (siglo XVIII), económicos, sociales y cul u ales ( inales del siglo XIX y anscu so del siglo XX), de solida idad (a pa i de la década de los se en a del siglo XX) y ela i os al mundo digi al. Todo ello bajo un «De echo in e nacional de los de echos humanos», siendo suje o i ula de de echo in e nacional la p opia humanidad, que goza ía del de echo a segui exis iendo como conjun o uni e sal de homo sapiens, en e a pelig os como las bombas a ómicas, la ingenie ía gené ica o es a o a de la in eligencia a i icial. 10 Como las leyes de Asimo , un obo nunca ha á daño a un humano, cumpli á las ó denes dadas po es e (sal o que haya con lic o con la p ime a ley), se p o ege á a sí mismo (sal o con lic o con las leyes an e io es) y no daña á a la humanidad ni pe mi i á que po inacción esul e dañada.Vid MADRID, «Las máquinas y la agencia mo al», en AZUAJE PIRELA (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, ci ., p. 97; BARRIO ANDRÉS, «Hacia un de echo de los obo s: los p incipios gene ales de la lex obó ica», en ARELLANO TOLEDO: De echo, é ica e in eligencia a i icial, ci .,, p. 257; LLANO ALONSO, «De máquinas y homb es. T es cues iones é ico-ju ídicas sob e la in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN: In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al , ci ., p. 208. 11 A su ez, o as no mas complemen a ias de la in eligencia a i icial que han ido con o mando el denominado De echo de la in eligencia a i icial (DIA) han sido, po ejemplo, el Lib o Blanco sob e la in eligencia a i icial de la Comisión eu opea (19.02.2020), la A i icial In eligence and Gende Equali y. Key Findings o Unesco´s Global Dialogue (2020) de la UNESCO, el Régimen de la esponsabilidad ci il de la in eligencia a i icial 2020-2014 (2020) de la Unión eu opea, el documen o Wo king Pape and Recommenda ions on he Publica ions o Pe sonal Da a on he Web, Websi es Con en s Indexing and he P o ec ion o P i acy del G upo de Be lín (2013), el documen o Rewa ds and Risks o big da a (2014), la Ca a de De echos Humanos y P incipios pa a In e ne (2015), o la Resolución del Pa lamen o eu opeo de 14 de ma zo de 2017, espec o al uso de mac oda os. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 42 Jun o a ello, la Resolución del Pa lamen o Eu opeo, de 6 de oc ub e de 2021, sob e la in eligencia a i icial en el De echo penal y su u ilización po las au o idades policiales y judiciales en asun os penales , dio un paso impo an e en el es ablecimien o de ese equilib io necesa io en e el uso de es a he amien a y la p o ección de de echos undamen ales como la p esunción de inocencia, el de echo de de ensa y a un juicio jus o, los de echos a la igualdad y no disc iminación ( en e a los ap endizajes au oma izados12 o al anshumanismo13), a la in imidad, libe ad, au onomía indi idual y dignidad de la pe sona. Con ello, ap obado el Reglamen o y publicado en el Dia io O icial de la Unión Eu opea (DOUE) el 12 de julio de 2024 como Reglamen o (UE) 2024/1689 del Pa lamen o Eu opeo y del Consejo, de 13 de junio de 2024, po el que se es ablecen no mas a monizadas en ma e ia de in eligencia a i icial (Reglamen o de In eligencia A i icial)14, es a no ma (con ango de ley) puede ma ca un hi o a ni el his ó ico y mundial que si a de modelo a o os como el es adounidense y el chino, colocando a Eu opa en un pun o de e e encia y lide azgo en el p oceso de egulación de los sis emas de in eligencia a i icial en pos de la p o ección de los de echos undamen ales de los ciudadanos15. 2.APROXIMACIÓN AL CONCEPTO Y EVOLUCIÓN DE LA INTELIGENCIA ARTIFICIAL Se ha pues o ya en en edicho po nume osos au o es la supe io idad del se humano sob e la in eligencia a i icial y el emo a que es a pueda llega a des ui lo16 o a oma el con ol 12 Sob e odo con a pe sonas de de e minadas e nias o azas. Ap endizaje en que el sis ema ap ende las habilidades eque idas a pa i de da os en ez que ene que p og ama los pa a sabe qué hace en cada si uación, C . AZUAJE PIRELA / FINOL GONZÁLEZ, ci ., p. 26; ANDREU-PÉREZ e al, «A ances cien í icos ecnológico de in eligen e a i icial esponsable», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA, ci . p. 594. 13 Supe ación de las capacidades humanas po azones gené icas, cul u ales o ambien ales, LÓPEZ HERNÁNDEZ, ci ., pp. 70 s., buscando un es ado de supe bienes a , sup asalud, sup alonge idad y sup ain eligencia; JURI, «La gobe nanza de los da os», en AZUAJE PIRELA, ci . p. 198, el humano en ase de ansición hacia lo pos humano; BELTRÁN DE HEREDIA RUIZ, In eligencia a i icial y neu ode echos: la p o ección del yo inconscien e de la pe sona , 2023, pp. 185 ss., abogando po una «au oma ización cen ada en los humanos», ya que « oda ecnología es exp esión de la olun ad humana», no siendo «necesa io odo lo que es ecnológicamen e posible». 14 Con en ada en igo el 1 de agos o de 2024, se á aplicable de mane a p og esi a has a el 2 de agos o de 2026. Sob e la p ime a edacción de la ley, c . MORENO CATENA: «Re lexiones en o no al bo ado de la Ley de IA de la Unión Eu opea», Semana de la In eligencia a i icial , Facul ad de De echo, Uni e sidad de Se illa, 23-27 de oc ub e de 2023, con e encia de clausu a, h ps:// .us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20C ONFERENCIA%20DE%20CLAUSURA./1_ 41mp2g4 . 15 Que dejan la gobe nanza de los da os en manos de emp esas p i adas, que los ob ienen a eces de o ma opaca, o en manos del Gobie no, en ez de se los mismos ciudadanos quienes decidan y pa icipen del uso que hagan de ellos, LLANO ALONSO, «La Ley eu opea de in eligencia a i icial», 2024, h ps://x.com/De echo_US/s a us/1785378979408392683 ; MONTORO SÁNCHEZ, «Implicaciones ela i as al de echo undamen al a la p o ección de da os de ca ác e pe sonal po el uso de la in eligencia a i icial en el p oceso penal», en IBÁÑEZ LÓPEZ-POZAS (coo d.): In eligencia a i icial: los de echos humanos en el cen o , 2023, p. 178; RIVERO ORTEGA: De echo e in eligencia a i icial: cua o es udios, 2023, p. 79; PANIAGUA ALARIO: «Análisis de la p ime a ley in eg al sob e in eligencia a i icial en el mundo», Blog P oda , 5 de eb e o de 2024, h ps://www.legal oday.com/opinion/blogs/nue as- ecnologias-blogs/blog-p oda /analisis-de-la-p ime a-ley- in eg al-sob e-in eligencia-a i icial-en-el-mundo-2024-02-05/ , segundo pá a o. 16 ROMEO CASABONA/RUEDA MARTÍN: De echo penal, cibe segu idad, cibe deli os e in eligencia a i icial. Volumen II, In eligencia a i icial y esponsabilidad penal, 2023, pp. 57 s., poniendo como ejemplo el sis ema Deep Blue, c eado po IBM, cuando ganó una pa ida de ajed ez a Kaspá o ; KISSINGER / SCHMIDT / HUTTENLOCHER: La e a de la in eligencia a i icial y nues o u u o humano , ci ., p. 17, en es as conduc as de juga al ajed ez (el sis ema Alpha Ze o, c eado po Google Deep Mind, ganó al p og ama de ajed ez S ock ish) o en el descub imien o de an ibió icos; LLANO ALONSO, «De máquinas y homb es. T es cues iones é ico-ju ídicas sob e la in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN: In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al , ci . pp. 202 y 205 s, se p e é que en 2045 la in eligencia a i icial supe e sin e o no a la in eligencia humana; LLEDÓ YAGÜE, «Realidades y dis upciones en o no al obo in eligen e (el u u o del homb e queb adizo)», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA, ci . p. 70. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 43 sob e él17. Pa a o os, los algo i mos se ían, en cambio, una especie de «sabios-idio as» po su «g an es echez de pe cepción»18. Lo que es indudable es que la in eligencia a i icial ino pa a queda se, p oduciendo una ans o mación de la sociedad mucho más que en o as épocas his ó icas19 donde la máquina se impuso pe o dominada po el homb e y no eniendo a es e como socio (o e en ual enemigo) en la oma de decisiones20. El dicciona io de la RAE de ine la in eligencia a i icial como aquella «disciplina cien í ica que se ocupa de c ea p og amas in o má icos que ejecu an ope aciones compa ables a las que ealiza la men e humana, como el ap endizaje o el azonamien o lógico»21. En é minos gene ales ha sido ampliamen e conside ada po la doc ina como una «disciplina cien í ica que busca desa olla mé odos y algo i mos, sopo ados en sus a os a i iciales que pe mi an gene a compo amien os in eligen es » (LÓPEZ-ONETO)22, y ello a pa i de cua o en oques basados en el azonamien o y en la conduc a, es o es, sis emas que piensen como humanos, que piensen acionalmen e, que ac úen como humanos23 y que ac úen acionalmen e24. Se a a de de iniciones que le a ibuyen na u aleza de ciencia y se e ie en al mé odo que u iliza, el sus a o en el que se apoya y la inalidad que iende a alcanza . Es así, pues, una disciplina cien í ica, ama de la ciencia compu acional con 17 En un espacio empo al p óximo ci ado en e 25 a 40 años, LIÉBANA CÁRDENAS, «Volun ad supe in eligen e. E ec os de los a ances del ha dwa e», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA, ci . p. 589. También en es a misma ob a MAGDALENA LAYAS, «¿Po qué debe ía con ia en i (máquina)?», es a se á la úl ima gene ación más in eligen e que las máquinas, a pesa de no econoce a es as olun ad, sensibilidad ni ecuanimidad, pp. 618 ss. y p. 640. En es a línea c . ambién la apo ación de LASSALLE: Ci ilización a i icial. Sabidu ía o sus i ución: el dilema humano an e la IA, 2024, Ba celona, A pa, que en su In oducción (p. 11) plan ea como in e ogan e una in eligencia a i icial humana o bien nihilis a, que da á luga a una ci ilización a i icial, que a icina pa a la mi ad del p esen e siglo (p. 15). 18 BELTRÁN DE HEREDIA RUIZ, op. ci . pp. 76 s., con ca encia de ««cu iosidad, imaginación y sen ido eal del mundo», mos ando oda ía una « al a espeluznan e de sen ido común»» (en palab as de Ca ). 19 Como la e apa acionalis a de la Ilus ación, la e olución indus ial y o as épocas an e io es, KISSINGER / SCHMIDT / HUTTENLOCHER, op. ci . pp. 35 ss. 20 KISSINGER / SCHMIDT / HUTTENLOCHER, ci . p. 163. 21 h ps://dle. ae.es/in eligencia . 22 Ci . pp. 39 ss. En endiendo po algo i mo una secuencia ini a y de e minis a de pasos mecánicos p ecisos que p oducen la solución a un p oblema, AZUAJE PIRELA / FINOL GONZÁLEZ, ci . p. 15. También la o ecida po REBOLLO DELGADO: In eligencia a i icial y de echos undamen ales, ci . , p. 19, algo i mos con la inalidad de c ea so wa e, máquinas que p esen en las mismas capacidades que el se humano; y po ROUHIAINEN: In eligencia a i icial. 101 cosas que debes sabe hoy sob e nues o u u o, 2018, la capacidad de las máquinas pa a usa algo i mos, ap ende de los da os y u iliza lo ap endido en la oma de decisiones al y como lo ha ía un se humano, p. 17; igualmen e BESTINCE SOLA, ci . p. 546, aunque poniendo el pun o de e e encia más en la máquina que en el humano, al de ini la como la ciencia que c ea máquinas que, si ue an hechas po un se humano, di íamos que es e humano es in eligen e; LLEDÓ BENITO, El de echo penal, obo s, IA y cibe c iminalidad…, ci . p. 50, ciencia de la compu ación que es udia el ha dwa e y so wa e pa a simula el compo amien o y comp esión humanos; comp esión desde el pun o de is a in o má ico de lo que se denomina compo amien o in eligen e (NAVA GARCÉS, ci . p. 433). O as de iniciones de in eligencia a i icial que des acan algunas cualidades del humano que se p e ende emula po la máquina son apo adas po ABADÍAS SELMA: Jus icia ju enil e in eligencia a i icial en la e a de la cul u a “ ouch” , ci . pp. 30 ss.: des acamos es, in eligencia mani es ada a a és de las máquinas, como ayuda idónea al se humano, agen e acional, lexible y se icial (Rousé), y la capacidad de una máquina de p esen a las mismas capacidades que el se humano, azonamien o, ap endizaje, c ea i idad y capacidad de selecciona en e dis in as a iables y al e na i as posibles (Simón Cas ellano), a las que REBOLLO DELGADO, ci . pp. 20-21, añade la adap ación, au oco ección, mejo amien o implíci o y pe cepción modula del mundo, de iniéndola como la ciencia capaz de «imi a el ce eb o, que no el cue po, de una pe sona en odas sus unciones». 23 Tes de Tu ing, según el cual si el homb e no es capaz de da se cuen a de que es á in e ac uando con una máquina, es a es in eligen e, ALZAMORA, «In eligencia a i icial e in eligencia humana, una dis inción necesa ia», en AZUAJE PIRELA: In oducción a la é ica y el de echo de la in eligencia a i icial , ci . p. 45. 24 REBOLLO DELGADO, ci . pp. 20-21: edes neu onales a i iciales (piensan como humanos), obo s (ac úan como humanos), sis emas expe os o p og amas in o má icos (piensan acionalmen e), agen es a i iciales (ac úan acionalmen e). McCa hy de inió la in eligencia a i icial e i iéndose a ciencia e ingenio de hace máquinas in eligen es, especialmen e p og amas de cómpu o in eligen es; RUSSELL/NORVIG: In eligencia a i icial. Un en oque mode no , ci . p. 2, quien la ca ego iza ambién como ciencia desde 1987 (p. 29 s.). Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 44 in e conexiones con o as disciplinas, que e sa sob e una in eligencia no na u al c eada po el se humano que se compo a ía al como lo hace es e, que in e ac úa au ónoma y lexiblemen e con su en o no, de mane a ap opiada pa a sus ci cuns ancias y me as, ap endiendo de su expe iencia y omando decisiones adecuadas a pesa de sus limi aciones pe cep ibles y compu acionales25. Son ya innume ables los ejemplos de uso de la in eligencia a i icial sob e los que se empezó a legisla , desde la iden i icación acial26, obo s27, ehículos au ónomos28, e c. Algunos de ellos o man pa e de una in eligencia a i icial cali icada de débil, po que solo unciona e icaz y e icien emen e pa a una a ea especí ica pe o alla en las que no son p edecibles, in en ando emula así al se humano, en e a una in eligencia a i icial conside ada ue e, de múl iples obje i os, incluso los suyos p opios, que an e si uaciones con ca encia de en enamien o sea capaz de oma decisiones co ec as, y una e ce a que se ha hecho llama súpe -in eligencia a i icial, con conciencia, que es la que pueda llega no solo a emula o almen e al humano sino a supe a lo («singula idad ecnológica»)29, o incluso que pudie a llega a i con a sus p opios p incipios. También se han o ecido o as clasi icaciones, como in eligencia a i icial asis ida, au oma izada, aumen ada y au ónoma (ABADÍAS SELMA)30, o in eligencia a i icial p edic i a y gene a i a31. En cualquie caso, debie a euni las cualidades de se una in eligencia a i icial líci a, é ica y obus a (SÁNCHEZ BRAVO)32. Líci a po que ha de cumpli leyes y eglamen os (como el ya p omulgado). É ica po que ha de ajus a se a p incipios é icos de espe o a los de echos undamen ales de los usua ios, como un ins umen o al se icio de es os y no como un in en sí misma. Y obus a po que ha de ene solidez écnica y social. 25 AZUAJE PIRELA / FINOL GONZÁLEZ, ci . p. 20 s. 26 P oceso de econocimien o median e algo i mos a a és de un mapeo de exp esiones aciales, di e enciando ca ac e ís icas geomé icas de un os o espec o de o os. Puede se es á ico (da os pe manen es, como el i is, huellas digi ales, e c.), dinámico (cambian es, como la oz, ges os o modo de camina ) y mix o (po ejemplo, con e encia de una pe sona), CONTRERAS /SOTO, «Reconocimien o acial, é ica e in eligencia a i icial», en AZUAJE PIRELA (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial , ci . pp. 121 s., comp ende ope aciones como de ección de una imagen de un os o, análisis acial median e sus ca ac e ís icas geomé icas, e i icación con una base de da os e iden i icación po co ejo. 27 An opoides equipados con máquinas complejas y capacidad de abs acción, JURI, ci . p. 198. 28 Que pueden causa daños, como el a opello mo al de un coche au ónomo de Ube en ma zo de 2019 en Tempe (A izona), c . MADRID, «Las máquinas y la agencia mo al», en AZUAJE PIRELA (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, ci . p. 96. 29 ELENA ORTEGA: «La singula idad ecnológica:¿mi o o nue a on e a de lo humano?» p. 88, ile:///C:/Use s/PC2_2010/Downloads/pd -2.pd . C . es e concep o ambién en NOWOTNY, La e en la in eligencia a i icial. Los algo i mos p edic i os y el u u o de la humanidad, 2022, p. 26. También sob e ello ALMAZORA, ci . p. 46; LLANO ALONSO, «De máquinas y homb es. T es cues iones é ico-ju ídicas sob e la in eligencia a i icial», ci ., p. 210 s., dis inguiendo en e conciencia uncional (en ende es ados psicológicos) y conciencia enoménica ( e e ida a cualidades subje i as de las expe iencias indi iduales); ABADÍAS SELMA, Jus icia ju enil e in eligencia a i icial en la e a de la cul u a “ ouch” , ci . p. 42. 30 Jus icia ju enil e in eligencia a i icial en la e a de la cul u a “ ouch” ci . p. 43, en unción de que consiga hace a eas a mayo elocidad, a eas habi uales y excepcionales de la ida co idiana, que ome decisiones, y que lo haga sin in e ención del homb e. 31 Semina io La in eligencia a i icial en la sociedad ¿quie es mejo a u en o no pe sonal y p o esional? (Uni e sidad de Se illa, 11.04.2024): es os son sis emas de in eligencia a i icial que an icipan y p edicen compo amien os o bien es án des inados especí icamen e a gene a , con dis in os ni eles de au onomía, con enidos como ex o, imágenes, audio o ídeo complejos, GONZÁLEZ PULIDO, «El uso de la in eligencia a i icial gene a i a en la in es igación de la cibe delincuencia de géne o: an e el auge de los deep akes», en. IUS ET SCIENTIA, 2023, Vol. 9, Nº 2, p. 159, h ps:// e is ascien i icas.us.es/index.php/ies/a icle/ iew/24691/22096 . 32 «In eligencia a i icial, con ol y nue os ma cos no ma i os en la Unión eu opea», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, ci . p. 310. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 45 Es e amplio y desconocido ho izon e que se encamina hacia la «ci ilización a i icial» de Lassalle33, supuso comenza a legisla sob e una in eligencia a i icial ya omnip esen e34. Con la p opues a de la Comisión eu opea en 2021 y la ap obación del Reglamen o del Pa lamen o Eu opeo y del Consejo po el que se es ablecían no mas a monizadas en ma e ia de in eligencia a i icial, se inició la egulación de es a median e una no ma especí ica, aunque el é mino e a ya u ilizado po la ju isp udencia española has a diez años a ás35. Es a no ma comuni a ia e mina ía de iniéndola como aquel sis ema de «so wa e que se desa olla empleando una o a ias de las écnicas y es a egias que igu an en el anexo I36 y que puede, pa a un conjun o de e minado de obje i os de inidos po se es humanos, gene a in o mación de salida como con enidos, p edicciones, ecomendaciones o decisiones que in luyan en los en o nos con los que in e ac úa» (a . 3.1) . Es deci , un sis ema que ope a con elemen os de au onomía y que, basándose en da os y en adas ob enidos de humanos o máquinas, in ie e cómo alcanza unos obje i os p opues os, usando pa a ello écnicas basadas en el ap endizaje-máquina o en lógica y conocimien o, y gene a como salida con enidos, p edicciones, ecomendaciones o decisiones que in luyen en el en o no con el que el sis ema in e ac úa. Es a de inición pa ece inclui un modelo de in eligencia a i icial ue e, aumen ada y obus a, po que aunque el o igen de su uncionamien o y los medios u ilizados puedan se humanos o a i iciales, su inalidad es la au onomía ( oma de decisiones)37. No se basa en un lenguaje de p og amación elabo ado po el se humano sino en un «en enamien o de da os» que con o ma una in o mación de en ada y que gene a una in o mación de salida au ónoma, del p opio sis ema38. Pe o conscien e del pelig o que la he amien a ence aba, la Ley de in eligencia a i icial dedica el í ulo III a egula los sis emas de al o iesgo, como un conjun o de amilias de sis emas de in eligencia a i icial en los que su salida es ele an e espec o a una acción o decisión que pueda p esen a un iesgo a la salud, la segu idad o los de echos undamen ales, como los sis emas de iden i icación biomé ica39, de p o ección de in aes uc u as c í icas40, de selección y p omoción de pe sonal, de u ilización en on e as, 33 Ci . ibídem, c . el p opio í ulo. 34 KISSINGER / SCHMIDT / HUTTENLOCHER, ci . pp. 15, 23, 25, 168; BARRIO ANDRÉS, en ARELLANO TOLEDO: De echo, é ica e in eligencia a i icial , ci . p. 19, señalando como hi o de los úl imos años la democ a ización de la in eligencia a i icial. 35 Sen encia de la AP de Mad id (Sección 13ª), núm. 387/2014 de 11 de no iemb e (ECLI:ES:APM:2014:16549 ). 36 Es a egias de ap endizaje au omá ico, incluidos el ap endizaje supe isado, el no supe isado y el ealizado po e ue zo, que emplean una amplia a iedad de mé odos, en e ellos el ap endizaje p o undo. Es a egias basadas en la lógica y el conocimien o, especialmen e la ep esen ación del conocimien o, la p og amación (lógica) induc i a, las bases de conocimien o, los mo o es de in e encia y deducción, los sis emas expe os y de azonamien o (simbólico). Y es a egias es adís icas, es imación bayesiana, mé odos de búsqueda y op imización. 37 Sob e la di icul ad en la aducción de la Ley de in eligencia a i icial y su a iculado eglamen is a, PLAZA PANADÉS, «Cla es del u u o Reglamen o (Ley) de In eligencia A i icial de la UE», en Las cla es de la u u a Ley de In eligencia A i icial Eu opea , 2024, ed. A anzadi. Des aca es e au o la necesidad de eemplaza la exp esión inicial ap endizaje-máquina po ap endizaje au omá ico, y la capacidad de in e encia como undamen al en un sis ema de in eligencia a i icial que asciende el a amien o básico de da os y pe mi e el ap endizaje, el azonamien o o la modelización (p. 10 y p. 15). 38 PLAZA PANADÉS, ibídem, p. 11. 39 Que el Reglamen o de in eligencia a i icial (a . 5) ci cunsc ibe a la búsqueda de íc imas po enciales de deli os; p e ención de amenazas especí icas y sus anciales sob e in aes uc u as c í icas o sob e pe sonas ísicas; p e ención de a aques e o is as; y pe secución de c ímenes punibles con más de cinco años de p i ación de libe ad. An es se alo a á la p obabilidad y escala del daño posible sin esos sis emas y del daño que es os pod ían ocasiona ; media á au o ización judicial o adminis a i a; y se impond án limi aciones empo ales, geog á icas y pe sonales. C . alguna c í ica a la egulación en REBOLLO DELGADO, ci . p. 41, se a a ía de una egulación de esul ados, no de ga an ías en el p oceso de aplicación. 40 Aquellas in aes uc u as es a égicas cuyo uncionamien o es indispensable y no pe mi e soluciones al e na i as, po lo que su pe u bación o des ucción end ía un g a e impac o sob e los se icios esenciales (a . Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 46 o los usados po las Fue zas y Cue pos de Segu idad del Es ado o la Adminis ación de Jus icia. Po lo an o, es os sis emas queda án supedi ados al cumplimien o de equisi os especí icos, como la ges ión del iesgo a a és de un p oceso i e a i o con inuo du an e odo el ciclo de ida del sis ema con ac ualizaciones sis emá icas pe iódicas (a . 9). La p o ección de los de echos undamen ales ue una de las azones y obje i os de la p opues a legisla i a, de ahí que, más allá de la anspa encia, se exija, además, igilancia, solidez, azabilidad, p ecisión y al a calidad de los da os a ados en los sis emas de al o iesgo en a as de alcanza la anunciada ponde ación y el necesa io equilib io con aquellos de echos con los que puede colisiona o llega a lesiona . 3.DERECHOS FUNDAMENTALES EN PELIGRO ANTE EL AVANCE DE LA INTELIGENCIA ARTIFICIAL Como ya mani es a a hace unos años S ephen Hawkins, «el desa ollo de la in eligencia a i icial pod ía se lo peo o lo mejo que le ha pasado a la humanidad»41, augu io que siguen exp esando en la ac ualidad o os au o es a a és de un «dilema áus ico» elacionado con el «gen u ópico, u ili a is a y de e minis a» de la in eligencia a i icial, muy p opio del luga de donde eme gió42. Pues, en e ec o, un desa ollo sin un e icaz con ol no ma i o a ec a á a la con inuidad del se humano como especie, de ahí el ecu so u ilizado del p incipio de p ecaución an e un iesgo que se a isbe como no sopo able y an e el que debe se la in eligencia a i icial la que se ponga al se icio de la sus en abilidad del mundo43. En palab as de JONAS44, has a que no podamos hace p oyecciones segu as sob e los e ec os bene iciosos o dañinos de los desa ollos y aplicaciones de la in eligencia a i icial, «no hab á mejo alen ía que la cau ela» en pos de conse a la humanidad. En conc e o, la in asión de la in eligencia a i icial en el «espacio de in o mación » puede llega a comp ome e algunos de los de echos más básicos como la libe ad y dignidad de la pe sona45. Po que explica esul ados alcanzados sob e la base de p incipios mo ales apo a siemp e un componen e de jus icia y pe mi e un econocimien o público de los log os que no es segu o que sea capaz de o ece un sis ema de algo i mos que me ma a la au onomía y el sen ido de la dignidad del se humano46. Y es o es aún más impo an e en el ámbi o de la 2e de la Ley 8/2011, de 28 de ab il, po la que se es ablecen medidas pa a la p o ección de las in aes uc u as c í icas ). 41En LÓPEZ-ONETO, ci . p. 161, que pod ía desapa ece po el su gimien o de es a nue a especie causada po la hib idación del se humano con la in eligencia a i icial. También LLANO ALONSO, «De máquinas y homb es. T es cues iones é ico-ju ídicas sob e la in eligencia a i icial», ci . p. 214, y REBOLLO DELGADO, ci . p. 25. 42El empi ismo u ili a io de Bacon y Hobbes y su conexión en e la in es igación cien í ica de la na u aleza y el aumen o del pode de cambio que acompaña la acción humana g acias al conocimien o de aquella, LASSALLE, ci . apa ado 1, p. 19. 43 LÓPEZ-ONETO, ci . p. 162; BUSTOS RUBIO, «Au oma ización, obo ización y deli os con a la segu idad y salud en el abajo», en ABADÍAS SELMA /GARCÍA GONZÁLEZ, ci . p. 246; LLEDÓ BENITO, El de echo penal, obo s, IA y cibe c iminalidad …, ci . p. 102. 44 En LÓPEZ-ONETO, ci . p. 234. 45 KISSINGER / SCHMIDT / HUTTENLOCHER, ci . p. 28; BARRIO ANDRÉS, «Hacia un de echo de los obo s: los p incipios gene ales de la lex obó ica», en AZUAJE PIRELA (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, ci . p. 263. Jun o a la igualdad y a e nidad, ca ac e ís icas de la Re olución indus ial del siglo XVIII, LASSALLE, ci ., apa ado 1, p. 16. 46En endida la dignidad como el «es a us no ma i o in ínseco, no ins umen al, iguali a io, y al amen e p io i a io de la pe sona humana» (Gilabe ), o como «es ue zo de humanización, de p o undización en cada se humano de odas las dimensiones de su condición, pa a desa olla las plenamen e, gene aliza las lo más posible y ex ende las a la sociedad oda» (Bus aman e Ala cón), o «el de echo a ene de echos» (Peces Ba ba), de iniciones ecogidas po LAUKYTE, «Dignidad humana y nue os de echos: el de echo a la in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, ci . pp. 183 y 195-196; pa a MORENTE PARRA, ci . p. 263, la dignidad es un concep o dinámico u o de la in e acción de dos dimensiones, au o e e encial (de i ada de la au onomía de la olun ad y del lib e desa ollo de la pe sonalidad) y e e encial ( ela i a al desa ollo de la pe sonalidad pa icipada colec i amen e); AZUAJE PIRELA, «In eligencia a i icial y nue o escena io in e nacional», 2022, en Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 47 Adminis ación de jus icia. Las ensiones en e los indi iduos y las ins i uciones y g andes sis emas, incluida la in eligencia a i icial, co en el iesgo de usu pa la libe ad de aquellos po medio de la manipulación, sin iéndose po ello en ados a echaza la pa a sua iza sus e ec os, lo que a la la ga puede se imposible de eludi dado su ex ao dina io a ance47. Pa a o os au o es, pesimis as an e el desmesu ado p og eso de la in eligencia a i icial, es a puede (o incluso iene como inalidad) con ola y escla iza al homb e, buscando modi ica lo gené icamen e lle ándole a una con usión o pé dida de su iden idad median e la su il imposición de o a, la iden idad digi al48, iden idad a i icial49 o «pe sonalidad i ual»50, que ya comenzó su ilmen e a unciona con la come cialización de los elé onos mó iles sma phones y los códigos QR51 y que pod ía e oluciona has a la implan ación de una ed neu onal 5G52: el in e ne aplicado a las cosas se a así ex endiendo al in e ne aplicado sob e el cue po humano median e senso es ex e nos (pulse as, elojes) o incluso in e nos (ex emidades biónicas, exoesquele os, p ó esis in usi as, implan es in ace eb ales, mic ochips) y de ahí su desa ollo ul e io hacia la cibo gización53, c iogenización, e c. que supond ían el con ol de in o mación po la in eligencia a i icial54. En es e sen ido, y an e el emo de que de la máquina inco po ada al cue po del humano se pudie a pasa a in en a acopla la conciencia a la máquina, las no mas se han adelan ado ya a p ohibi oda in eligencia a i icial que emplee écnicas subliminales que asciendan la conciencia de una pe sona pa a al e a sus ancialmen e su compo amien o55. Todo Es ado que pe mi iese un uso de la in eligencia a i icial ulne ado de los de echos h ps://issuu.com/apun esin e nacionales/docs/ 2_-_ e is a_diplomacia_145_-_210122/s/14610180 , la « mue e po el algo i mo es la máxima indignidad » , ci ando a Ba neck (epíg a e 2.3); KISSINGER / SCMIDT / HUTTENLOCHER, ci . p. 166; AZUAJE PIRELA / FINOL GONZÁLEZ, ci . p. 21. Po ejemplo, como mani es ación del de echo a la dignidad es a ía el de echo a exclui la a ención po un obo y a su no imposición, BARRIO ANDRÉS, ci . p. 261. 47 BELTRÁN DE HEREDIA RUIZ, ci . p. 183, manipulación subliminal median e un saqueo despiadado de da os. En a as del de echo a la libe ad de exp esión en e a la dis o sión de la in eligencia a i icial, KISSINGER / SCHMIDT / HUTTENLOCHER, ci . p. 179; REBOLLO DELGADO, ci . p. 73 y pp. 75 ss. 48 JURI, ci . p. 199, «ciudadano digi al» como «súbdi o digi al» an e una uen e he e ónoma, dis o sionado a de la pe cepción que iene cada indi iduo de su p opia iden idad, como única e in ans e ible. Iden idad digi al que es el p ecio a paga po accede g a ui amen e a los se icios p es ados a a és de la ed, con i iéndonos en el p opio p oduc o, REBOLLO DELGADO, ci . p. 96. 49 LASSALLE, ci . apa ado 1, p. 21. 50 Fab icada no a pa i de lo que ealmen e somos sino de lo que los algo i mos y big da a en ienden que somos, REBOLLO DELGADO, ci . p. 56, pudiendo lle a a un p oceso de desanonimización; ANDREU-PÉREZ, ci . p. 606 s. 51 U ilizado en múl iples ámi es como los pasapo es acunales du an e la pandemia po el co id, las cuen as banca ias, las ope aciones con dine o i ual, los coches au omá icos, e c. 52 Redes neu onales inspi adas en el ce eb o humano. C ., ORTEGO RUIZ, La pe sonalidad ju ídica in e nacional de los obo s, ci . p, 181. 53 LÓPEZ HERNÁNDEZ, ci . pp. 74 s. 54C . ale ando sob e es e enómeno, ZARAGOZA, « Una nue a humanidad », h ps://www. acebook.com/Doc o inakipinuel/ ideos/719919290185071/?_ d (09.11.2023). 55A . 5 de la Ley de in eligencia a i icial. C í icamen e a es e p ecep o, PLAZA PANADÉS, ci . p. 15, pa a quien los de echos undamen ales deben es a siemp e po encima de la ecnología, y, po an o, oda écnica subliminal que ascienda la conciencia de una pe sona a ec a á a su hono y a su in imidad, po lo que no es necesa io que me me su capacidad de decisión, no es su icien e con que se p ohíba solo cuando enga la capacidad de me ma la o de su i un pe juicio. El capí ulo 3 del Reglamen o de in eligencia a i icial es ablece que en caso de al o iesgo, los sis emas p opo ciona án un ni el adecuado de p ecisión, obus ez y cibe segu idad, que se decla a á en la documen ación que los acompaña. Se diseña án con ole ancia a e o es o inconsis encias en su in e acción con su en o no, en pa icula idad con pe sonas u o os sis emas. Inco po a án medidas de cibe segu idad ap opiadas y p opo cionadas a sus ci cuns ancias, en pa icula de p o ección con a la manipulación de los da os de en enamien o. Sob e ello c . BELTRÁN DE HEREDIA RUIZ, ci . p. 140; REBOLLO DELGADO, ci . p. 40. R.E.D.S. núm. 24 ISSN:2340-4647 pág. 54 Ca men Requejo Conde con la in es igación de un deli o conc e o», no pudiendo «au o iza se medidas de in es igación ecnológica que engan po obje o p e eni o descub i deli os o despeja sospechas sin base obje i a» (a . 588 bis a)95. Y aho a ambién, la p opia Ley de in eligencia a i icial conside a de al o iesgo los sis emas de e aluación de iesgos p edic i os de deli os o de eincidencia o ela i os a la iabilidad de las p uebas en una in es igación o enjuiciamien o c iminal, que se diseña án y desa olla án pa a que alcancen el ni el adecuado de p ecisión, solidez y cibe segu idad y así uncionen du an e odo su ciclo de ida96. Asis imos, pues, a la pugna de dos ec o es de ue zas opues as en e cibe delincuen es y de enso es de la legalidad en el uso de la in eligencia a i icial pa a e quién consigue an icipa se y supe a al o o. Y eso hace que, ya como uen e de iesgos pa a ines ilíci os, ya como ins umen o de lucha con a la c iminalidad, es a denominada «gobe nanza algo í mica»97 se aya len amen e imponiendo y eemplazando a los ges o es humanos en cada ez más sec o es de la sociedad sin apenas se conscien es de ello. 5. CONCLUSIONES La denominada cua a e olución indus ia ino pa a queda se, e igiéndose en una he amien a mul i uncional como la de se un mecanismo de lucha con a la cibe c iminalidad y de auxilio a la jus icia. El impac o de la in eligencia a i icial en los de echos undamen ales de la pe sona y la búsqueda del adecuado equilib io en e ambos, con la apa ición incluso de nue os de echos (neu ode echos), supuso comenza a legisla ap obándose en 2024 el eglamen o que ha ma cado un pun o de e e encia e in lexión en Eu opa. Pe o poco o nada ha p e is o sob e los egímenes de esponsabilidad po el uso de máquinas y algo i mos, y, en conc e o, sob e si asis i emos a un nue o de echo penal de la in eligencia a i icial en el que a modo de lo que sucedió con la pe sona ju ídica se pueda a i ma que «machina delinque e po es » o la exis encia de una «pe sonalidad elec ónica» esponsable. En cualquie caso, in eligencia no implica necesa iamen e sabidu ía, y una in eligencia a i icial pod á se ica y so is icada en ecnología pe o no pod á hace jus icia, ni posee á humanidad, sensibilidad o la capacidad de e lexión que iene el humano98. P obablemen e odos alguna ez hemos p e e ido una a ención pe sonalizada al ealiza una ges ión con un sis ema in o má ico an e las di icul ades que una comunicación es e eo ipada y ígida en añaba; y odos ambién alguna ez hemos sen ido un a o mecanicis a de un unciona io que lejos de acili a nos empá icamen e la in o mación co ec a que necesi ábamos ac uaba de mane a au óma a como pudie a habe lo hecho un obo 99. El 95 Se a a de no mas exhaus i as en la in e cep ación de comunicaciones ele ónicas y elemá icas, cap ación y g abación de comunicaciones o ales median e la u ilización de disposi i os elec ónicos, u ilización de disposi i os écnicos de seguimien o, localización y cap ación de la imagen, egis o de disposi i os de almacenamien o masi o de in o mación y egis os emo os sob e equipos in o má icos (a s. 588 e -588 sep ies), así como o os que ayan apa eciendo en el u u o. C . NAVA GARCÉS, ci . p. 444, de ección de anomalías, es adís icas con encionales, análisis de edes, p ocesamien o de da os en iempo eal, o mine ía de da os y ap endizaje au omá ico. 96Asun os elacionados con la aplicación de la ley, Tí ulo III, a s. 15 y 13, Anexo III y a . 6. 97 RIVERO ORTEGA, ci . p. 79. 98 NOWOTNY, ci . pp. 13, 19, 23 30; DEL MORAL GARCÍA, «Jus icia penal e IA», con e encia de inaugu ación, IIª Semana de la in eligencia a i icial, Facul ad de De echo, Uni e sidad de Se illa, 21 de oc ub e de 2024. 99 El p opio a . 22.1 del Reglamen o (UE) 2016/679 del Pa lamen o eu opeo y del Consejo de 27 de ab il de 2016, ela i o a la p o ección de las pe sonas ísicas en lo que espec a al a amien o de da os pe sonales y a la lib e ci culación de es os da os y po el que se de oga la Di ec i a 95/46/CE es ablece que « odo in e esado end á de echo a no se obje o de una decisión basada únicamen e en el a amien o au oma izado, incluida la elabo ación de pe iles, que p oduzca e ec os ju ídicos en él o le a ec e signi ica i amen e de modo simila ». Y en odo caso, «como mínimo el de echo a ob ene in e ención humana po pa e del esponsable, a exp esa su pun o de is a y a impugna la decisión ». C . MONTORO SÁNCHEZ, ci . p. 176 s, de echo a no se obje o de una decisión basada en un a amien o au oma izado; FERNÁNDEZ-ALLER / SERRANO PÉREZ: «¿Es posible una in eligencia a i icial espe uosa con la p o ección de da os?», en Doxa. Cuade nos de Filoso ía del De echo, 2022, 45, h ps:// ua.ua.es/dspace/bi s eam/10045/123591/1/Doxa_45_11.pd , p. 320 s. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 55 emo a que una excesi a au oma ización acabe en un p oceso cada ez más deshumanizado ha á di ícil alcanza ese equilib io que algunos denominan «humanismo digi al»100. Asimismo, el hecho de que an e la comisión de in acciones ulne ado as de de echos undamen ales la esponsabilidad ci il o penal pueda queda di icul ada o diluida, más aún si cabe que cuando es a se di ige con a mul inacionales o g andes co po aciones, hace que nos en en emos con ecelo y expec ación a es a nue a e olución. REFERENCIAS BIBLIOGRÁFICAS ABADÍAS SELMA, Al edo: «¿Hacia un deli o de disc iminación labo al ecnológica?. Exégesis del a ículo 314 del código penal en iempos de la “cul u a ouch”», en ABADÍAS SELMA, Al edo /GARCÍA GONZÁLEZ, Guille mo (coo d.): P o ección de los abajado es e in eligencia a i icial: la u ela de los de echos sociales en la cua a e olución indus ial, 2022, A elie , Ba celona, pp. 185-231. ABADÍAS SELMA, Al edo : Jus icia ju enil e in eligencia a i icial en la e a de la cul u a “ ouch” , 2022, Valencia, Ti an lo Blanch. ALZAMORA, Jo ge: «In eligencia a i icial e in eligencia humana, una dis inción necesa ia», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 37-48. ANDREU-PÉREZ Y OTROS: «A ances cien í icos ecnológico de in eligen e a i icial esponsable», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 593 -615. ARELLANO TOLEDO, Wilma: De echo, é ica e in eligencia a i icial , 2023, Valencia, Ti an lo Blanch (P ólogo de Ba io And és). AZUAJE PIRELA, Michelle: «In eligencia a i icial y nue o escena io in e nacional», 2022, en h ps://issuu.com/apun esin e nacionales/docs/ 2_-_ e is a_diplomacia_145_- _210122/s/14610180 . AZUAJE PIRELA, Michelle / FINOL GONZÁLEZ, Daniel: «Ap oximaciones a la noción de in eligencia a i icial y o os concep os inculados con ella», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 19-33. BALLESTER CASANELLA, Blanca: «Las di e en es o mas en que se mani ies a la in eligencia a i icial en la sociedad y en la economía», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 303-331. BARRIO ANDRÉS, Moisés: «Hacia un de echo de los obo s: los p incipios gene ales de la lex obó ica», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 251-270. BEDECARRATZ SCHOLZ, F ancisco Ja ie / ARAVENA FLORES, Ma cos An onio: «P incipios y di ec ices é icas sob e in eligencia a i icial», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 204-218. 100 NOWOTNY, ci . p. 22. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 56 BELTRÁN DE HEREDIA RUIZ, Ignasi: In eligencia a i icial y neu ode echos: la p o ección del yo inconscien e de la pe sona , 2023 A anzadi, Na a a. BUSTINCE SOLA, Humbe o: «Caminos hacia la supe in eligencia (emulación de ce eb o humano)», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA: La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es, 2021, Mad id, Dykinson, pp. 545- 572. BUSTOS RUBIO, Manuel: «Au oma ización, obo ización y deli os con a la segu idad y salud en el abajo», en ABADÍAS SELMA, Al edo /GARCÍA GONZÁLEZ, Guille mo (coo d.): P o ección de los abajado es e in eligencia a i icial: la u ela de los de echos sociales en la cua a e olución indus ial, 2022, A elie , Ba celona, pp. 233-260. CAMPIONE, Roge : «In eligencia a i icial y de echos undamen ales», Semana de la In eligencia a i icial , Facul ad de De echo, Uni e sidad de Se illa, 23-27 de oc ub e de 2023, decimosex a mesa, h ps:// .us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20D ECIMOSEXTA%20MESA./1_dmx7wpwp . CONTRERAS, Pablo /SOTO, Ka ina: «Reconocimien o acial, é ica e in eligencia a i icial», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 117-132). CORNEJO PLAZA, Mª Isabel / GUIÑAZÚ, Mª Fla ia: «Lími es é icos y legales (neu ode echos) a la u ilización de las in e aces ce eb o-compu ado a (BCIS) pa a aumen a las capacidades cogni i as», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 101-115. DE ASÍS PULIDO, Miguel: «De echo al debido p oceso e in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, Na a a, A anzadi, 2021, pp.67-89. DEL ROSAL BLASCO, Be na do: «¿El modelo de la esponsabilidad penal de las pe sonas ju ídicas pa a los daños punibles de i ados del uso de la in eligencia a i icial?», en Re is a de Responsabilidad penal de las pe sonas ju ídicas y compliance, 2023 , ol. 2, h ps://www. edepec.com/wp-con en /uploads/pd /-el-modelo-de-la- esponsabilidad-penal-de- las-pe sonas-ju -dicas-pa a-los-da-os-punibles-de i ados-del-uso-de-la-in eligencia- a i icial--3098.pd . ELENA ORTEGA, José Manuel: «La singula idad ecnológica:¿mi o o nue a on e a de lo humano?», ile:///C:/Use s/PC2_2010/Downloads/pd -2.pd . ESTEPA ALONSO , A.: «Cibe segu idad y Cibe deli os» ,Semana de la In eligencia a i icial , Facul ad de De echo, Uni e sidad de Se illa, 23-27 de oc ub e de 2023, sex a mesa, h ps:// .us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20S EXTA%20MESA./1_a6wumac2 . FERNÁNDEZ-ALLER, Celia / SERRANO PÉREZ, Mª Me cedes: «¿Es posible una in eligencia a i icial espe uosa con la p o ección de da os?», en Doxa. Cuade nos de Filoso ía del De echo, 2022, 45, pp. 307 ss., en h ps:// ua.ua.es/dspace/bi s eam/10045/123591/1/Doxa_45_11.pd . FERRÉ, Xa ie , «Cómo la in eligencia a i icial es á cambiado la cibe delincuencia», 2023, en h ps://www.eleconomis a.es/economia/no icias/12289891/05/23/como-la-in eligencia- a i icial-es a-cambiando-la-cibe delincuencia.h ml . Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 57 FLORENCIA SUÁREZ, Ma ía: «El dilema del an ía. Cua a e olución indus ial. É ica del algo i mo. IA en ehículos. Causas de jus i icación», en Re is a Pensamien o Penal 2022, nº. 445, h ps://www.s udocu.com/bo/documen /uni e sidad-mayo -de-san- and es/de echo-penal/in eligencia-a i icial-y-de echo-penal/64449088 . GARCÍA HERRERA, Vanessa: «Pano ama legisla i o de la in eligencia a i icial en la Unión eu opea», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 265-302. GIRALDI, Angelo: «Deshumanizando la culpabilidad: los sis emas inanimados en la eo ía del deli o », en PERIS RIERA /MASSARO, De echo penal, in eligencia a i icial y neu ociencias, Di i o penale, in elligenza a i iciale e neu oscienze, 2023 , Roma T ep ess, pp. 129-158. GÓMEZ VALDEZ, Manuel A.: «Si an solo u ie a un ce eb o. La in eligencia a i icial en e al De echo in e nacional», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, 2021 , pp.169-181. GONZÁLEZ PULIDO, I ene: «El uso de la in eligencia a i icial gene a i a en la in es igación de la cibe delincuencia de géne o: an e el auge de los deep akesp», en IUS ET SCIENTIA, 2023, Vol. 9, Nº 2, pp.158-180, h ps:// e is ascien i icas.us.es/index.php/ies/a icle/ iew/24691/22096 . IRAZÁBAL ARANA, Elen: La in eligencia a i icial explicada pa a abogados, 2023 , Mad id, La Ley. JURI, Yamila Eliana: «La gobe nanza de los da os», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 189-201. KISSINGER, Hen y A. / SCHMIDT, E ic / HUTTENLOCHER, Daniel: La e a de la in eligencia a i icial y nues o u u o humano , 2021, Anaya, Mad id. LASSALLE, José Mª: Ci ilización a i icial. Sabidu ía o sus i ución: el dilema humano an e la IA, 2024, Ba celona, A pa. LAUKYTE, Migle: «Dignidad humana y nue os de echos: el de echo a la in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al , 2021, pp. 183-199. LIÉBANA CÁRDENAS, J.L.: «Volun ad supe in eligen e. E ec os de los a ances del ha dwa e», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (di ec o es) y CRUZ BLANCA /LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 573-592. LLANO ALONSO, Fe nando: «De máquinas y homb es. T es cues iones é ico-ju ídicas sob e la in eligencia a i icial», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al , 2021, pp. 201- 234. LLANO ALONSO, Fe nando: «La Ley eu opea de in eligencia a i icial», Dia io Se illa, T ibuna, 2024, h ps://x.com/De echo_US/s a us/1785378979408392683 . Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 58 LLEDÓ BENITO, Ignacio : El de echo penal, obo s, IA y cibe c iminalidad: desa íos é icos y ju ídicos. ¿hacia una dis opía?, 2022. Mad id, Dykinson. LLEDÓ BENITO, Ignacio: «Visión del De echo penal en elación con la obó ica, IA y cibe delincuencia», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 149-196. LLEDÓ YAGÜE, F ancisco: «Realidades y dis upciones en o no al obo in eligen e (el u u o del homb e queb adizo)», en LLEDÓ YAGÜE/BENÍTEZ ORTÚZAR/MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 25-78. LÓPEZ HERNÁNDEZ, He nán: «T anshumanismo: ¿qué an é ica esul a la e olución?», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 69-86. LÓPEZ-ONETO, Ma cos: Fundamen os pa a un de echo de la in eligencia a i icial ¿Que emos segui siendo humanos?, 2020, Ti an , Valencia. MADRID, Raúl: «Las máquinas y la agencia mo al», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 87-100. MAGDALENA LAYAS, L.: «¿Po qué debe ía con ia en i (máquina)?», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR/ MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson pp. 617-641. MARTÍNEZ GALINDO, Gema: «Los de echos de los abajado es en e a la cibe delincuencia y sus e en uales esponsabilidades», en ABADÍAS SELMA /GARCÍA GONZÁLEZ (coo d.): P o ección de los abajado es e in eligencia a i icial: la u ela de los de echos sociales en la cua a e olución indus ial, 2022 , pp. 159-183. MONJE BALMASEDA, Ósca : «Responsabilidad ci il, obó ica e in eligencia a i icial», en LLEDÓ YAGÜE/ BENÍTEZ ORTÚZAR /MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 239-264. MONTORO SÁNCHEZ, J.A.: «Implicaciones ela i as al de echo undamen al a la p o ección de da os de ca ác e pe sonal po el uso de la in eligencia a i icial en el p oceso penal», en IBÁÑEZ LÓPEZ-POZAS (coo d.): In eligencia a i icial: los de echos humanos en el cen o , 2023, Mad id, Dykinson. MORENO CATENA, V.: «Re lexiones en o no al bo ado de la Ley de IA de la Unión Eu opea», Semana de la In eligencia a i icial , Facul ad de De echo, Uni e sidad de Se illa, 23-27 de oc ub e de 2023, con e encia de clausu a, h ps:// .us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20C ONFERENCIA%20DE%20CLAUSURA./1_ 41mp2g4 . MORENTE PARRA, Vanesa: «La in eligencia híb ida: ¿hacia el econocimien o y ga an ía de los neu ode echos?», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, 2021, pp. 259-277. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 59 NAVA GARCÉS, A.E.: «La egulación de la in eligencia a i icial y el De echo penal», en ARELLANO TOLEDO, Wilma: De echo, é ica e in eligencia a i icial , 2023, Valencia, Ti an lo Blanch (P ólogo de Ba io And és). NOWOTNY, Helga: La e en la in eligencia a i icial. Los algo i mos p edic i os y el u u o de la humanidad. T ad. Al ed Bosch Ba celona, 2022, Ed. Galaxia Gu enbe g. ORTA PÉREZ, « Me a e so y emp esa », Semana de la In eligencia a i icial , Facul ad de De echo, Uni e sidad de Se illa, 23-27 de oc ub e de 2023, décima mesa, h ps:// .us.es/media/SEMANA%20DE%20LA%20INTELIGENCIA%20ARTIFICIAL.%20D %C3%89CIMA%20MESA./1_i8axkaw2 . ORTEGO RUIZ, M.: La pe sonalidad ju ídica in e nacional de los obo s, 2022, Valencia, Ti an lo Blanch. PALMA HERRERA, J.M.: «In eligencia a i icial y lucha con a la delincuencia. Po encialidad y pelig os en el mundo global», en LLANO ALONSO / GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al , 2021, pp. 279-293. PANIAGUA ALARIO, Ana Mª: «Análisis de la p ime a ley in eg al sob e in eligencia a i icial en el mundo», Blog P oda , 5 de eb e o de 2024, h ps://www.legal oday.com/opinion/blogs/nue as- ecnologias-blogs/blog-p oda /analisis-de- la-p ime a-ley-in eg al-sob e-in eligencia-a i icial-en-el-mundo-2024-02-05/ . PÉREZ DEL PRADO, Daniel : De echo, economía y digi alización: el impac o de la in eligencia a i icial, los algo i mos y la obó ica sob e el empleo y las condiciones de abajo, 2023, Valencia, Ti an lo Blanch. PÉREZ-LUÑO ROBLEDO, E. C.: «¿Puede la in eligencia a i icial acili a el eje cicio de la abogacía?», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, 2021 , pp. 295-303. PLAZA PANADÉS, Ja ie : «Cla es del u u o Reglamen o (Ley) de In eligencia A i icial de la UE», en Las cla es de la u u a Ley de In eligencia A i icial Eu opea , 2024, ed. A anzadi. QUINTERO OLIVARES, Gonzalo: «In eligencia a i icial, pelig osidad y de echo penal», 2023, en h ps://almacendede echo.o g/in eligencia-a i icial-pelig osidad-y-de echo-penal. REBOLLO DELGADO, Luc ecio: In eligencia a i icial y de echos undamen ales , 2023, Mad id. Dykinson. REMÓN, En ique / FRÖHLINGSDORF, Ja ie : «La IA exige una espues a cla a po pa e de nues o de echo penal», 2023, en h ps://www.expansion.com/ju idico/opinion/2023/06/29/649d6ea 468aeb9c768b4608.h ml. RIVERO ORTEGA, Rica do: De echo e in eligencia a i icial: cua o es udios, 2023, San iago de Chile, ed. Olejnik. ROMEO CASABONA, Ca los Mª /RUEDA MARTÍN, Mª Ángeles (eds.): De echo penal, cibe segu idad, cibe deli os e in eligencia a i icial. Volumen II, In eligencia a i icial y esponsabilidad penal, 2023, Coma es, G anada. ROUHIAINEN, Lasse: In eligencia a i icial. 101 cosas que debes sabe hoy sob e nues o u u o, 2018, Ba celona, Ed. Plane a. Ca men Requejo Conde R.E.D.S. núm. 24 ISSN:2340-4647 pág. 60 RUSSELL, S ua J./ NORVIG, Pe e : In eligencia a i icial. Un en oque mode no, 2008, 2ª ed. Mad id, Pea son Educación. T ad. Co chado R., Ma ín R., Cas illo Sanz y Díez Pla a. SAIZ GARITAONANDIA, Albe o: «Desmon ando mi os y con i mando ealidades», en Re is a del Consejo gene al de la abogacía española, 2023, nº. 139, pp. 30 ss. SÁNCHEZ BRAVO, Ál a o: «In eligencia a i icial, con ol y nue os ma cos no ma i os en la Unión eu opea», en LLANO ALONSO /GARRIDO MARTÍN (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, 2021 , pp. 307-330. SERRANO PÉREZ, M.M. / FERNÁNDEZ ALLER, C.: «De echo cons i ucional e in eligencia a i icial», en LLEDÓ YAGÜE / BENÍTEZ ORTÚZAR / MONJE BALMASEDA (di ec o es) y CRUZ BLANCA/LLEDÓ BENITO (coo d.): La obó ica y la in eligencia a i icial en la nue a e a de la in eligencia a i icial 4.0 (Los desa íos ju ídicos, é icos y ecnológicos de los obo s in eligen es) , 2021, Mad id, Dykinson, pp. 487-544. SOLAR CAYÓN, José I.: «In eligencia a i icial en la abogacía: el u u o ya es á aquí», en LLANO ALONSO /GARRIDO MARTÍN, (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al 2021, pp. 331-363. VANTIN, Se ena: «In eligencia a i icial y de echo an idisc imina o io», en LLANO ALONSO /GARRIDO MARTÍN, (edi o es): In eligencia a i icial y de echo: el ju is a an e los e os de la e a digi al, 2021, pp. 367-384. VIOLLIER, Pablo / FISCHER, Emma: «La in e ención humana como esgua do an e la oma de decisiones: implicancias é icas y ju ídicas», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 151-169. ZAMARRO BALLESTEROS, Rica do: «Culpable, la IA», 2023, en h ps://www.abogacia.es/ac ualidad/opinion-y-analisis/culpable-la-ia/ . ZARAGOZA, Juan: « Una nue a humanidad », en h ps://www. acebook.com/Doc o inakipinuel/ ideos/719919290185071/?_ d (09.11.2023). ZAROR MILLARES, Danielle: «¿Po qué esul a an p oblemá ico legisla la ecnología?», en AZUAJE PIRELA, Michelle (coo d.): In oducción a la é ica y el de echo de la in eligencia a i icial, 2023, La Ley, Mad id, pp. 237-250.