Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial: la ineludible protección de los derechos fundamentales

Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial: la ineludible p o ección de los de echos undamen ales* CONSTITUTIONAL PERSPECTIVE OF THE GUARANTEES OF APPLICATION OF ARTIFICIAL INTELLIGENCE: THE INESCAPABLE PROTECTION OF FUNDAMENTAL RIGHTS Jo ge Cas ellanos Cla amun Uni e si a de València jo ge.cas ellanos@u .es 0000-0001-9621-6831 Ma ía Dolo es Mon e o Ca o Uni e sidad de Có doba [email protected] 0000-0001-9033-620X Recibido: 26 de no iemb e 2020 | Acep ado: 20 de diciemb e 2020 RESUMEN PALABRAS CLAVE La In eligencia A i icial iene un innegable e ec o en la sociedad ac ual, po lo que su es udio espec o de sus e ec os ju ídicos de iene necesa io. Y, en consecuencia, el modo en que se en a ec ados los de echos undamen ales iene especial impo ancia. De ahí que en el p esen e abajo se es udie la in luencia de los algo i mos en la de e minación de las esoluciones judi- ciales, sob e odo desde el pun o de is a de cómo a ec a ía es a cues ión al de echo a la u ela judicial e ec i a, econocida como de echo undamen al en el a ículo 24 de la Cons i ución española. In eligencia A i icial Algo i mos De echos undamen ales Ga an ías ju ídicas ABSTRACT KEYWORDS A i icial In elligence has an undeniable e ec on oday’s socie y, so i s s udy ega ding i s legal e ec s becomes necessa y. And consequen ly, how un- damen al igh s a e a ec ed is o pa icula impo ance. Hence, he p esen A i icial in elligence Algo i hms Fundamen al igh s Legal gua an ees * Es e es udio es el esul ado de un p oyec o de in es igación MICINN Re os «De echos y ga an ías en e a las decisiones au oma izadas en en o nos de in eligencia a i icial, IoT, big da a y obó ica» (PID2019-108710RB-I00). IUS ET SCIENTIA 2020 • Vol. 6 • Nº 2 • ISSN 2444-8478 h ps://edi o ial.us.es/es/ e is as/ius-e -scien ia h ps://dx.doi.o g/10.12795/IETSCIENTIA • © Edi o ial Uni e sidad de Se illa 2020 CC BY-NC-ND 4.0. h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 • pp. 72 - 82 pape s udies he in luence o algo i hms in de e mining judi- cial decisions, especially om he poin o iew o how his issue would a ec he igh o e ec i e judicial p o ec ion, ecognized as a undamen al igh in a icle 24 o he Spanish Cons i u ion. I. CONSIDERACIONES PREVIAS La i upción de la In eligencia A i icial (en adelan e, IA) supone un sal o cuali a i o en el en oque y es udio de la ealidad a la que se ap oxime, incluido, po descon ado, el de echo, que equie e de nue as egulaciones de es as no edades. La cla e de odo es e a ance ecnológico es el exponencial inc emen o de la capacidad de cálculo aso- ciada al desa ollo de la in o má ica con empo ánea y, con ello, la posibilidad de ealiza mecánicamen e ope aciones cada ez más complejas, y un mayo núme o de ellas, en mucho meno iempo. De en e odas las inmensas posibilidades que ae consigo pa a las pe sonas la im- plemen ación de la IA, amos a cen a nues o in e és en las de i aciones que se p o- ducen en el mundo del de echo y, po encima de odo ello, su capacidad de a ec a a de echos undamen ales. Una de es as ami icaciones puede plasma se en la ayuda de la IA en la elabo ación de sen encias po pa e de los ibunales. Po ello, como se iene anunciando desde hace años, la IA a a se , si no lo es á siendo ya, un elemen o dis up- i o de g an magni ud en el ámbi o ju ídico, po lo que el modo en el que se ha en en- dido la jus icia a a e se conside ablemen e modi icado. G acias a ello el cambio pod á ma e ializa se, muy posiblemen e, pudiendo da el paso, po ejemplo, en la p e ención ex an e en luga de la adicional espues a ex pos al deli o.1 Respec o del de echo, en España, po ejemplo, encon amos el sis ema Ve iPol, que es ima la p obabilidad de que una denuncia sea alsa. O el Sis ema VioGén, que señala la pelig osidad de posibles homb es mal a ado es y acaba de e minando las decisiones de p isión p e en i a. En es a misma línea, el 70% de es ados de Es ados Unidos u ilizan desde 2004 algún ins umen o mecánico pa a la decisión de libe ad condicional (ej.: Le el o Se ices In en o y– Re ised, LSI-R). Los sis emas de p edicción de iesgo ( isk as- sessmen ins umen s, Public Sa e y Assessmen , PSA) después de la condena se emplean en más de ein e ju isdicciones de Es ados Unidos en los úl imos años. Algunos de es os sis emas son usados po jueces pa a de e mina la condena po la posible eincidencia (sis ema COMPAS del caso Loomis que luego se comen a á). En A gen ina, P ome ea, del Minis e io Público Fiscal de la Ciudad de Buenos Ai es, al pa ece adop a esoluciones en 15 segundos con un 98% de acie o.2 1. Has a aho a, el ace camien o a es os pos ulados descansaba en ela os de ciencia icción, al- gunos de los cuales con cie a ele ancia ya que han sido lle ados a la g an pan alla. Nos e e imos al amoso ela o de Philip K. Dick de la década de los 50, El in o me de la mino ía [Mino i y Repo ], que ue lle ada al cine a p incipios de siglo po S e en Spielbe g. DICK, P. K., El in o me de la mino ía [o iginal: The Mino i y Repo (1956), aducción de Ca los Ga dini], Cí culo de lec o es, España, 2002. 2. COTINO, L., “De echo y ga an ías an e el uso público y p i ado de in eligencia a i icial, obó ica IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 73 Un análisis ío de la si uación nos di ía que g acias a es e desa ollo ecnológico las decisiones judiciales pueden se omadas con un c i e io mucho más cohe en e y azo- nado que si se dejan al aza de las pe sonas, lo que puede in oduci un nue o sesgo en la in e p e ación de los esul ados de la IA. Es e sesgo humano consis e en acep a , de o ma ac í ica, los esul ados de una IA como cie os e inamo ibles, asumiendo un «p incipio de au o idad» de i ado de las expec a i as c eadas po dichos sis emas. De es e modo las decisiones omadas sin cues iona los esul ados de un algo i mo pue- den ene se ias epe cusiones pa a los de echos undamen ales. La pe spec i a posi i a llega al pun o de conside a posible que ambién en algunos ámbi os se deban inco po a ga an ías en es e sen ido, como la necesidad de que se enga que jus i ica po qué la decisión pública –humana– no sigue la p opues a elabo- ada po la IA.3 Pe o ambién hay o as pe spec i as que no ienen an cla o que la u ilización de los algo i mos pa a mejo a la jus icia sea una buena idea. Busca la e iciencia y con ello la apidez en la esolución de los con lic os puede se un alicien e in e esan e, pe o ello no impide que puedan su gi nue as p oblemá icas que an es no exis ían.4 A es e espec o Pasquale concluye que, incluso en las es e as donde los algo i mos esuel en algunos p oblemas, es os es án c eando o os nue os.5 Los p ejuicios elacionados, po ejem- plo, con an eceden es aciales o é nicos, no pueden se econocidos como ales po la policía cuando se in eg an en un p og ama in o má ico au oma izado que se conside a independien e y neu al. O o sesgo puede de i a se del código pos al, de mane a que un dis i o con mayo núme o de inciden es puede p opicia en el suje o in ac o un cas igo mayo an e los mismos hechos po o o suje o esiden e en o o luga . En es a ci cuns ancia las desigualdades económicas pueden de e mina , ambién, desigualda- des en la ealización de la jus icia. Como esul ado, el sesgo puede es anda iza se y es menos p obable que sea iden i- icado y cues ionado como al. Po an o, de odo lo an edicho se colige que en el ámbi o de la jus icia los pos u- lados a a o y en con a de la implemen ación de la IA en la escena ju ídica p esen an plan eamien os con apues os y que pueden a ec a , y de hecho a ec an, conside able- men e a los de echos undamen ales. y big da a”, en M. BAUZA REILLY (di .), El de echo de las TIC en Ibe oamé ica, La Ley U uguay, U uguay, 2019, p. 941. 3. Ibídem, p. 942. 4. Su gen, po su p opia na u aleza, cues iones que en emezclan el ámbi o ju ídico y el é ico. Pa a p o undiza sob e ello, id. FERNÁNDEZ AGIS, D., “É ica, de echo y obó ica”, Re is a Elec ónica IUS ET SCIENTIA, ol. 6, nº 1, 2020, pp. 22-31. 5. PASQUALE, F., The Black Box Socie y: The Sec e Algo y hms Tha Con ol Money and In o ma ion, Ha a d Uni e si y P ess, Camb idge, 2015, p. 36. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 74 II. ALGORITMOS Y JUSTICIA En el sis ema de jus icia, la IA puede se un mo o de mejo a o un elemen o dis o sio- nado , de modo que exis en elemen os que a o ecen el a ance, pe o de igual mane a gene an una di icul ad. De ahí la p oblemá ica del deba e ju ídico en la implan ación de elemen os de IA en el p og eso de la jus icia. Po ejemplo, el uso de la pun uación de iesgo au oma izada en el sis ema de jus icia penal puede educi el núme o de in- di iduos del g upo mayo i a io que son innecesa iamen e enca celados, pe o al mismo iempo que los allos en el sis ema si en pa a aumen a la asa de enca celamien os e óneos pa a los que pe enecen a g upos ma ginados.6 Si los sis emas algo í micos de oma de decisiones se basan en decisiones humanas p e ias, es p obable que los mis- mos sesgos que po encialmen e soca en la oma de decisiones humanas se epliquen y mul ipliquen en los sis emas algo í micos de oma de decisiones. Po an o, si bien las he amien as que p opo ciona la IA apa en emen e p ome en un mayo g ado de igo y consis encia en la oma de decisiones de jus icia penal, su uso puede p oduci ácil- men e esul ados disc imina o ios.7 Los algo i mos se u ilizan cada ez más en el con ex o de los sis emas de jus icia ci il y penal donde se es á desa ollando in eligencia a i icial pa a e en ualmen e apoya o eemplaza la oma de decisiones po pa e de jueces humanos. Es os sis e- mas se es án p obando ac ualmen e pa a iden i ica los esul ados de las decisiones con el in de de ec a pa ones en la oma de decisiones judiciales complejas. En es- udios ecien es se indica que la asa de p edicción con iable es ela i amen e baja, alcanza ía un 79%,8 aunque ambién hay que indica que p og esa con o me los sis- emas an ap endiendo de o ma au ónoma. Aun así, se conside a p ema u o en el momen o ac ual imagina que ales sis emas eemplacen a los jueces. Sin emba go, lo que se sugie e es que dichos sis emas pueden apoya o ayuda a los jueces y ambién a los abogados.9 De lo que no cabe duda es que la endencia hacia el uso de écnicas y algo i mos de p ocesamien o au oma izado en la p e ención del deli o y el sis ema de jus icia pe- nal es á c eciendo. Ya se es án u ilizando algo i mos pa a de e mina a quién igila , a quién pone en libe ad condicional, y cuán o iempo debe pe manece en p isión un acusado. 6. ANGWIN, J., J. LARSON, S. MATTU, y L. KIRCHNER, “Machine Bias, The e’s so wa e used ac oss he coun y o p edic u u e c iminals. And i ’s biased agains blacks”, P oPublica, 2016. Disponible en: h ps://www.p opublica.o g/a icle/machine-bias- isk-assessmen s-in-c iminal-sen encing 7. Un análisis de allado sob e los nue os desa íos plan eados po la IA lo encon amos en el in- o me elabo ado po Be kman Klein Cen e , disponible en: h ps://cybe .ha a d.edu/s o y/2019-10/ e hics-and-go e nance-ai-be kman-klein- epo -impac -2017-2019 8. ALETRAS, N., D. TSARAPATSANIS, D. PREOµIUC-PIETRO, y V. LAMPOS, “P edic ing judicial de- cisions o he Eu opean Cou o Human Righ s: a Na u al Language P ocessing pe spec i e”, Pee J Compu e Science Open Access, 2016, p. 2. DOI 10.7717/pee j-cs.93. Disponible en: h ps://pee j.com/ a icles/cs-93.pd 9. Ibídem. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 75 O as de i aciones de la IA se pueden u iliza pa a apoya a los ibunales en la ges- ión de casos (po ejemplo, escaneando y a ibuyendo solici udes a las secciones judi- ciales esponsables), o pa a analiza el desempeño del ibunal. Dada la p esión de la g an can idad de casos y los ecu sos insu icien es que su- en la mayo ía de los pode es judiciales, exis e el pelig o de que los sis emas de apoyo basados en in eligencia a i icial sean u ilizados de mane a inap opiada po los jueces pa a «delega » decisiones a sis emas ecnológicos que no ue on desa ollados pa a ese p opósi o y se pe ciben como más «obje i os» incluso cuando es e no es el caso. Con ello, po ejemplo, puede ocu i que un indi iduo sea sen enciado con más du eza de la que hab ía o debe ía habe sido enjuiciado.10 Pe o al se una p oyección del algo i mo, no hay ma gen pa a a epen i se de es as decisiones. Si el algo i mo es especialmen e se e o, las consecuencias solo a ec an al indi iduo injus amen e penalizado pues o que no se puede demos a que sin la es imación hecha po la IA el suje o no hubie a, po ejemplo, eincidido. Po lo an o, se debe ene mucho cuidado al e alua lo que dichos sis emas pueden o ece y bajo qué condiciones se pueden u iliza pa a no pone en pelig o el de echo a un juicio jus o. Es e es pa icula men e el caso cuando ales sis- emas se in oducen obliga o iamen e, como se p oduce en las decisiones de libe ad condicional en los Es ados Unidos. Las p eocupaciones sob e el sesgo judicial en o no a las decisiones de libe ad condicional han lle ado a la in oducción obliga o ia de so wa e pa a p edeci la p obabilidad de que los delincuen es eincidan en muchos es ados de Es ados Unidos.11 III. GARANTÍAS JURÍDICAS DEL USO DE LOS ALGORITMOS Los bene icios de oma decisiones sob e la base de los cálculos ma emá icos pueden se eno mes en muchos sec o es de la ida, pe o depende demasiado de la in eligencia a i icial, que implica inhe en emen e de e mina pa ones más allá de es os cálculos, ambién puede ol e se con a los usua ios, come e injus icias y es ingi los de echos de las pe sonas. Po ese mo i o ha de se ácil y ápido es ablece quién es el esponsa- ble de las consecuencias que puedan esul a de los ac os de un sis ema in eligen e.12 Y po ello son esenciales los mecanismos e ec i os de epa ación pa a las pe sonas cuyos de echos undamen ales ue on in ingidos po los sis emas au oma izados de oma de decisiones. Si se u iliza un sis ema de in eligencia a i icial pa a la in e acción con pe sonas en el con ex o de se icios públicos, especialmen e en el ámbi o de la jus icia, el usua io 10. RASO, F., H. HILLIGOSS, V. KRISHNAMURTHY, C. BAVITZ, y L. KIM, “A i icial In elligence & Human Righ s: Oppo uni ies & Risks”, Be kman Klein Cen e o In e ne & Socie y Resea ch Publica ion, 2018, pp. 1-62. Disponible en: h ps://dash.ha a d.edu/handle/1/38021439 11. McCANEY, K., P isons u n o analy ics so wa e o pa ole decisions, 1 No iemb e 2013. Disponi- ble en: h ps://gcn.com/a icles/2013/11/01/p ison-analy ics-so wa e.aspx 12. BOSTROM, N., y YUDKOWSKY E., “The E hics o A i icial In elligence”, en W. RAMSEY y K. FRANKI- SH (eds.), Camb idge Handbook o A i icial In elligence, Camb idge Uni e si y P ess, 2014, pp. 316-334. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 76 debe ene odas las ga an ías posibles, de modo que aquellos sob e los que hayan omado una decisión, po pa e de una au o idad pública que es é in o mada única o signi ica i amen e po la salida de un sis ema de IA, deben se no i icados y ecibi la in o mación adecuada. Sin emba go, ya ha habido casos en los que se ha pues o en duda la exis encia de las ga an ías necesa ias en los p ocedimien os judiciales al incidi en ellos la IA. Un ejemplo es el conocido caso Loomis,13 que pasamos b e emen e a de alla : En el año 2013 E ic Loomis ue de enido po agen es de policía del Es ado de Wis- consin (Es ados Unidos) cuando conducía un ehículo implicado en un ecien e i o eo. Se le acusaba de hui de la policía y u iliza un ehículo sin la au o ización de su p opie- a io. El seño Loomis se decla ó culpable de ambos deli os con la espe anza de que no u ie a que ing esa en p isión. Du an e la is a pa a decidi sob e su libe ad condicional, el iscal apo ó un in o - me elabo ado po el p og ama in o má ico Compas (dicho p og ama u iliza más de 100 ac o es, incluyendo edad, sexo e his o ial c iminal, pa a cali ica a los acusados en una escala de 1 a 10: los acusados con pun uación de 1 a 4 son a ados como de bajo iesgo; mien as que los acusados con pun uación de 5 a 10 se a an como de iesgo medio o al o), desa ollado po la emp esa p i ada No hpoin e Inc, según el cual el seño Loomis enía un iesgo ele ado de eincidencia y de come e ac os iolen os. El in o me con- cluía que el condenado ep esen aba un «al o iesgo pa a la comunidad». Pa iendo de ales conside aciones, el juez impuso al seño Loomis una pena de 6 años de p isión y o os 5 en égimen de libe ad igilada. La de ensa del condenado ecu ió la sen encia alegando que se había ulne ado el de echo a un p oceso con odas las ga an ías po que no podía discu i los mé odos u i- lizados po el p og ama in o má ico Compas dado que el algo i mo e a sec e o y solo lo conocía la emp esa que lo había desa ollado. Sin emba go, ales a gumen os no ue on acogidos po la Co e Sup ema del Es ado de Wisconsin. Los jueces a gumen a on que, en de ini i a, el p og ama in o má ico se había basado únicamen e en los ac o es ha- bi uales pa a medi la pelig osidad c iminal u u a como, po ejemplo, hui de la policía y el his o ial delic i o p e io. Así, sob e es a cues ión alló la Co e Sup ema de Wisconsin, que dic ó una sen encia en la que se p onunció po p ime a ez sob e la cons i ucionalidad del uso de algo i - mos p ocesados in o má icamen e, median e un sis ema de in eligencia a i icial, como undamen o del allo del ibunal de ins ancia in e io ,14 y cuya decisión no ue e isada po la Co e Sup ema de los Es ados Unidos,15 pese a que el apelan e sos u o que el al- go i mo in eligen e usaba inco ec amen e, en e o as cues iones, las e aluaciones de 13. S a e . Loomis, 881 N.W.2d 749 (Wis. 2016). Disponible en: h ps://law.jus ia.com/cases/wis- consin/sup eme-cou /2016/2015ap000157-c .h ml 14. FREEMAN, K., “Algo i hmic Injus ice: how he Wisconsin Sup eme Cou ailed o p o ec due p ocess igh s in S a e . Loomis”, No h Ca oline Jou nal o Law and Technology (NCJL & Tech.), ol. 18, 2016, pp. 75-106. 15. h p://www.sco usblog.com/case- iles/cases/loomis- -wisconsin/ IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 77 géne o.16 En su allo el T ibunal acep ó su u ilización, a gumen ando que el de echo de los acusados al debido p oceso no ue iolado po el me o hecho de que no pudie on ac- cede a una explicación adecuada sob e el a amien o in o má ico de los algo i mos.17 S a e Loomis ha susci ado conside able in e és en el ámbi o es adounidense ya que es la segunda sen encia de una co e sup ema es a al que acep a exp esamen e la en ada de cálculos de iesgo ma emá icos en un educ o has a aho a an ajeno a ellos como el dic ado de una condena c iminal,18 y la p ime a que además pe mi e que esos cálculos se hagan con un algo i mo cuyo uncionamien o es sec e o.19 IV. ¿TUTELA JUDICIAL EFECTIVA? Vamos aho a a obse a la cues ión desde una pe spec i a es ic amen e cons i ucio- nalis a den o del O denamien o ju ídico español. Si omamos como pun o de pa ida la p o ección de de echos undamen ales, además desde el p isma cons i ucionalis a que ba niza y comple a el p esen e es udio, lo que debemos conside a es si, e dade- amen e, es e modo de p ocede se ía compa ible con un de echo undamen al como es la u ela judicial e ec i a en España. Y es que no hay que pe de de is a que el a ícu- lo 24 de la CE econoce a « odas las pe sonas» el de echo a ob ene la u ela e ec i a de jueces y ibunales en el eje cicio de sus de echos e in e eses legí imos. De es a o ma se consag a el de echo a accede a los ó ganos ju isdiccionales pa a la de ensa de los p opios de echos e in e eses. Pe o el de echo no se ago a, única y exclusi amen e, con accede a los ibunales. El desa ollo pos e io del p oceso espe ando los mínimos ju ídicos básicos comp ende, como se ha enca gado de exp esa epe idas eces el T i- bunal Cons i ucional, mucho más que la me a posibilidad de accede a los ibunales.20 Así, an e la imposibilidad de pode oma como e e encia la posición ju isp uden- cial en la cues ión conc e a, debemos a a de esg imi los a gumen os an o a a o como en con a que es e desa ollo en la labo judicial, con di ec as aplicaciones en la ealidad de los ciudadanos, iene en su a ec ación cons i ucional. Una p ime a ap oximación implica ía un cie o echazo ju ídico español a es as p ác- icas pues o que la posibilidad de que el condenado alega a inde ensión es muy am- 16. CORVALÁN, J. G., “In eligencia a i icial: e os, desa íos y opo unidades – P ome ea: la p ime a in eligencia a i icial de La inoamé ica al se icio de la Jus icia”, Re is a de In es igações Cons i ucio- nais, Cu i iba, ol. 5, 1, jan./ab . 2018, pp. 295-316. DOI: 10.5380/ inc. 5i1.55334. 17. ROMEO CASABONA, C. M., “Riesgo, p ocedimien os ac ua iales basados en in eligencia a i i- cial y medidas de segu idad”, Re is a de De echo, Emp esa y Sociedad (REDS), 3, Julio-Diciemb e 2018, pp. 39-55. 18. La p ime a ue el caso Malenchik . S a e o Indiana, 9 de eb e o de 2010. Disponible en: h - ps://www.in.go /judicia y/opinions/pd /06091001bd.pd 19. MARTÍNEZ GARAY, L., “Pelig osidad, algo i mos y due p ocess: el caso S a e Loomis”, Re is a de De echo Penal y C iminología, 20, 2018, p. 494. 20. Son múl iples las sen encias que han ido desg anando los di e en es elemen os que consa- g an es e de echo undamen al. Sin ánimo de se exhausi i os des acamos: STC 47/1983 de 31 de mayo; STC 101/1984, de 8 de no iemb e; STC 102/1984, de 12 de no iemb e; STC 145/1988, de 12 de julio; en e o as. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 78 plia. Más allá de discu i pa ece es ju ídicos o la p opia azonabilidad de la sen encia, en es e supues o hipo é ico, condena o ia, el quid de la cues ión se ía que no se ha podido conoce , en odas y cada una de sus ace as, el modo en el que se ha conducido a esa decisión judicial que a ec a, en el caso que manejamos, a la p i ación de la libe ad, con la ob ia a ec ación de de echos undamen ales que ello implica. Ello supond ía cen a la a ención en explici a el modo en el que el juez ha llegado a las conclusiones ju ídicas, con la necesa ia mo i ación de i ada de su labo 21, pe o no desde un pun o de is a es ic amen e ju ídico, sino de la in luencia que ha enido la IA en su decisión y, aún más, cuál es el p oceso seguido po la IA, en base al algo i mo p og amado pa a ello, pa a es ablece sus p opias conclusiones. Ese a gumen o, al menos en el escena- io ju ídico ac ual, ya implica ía una ba e a di ícilmen e anqueable pa a no conclui que se encuen a en una posición de inde ensión aquel que ha sido condenado po las conclusiones a las que conduce el azonamien o, no ya solo del juez, sino de la IA que le auxilia. No obs an e, el manda o cons i ucional consis en e en la mo i ación de las eso- luciones judiciales del a ículo 120.3 de la CE22 comp ende que és as se encuen en undadas en de echo, es deci , que no incu a en a bi a iedad, i azonabilidad o e o apa en e.23 En es e sen ido, no se ían mo i adas aquellas esoluciones judiciales que pa ie an de p emisas inexis en es o con un desa ollo a gumen al ilógico que die an como esul ado unas conclusiones no apoyadas ju ídicamen e.24 P ecisamen e, el posi- ble ma gen de a bi a iedad judicial pod ía disminui de o ma conside able g acias al uso de la IA. Asimismo, y no menos impo an e, an o el uso de algo i mos basados en da os ce e os como el de la es adís ica pod ía supone una educción de los plazos de esolución judicial, aspec o és e ambién incluido en el p opio con enido esencial del de echo a la u ela judicial e ec i a. En e ec o, la inco po ación p og esi a de la IA en el ámbi o judicial debe coexis i con el espe o a la ga an ía de un p oceso jus o y undado en de echo. Po ello, se eque i á siemp e que la úl ima palab a la enga el ó gano judicial compe en e pa a esol e el caso en cues ión, siendo él mismo quien decidi á en úl ima ins ancia si aplica o no los esul ados p obabilís icos que puedan de i a se del uso de algo i mos. Aho a bien, desde una posición, si se pe mi e la exp esión, ludi a, es e a gumen o se ía muy aplaudido. Pe o la p opia e olución ecnológica conlle a, como menciona- mos al p incipio de es e ex o, que la IA inunde cualquie escena io humano, siendo el 21. P ecisamen e uno de los elemen os esg imidos po el T ibunal Cons i ucional es el que hace e e encia a la necesidad de esolución undada en de echo como elemen o ca ac e ís ico de la u e- la judicial e ec i a p oclamada en el a ículo 24 CE ( id. STC 24/1981, de 14 de julio. FJ.3º). 22. Aunque exp esamen e el a ículo 120.3 CE hable de sen encias, el Al o T ibunal ex iende es a obligación cons i ucional de mo i ación a los in eg an es del pode judicial en gene al ( id. STC 36/2006, de 13 de eb e o). 23. STC 215/2006, de 3 de julio, FJ. 3º. 24. MILIONE, C., “El de echo a la mo i ación de las esoluciones judiciales en la ju isp udencia del T ibunal Cons i ucional y el de echo a la cla idad: e lexiones en o no a una deseada mode nización del lenguaje ju ídico”, Re is a Es udios de Deus o, Vol. 63/2, 2015, p.178. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 79 de echo y la o ganización de cualquie sociedad un elemen o especialmen e p edis- pues o a es a imb icación. Po ello, el en endimien o de la acili ación de la labo del juez median e cues iones écnicas, como puede se la elabo ación de pe iles de iesgo en base a c i e ios es adís icos, pod ía se equipa able a la in luencia que pueda ene cualquie o o elemen o écnico en la decisión judicial. A sabe , el juez debe conoce e in e p e a el de echo,25 pe o no iene obligación de se un expe o en odo conoci- mien o o sabe . De ahí que se auxilie de documen os elabo ados po écnicos, pe i os y demás in o mes que puedan o ien a le en un de e minado sen ido. Si en endemos la in luencia de la IA en la labo judicial desde un pun o de is a auxilia , no en un u elaje sino en un auxilio pun ual, debido a la ingen e can idad de da os que puede p ocesa el sis ema de IA que le ayude en cues iones conc e as, el acomodo de la IA en la labo del juez no pa ece an con a ia a los p incipios ju ídicos básicos. Pod ía conside a se que la de e minación a la que llega, no inalis a po que siemp e queda ía abie a a una in e p e ación di e en e del juez, es p oduc o de un conocimien o p o undo sob e una ma e ia. En es e caso la “sabidu ía” es p oduc o de la es adís ica, dige ida y ges ionada de o ma ab umado amen e más amplia de lo que se ía posible pa a cualquie in eli- gencia humana. El conocimien o en el que se auxilia el juez es el mayo conocimien o de los da os que se pueden p ocesa , pe o si las conclusiones no son inculan es el juez siemp e pod á, en a as de da cumplimien o a la jus icia, in úl imo que se le a ibuye, oma o a decisión mo i ada po o os elemen os, no necesa iamen e la o ien ada o p e o mulada po la IA. Po an o, la p o ección de de echos undamen ales es básica en es a ma e ia, pe o la labo del juez ya e a an es ambién la p opia de aquel que debe abaja con la ce - eza de que no se deben lesiona los de echos undamen ales de los ciudadanos. El au- xilio ecnológico desde es a pe spec i a se á un condicionan e más, no de e minan e, de la esolución judicial. Alega inde ensión po no desg ana odos y cada uno de los elemen os en los que se basa el algo i mo pod ía se equi alen e, con es e plan ea- mien o, a que el écnico al desa olla el in o me enca gado en la ma e ia en la que es expe o, no solo alega a los mo i os po los que es expe o, sino odos y cada uno de los elemen os que le han conducido a se un expe o. Ob iamen e si en amos en la cues ión de los de echos undamen ales debemos se especialmen e exhaus i os y igu osos pa a impedi su ansg esión, más si cabe en un escena io ju ídico an ga an- is a como el nues o, pe o la posibilidad de p esen a a gumen os a a o o en con a alimen a el necesa io y en iquecedo deba e ju ídico que, sin duda, es a á p esen e en los p óximos iempos. 25. El po odos conocidos p incipio iu a no i cu ia. Pa a amplia sob e es a cues ión id: CAL- VINHO, G., “El b ocá dico iu a no i cu ia”, Re is a de de echo p ocesal, 1, 2009 (Ejempla dedicado a: Homenaje al p o eso Ped o A agoneses Alonso), pp. 223-250. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial… Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o 80