Pe spec i a cons i ucional de las ga an ías de
aplicación de la in eligencia a i icial: la ineludible
p o ección de los de echos undamen ales*
CONSTITUTIONAL PERSPECTIVE OF THE GUARANTEES OF APPLICATION OF
ARTIFICIAL INTELLIGENCE: THE INESCAPABLE PROTECTION OF
FUNDAMENTAL RIGHTS
Jo ge Cas ellanos Cla amun
Uni e si a de València
jo ge.cas ellanos@u .es 0000-0001-9621-6831
Ma ía Dolo es Mon e o Ca o
Uni e sidad de Có doba
[email protected] 0000-0001-9033-620X
Recibido: 26 de no iemb e 2020 | Acep ado: 20 de diciemb e 2020
RESUMEN PALABRAS CLAVE
La In eligencia A i icial iene un innegable e ec o en la sociedad ac ual, po
lo que su es udio espec o de sus e ec os ju ídicos de iene necesa io. Y, en
consecuencia, el modo en que se en a ec ados los de echos undamen ales
iene especial impo ancia. De ahí que en el p esen e abajo se es udie la
in luencia de los algo i mos en la de e minación de las esoluciones judi-
ciales, sob e odo desde el pun o de is a de cómo a ec a ía es a cues ión al
de echo a la u ela judicial e ec i a, econocida como de echo undamen al
en el a ículo 24 de la Cons i ución española.
In eligencia A i icial
Algo i mos
De echos undamen ales
Ga an ías ju ídicas
ABSTRACT KEYWORDS
A i icial In elligence has an undeniable e ec on oday’s socie y, so i s s udy
ega ding i s legal e ec s becomes necessa y. And consequen ly, how un-
damen al igh s a e a ec ed is o pa icula impo ance. Hence, he p esen
A i icial in elligence
Algo i hms
Fundamen al igh s
Legal gua an ees
* Es e es udio es el esul ado de un p oyec o de in es igación MICINN Re os «De echos y ga an ías en e a las
decisiones au oma izadas en en o nos de in eligencia a i icial, IoT, big da a y obó ica» (PID2019-108710RB-I00).
IUS ET SCIENTIA
2020 • Vol. 6 • Nº 2 • ISSN 2444-8478
h ps://edi o ial.us.es/es/ e is as/ius-e -scien ia
h ps://dx.doi.o g/10.12795/IETSCIENTIA • © Edi o ial Uni e sidad de Se illa 2020
CC BY-NC-ND 4.0.
h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06 • pp. 72 - 82
pape s udies he in luence o algo i hms in de e mining judi-
cial decisions, especially om he poin o iew o how his issue
would a ec he igh o e ec i e judicial p o ec ion, ecognized
as a undamen al igh in a icle 24 o he Spanish Cons i u ion.
I. CONSIDERACIONES PREVIAS
La i upción de la In eligencia A i icial (en adelan e, IA) supone un sal o cuali a i o en
el en oque y es udio de la ealidad a la que se ap oxime, incluido, po descon ado, el
de echo, que equie e de nue as egulaciones de es as no edades. La cla e de odo
es e a ance ecnológico es el exponencial inc emen o de la capacidad de cálculo aso-
ciada al desa ollo de la in o má ica con empo ánea y, con ello, la posibilidad de ealiza
mecánicamen e ope aciones cada ez más complejas, y un mayo núme o de ellas, en
mucho meno iempo.
De en e odas las inmensas posibilidades que ae consigo pa a las pe sonas la im-
plemen ación de la IA, amos a cen a nues o in e és en las de i aciones que se p o-
ducen en el mundo del de echo y, po encima de odo ello, su capacidad de a ec a a
de echos undamen ales. Una de es as ami icaciones puede plasma se en la ayuda de
la IA en la elabo ación de sen encias po pa e de los ibunales. Po ello, como se iene
anunciando desde hace años, la IA a a se , si no lo es á siendo ya, un elemen o dis up-
i o de g an magni ud en el ámbi o ju ídico, po lo que el modo en el que se ha en en-
dido la jus icia a a e se conside ablemen e modi icado. G acias a ello el cambio pod á
ma e ializa se, muy posiblemen e, pudiendo da el paso, po ejemplo, en la p e ención
ex an e en luga de la adicional espues a ex pos al deli o.1
Respec o del de echo, en España, po ejemplo, encon amos el sis ema Ve iPol, que
es ima la p obabilidad de que una denuncia sea alsa. O el Sis ema VioGén, que señala la
pelig osidad de posibles homb es mal a ado es y acaba de e minando las decisiones
de p isión p e en i a. En es a misma línea, el 70% de es ados de Es ados Unidos u ilizan
desde 2004 algún ins umen o mecánico pa a la decisión de libe ad condicional (ej.:
Le el o Se ices In en o y– Re ised, LSI-R). Los sis emas de p edicción de iesgo ( isk as-
sessmen ins umen s, Public Sa e y Assessmen , PSA) después de la condena se emplean
en más de ein e ju isdicciones de Es ados Unidos en los úl imos años. Algunos de es os
sis emas son usados po jueces pa a de e mina la condena po la posible eincidencia
(sis ema COMPAS del caso Loomis que luego se comen a á). En A gen ina, P ome ea, del
Minis e io Público Fiscal de la Ciudad de Buenos Ai es, al pa ece adop a esoluciones
en 15 segundos con un 98% de acie o.2
1. Has a aho a, el ace camien o a es os pos ulados descansaba en ela os de ciencia icción, al-
gunos de los cuales con cie a ele ancia ya que han sido lle ados a la g an pan alla. Nos e e imos
al amoso ela o de Philip K. Dick de la década de los 50, El in o me de la mino ía [Mino i y Repo ],
que ue lle ada al cine a p incipios de siglo po S e en Spielbe g. DICK, P. K., El in o me de la mino ía
[o iginal: The Mino i y Repo (1956), aducción de Ca los Ga dini], Cí culo de lec o es, España, 2002.
2. COTINO, L., “De echo y ga an ías an e el uso público y p i ado de in eligencia a i icial, obó ica
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
73
Un análisis ío de la si uación nos di ía que g acias a es e desa ollo ecnológico las
decisiones judiciales pueden se omadas con un c i e io mucho más cohe en e y azo-
nado que si se dejan al aza de las pe sonas, lo que puede in oduci un nue o sesgo
en la in e p e ación de los esul ados de la IA. Es e sesgo humano consis e en acep a ,
de o ma ac í ica, los esul ados de una IA como cie os e inamo ibles, asumiendo un
«p incipio de au o idad» de i ado de las expec a i as c eadas po dichos sis emas. De
es e modo las decisiones omadas sin cues iona los esul ados de un algo i mo pue-
den ene se ias epe cusiones pa a los de echos undamen ales.
La pe spec i a posi i a llega al pun o de conside a posible que ambién en algunos
ámbi os se deban inco po a ga an ías en es e sen ido, como la necesidad de que se
enga que jus i ica po qué la decisión pública –humana– no sigue la p opues a elabo-
ada po la IA.3
Pe o ambién hay o as pe spec i as que no ienen an cla o que la u ilización de los
algo i mos pa a mejo a la jus icia sea una buena idea. Busca la e iciencia y con ello la
apidez en la esolución de los con lic os puede se un alicien e in e esan e, pe o ello no
impide que puedan su gi nue as p oblemá icas que an es no exis ían.4 A es e espec o
Pasquale concluye que, incluso en las es e as donde los algo i mos esuel en algunos
p oblemas, es os es án c eando o os nue os.5 Los p ejuicios elacionados, po ejem-
plo, con an eceden es aciales o é nicos, no pueden se econocidos como ales po la
policía cuando se in eg an en un p og ama in o má ico au oma izado que se conside a
independien e y neu al. O o sesgo puede de i a se del código pos al, de mane a que
un dis i o con mayo núme o de inciden es puede p opicia en el suje o in ac o un
cas igo mayo an e los mismos hechos po o o suje o esiden e en o o luga . En es a
ci cuns ancia las desigualdades económicas pueden de e mina , ambién, desigualda-
des en la ealización de la jus icia.
Como esul ado, el sesgo puede es anda iza se y es menos p obable que sea iden i-
icado y cues ionado como al.
Po an o, de odo lo an edicho se colige que en el ámbi o de la jus icia los pos u-
lados a a o y en con a de la implemen ación de la IA en la escena ju ídica p esen an
plan eamien os con apues os y que pueden a ec a , y de hecho a ec an, conside able-
men e a los de echos undamen ales.
y big da a”, en M. BAUZA REILLY (di .), El de echo de las TIC en Ibe oamé ica, La Ley U uguay, U uguay,
2019, p. 941.
3. Ibídem, p. 942.
4. Su gen, po su p opia na u aleza, cues iones que en emezclan el ámbi o ju ídico y el é ico. Pa a
p o undiza sob e ello, id. FERNÁNDEZ AGIS, D., “É ica, de echo y obó ica”, Re is a Elec ónica IUS ET
SCIENTIA, ol. 6, nº 1, 2020, pp. 22-31.
5. PASQUALE, F., The Black Box Socie y: The Sec e Algo y hms Tha Con ol Money and In o ma ion,
Ha a d Uni e si y P ess, Camb idge, 2015, p. 36.
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
74
II. ALGORITMOS Y JUSTICIA
En el sis ema de jus icia, la IA puede se un mo o de mejo a o un elemen o dis o sio-
nado , de modo que exis en elemen os que a o ecen el a ance, pe o de igual mane a
gene an una di icul ad. De ahí la p oblemá ica del deba e ju ídico en la implan ación
de elemen os de IA en el p og eso de la jus icia. Po ejemplo, el uso de la pun uación
de iesgo au oma izada en el sis ema de jus icia penal puede educi el núme o de in-
di iduos del g upo mayo i a io que son innecesa iamen e enca celados, pe o al mismo
iempo que los allos en el sis ema si en pa a aumen a la asa de enca celamien os
e óneos pa a los que pe enecen a g upos ma ginados.6 Si los sis emas algo í micos de
oma de decisiones se basan en decisiones humanas p e ias, es p obable que los mis-
mos sesgos que po encialmen e soca en la oma de decisiones humanas se epliquen
y mul ipliquen en los sis emas algo í micos de oma de decisiones. Po an o, si bien las
he amien as que p opo ciona la IA apa en emen e p ome en un mayo g ado de igo
y consis encia en la oma de decisiones de jus icia penal, su uso puede p oduci ácil-
men e esul ados disc imina o ios.7
Los algo i mos se u ilizan cada ez más en el con ex o de los sis emas de jus icia
ci il y penal donde se es á desa ollando in eligencia a i icial pa a e en ualmen e
apoya o eemplaza la oma de decisiones po pa e de jueces humanos. Es os sis e-
mas se es án p obando ac ualmen e pa a iden i ica los esul ados de las decisiones
con el in de de ec a pa ones en la oma de decisiones judiciales complejas. En es-
udios ecien es se indica que la asa de p edicción con iable es ela i amen e baja,
alcanza ía un 79%,8 aunque ambién hay que indica que p og esa con o me los sis-
emas an ap endiendo de o ma au ónoma. Aun así, se conside a p ema u o en el
momen o ac ual imagina que ales sis emas eemplacen a los jueces. Sin emba go, lo
que se sugie e es que dichos sis emas pueden apoya o ayuda a los jueces y ambién
a los abogados.9
De lo que no cabe duda es que la endencia hacia el uso de écnicas y algo i mos
de p ocesamien o au oma izado en la p e ención del deli o y el sis ema de jus icia pe-
nal es á c eciendo. Ya se es án u ilizando algo i mos pa a de e mina a quién igila , a
quién pone en libe ad condicional, y cuán o iempo debe pe manece en p isión un
acusado.
6. ANGWIN, J., J. LARSON, S. MATTU, y L. KIRCHNER, “Machine Bias, The e’s so wa e used ac oss he
coun y o p edic u u e c iminals. And i ’s biased agains blacks”, P oPublica, 2016. Disponible en:
h ps://www.p opublica.o g/a icle/machine-bias- isk-assessmen s-in-c iminal-sen encing
7. Un análisis de allado sob e los nue os desa íos plan eados po la IA lo encon amos en el in-
o me elabo ado po Be kman Klein Cen e , disponible en: h ps://cybe .ha a d.edu/s o y/2019-10/
e hics-and-go e nance-ai-be kman-klein- epo -impac -2017-2019
8. ALETRAS, N., D. TSARAPATSANIS, D. PREOµIUC-PIETRO, y V. LAMPOS, “P edic ing judicial de-
cisions o he Eu opean Cou o Human Righ s: a Na u al Language P ocessing pe spec i e”, Pee J
Compu e Science Open Access, 2016, p. 2. DOI 10.7717/pee j-cs.93. Disponible en: h ps://pee j.com/
a icles/cs-93.pd
9. Ibídem.
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
75
O as de i aciones de la IA se pueden u iliza pa a apoya a los ibunales en la ges-
ión de casos (po ejemplo, escaneando y a ibuyendo solici udes a las secciones judi-
ciales esponsables), o pa a analiza el desempeño del ibunal.
Dada la p esión de la g an can idad de casos y los ecu sos insu icien es que su-
en la mayo ía de los pode es judiciales, exis e el pelig o de que los sis emas de apoyo
basados en in eligencia a i icial sean u ilizados de mane a inap opiada po los jueces
pa a «delega » decisiones a sis emas ecnológicos que no ue on desa ollados pa a ese
p opósi o y se pe ciben como más «obje i os» incluso cuando es e no es el caso. Con
ello, po ejemplo, puede ocu i que un indi iduo sea sen enciado con más du eza de la
que hab ía o debe ía habe sido enjuiciado.10 Pe o al se una p oyección del algo i mo,
no hay ma gen pa a a epen i se de es as decisiones. Si el algo i mo es especialmen e
se e o, las consecuencias solo a ec an al indi iduo injus amen e penalizado pues o que
no se puede demos a que sin la es imación hecha po la IA el suje o no hubie a, po
ejemplo, eincidido. Po lo an o, se debe ene mucho cuidado al e alua lo que dichos
sis emas pueden o ece y bajo qué condiciones se pueden u iliza pa a no pone en
pelig o el de echo a un juicio jus o. Es e es pa icula men e el caso cuando ales sis-
emas se in oducen obliga o iamen e, como se p oduce en las decisiones de libe ad
condicional en los Es ados Unidos. Las p eocupaciones sob e el sesgo judicial en o no
a las decisiones de libe ad condicional han lle ado a la in oducción obliga o ia de
so wa e pa a p edeci la p obabilidad de que los delincuen es eincidan en muchos
es ados de Es ados Unidos.11
III. GARANTÍAS JURÍDICAS DEL USO DE LOS ALGORITMOS
Los bene icios de oma decisiones sob e la base de los cálculos ma emá icos pueden
se eno mes en muchos sec o es de la ida, pe o depende demasiado de la in eligencia
a i icial, que implica inhe en emen e de e mina pa ones más allá de es os cálculos,
ambién puede ol e se con a los usua ios, come e injus icias y es ingi los de echos
de las pe sonas. Po ese mo i o ha de se ácil y ápido es ablece quién es el esponsa-
ble de las consecuencias que puedan esul a de los ac os de un sis ema in eligen e.12 Y
po ello son esenciales los mecanismos e ec i os de epa ación pa a las pe sonas cuyos
de echos undamen ales ue on in ingidos po los sis emas au oma izados de oma de
decisiones.
Si se u iliza un sis ema de in eligencia a i icial pa a la in e acción con pe sonas en
el con ex o de se icios públicos, especialmen e en el ámbi o de la jus icia, el usua io
10. RASO, F., H. HILLIGOSS, V. KRISHNAMURTHY, C. BAVITZ, y L. KIM, “A i icial In elligence & Human
Righ s: Oppo uni ies & Risks”, Be kman Klein Cen e o In e ne & Socie y Resea ch Publica ion, 2018,
pp. 1-62. Disponible en: h ps://dash.ha a d.edu/handle/1/38021439
11. McCANEY, K., P isons u n o analy ics so wa e o pa ole decisions, 1 No iemb e 2013. Disponi-
ble en: h ps://gcn.com/a icles/2013/11/01/p ison-analy ics-so wa e.aspx
12. BOSTROM, N., y YUDKOWSKY E., “The E hics o A i icial In elligence”, en W. RAMSEY y K. FRANKI-
SH (eds.), Camb idge Handbook o A i icial In elligence, Camb idge Uni e si y P ess, 2014, pp. 316-334.
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
76

debe ene odas las ga an ías posibles, de modo que aquellos sob e los que hayan
omado una decisión, po pa e de una au o idad pública que es é in o mada única o
signi ica i amen e po la salida de un sis ema de IA, deben se no i icados y ecibi la
in o mación adecuada.
Sin emba go, ya ha habido casos en los que se ha pues o en duda la exis encia de las
ga an ías necesa ias en los p ocedimien os judiciales al incidi en ellos la IA. Un ejemplo
es el conocido caso Loomis,13 que pasamos b e emen e a de alla :
En el año 2013 E ic Loomis ue de enido po agen es de policía del Es ado de Wis-
consin (Es ados Unidos) cuando conducía un ehículo implicado en un ecien e i o eo.
Se le acusaba de hui de la policía y u iliza un ehículo sin la au o ización de su p opie-
a io. El seño Loomis se decla ó culpable de ambos deli os con la espe anza de que no
u ie a que ing esa en p isión.
Du an e la is a pa a decidi sob e su libe ad condicional, el iscal apo ó un in o -
me elabo ado po el p og ama in o má ico Compas (dicho p og ama u iliza más de 100
ac o es, incluyendo edad, sexo e his o ial c iminal, pa a cali ica a los acusados en una
escala de 1 a 10: los acusados con pun uación de 1 a 4 son a ados como de bajo iesgo;
mien as que los acusados con pun uación de 5 a 10 se a an como de iesgo medio o
al o), desa ollado po la emp esa p i ada No hpoin e Inc, según el cual el seño Loomis
enía un iesgo ele ado de eincidencia y de come e ac os iolen os. El in o me con-
cluía que el condenado ep esen aba un «al o iesgo pa a la comunidad». Pa iendo de
ales conside aciones, el juez impuso al seño Loomis una pena de 6 años de p isión y
o os 5 en égimen de libe ad igilada.
La de ensa del condenado ecu ió la sen encia alegando que se había ulne ado el
de echo a un p oceso con odas las ga an ías po que no podía discu i los mé odos u i-
lizados po el p og ama in o má ico Compas dado que el algo i mo e a sec e o y solo lo
conocía la emp esa que lo había desa ollado. Sin emba go, ales a gumen os no ue on
acogidos po la Co e Sup ema del Es ado de Wisconsin. Los jueces a gumen a on que,
en de ini i a, el p og ama in o má ico se había basado únicamen e en los ac o es ha-
bi uales pa a medi la pelig osidad c iminal u u a como, po ejemplo, hui de la policía
y el his o ial delic i o p e io.
Así, sob e es a cues ión alló la Co e Sup ema de Wisconsin, que dic ó una sen encia
en la que se p onunció po p ime a ez sob e la cons i ucionalidad del uso de algo i -
mos p ocesados in o má icamen e, median e un sis ema de in eligencia a i icial, como
undamen o del allo del ibunal de ins ancia in e io ,14 y cuya decisión no ue e isada
po la Co e Sup ema de los Es ados Unidos,15 pese a que el apelan e sos u o que el al-
go i mo in eligen e usaba inco ec amen e, en e o as cues iones, las e aluaciones de
13. S a e . Loomis, 881 N.W.2d 749 (Wis. 2016). Disponible en: h ps://law.jus ia.com/cases/wis-
consin/sup eme-cou /2016/2015ap000157-c .h ml
14. FREEMAN, K., “Algo i hmic Injus ice: how he Wisconsin Sup eme Cou ailed o p o ec due
p ocess igh s in S a e . Loomis”, No h Ca oline Jou nal o Law and Technology (NCJL & Tech.), ol. 18,
2016, pp. 75-106.
15. h p://www.sco usblog.com/case- iles/cases/loomis- -wisconsin/
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
77
géne o.16 En su allo el T ibunal acep ó su u ilización, a gumen ando que el de echo de
los acusados al debido p oceso no ue iolado po el me o hecho de que no pudie on ac-
cede a una explicación adecuada sob e el a amien o in o má ico de los algo i mos.17
S a e Loomis ha susci ado conside able in e és en el ámbi o es adounidense ya
que es la segunda sen encia de una co e sup ema es a al que acep a exp esamen e la
en ada de cálculos de iesgo ma emá icos en un educ o has a aho a an ajeno a ellos
como el dic ado de una condena c iminal,18 y la p ime a que además pe mi e que esos
cálculos se hagan con un algo i mo cuyo uncionamien o es sec e o.19
IV. ¿TUTELA JUDICIAL EFECTIVA?
Vamos aho a a obse a la cues ión desde una pe spec i a es ic amen e cons i ucio-
nalis a den o del O denamien o ju ídico español. Si omamos como pun o de pa ida
la p o ección de de echos undamen ales, además desde el p isma cons i ucionalis a
que ba niza y comple a el p esen e es udio, lo que debemos conside a es si, e dade-
amen e, es e modo de p ocede se ía compa ible con un de echo undamen al como
es la u ela judicial e ec i a en España. Y es que no hay que pe de de is a que el a ícu-
lo 24 de la CE econoce a « odas las pe sonas» el de echo a ob ene la u ela e ec i a de
jueces y ibunales en el eje cicio de sus de echos e in e eses legí imos. De es a o ma
se consag a el de echo a accede a los ó ganos ju isdiccionales pa a la de ensa de los
p opios de echos e in e eses. Pe o el de echo no se ago a, única y exclusi amen e, con
accede a los ibunales. El desa ollo pos e io del p oceso espe ando los mínimos
ju ídicos básicos comp ende, como se ha enca gado de exp esa epe idas eces el T i-
bunal Cons i ucional, mucho más que la me a posibilidad de accede a los ibunales.20
Así, an e la imposibilidad de pode oma como e e encia la posición ju isp uden-
cial en la cues ión conc e a, debemos a a de esg imi los a gumen os an o a a o
como en con a que es e desa ollo en la labo judicial, con di ec as aplicaciones en la
ealidad de los ciudadanos, iene en su a ec ación cons i ucional.
Una p ime a ap oximación implica ía un cie o echazo ju ídico español a es as p ác-
icas pues o que la posibilidad de que el condenado alega a inde ensión es muy am-
16. CORVALÁN, J. G., “In eligencia a i icial: e os, desa íos y opo unidades – P ome ea: la p ime a
in eligencia a i icial de La inoamé ica al se icio de la Jus icia”, Re is a de In es igações Cons i ucio-
nais, Cu i iba, ol. 5, 1, jan./ab . 2018, pp. 295-316. DOI: 10.5380/ inc. 5i1.55334.
17. ROMEO CASABONA, C. M., “Riesgo, p ocedimien os ac ua iales basados en in eligencia a i i-
cial y medidas de segu idad”, Re is a de De echo, Emp esa y Sociedad (REDS), 3, Julio-Diciemb e 2018,
pp. 39-55.
18. La p ime a ue el caso Malenchik . S a e o Indiana, 9 de eb e o de 2010. Disponible en: h -
ps://www.in.go /judicia y/opinions/pd /06091001bd.pd
19. MARTÍNEZ GARAY, L., “Pelig osidad, algo i mos y due p ocess: el caso S a e Loomis”, Re is a
de De echo Penal y C iminología, 20, 2018, p. 494.
20. Son múl iples las sen encias que han ido desg anando los di e en es elemen os que consa-
g an es e de echo undamen al. Sin ánimo de se exhausi i os des acamos: STC 47/1983 de 31 de
mayo; STC 101/1984, de 8 de no iemb e; STC 102/1984, de 12 de no iemb e; STC 145/1988, de 12 de
julio; en e o as.
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
78
plia. Más allá de discu i pa ece es ju ídicos o la p opia azonabilidad de la sen encia, en
es e supues o hipo é ico, condena o ia, el quid de la cues ión se ía que no se ha podido
conoce , en odas y cada una de sus ace as, el modo en el que se ha conducido a esa
decisión judicial que a ec a, en el caso que manejamos, a la p i ación de la libe ad,
con la ob ia a ec ación de de echos undamen ales que ello implica. Ello supond ía
cen a la a ención en explici a el modo en el que el juez ha llegado a las conclusiones
ju ídicas, con la necesa ia mo i ación de i ada de su labo 21, pe o no desde un pun o
de is a es ic amen e ju ídico, sino de la in luencia que ha enido la IA en su decisión
y, aún más, cuál es el p oceso seguido po la IA, en base al algo i mo p og amado pa a
ello, pa a es ablece sus p opias conclusiones. Ese a gumen o, al menos en el escena-
io ju ídico ac ual, ya implica ía una ba e a di ícilmen e anqueable pa a no conclui
que se encuen a en una posición de inde ensión aquel que ha sido condenado po las
conclusiones a las que conduce el azonamien o, no ya solo del juez, sino de la IA que
le auxilia.
No obs an e, el manda o cons i ucional consis en e en la mo i ación de las eso-
luciones judiciales del a ículo 120.3 de la CE22 comp ende que és as se encuen en
undadas en de echo, es deci , que no incu a en a bi a iedad, i azonabilidad o e o
apa en e.23 En es e sen ido, no se ían mo i adas aquellas esoluciones judiciales que
pa ie an de p emisas inexis en es o con un desa ollo a gumen al ilógico que die an
como esul ado unas conclusiones no apoyadas ju ídicamen e.24 P ecisamen e, el posi-
ble ma gen de a bi a iedad judicial pod ía disminui de o ma conside able g acias al
uso de la IA. Asimismo, y no menos impo an e, an o el uso de algo i mos basados en
da os ce e os como el de la es adís ica pod ía supone una educción de los plazos de
esolución judicial, aspec o és e ambién incluido en el p opio con enido esencial del
de echo a la u ela judicial e ec i a.
En e ec o, la inco po ación p og esi a de la IA en el ámbi o judicial debe coexis i con
el espe o a la ga an ía de un p oceso jus o y undado en de echo. Po ello, se eque i á
siemp e que la úl ima palab a la enga el ó gano judicial compe en e pa a esol e el
caso en cues ión, siendo él mismo quien decidi á en úl ima ins ancia si aplica o no los
esul ados p obabilís icos que puedan de i a se del uso de algo i mos.
Aho a bien, desde una posición, si se pe mi e la exp esión, ludi a, es e a gumen o
se ía muy aplaudido. Pe o la p opia e olución ecnológica conlle a, como menciona-
mos al p incipio de es e ex o, que la IA inunde cualquie escena io humano, siendo el
21. P ecisamen e uno de los elemen os esg imidos po el T ibunal Cons i ucional es el que hace
e e encia a la necesidad de esolución undada en de echo como elemen o ca ac e ís ico de la u e-
la judicial e ec i a p oclamada en el a ículo 24 CE ( id. STC 24/1981, de 14 de julio. FJ.3º).
22. Aunque exp esamen e el a ículo 120.3 CE hable de sen encias, el Al o T ibunal ex iende es a
obligación cons i ucional de mo i ación a los in eg an es del pode judicial en gene al ( id. STC
36/2006, de 13 de eb e o).
23. STC 215/2006, de 3 de julio, FJ. 3º.
24. MILIONE, C., “El de echo a la mo i ación de las esoluciones judiciales en la ju isp udencia del
T ibunal Cons i ucional y el de echo a la cla idad: e lexiones en o no a una deseada mode nización
del lenguaje ju ídico”, Re is a Es udios de Deus o, Vol. 63/2, 2015, p.178.
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
79
de echo y la o ganización de cualquie sociedad un elemen o especialmen e p edis-
pues o a es a imb icación. Po ello, el en endimien o de la acili ación de la labo del
juez median e cues iones écnicas, como puede se la elabo ación de pe iles de iesgo
en base a c i e ios es adís icos, pod ía se equipa able a la in luencia que pueda ene
cualquie o o elemen o écnico en la decisión judicial. A sabe , el juez debe conoce
e in e p e a el de echo,25 pe o no iene obligación de se un expe o en odo conoci-
mien o o sabe . De ahí que se auxilie de documen os elabo ados po écnicos, pe i os
y demás in o mes que puedan o ien a le en un de e minado sen ido. Si en endemos la
in luencia de la IA en la labo judicial desde un pun o de is a auxilia , no en un u elaje
sino en un auxilio pun ual, debido a la ingen e can idad de da os que puede p ocesa
el sis ema de IA que le ayude en cues iones conc e as, el acomodo de la IA en la labo
del juez no pa ece an con a ia a los p incipios ju ídicos básicos. Pod ía conside a se
que la de e minación a la que llega, no inalis a po que siemp e queda ía abie a a una
in e p e ación di e en e del juez, es p oduc o de un conocimien o p o undo sob e una
ma e ia. En es e caso la “sabidu ía” es p oduc o de la es adís ica, dige ida y ges ionada
de o ma ab umado amen e más amplia de lo que se ía posible pa a cualquie in eli-
gencia humana. El conocimien o en el que se auxilia el juez es el mayo conocimien o
de los da os que se pueden p ocesa , pe o si las conclusiones no son inculan es el juez
siemp e pod á, en a as de da cumplimien o a la jus icia, in úl imo que se le a ibuye,
oma o a decisión mo i ada po o os elemen os, no necesa iamen e la o ien ada o
p e o mulada po la IA.
Po an o, la p o ección de de echos undamen ales es básica en es a ma e ia, pe o
la labo del juez ya e a an es ambién la p opia de aquel que debe abaja con la ce -
eza de que no se deben lesiona los de echos undamen ales de los ciudadanos. El au-
xilio ecnológico desde es a pe spec i a se á un condicionan e más, no de e minan e,
de la esolución judicial. Alega inde ensión po no desg ana odos y cada uno de los
elemen os en los que se basa el algo i mo pod ía se equi alen e, con es e plan ea-
mien o, a que el écnico al desa olla el in o me enca gado en la ma e ia en la que
es expe o, no solo alega a los mo i os po los que es expe o, sino odos y cada uno
de los elemen os que le han conducido a se un expe o. Ob iamen e si en amos en
la cues ión de los de echos undamen ales debemos se especialmen e exhaus i os y
igu osos pa a impedi su ansg esión, más si cabe en un escena io ju ídico an ga an-
is a como el nues o, pe o la posibilidad de p esen a a gumen os a a o o en con a
alimen a el necesa io y en iquecedo deba e ju ídico que, sin duda, es a á p esen e en
los p óximos iempos.
25. El po odos conocidos p incipio iu a no i cu ia. Pa a amplia sob e es a cues ión id: CAL-
VINHO, G., “El b ocá dico iu a no i cu ia”, Re is a de de echo p ocesal, 1, 2009 (Ejempla dedicado a:
Homenaje al p o eso Ped o A agoneses Alonso), pp. 223-250.
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 72 - 82
ISSN 2444-8478 • h ps://dx.doi.o g/10.12795/IETSCIENTIA.2020.i02.06
Pe spec i a cons i ucional de las ga an ías de aplicación de la in eligencia a i icial…
Jo ge Cas ellanos Cla amun / Ma ía Dolo es Mon e o Ca o
80