Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial: la ineludible protección de los derechos fundamentales

Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial: la ineludible protección de los derechos fundamentales* CONSTITUTIONAL PERSPECTIVE OF THE GUARANTEES OF APPLICATION OF ARTIFICIAL INTELLIGENCE: THE INESCAPABLE PROTECTION OF FUNDAMENTAL RIGHTS Jorge Castellanos Claramunt Universitat de València [email protected] 0000-0001-9621-6831 María Dolores Montero Caro Universidad de Córdoba [email protected] 0000-0001-9033-620X Recibido: 26 de noviembre 2020 | Aceptado: 20 de diciembre 2020 RESUMEN PALABRAS CLAVE La Inteligencia Artificial tiene un innegable efecto en la sociedad actual, por lo que su estudio respecto de sus efectos jurídicos deviene necesario. Y, en consecuencia, el modo en que se ven afectados los derechos fundamentales tiene especial importancia. De ahí que en el presente trabajo se estudie la influencia de los algoritmos en la determinación de las resoluciones judiciales, sobre todo desde el punto de vista de cómo afectaría esta cuestión al derecho a la tutela judicial efectiva, reconocida como derecho fundamental en el artículo 24 de la Constitución española. Inteligencia Artificial Algoritmos Derechos fundamentales Garantías jurídicas ABSTRACT KEYWORDS Artificial Intelligence has an undeniable effect on today’s society, so its study regarding its legal effects becomes necessary. And consequently, how fundamental rights are affected is of particular importance. Hence, the present Artificial intelligence Algorithms Fundamental rights Legal guarantees * Este estudio es el resultado de un proyecto de investigación MICINN Retos «Derechos y garantías frente a las decisiones automatizadas en entornos de inteligencia artificial, IoT, big data y robótica» (PID2019-108710RB-I00). IUS ET SCIENTIA 2020 • Vol. 6 • Nº 2 • ISSN 2444-8478 https://editorial.us.es/es/revistas/ius-et-scientia https://dx.doi.org/10.12795/IETSCIENTIA • © Editorial Universidad de Sevilla 2020 CC BY-NC-ND 4.0. https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 • pp. 72 - 82 paper studies the influence of algorithms in determining judicial decisions, especially from the point of view of how this issue would affect the right to effective judicial protection, recognized as a fundamental right in article 24 of the Spanish Constitution. I. CONSIDERACIONES PREVIAS La irrupción de la Inteligencia Artificial (en adelante, IA) supone un salto cualitativo en el enfoque y estudio de la realidad a la que se aproxime, incluido, por descontado, el derecho, que requiere de nuevas regulaciones de estas novedades. La clave de todo este avance tecnológico es el exponencial incremento de la capacidad de cálculo asociada al desarrollo de la informática contemporánea y, con ello, la posibilidad de realizar mecánicamente operaciones cada vez más complejas, y un mayor número de ellas, en mucho menor tiempo. De entre todas las inmensas posibilidades que trae consigo para las personas la implementación de la IA, vamos a centrar nuestro interés en las derivaciones que se producen en el mundo del derecho y, por encima de todo ello, su capacidad de afectar a derechos fundamentales. Una de estas ramificaciones puede plasmarse en la ayuda de la IA en la elaboración de sentencias por parte de los tribunales. Por ello, como se viene anunciando desde hace años, la IA va a ser, si no lo está siendo ya, un elemento disruptivo de gran magnitud en el ámbito jurídico, por lo que el modo en el que se ha entendido la justicia va a verse considerablemente modificado. Gracias a ello el cambio podrá materializarse, muy posiblemente, pudiendo dar el paso, por ejemplo, en la prevención ex ante en lugar de la tradicional respuesta ex post al delito.1 Respecto del derecho, en España, por ejemplo, encontramos el sistema VeriPol, que estima la probabilidad de que una denuncia sea falsa. O el Sistema VioGén, que señala la peligrosidad de posibles hombres maltratadores y acaba determinando las decisiones de prisión preventiva. En esta misma línea, el 70% de estados de Estados Unidos utilizan desde 2004 algún instrumento mecánico para la decisión de libertad condicional (ej.: Level of Services Inventory– Revised, LSI-R). Los sistemas de predicción de riesgo (risk assessment instruments, Public Safety Assessment, PSA) después de la condena se emplean en más de veinte jurisdicciones de Estados Unidos en los últimos años. Algunos de estos sistemas son usados por jueces para determinar la condena por la posible reincidencia (sistema COMPAS del caso Loomis que luego se comentará). En Argentina, Prometea, del Ministerio Público Fiscal de la Ciudad de Buenos Aires, al parecer adopta resoluciones en 15 segundos con un 98% de acierto.2 1. Hasta ahora, el acercamiento a estos postulados descansaba en relatos de ciencia ficción, algunos de los cuales con cierta relevancia ya que han sido llevados a la gran pantalla. Nos referimos al famoso relato de Philip K. Dick de la década de los 50, El informe de la minoría [Minority Report], que fue llevada al cine a principios de siglo por Steven Spielberg. DICK, P. K., El informe de la minoría [original: The Minority Report (1956), traducción de Carlos Gardini], Círculo de lectores, España, 2002. 2. COTINO, L., “Derecho y garantías ante el uso público y privado de inteligencia artificial, robótica IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 73 Un análisis frío de la situación nos diría que gracias a este desarrollo tecnológico las decisiones judiciales pueden ser tomadas con un criterio mucho más coherente y razonado que si se dejan al azar de las personas, lo que puede introducir un nuevo sesgo en la interpretación de los resultados de la IA. Este sesgo humano consiste en aceptar, de forma acrítica, los resultados de una IA como ciertos e inamovibles, asumiendo un «principio de autoridad» derivado de las expectativas creadas por dichos sistemas. De este modo las decisiones tomadas sin cuestionar los resultados de un algoritmo pueden tener serias repercusiones para los derechos fundamentales. La perspectiva positiva llega al punto de considerar posible que también en algunos ámbitos se deban incorporar garantías en este sentido, como la necesidad de que se tenga que justificar por qué la decisión pública –humana– no sigue la propuesta elaborada por la IA.3 Pero también hay otras perspectivas que no tienen tan claro que la utilización de los algoritmos para mejorar la justicia sea una buena idea. Buscar la eficiencia y con ello la rapidez en la resolución de los conflictos puede ser un aliciente interesante, pero ello no impide que puedan surgir nuevas problemáticas que antes no existían.4 A este respecto Pasquale concluye que, incluso en las esferas donde los algoritmos resuelven algunos problemas, estos están creando otros nuevos.5 Los prejuicios relacionados, por ejemplo, con antecedentes raciales o étnicos, no pueden ser reconocidos como tales por la policía cuando se integran en un programa informático automatizado que se considera independiente y neutral. Otro sesgo puede derivarse del código postal, de manera que un distrito con mayor número de incidentes puede propiciar en el sujeto infractor un castigo mayor ante los mismos hechos por otro sujeto residente en otro lugar. En esta circunstancia las desigualdades económicas pueden determinar, también, desigualdades en la realización de la justicia. Como resultado, el sesgo puede estandarizarse y es menos probable que sea identificado y cuestionado como tal. Por tanto, de todo lo antedicho se colige que en el ámbito de la justicia los postulados a favor y en contra de la implementación de la IA en la escena jurídica presentan planteamientos contrapuestos y que pueden afectar, y de hecho afectan, considerablemente a los derechos fundamentales. y big data”, en M. BAUZA REILLY (dir.), El derecho de las TIC en Iberoamérica, La Ley Uruguay, Uruguay, 2019, p. 941. 3. Ibídem, p. 942. 4. Surgen, por su propia naturaleza, cuestiones que entremezclan el ámbito jurídico y el ético. Para profundizar sobre ello, vid. FERNÁNDEZ AGIS, D., “Ética, derecho y robótica”, Revista Electrónica IUS ET SCIENTIA, vol. 6, nº 1, 2020, pp. 22-31. 5. PASQUALE, F., The Black Box Society: The Secret Algorythms That Control Money and Information, Harvard University Press, Cambridge, 2015, p. 36. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 74 II. ALGORITMOS Y JUSTICIA En el sistema de justicia, la IA puede ser un motor de mejora o un elemento distorsionador, de modo que existen elementos que favorecen el avance, pero de igual manera generan una dificultad. De ahí la problemática del debate jurídico en la implantación de elementos de IA en el progreso de la justicia. Por ejemplo, el uso de la puntuación de riesgo automatizada en el sistema de justicia penal puede reducir el número de individuos del grupo mayoritario que son innecesariamente encarcelados, pero al mismo tiempo que los fallos en el sistema sirven para aumentar la tasa de encarcelamientos erróneos para los que pertenecen a grupos marginados.6 Si los sistemas algorítmicos de toma de decisiones se basan en decisiones humanas previas, es probable que los mismos sesgos que potencialmente socaven la toma de decisiones humanas se repliquen y multipliquen en los sistemas algorítmicos de toma de decisiones. Por tanto, si bien las herramientas que proporciona la IA aparentemente prometen un mayor grado de rigor y consistencia en la toma de decisiones de justicia penal, su uso puede producir fácilmente resultados discriminatorios.7 Los algoritmos se utilizan cada vez más en el contexto de los sistemas de justicia civil y penal donde se está desarrollando inteligencia artificial para eventualmente apoyar o reemplazar la toma de decisiones por parte de jueces humanos. Estos sistemas se están probando actualmente para identificar los resultados de las decisiones con el fin de detectar patrones en la toma de decisiones judiciales complejas. En estudios recientes se indica que la tasa de predicción confiable es relativamente baja, alcanzaría un 79%,8 aunque también hay que indicar que progresa conforme los sistemas van aprendiendo de forma autónoma. Aun así, se considera prematuro en el momento actual imaginar que tales sistemas reemplacen a los jueces. Sin embargo, lo que se sugiere es que dichos sistemas pueden apoyar o ayudar a los jueces y también a los abogados.9 De lo que no cabe duda es que la tendencia hacia el uso de técnicas y algoritmos de procesamiento automatizado en la prevención del delito y el sistema de justicia penal está creciendo. Ya se están utilizando algoritmos para determinar a quién vigilar, a quién poner en libertad condicional, y cuánto tiempo debe permanecer en prisión un acusado. 6. ANGWIN, J., J. LARSON, S. MATTU, y L. KIRCHNER, “Machine Bias, There’s software used across the country to predict future criminals. And it’s biased against blacks”, ProPublica, 2016. Disponible en: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing 7. Un análisis detallado sobre los nuevos desafíos planteados por la IA lo encontramos en el informe elaborado por Berkman Klein Center, disponible en: https://cyber.harvard.edu/story/2019-10/ ethics-and-governance-ai-berkman-klein-report-impact-2017-2019 8. ALETRAS, N., D. TSARAPATSANIS, D. PREOµIUC-PIETRO, y V. LAMPOS, “Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective”, PeerJ Computer Science Open Access, 2016, p. 2. DOI 10.7717/peerj-cs.93. Disponible en: https://peerj.com/ articles/cs-93.pdf 9. Ibídem. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 75 Otras derivaciones de la IA se pueden utilizar para apoyar a los tribunales en la gestión de casos (por ejemplo, escaneando y atribuyendo solicitudes a las secciones judiciales responsables), o para analizar el desempeño del tribunal. Dada la presión de la gran cantidad de casos y los recursos insuficientes que sufren la mayoría de los poderes judiciales, existe el peligro de que los sistemas de apoyo basados en inteligencia artificial sean utilizados de manera inapropiada por los jueces para «delegar» decisiones a sistemas tecnológicos que no fueron desarrollados para ese propósito y se perciben como más «objetivos» incluso cuando este no es el caso. Con ello, por ejemplo, puede ocurrir que un individuo sea sentenciado con más dureza de la que habría o debería haber sido enjuiciado.10 Pero al ser una proyección del algoritmo, no hay margen para arrepentirse de estas decisiones. Si el algoritmo es especialmente severo, las consecuencias solo afectan al individuo injustamente penalizado puesto que no se puede demostrar que sin la estimación hecha por la IA el sujeto no hubiera, por ejemplo, reincidido. Por lo tanto, se debe tener mucho cuidado al evaluar lo que dichos sistemas pueden ofrecer y bajo qué condiciones se pueden utilizar para no poner en peligro el derecho a un juicio justo. Este es particularmente el caso cuando tales sistemas se introducen obligatoriamente, como se produce en las decisiones de libertad condicional en los Estados Unidos. Las preocupaciones sobre el sesgo judicial en torno a las decisiones de libertad condicional han llevado a la introducción obligatoria de software para predecir la probabilidad de que los delincuentes reincidan en muchos estados de Estados Unidos.11 III. GARANTÍAS JURÍDICAS DEL USO DE LOS ALGORITMOS Los beneficios de tomar decisiones sobre la base de los cálculos matemáticos pueden ser enormes en muchos sectores de la vida, pero depender demasiado de la inteligencia artificial, que implica inherentemente determinar patrones más allá de estos cálculos, también puede volverse contra los usuarios, cometer injusticias y restringir los derechos de las personas. Por ese motivo ha de ser fácil y rápido establecer quién es el responsable de las consecuencias que puedan resultar de los actos de un sistema inteligente.12 Y por ello son esenciales los mecanismos efectivos de reparación para las personas cuyos derechos fundamentales fueron infringidos por los sistemas automatizados de toma de decisiones. Si se utiliza un sistema de inteligencia artificial para la interacción con personas en el contexto de servicios públicos, especialmente en el ámbito de la justicia, el usuario 10. RASO, F., H. HILLIGOSS, V. KRISHNAMURTHY, C. BAVITZ, y L. KIM, “Artificial Intelligence & Human Rights: Opportunities & Risks”, Berkman Klein Center for Internet & Society Research Publication, 2018, pp. 1-62. Disponible en: https://dash.harvard.edu/handle/1/38021439 11. McCANEY, K., Prisons turn to analytics software for parole decisions, 1 Noviembre 2013. Disponible en: https://gcn.com/articles/2013/11/01/prison-analytics-software.aspx 12. BOSTROM, N., y YUDKOWSKY E., “The Ethics of Artificial Intelligence”, en W. RAMSEY y K. FRANKISH (eds.), Cambridge Handbook of Artificial Intelligence, Cambridge University Press, 2014, pp. 316-334. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 76 debe tener todas las garantías posibles, de modo que aquellos sobre los que hayan tomado una decisión, por parte de una autoridad pública que esté informada única o significativamente por la salida de un sistema de IA, deben ser notificados y recibir la información adecuada. Sin embargo, ya ha habido casos en los que se ha puesto en duda la existencia de las garantías necesarias en los procedimientos judiciales al incidir en ellos la IA. Un ejemplo es el conocido caso Loomis,13 que pasamos brevemente a detallar: En el año 2013 Eric Loomis fue detenido por agentes de policía del Estado de Wisconsin (Estados Unidos) cuando conducía un vehículo implicado en un reciente tiroteo. Se le acusaba de huir de la policía y utilizar un vehículo sin la autorización de su propietario. El señor Loomis se declaró culpable de ambos delitos con la esperanza de que no tuviera que ingresar en prisión. Durante la vista para decidir sobre su libertad condicional, el fiscal aportó un informe elaborado por el programa informático Compas (dicho programa utiliza más de 100 factores, incluyendo edad, sexo e historial criminal, para calificar a los acusados en una escala de 1 a 10: los acusados con puntuación de 1 a 4 son tratados como de bajo riesgo; mientras que los acusados con puntuación de 5 a 10 se tratan como de riesgo medio o alto), desarrollado por la empresa privada Northpointe Inc, según el cual el señor Loomis tenía un riesgo elevado de reincidencia y de cometer actos violentos. El informe concluía que el condenado representaba un «alto riesgo para la comunidad». Partiendo de tales consideraciones, el juez impuso al señor Loomis una pena de 6 años de prisión y otros 5 en régimen de libertad vigilada. La defensa del condenado recurrió la sentencia alegando que se había vulnerado el derecho a un proceso con todas las garantías porque no podía discutir los métodos utilizados por el programa informático Compas dado que el algoritmo era secreto y solo lo conocía la empresa que lo había desarrollado. Sin embargo, tales argumentos no fueron acogidos por la Corte Suprema del Estado de Wisconsin. Los jueces argumentaron que, en definitiva, el programa informático se había basado únicamente en los factores habituales para medir la peligrosidad criminal futura como, por ejemplo, huir de la policía y el historial delictivo previo. Así, sobre esta cuestión falló la Corte Suprema de Wisconsin, que dictó una sentencia en la que se pronunció por primera vez sobre la constitucionalidad del uso de algoritmos procesados informáticamente, mediante un sistema de inteligencia artificial, como fundamento del fallo del tribunal de instancia inferior,14 y cuya decisión no fue revisada por la Corte Suprema de los Estados Unidos,15 pese a que el apelante sostuvo que el algoritmo inteligente usaba incorrectamente, entre otras cuestiones, las evaluaciones de 13. State v. Loomis, 881 N.W.2d 749 (Wis. 2016). Disponible en: https://law.justia.com/cases/wisconsin/supreme-court/2016/2015ap000157-cr.html 14. FREEMAN, K., “Algorithmic Injustice: how the Wisconsin Supreme Court failed to protect due process rights in State v. Loomis”, North Caroline Journal of Law and Technology (NCJL & Tech.), vol. 18, 2016, pp. 75-106. 15. http://www.scotusblog.com/case-files/cases/loomis-v-wisconsin/ IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 77 género.16 En su fallo el Tribunal aceptó su utilización, argumentando que el derecho de los acusados al debido proceso no fue violado por el mero hecho de que no pudieron acceder a una explicación adecuada sobre el tratamiento informático de los algoritmos.17 State v Loomis ha suscitado considerable interés en el ámbito estadounidense ya que es la segunda sentencia de una corte suprema estatal que acepta expresamente la entrada de cálculos de riesgo matemáticos en un reducto hasta ahora tan ajeno a ellos como el dictado de una condena criminal,18 y la primera que además permite que esos cálculos se hagan con un algoritmo cuyo funcionamiento es secreto.19 IV. ¿TUTELA JUDICIAL EFECTIVA? Vamos ahora a observar la cuestión desde una perspectiva estrictamente constitucionalista dentro del Ordenamiento jurídico español. Si tomamos como punto de partida la protección de derechos fundamentales, además desde el prisma constitucionalista que barniza y completa el presente estudio, lo que debemos considerar es si, verdaderamente, este modo de proceder sería compatible con un derecho fundamental como es la tutela judicial efectiva en España. Y es que no hay que perder de vista que el artículo 24 de la CE reconoce a «todas las personas» el derecho a obtener la tutela efectiva de jueces y tribunales en el ejercicio de sus derechos e intereses legítimos. De esta forma se consagra el derecho a acceder a los órganos jurisdiccionales para la defensa de los propios derechos e intereses. Pero el derecho no se agota, única y exclusivamente, con acceder a los tribunales. El desarrollo posterior del proceso respetando los mínimos jurídicos básicos comprende, como se ha encargado de expresar repetidas veces el Tribunal Constitucional, mucho más que la mera posibilidad de acceder a los tribunales.20 Así, ante la imposibilidad de poder tomar como referencia la posición jurisprudencial en la cuestión concreta, debemos tratar de esgrimir los argumentos tanto a favor como en contra que este desarrollo en la labor judicial, con directas aplicaciones en la realidad de los ciudadanos, tiene en su afectación constitucional. Una primera aproximación implicaría un cierto rechazo jurídico español a estas prácticas puesto que la posibilidad de que el condenado alegara indefensión es muy am- 16. CORVALÁN, J. G., “Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia”, Revista de Investigações Constitucionais, Curitiba, vol. 5, 1, jan./abr. 2018, pp. 295-316. DOI: 10.5380/rinc.v5i1.55334. 17. ROMEO CASABONA, C. M., “Riesgo, procedimientos actuariales basados en inteligencia artificial y medidas de seguridad”, Revista de Derecho, Empresa y Sociedad (REDS), 3, Julio-Diciembre 2018, pp. 39-55. 18. La primera fue el caso Malenchik v. State of Indiana, 9 de febrero de 2010. Disponible en: https://www.in.gov/judiciary/opinions/pdf/06091001bd.pdf 19. MARTÍNEZ GARAY, L., “Peligrosidad, algoritmos y due process: el caso State v Loomis”, Revista de Derecho Penal y Criminología, 20, 2018, p. 494. 20. Son múltiples las sentencias que han ido desgranando los diferentes elementos que consagran este derecho fundamental. Sin ánimo de ser exhausitivos destacamos: STC 47/1983 de 31 de mayo; STC 101/1984, de 8 de noviembre; STC 102/1984, de 12 de noviembre; STC 145/1988, de 12 de julio; entre otras. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 78 plia. Más allá de discutir pareceres jurídicos o la propia razonabilidad de la sentencia, en este supuesto hipotético, condenatoria, el quid de la cuestión sería que no se ha podido conocer, en todas y cada una de sus facetas, el modo en el que se ha conducido a esa decisión judicial que afecta, en el caso que manejamos, a la privación de la libertad, con la obvia afectación de derechos fundamentales que ello implica. Ello supondría centrar la atención en explicitar el modo en el que el juez ha llegado a las conclusiones jurídicas, con la necesaria motivación derivada de su labor21, pero no desde un punto de vista estrictamente jurídico, sino de la influencia que ha tenido la IA en su decisión y, aún más, cuál es el proceso seguido por la IA, en base al algoritmo programado para ello, para establecer sus propias conclusiones. Ese argumento, al menos en el escenario jurídico actual, ya implicaría una barrera difícilmente franqueable para no concluir que se encuentra en una posición de indefensión aquel que ha sido condenado por las conclusiones a las que conduce el razonamiento, no ya solo del juez, sino de la IA que le auxilia. No obstante, el mandato constitucional consistente en la motivación de las resoluciones judiciales del artículo 120.3 de la CE22 comprende que éstas se encuentren fundadas en derecho, es decir, que no incurra en arbitrariedad, irrazonabilidad o error aparente.23 En este sentido, no serían motivadas aquellas resoluciones judiciales que partieran de premisas inexistentes o con un desarrollo argumental ilógico que dieran como resultado unas conclusiones no apoyadas jurídicamente.24 Precisamente, el posible margen de arbitrariedad judicial podría disminuir de forma considerable gracias al uso de la IA. Asimismo, y no menos importante, tanto el uso de algoritmos basados en datos certeros como el de la estadística podría suponer una reducción de los plazos de resolución judicial, aspecto éste también incluido en el propio contenido esencial del derecho a la tutela judicial efectiva. En efecto, la incorporación progresiva de la IA en el ámbito judicial debe coexistir con el respeto a la garantía de un proceso justo y fundado en derecho. Por ello, se requerirá siempre que la última palabra la tenga el órgano judicial competente para resolver el caso en cuestión, siendo él mismo quien decidirá en última instancia si aplicar o no los resultados probabilísticos que puedan derivarse del uso de algoritmos. Ahora bien, desde una posición, si se permite la expresión, ludita, este argumento sería muy aplaudido. Pero la propia evolución tecnológica conlleva, como mencionamos al principio de este texto, que la IA inunde cualquier escenario humano, siendo el 21. Precisamente uno de los elementos esgrimidos por el Tribunal Constitucional es el que hace referencia a la necesidad de resolución fundada en derecho como elemento característico de la tutela judicial efectiva proclamada en el artículo 24 CE (vid. STC 24/1981, de 14 de julio. FJ.3º). 22. Aunque expresamente el artículo 120.3 CE hable de sentencias, el Alto Tribunal extiende esta obligación constitucional de motivación a los integrantes del poder judicial en general (vid. STC 36/2006, de 13 de febrero). 23. STC 215/2006, de 3 de julio, FJ. 3º. 24. MILIONE, C., “El derecho a la motivación de las resoluciones judiciales en la jurisprudencia del Tribunal Constitucional y el derecho a la claridad: reflexiones en torno a una deseada modernización del lenguaje jurídico”, Revista Estudios de Deusto, Vol. 63/2, 2015, p.178. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 79 derecho y la organización de cualquier sociedad un elemento especialmente predispuesto a esta imbricación. Por ello, el entendimiento de la facilitación de la labor del juez mediante cuestiones técnicas, como puede ser la elaboración de perfiles de riesgo en base a criterios estadísticos, podría ser equiparable a la influencia que pueda tener cualquier otro elemento técnico en la decisión judicial. A saber, el juez debe conocer e interpretar el derecho,25 pero no tiene obligación de ser un experto en todo conocimiento o saber. De ahí que se auxilie de documentos elaborados por técnicos, peritos y demás informes que puedan orientarle en un determinado sentido. Si entendemos la influencia de la IA en la labor judicial desde un punto de vista auxiliar, no en un tutelaje sino en un auxilio puntual, debido a la ingente cantidad de datos que puede procesar el sistema de IA que le ayude en cuestiones concretas, el acomodo de la IA en la labor del juez no parece tan contraria a los principios jurídicos básicos. Podría considerarse que la determinación a la que llega, no finalista porque siempre quedaría abierta a una interpretación diferente del juez, es producto de un conocimiento profundo sobre una materia. En este caso la “sabiduría” es producto de la estadística, digerida y gestionada de forma abrumadoramente más amplia de lo que sería posible para cualquier inteligencia humana. El conocimiento en el que se auxilia el juez es el mayor conocimiento de los datos que se pueden procesar, pero si las conclusiones no son vinculantes el juez siempre podrá, en aras de dar cumplimiento a la justicia, fin último que se le atribuye, tomar otra decisión motivada por otros elementos, no necesariamente la orientada o preformulada por la IA. Por tanto, la protección de derechos fundamentales es básica en esta materia, pero la labor del juez ya era antes también la propia de aquel que debe trabajar con la certeza de que no se deben lesionar los derechos fundamentales de los ciudadanos. El auxilio tecnológico desde esta perspectiva será un condicionante más, no determinante, de la resolución judicial. Alegar indefensión por no desgranar todos y cada uno de los elementos en los que se basa el algoritmo podría ser equivalente, con este planteamiento, a que el técnico al desarrollar el informe encargado en la materia en la que es experto, no solo alegara los motivos por los que es experto, sino todos y cada uno de los elementos que le han conducido a ser un experto. Obviamente si entramos en la cuestión de los derechos fundamentales debemos ser especialmente exhaustivos y rigurosos para impedir su transgresión, más si cabe en un escenario jurídico tan garantista como el nuestro, pero la posibilidad de presentar argumentos a favor o en contra alimenta el necesario y enriquecedor debate jurídico que, sin duda, estará presente en los próximos tiempos. 25. El por todos conocidos principio iura novit curia. Para ampliar sobre esta cuestión vid: CALVINHO, G., “El brocárdico iura novit curia”, Revista de derecho procesal, 1, 2009 (Ejemplar dedicado a: Homenaje al profesor Pedro Aragoneses Alonso), pp. 223-250. IUS ET SCIENTIA • 2020 Vol. 6 • Nº 2 • pp. 72 - 82 ISSN 2444-8478 • https://dx.doi.org/10.12795/IETSCIENTIA.2020.i02.06 Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial… Jorge Castellanos Claramunt / María Dolores Montero Caro 80