scieee AI-readable full text Open interactive document viewer

Inteligencia artificial (IA) y proceso penal en China : especial referencia al sistema 206

Gil García, Francisco Salvador

Abstract

El presente trabajo examina el uso de las nuevas tecnologías en el proceso penal, a través de las sucesivas reformas que el Gobierno de la República Popular China ha llevado a cabo, durante la última década, para lograr que la constante búsqueda de la verdad material se halle en consonancia con su propósito principal: la adecuada protección de los derechos fundamentales y garantías procesales de las personas investigadas y/o acusadas en el proceso penal. A tal fin, se sigue un esquema dual, en el que se analiza, por un lado, la evolución normativa en que se enmarca la incorporación de la IA al proceso penal y, por otro, el concepto, ámbito de aplicación, estructura, funciones y mecanismos de seguridad de un software de Inteligencia Artificial (IA), conocido como Sistema 206, que el Gobierno ha creado, desarrollado e implementado, para mejorar diversos aspectos del proceso penal. Por último, se formulan algunas consideraciones generales sobre la única alternativa existente para adaptar el sistema procesal a la inevitable realidad que impone el uso de la IA en todas las fases del proceso penal.

Full text

INTELIGENCIA ARTIFICIAL (IA) Y PROCESO PENAL EN CHINA: ESPECIAL REFERENCIA AL SISTEMA 206 FRANCISCO SALVADOR GIL GARCíA Doctorando en Derecho Procesal Universidad de Sevilla SUMARIO: I. I NTELIGENCIA ARTIFICIAL ( IA ) Y NUEVAS TECNOLOG í AS EN EL PROCESO PENAL . II. C ONCEPTO Y ÁMBITO DE APLICACIÓN DEL SISTEMA 206. III. E STRUCTURA DEL SISTEMA 206. IV. FUNCIONES DEL SISTEMA 206. V. S EGURIDAD DEL SISTEMA 206. VI. C ONCLUSIÓN . I. INTELIGENCIA ARTIFICIAL (IA) Y NUEVAS TECNOLOGÍAS EN EL PROCESO PENAL La búsqueda de la verdad material ha sido una constante en el proceso penal, a lo largo de la historia1; de ahí que siempre haya estado implícitamente ligada a hechos que determinan el objeto del conflicto. La constatación de la verdad de los hechos que se alegan por las partes, durante el proceso penal, se erige, así, en una consecuencia lógica y necesaria para la toma de cualquier decisión que se considere justa. Ninguna decisión puede, por tanto, considerarse justa o idónea, si se basa en una constatación falsa o errónea de los hechos (abstrakte Tatbestand – doctrina alemana). De este modo, el proceso se integra en la realidad y se adueña de ella. 1 A este respecto, revisten especial interés los trabajos de BARONA VILAR, Silvia, Proceso penal desde la historia. Desde su origen hasta la sociedad global del miedo, TIRANT LO BLANCH, Valencia, 2017; y, TARUFFO, Michele, «Verdad y proceso», en SUCAR, Germán y CERDIO HERRÁN, Jorge (edits.), Derecho y Verdad IV. Problemas, Trad. por Alberto Puppo, Tirant lo Blanch, Valencia, 2017, pp. 791-814. 352 FRANCISCO SALVADOR GIL GARCÍA A pesar de esta inevitable transición hacia un nuevo modelo de proceso penal, no fue hasta el último de los Programas de Reforma Quinquenal, cuando la Corte Suprema Popular (en adelante, CSP) decidió iniciar un proceso de reforma sobre la organización del sistema judicial que, más tarde, culminaría, el 1 de julio de 2010, con la entrada en vigor de una serie de modificaciones de la Ley de Procedimiento Penal de la República Popular de China (en adelante, LPPRPC), relativas a las reglas de exclusión probatoria. De este modo, los cauces procesales permitirían excluir del proceso penal aquellas pruebas obtenidas con infracción de los derechos fundamentales de investigados o acusados, a través del uso de las nuevas tecnologías. Lamentablemente, esta reforma no pudo evitar que pronto se dictaran nuevas condenas erróneas o injustas, basadas en el uso de esta clase de pruebas. En un nuevo intento de lograr subsanar las deficiencias existentes, allí, donde las reglas de exclusión probatoria fallaron, el máximo órgano de representación de la ciudadanía china, el Comité Permanente del Congreso Nacional del Pueblo, aprobó2, el 14 de marzo de 2012, la revisión de la LPPRPC3. Esta modificación de la LPPRPC afianzó las reglas de exclusión probatoria, reforzó el Estado de Derecho e incrementó el estándar de protección de los derechos fundamentales y garantías procesales de investigados y acusados4. Sin embargo, la misma ha demostrado ser necesaria, pero no suficiente, para evitar que los órganos jurisdiccionales del orden penal hayan corregido más de cuarenta y 2 A este respecto, véase la Decisión de la Quinta Sesión Plenaria del XI Congreso Nacional del PCC, relativa a la modificación de la Ley de Procedimiento Penal de la República Popular de China (Orden n.º 55). 3 Sobre la revisión de 2012 de la LPPRPC, léase GUO, Xinyang, «The Exclusionary Rule in Light of Procuratorial Reform», Guojia Jianchaguan Xueyuan Xuebao, No. 5, 2012, pp. 9–16; TIME, Victoria, «Evidence Gathering: The Exclusionary Rule in China», International Law Research, No. 1, 2012, pp. 144–148; HE, Jiahong, «Empirical Research on Evidence Investigation in Criminal Litigation», Zhongwai Faxue, No. 1, 2012, pp. 173–189; íbid. «Judicial Precedents are Needed in the Application of Exclusionary Rule», Faxue Jia, No. 2, 2013, pp. 106–118; y, DU, Yusu, «The Dilemma of the Trial Process about the Exclusionary Rule and its Improvement», Falü Kexue, No. 6, 2013, pp. 184–189. 4 Para mayor interés, léase el Libro Blanco sobre la Reforma Judicial de la República Popular de China, en el que se recogen las características básicas del sistema judicial, los objetivos de la reforma, así como la necesidad de reforzar la capacidad de los órganos jurisdiccionales, las funciones que tiene encomendadas el Ministerio Fiscal (en especial, la supervisión de la actividad judicial, así como la iniciativa procesal en defensa de la legalidad, los intereses públicos y la satisfacción del interés social), así como la protección de los derechos fundamentales y garantías procesales de investigados y acusados en el marco del proceso penal (cfr. Libro Blanco sobre la Reforma Judicial de la República Popular de China, Oficina de Información del Consejo de Estado, 9 de octubre de 2012, Beijing). 353 INTELIGENCIA ARTIFICIAL (IA) Y PROCESO PENAL EN CHINA: ESPECIAL REFERENCIA AL SISTEMA 206 cinco sentencias (entre ellas, las relativas a Huugjilt5 y Nie Shubin6)7, desde la celebración de la Segunda Sesión Plenaria del XVIII Congreso Nacional del PCC sobre el «Estado de Derecho»8. 5 En este caso, Huugjilt (呼 格吉勒 图), un joven de dieciocho años, fue condenado a muerte, por la violación y el asesinato de una mujer en un baño público de Hohhot y, posteriormente, ejecutado el 10 de junio de 1996. Durante el proceso penal, Yan Feng, amigo y compañero de trabajo de Huugjilt, cuenta cómo oyeron a una mujer solicitar ayuda, de forma desesperada, en un baño público de la capital regional de Hohhot, mientras estaban descansando. Al acudir al lugar del que provenían aquellos gritos, encontraron el cuerpo de una mujer fallecida en el suelo e, inmediatamente, huyeron del lugar. A pesar de las recomendaciones de Yan Feng, Huugjilt decidió llamar a la policía para relatar lo sucedido. Ante la falta de pruebas, la policía decidió inculparlo de la violación y el asesinato de la mujer. En octubre de 2005, el caso volvió a aparecer en los medios de comunicación, tras la detención del asesino en serie: Zhao Zhihong. Aunque la policía lo había vinculado a la comisión de una veintena de asesinatos, violaciones y robos, él mismo confesó el número veintidós: aquel que envió a Huugjilt a la muerte. Zhao fue capaz de describir el asesinato con gran detalle, ofreciendo información precisa de lo ocurrido aquel fatídico día. Un documento encontrado, con posterioridad, detalló el diálogo entre Huugjilt y los fiscales de Hohhot y puso de manifiesto cómo la policía lo había forzado a admitir su culpabilidad. En noviembre de 2014, un juez del Tribunal Popular Superior de Mongolia Interior, reabrió el caso, tras constatar la falta de pruebas suficientes para su condena, así como la confesión de Zhao Zhihong, detenido en 2005 y condenado a la pena capital, por la violación y asesinato de once personas, entre ellas, aquella mujer, hallada en el baño público de Hohhot. 6 En esta ocasión, Nie Shubin (聂树斌), un joven de veintiún años, fue condenado a la pena capital, por la violación y el asesinato de Kang Juhua (康 菊花), una mujer de unos treinta años de edad, en la provincia de Hebei. A lo largo del proceso penal, Nie confesó, en varias ocasiones, a su abogado, haber sufrido tortura y tratos inhumanos y degradantes, durante los siete días, que permaneció detenido. Todo el proceso se tramitó a puerta cerrada, excluyendo la presencia de los padres de Nie de lugar, en el que se estaba juzgando a su hijo. Siete meses después de su detención, el Gobierno acabó con la vida de Nie, sin previa notificación a su abogado y familiares. En 2005, Wang Shujin confesó haber asesinado a la Sra. Kang. Sin embargo, el caso no fue revisado por la CSP hasta 2014. Tras su revisión, la CSP concluyó que Nie era inocente, por lo que fue absuelto, a título póstumo. En su comunicado, la CSP declaró que « las evidencias utilizadas para condenar a Nie no fueron suficientes ni precisas, por lo que este caso no reúne las condiciones necesarias para que este Tribunal ratifique la sentencia de condena previamente emitida». 7 En relación a los casos relativos a las confesiones forzadas producidas en el marco del proceso penal durante las últimas décadas, léase DONG, Xiaowei, «Retrospection and Rethink of the Cases With Death Consequence because of the Inquisition by Torture in the Last Ten Years», Gongan Xuekan, Zhejiang Gongan Zhuanke Xuexiao Xuebao, No. 1, 2004, pp. 5–7; y, CHEN, Ruihua, «On the Rules about the Confession of the Accused», Faxue Zazhi, No. 6, 2012, pp. 46–55; DAUM, Jeremy, «Tortuous Progress: Early Cases Under China’s New Procedures for Excluding Evidence in Criminal Cases», New York University’s Journal of International Law and Politics, No. 43, 2011, pp. 699–711; CHEN, Ruihua, «The Exclusive Object of Illegal Evidence Exclusion Rule: An Analysis of Involuntary Confession», Dangdai Faxue, No. 1, 2015, pp. 37–48. 8 Durante la celebración del Congreso, los miembros de la CSP admitieron que «casi todas las condenas erróneas, recientemente identificadas, resultaron ser confesiones forzadas. De ello, se deduce que los jueces aún tenemos muchas dificultades para excluir la prueba obtenida ilegalmente conforme a la ley» ; ello, unido a la débil posición en que se encontraban los abogados defensores, eliminaba cualquier posibilidad de solicitar al tribunal, 354 FRANCISCO SALVADOR GIL GARCÍA En la Tercera Sesión Plenaria del XVIII Congreso Nacional del PCC, cele brada en noviembre de 2013, el Gobierno anunció la constitución de un Grupo de Expertos para la Profundización de la Reforma General en China — actualmente, conocido como Comisión Central para la Profundización Integral de Reformas en China—, destinado a mejorar la coordinación, la promoción y la supervisión de la reforma judicial. Ello motivó que la Cuarta Sesión Plenaria del Decimoctavo Congreso Nacional del PCC, celebrada entre los días 20 y 23 de octubre de 2014, ratificara la idea de «avanzar hacia una reforma del proceso penal, centrada en el acto de juicio oral». A tal fin, el Gobierno trató de implementar la reforma judicial (especialmente, la modificación de las normas relativas al acto de juicio), mejorar los cauces procesales para la proposición y valoración de la prueba, reforzar el sistema de notificaciones para la comparecencia de testigos y peritos ante el órgano jurisdiccional competente y asegurar que los procesos penales sean decisivos para demostrar, «más allá de toda duda razonable», la culpabilidad del acusado, respetando, en todo caso, el derecho de defensa, conforme a lo dispuesto en los arts. 51, 53, 54 y 118 CLP 9 . Con el fin de satisfacer las necesidades que imponen el desarrollo tecnológico y la innovación científica en la implementación de la reforma del sistema judicial, el Ministerio de Justicia emitió, el 15 de enero de 2017, una serie de «Opiniones sobre la consolidación y el desarrollo de la informática en la Administración de justicia», en las que subrayó la necesidad de aprovechar las oportunidades que ofrece la IA para avanzar en la reforma del sistema judicial, incrementando la protección de los derechos fundamentales y garantías procesales de investigados y/o acusados en el marco del proceso penal, mejorando el sistema de gestión y tramitación procesal (Internet +), e impulsando la modernización de la Administración de justicia, a través de la incorporación de las nuevas tecnologías al proceso penal. En la tarde del día 6 de febrero de 2017, Meng Jianzhu —el decimoctavo jefe de la CAPJ—, acompañado por Han Zheng —antiguo miembro del Buró Político del Comité Central del PCC y Secretario del Comité Municipal de Shanghái del la exclusión de esta clase de pruebas (cfr. Comunicado de la Segunda Sesión Plenaria del XVIII Congreso Nacional del Partido Comunista de China, celebrada entre los días 26 y 28 de febrero de 2013, en Beijing; LIANG, Bin, HE Ni, Phil y LU, Hong, en su capítulo sobre «The Deep Divide in China’s Criminal Justice System: Contrasting Perceptions of Lawyers and the Iron Triangle», Crime, Law and Social Change, No. 62, 2014, pp. 585–601; y, TIAN, Wenchang, «Criminal Defense Cannot Abide Illegal Evidence», Fazhi Zhoumo, 11 January, 2011). 9 En este mismo sentido, se han pronunciado NING, Ping, «Research on the Necessity and Feasibility of the Establishment of an Adversarial Investigative Interrogation Model in China», Fanzui Yanjiu, No. 4, 2015, pp. 39–46; YANG, Yuguan, «On the rule of excluding illegal evidence under the rule of law», Zhengju Kexue, No. 4, 2015, pp. 389–399; y, JIANG, Na, «The Potential to Secure a Fair Trial Through Evidence Exclusion: A Chinese Perspective», en GLESS, Sabine y RICHTER, Thomas (edits.), Do Exclusionary Rules Ensure a Fair Trial? A Comparative Perspective on Evidentiary Rules, Springer, 2019, pp. 163-211. 355 INTELIGENCIA ARTIFICIAL (IA) Y PROCESO PENAL EN CHINA: ESPECIAL REFERENCIA AL SISTEMA 206 11 12 Documento n.º 5 de la CSP de la República Popular de China, de 17.02.2017. Documento de Opinión n.º 8 de la CSP de la República Popular de China, de 27.02.2019. PCC — y otros miembros del Comité Central del PCC, visitó la Corte Superior de Shanghái, a fin de examinar el progreso logrado con la reforma de la Administración de justicia. Tras la visita, las autoridades judiciales y los líderes políticos de Shanghái mantuvieron una importante reunión, en la que Meng Jianzhu les asignó la tarea de crear e implementar un software de IA, que permitiese mejorar la gestión y tramitación del proceso penal en la Corte de Shanghái: conocido como «sistema 206»10. Un mes, más tarde, el 17 de febrero de 2017, la CSP publicó una serie de Recomendaciones sobre la promoción integral de la reforma del procedimiento penal centrada en el acto de juicio oral 11, a fin de que las diversas instancias judiciales del país comprendiesen el alcance y significado de la reforma judicial, promoviesen la organización y coordinación entre órganos jurisdiccionales y administraciones públicas, garantizasen su correcta implementación en los diversos órganos jurisdiccionales, prestasen más atención a las recomendaciones institucionales y resumiesen su experiencia, de forma oportuna. Dos años después, el 27 de febrero de 2019, la CSP hizo público un documento, denominado «Opinión sobre la implementación de la reforma integral de apoyo al sistema judicial de la Corte Popular: el quinto esquema de reforma quinquenal de la Corte Popular (2019-2023)»12, en el que volvió a insistir en la investigación científica y el desarrollo tecnológico, como pilares fundamentales, para construir tribunales inteligentes, impulsar los principios básicos del sistema procesal penal, aprovechar las oportunidades históricas que brinda la cuarta revolución industrial y utilizar la IA para resolver los problemas que, diariamente, plantea la práctica judicial. Coincidiendo con la publicación del quinto esquema de reforma quinquenal de la CSP, el Ministerio de Ciencia y Tecnología de la República Popular de China aprobó, a principios de 2019, la constitución del Comité Nacional de Expertos en IA 10 El sistema 206 fue utilizado, por primera vez, el 23 de enero de 2019, en el Tribunal Intermedio Popular n.º 2 de Shanghái, para resolver un caso de robo y asesinato. Más de doscientas personas, entre ellas, Jiang Wei, vicepresidente de la CSP, Liu Xiaoyun, presidente del Tribunal Popular Superior de Shanghái, o Zhang Bencai, fiscal jefe de la Fiscalía Popular de Shanghái, asistieron a la audiencia. El éxito de su utilización en todas las fases del proceso penal —desde la presentación de la denuncia, hasta la ejecución de la condena—, no sólo puso de manifiesto la acertada configuración del sistema, sino también la oportunidad que éste representaba para continuar avanzando en la reforma del sistema de justicia penal, destinada a incrementar el estándar de protección de los derechos fundamentales de investigados y acusados (un detallado estudio sobre su proceso de creación, desarrollo e implementación puede encontrarse en CUI, Yadong, Artificial Intelligence and Judicial Modernization, Springer, 2020). 356 FRANCISCO SALVADOR GIL GARCÍA de Nueva Generación13-14, con el objetivo de regular el desarrollo de la IA. Tras esta primera reunión, el Ministerio de Ciencia y Tecnología de la República Popular de China publicó una serie de principios, destinados a regular el desarrollo de la IA15. 13 Plan de Desarrollo de la IA de Nueva Generación (Documento (2017) n.º 35 del Consejo de Estado de la República Popular de China, de 20.07.2017 – Ref. 000014349 / 2017-00142). 14 Actualmente, este grupo de expertos está formado por: Xue Lan (薛 澜) de la Universidad de Tsinghua, Li Renhan (李仁涵) de la Universidad de Shanghái, Huang Tiejun (黄铁军) de la Universidad de Pekín, Gao Qiqi (高 奇 琦) de la Universidad de Ciencias Políticas y Derecho de China Oriental, Zeng Yi (曾毅) de la Academia China de Ciencias, Yin Qi (印 奇), Co-fundador y CEO de la empresa Megvii Techonology Inc., y Zhou Bowen (周伯文), Doctor en Tecnología por la Universidad de Colorado (EE.UU.) y Presidente de la División de Inteligencia Artificial de JD.com, como responsable de su estrategia y diseño de alto nivel. 15 En la Unión Europea (en adelante, UE), la primera referencia al desarrollo normativo de la IA se halla en la «Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones – Inteligencia Artificial para Europa » [COM(2018) 237, de 25.04.2018], que la Comisión Europea publicó, en abril de 2018, para abordar los retos y aprovechar las oportunidades que ofrece la IA. Esta estrategia colocó a la persona en el centro del desarrollo de la IA, adop tando un planteamiento multidisciplinar, que permite potenciar la capacidad tecnológica e industrial de la Unión Europea (en adelante, UE), impulsar la implementación de la IA en todos los ámbitos de la economía, así como garantizar la constitución de un marco ético y jurídico apropiado. Para concretar la implementación de esta estrategia, la Comisión desarrolló, junto con los Estados miembros, un plan coordinado sobre IA, que presentó en diciembre de ese mismo año, para crear sinergias, reunir datos e incrementar las inversiones conjuntas; buena muestra de ello son sus inversiones en el proyecto Horizonte 2020, en el que tiene previsto invertir, cada año, hasta mil millones de euros en el marco del programa Europa Digital. La Estrategia Europea en materia de IA, así como el plan coordinado evidencian que la confianza es una condición previa y necesaria, para garantizar un enfoque, centrado en el ser humano: la IA no es un fin en sí mismo, sino un medio que debe servir a las personas para incrementar su bienestar. Por ello, la fiabilidad de la IA debe estar asegurada. Los valores en los que se basan nuestras sociedades han de estar plenamente integrados en la evo lución de la IA. Entre ellos, la UE se fundamenta en valores tales, como el respeto a la dignidad humana, la libertad, la democracia, la igualdad, el Estado de Derecho o la protección de los derechos humanos, incluidos los derechos de las personas pertenecientes a minorías. Estos valores son comunes a las sociedades de todos los Estados miembros, en las que prevalecen el pluralismo, la no discriminación, la tolerancia, la justicia, la solidaridad y la igualdad. De este modo, la UE se asienta sobre un sólido marco normativo, que constituirá la referencia mundial para la regulación de la IA. Entre los principales instrumentos que componen dicho marco normativo, destacan: a) el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE [DOUE L 119, 04.05.2016]; el Reglamento (UE) 2018/1807 del Parlamento Europeo y del Consejo, de 14 de noviembre de 2018, relativo a un marco para la libre circulación de datos no personales en la Unión Europea [DOUE L 303, 28.11.2018]; el Reglamento (UE) 2019/881 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, relativo a ENISA (Agencia de la UE para la Ciberseguridad) y a la certificación de la ciberseguridad de las tecnologías de la información y la comunicación y por el que se deroga el Reglamento (UE) n.º 526/2013 [DOUE L 151, 07.06.2019]; o, iv) la propuesta de Reglamento del Parlamento Europeo y del Consejo, sobre el respeto de la vida privada y la protección de los datos personales en el sector de las comunicaciones electrónicas y por el que se deroga la Directiva 2002/58/CE [COM(2017) 10 final, de 10.01.2017]. Si bien, la IA también comporta nuevos retos y desafíos, ya que permite a las máquinas « aprender », sin intervención 357 INTELIGENCIA ARTIFICIAL (IA) Y PROCESO PENAL EN CHINA: ESPECIAL REFERENCIA AL SISTEMA 206 II. C ONCEPTO Y ÁMBITO DE APLICACIÓN DEL SISTEMA 206 El sistema 206 es un software de IA que recopila, gestiona, genera y transmite información, a través de una serie de expedientes que se encuentran a disposición de los órganos jurisdiccionales, fiscalías, oficinas de seguridad pública, autoridades administrativas —como puedan ser las oficinas de administración penitenciaria, administración de corrección comunitaria, administración de entrada y salida del país y estaciones de inspección fronterizas, en general—, defensa y acusación, para su consulta o rectificación, durante todo el proceso penal. Este sistema opera en todos aquellos procesos penales, que hayan sido incoados por delitos comunes, es decir, por hechos delictivos cometidos, conjuntamente, por dos o más personas, de forma intencional (art. 25, párr. 1.º, LPRPC). Se excluyen, por tanto, las formas imperfectas de ejecución, así como todas aquellas infracciones penales de autoría única o cometidas por imprudencia o negligencia. III. ESTRUCTURA DEL SISTEMA 206 Su estructura se articula, en torno a: a. una base de datos sobre estándares probatorios, que proporcione, al personal encargado de la gestión, tramitación y resolución de un caso, un conjunto uniforme de estándares probatorios, aplicables a casos similares (arts. 50 a 63 LPPRPC). Esta base de datos estará compuesta por aquellos estándares probatorios que hayan sido, previamente, resumidos por expertos en la materia, aplicados en casos anteriores o generados por la práctica diaria de los tribunales; humana. Sin duda, aplicar, de forma irreflexiva, la tecnología, a medida que ésta se desarrolla, daría lugar a situaciones bastante problemáticas, así como a la renuencia de los ciudadanos a aceptarla o utilizarla. Por ello, la Comisión ha creado un grupo de expertos de alto nivel en materia de IA. A este grupo de expertos, se le ha encomendado la elaboración de una serie de directrices éticas y recomendaciones políticas en esta misma materia. Al mismo tiempo, se ha creado la Alianza europea de la IA: una plataforma multilateral abierta con más de dos mil setecientos miembros, para completar la compleja labor del grupo de expertos de alto nivel sobre la IA. En diciembre de 2018, el grupo de expertos de alto nivel sobre la IA publicó un primer borrador. Tras una consulta a las partes interesadas (a la consulta dieron respuesta) y varias reuniones con los representantes políticos de los Estados miembros (las conclusiones alcanzadas el 18 de febrero de 2019 pueden consultarse en el Documento del Consejo de la UE n.º 6177/19, de 11.02.2019], el grupo presentó un documento revisado a la Comisión en marzo de 2019. Este documento, publicado el 8 de abril de 2019, por la Comisión, bajo la rúbrica « Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones – Generar confianza en la IA centrada en el ser humano» , recoge hasta siete requisitos esenciales, que deben respetar las aplicaciones de IA, para ser fiables: i) intervención y supervisión humana; ii) solidez y seguridad técnicas; iii) privacidad y gestión de datos; iv) transparencia; v) diversidad, no discriminación y equidad; vi) bienestar social y medioambiental; y, por último, vii) rendición de cuentas. Tales directrices no son vinculantes, por lo que las mismas no crean nuevas obligaciones. 358 FRANCISCO SALVADOR GIL GARCÍA b. una base de datos con los elementos constitutivos de los delitos más comunes, que facilite las preguntas más frecuentes (FAQ) y sirva, como guía, para valorar la objetividad, la autenticidad y la relevancia probatoria en procesos penales por delitos comunes (arts. 48, párr. 2.º, in fine, 50, in fine, y 53 LPPRPC y 25 LPRPC); c. una base de datos con información de los casos pendientes de resolución , que aporte información sobre el progreso y los resultados de la gestión y tramitación del proceso penal, los responsables de la presunta comisión del hecho delictivo perpetrado o el estado de tramitación de las solicitudes de detención, que deban ejecutar los órganos de seguridad pública, previa autorización de la Fiscalía Popular (arts. 3, párr. 1.º, 51, ab initio, y 78 LPPRPC); d. una base de datos con archivos informáticos , que permita la obtención, asociación y clasificación de toda aquella información digital que se haya recopilado. Los datos electrónicos que hubieran sido recopilados u obtenidos por agencias, durante una investigación administrativa, podrán ser utilizados, como prueba, en el marco de un proceso penal, bajo los principios de contradicción e igualdad de armas (art. 52, párr. 2.º, LPPRPC); e. una base de datos con casos anteriores, que suministre información sobre aquellos casos, que, habitualmente, se planteen en la Corte de Shanghái, o que, habiendo sido resueltos por la CSP, puedan servir, como referencia, por el resto de órganos jurisdiccionales, una vez sean procesados y recopilados en un único formato; así como, f. una base de datos normativa, que facilite la búsqueda de aquella normativa en vigor que resulte aplicable al caso concreto. IV. FUNCIONES DEL SISTEMA 206 Entre sus principales funciones, se encuentran: 1. la constitución de estándares probatorios, que elimine o suprima toda manifestación de arbitrariedad que pueda exteriorizarse, a través del razonamiento interno 16 , que deba realizar el tribunal a la hora de valorar la prueba 17 , conforme a las reglas de la lógica, las máximas de experiencia y los 16 Como propugnara el realismo jurídico contemporáneo estadounidense, este razonamiento interno se identifica con la probabilidad asociada a las decisiones judiciales. De este modo, la función jurisdiccional se convierte en una especie de algoritmo predictivo, que transforma la flexibilidad del razonamiento judicial en una estructura lógica propia del razonamiento lógico-deductivo, basado en la regularidad de sus concepciones (vid. BODENHEIMER, Edgar, Jurisprudence: 7e Philosophy and Method of the Law, Publishing House, December 1987, p. 478; HOLMES, Oliver Wendell, 7e Collected Works of Oliver Wendell Holmes: Complete Public Writings and Selected Judicial Opinions of Oliver Wendell Holmes, Vol. III, University of Chicago Press, Chicago, 1995, ). 17 De acuerdo con lo dispuesto en los arts. 48 y 50 de la LPPRPC, constituye «prueba», 359 INTELIGENCIA ARTIFICIAL (IA) Y PROCESO PENAL EN CHINA: ESPECIAL REFERENCIA AL SISTEMA 206 conocimientos científicos, aceptados o contenidos en informes periciales que hubieren podido mostrarse en el acto de juicio (arts. 50-59 LPPRPC)18; 2. la verificación de autenticidad de la fuente o elemento de prueba, a través de un detallado análisis de su forma y contenido . Este análisis generará, automáticamente, una conclusión acerca de la verificación y recordará al personal, encargado de la gestión y manejo del sistema, que corrija o explique el proceso que se ha llevado a cabo para la obtención de una determinada prueba (arts. 55-59 LPPRPC); 3. la evaluación del daño social causado mediante un análisis de Big Data, que permita cuantificar y ponderar su grado de intensidad. A tal fin, el sistema empleará un sistema de evaluación del daño social, basado en diferentes factores criminológicos, y confeccionado a través de su propio aprendizaje (art. 61 LPRPC); 4. la propuesta de decisión más adecuada para la resolución del caso, en atención a las decisiones que se hayan adoptado, con anterioridad, en casos similares. Para realizar esta función, el sistema deberá extraer información, a través del análisis de una serie de datos —como puedan ser el nombre de la persona investigada, la conducta o comportamiento delictivo que se le atribuye, su estado psicológico, los hechos en que se basa la acusación, los indicios Ley de Procedimiento Penal): a) la evidencia física; b) la prueba documental; c) la declaración del testigo; d) la declaración de la víctima; e) la confesión del sospechoso o acusado; f) la opinión de expertos; g) el examen, la identificación y la recreación de la escena donde se produjo la comisión del delito; así como, h) las grabaciones audiovisuales y datos electrónicos. Esta definición sigue, por tanto, la «teoría de los materiales », según la cual, « se pueden utilizar todos aquellos materiales que prueben la comisión de los hechos ». Por lo tanto, queda claro que la reforma del sistema de justicia penal chino trata de garantizar que las pruebas cumplan los requisitos de autenticidad , legalidad y relevancia para poder ser propuestas y admitidas en el proceso penal. En consecuencia, deberá ser fiable y suficiente, para evitar que una prueba, obtenida ilegalmente, pueda servir para condenar a alguien. 18 En un artículo titulado «Broad prospects of Deep integration of AI and judicial practice», el Prof. QING declaró: «For the f irst time, the 206 system integrates the statutory uniform evidence stan dards into the digital criminal case handling system of the public security organs, procuratorates and courts, and makes their respective case-handling platforms connected, which greatly promotes the implementation of uniform evidence standards by the case-handling personnel of the three branches, and forces the criminal cases to be handled in strict accordance with the provisions of the law in each judicial proceedings, including investigation, review and prosecution, as well as trial» (cfr. QING, Ye, «Broad prospects of Deep integration of AI and judicial practice», Jiefang Daily, July 10, 2017, p. 5). Poco tiempo después, el Profesor Ye en su tesis académica, titulada «On the theoretical reflection and practical value of the case handling mode of combination of arrest and prosecution», añadió: «[t]he 206 System aims to embed the uniform and applicable evidence standards into digital programs, which should become the paradigm of case-handling informatization of judicial organs in the era of big data» (cfr. QING, Ye, «On the theoretical reflection and practical value of the case handling mode of combination of arrest and prosecution», Criminal Science, No. 4, 2018, pp. 3-11).