Ética y Derecho en la normativa europea sobre Inteligencia Artificial

35 ÉTICA Y DERECHO EN LA NORMATIVA EUROPEA SOBRE INTELIGENCIA ARTIFICIAL Antonio Enrique Pérez Luño Profesor Emérito de la Universidad de Sevilla EL IMPACTO DE LA IA EN LA CULTURA ÉTICA Y JURÍDICA ACTUAL La expresión Inteligencia Artificial en adelante (IA), es utilizada asiduamente en los más diversos escenarios de la ciencia, la economía, la política la moral, la cultura y la experiencia jurídica del presente. Su significado no es siempre tan preciso como cuanto requiere la extensión de su uso. La noción de IA se halla acogida, en efecto, en los más diversos ámbitos de la investigación científica y tecnológica y forma parte de la opinión común de nuestro tiempo. Conviene, no obstante, recordar que la cultura clásica griega sostenía que, frente a la opinión común representada por la doxa, el filósofo debía hallarse dispuesto a indagar la paradoxa. Con ello, se pretendía aludir a la necesidad de profundizar en el significado de los términos, más allá de sus sentidos aparentes. Se entiende por IA aquel conjunto de actividades realizadas por los sistemas tecnológicos, que si fueran realizados por seres humanos se atribuirían a su inteligencia. Se trata de aquellos fenómenos en los que las máquinas efectúan la emulación de actividades humanas vinculadas con el ejercicio de la inteligencia, tales como jugar al ajedrez, conducir un aeroplano o un automóvil, o prescribir un dictamen médico. En el Reglamento (UE) 2024/1689, de 13 de junio. Que establece normas armonizadas en materia de inteligencia artificial se la define: “como un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede 36 mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales” (Art. 3.) La expresión “Inteligencia Artificial”, suscitó en sus inicios, algunas reservas, porque se estimaba que no tenía precisión ni fuerza denominativa para hacer referencia a la realidad que pretendía aludirse con esa terminología. Desde esas perspectivas críticas, se estimaba que la inteligencia era una cualidad tan consustancialmente humana, que predicarla de las máquinas, aunque se adjetivara con el vocablo “artificial”, resultaba inadecuada y proclive a crear confusión. En poco tiempo, esta denominación ha adquirido tal fuerza expansiva, que ahora carece de valor práctico cualquier tentativa dirigida a sustituirla o criticarla, sin que ello implique que determinadas reservas sobre su significación no se hallen justificadas. Un evento que puede considerarse iniciador de la reflexión sobre la denominación y las repercusiones jurídicas de la IA fue, en el año 1989, se celebró en la Universidad de Bolonia y consistió en el Congreso Mundial de Filosofía del Derecho, que tenía por objeto el estudio de las proyecciones de los Sistemas Expertos (SE) y la IA al Derecho. En los trabajos de quienes participamos en dicho evento se puso de relieve la disparidad de griteríos entre quienes se mostraban partidarios de que la proyección de las NT y las TIC al Derecho se realizara bajo la denominación de los SE y quienes, por el contrario, estimaban preferible optar por la expresión IA. En años sucesivos se ha impuesto esta última denominación que, sin duda, representa una apertura más ambiciosa hacia las proyecciones tecnológicas en el Derecho. Los SE se limitaban a propiciar la acumulación de datos jurídicos y a facilitar su recuperación ordenada y exhaustiva, mediante los adecuados sistemas de tratamiento automatizado de la información. La IA no solo se limita al almacenamiento y recuperación de datos, sino que permite ampliar cuanto conocemos de la realidad, facilita las formas de 37 comunicación, de trabajar en red y de compartir información. En un futuro, cada vez más inmediato será capaz de transformar los conocimientos y estrategia que utilizamos para las más diversas actividades y, en concreto, para las diversas formas de la realidad jurídica. Debe tenerse presente que la experiencia humana consiste en un acopio de datos e informaciones, en la memorización de los mismos y en el uso de ese acervo documental en los distintos ámbitos de la experiencia, es decir, en distintos momentos de la actividad vital de la persona. Esas operaciones, por analogía, se pueden predicar de los SE. Un sistema informático puede acumular una información y documentación muy superior a la capacidad de los seres humanos. Puede poseer una capacidad de memoria de dichos datos e informaciones perfectamente organizada y estructurada. Puede, asimismo, con una adecuada programación, utilizar los datos e informaciones archivados y memorizados en los más diversos ámbitos del mundo y de la vida y, por tanto, en distintos sectores de la experiencia jurídica. Esa proyección tecnológica se complica notablemente cuando su objeto es la inteligencia. Desde Aristóteles y, a partir de su enseñanza que irradia la entera evolución de la cultura occidental, la inteligencia entraña una doble dimensión: un aspecto lógico que se halla representado por el conocimiento y un aspecto teleológico que consiste en la dirección u orientación del conocimiento. La inteligencia humana es “consciencia”, conocimiento, pero es también “conciencia”, es decir, dirección hacia determinados fines del conocimiento. En todo caso, convendrá advertir que la pregunta sobre: ¿qué es la inteligencia? no admite respuestas simplistas o precipitadas. Exige, en primer término, dilucidar lo que se entiende por “inteligencia”, concepto que, en modo alguno, es constante y unívoco; por lo que conviene evitar el riesgo de hipostasiarlo y tratarlo como si fuese una entidad evidente 38 Descartada cualquier pretensión de exhaustividad, se pueden advertir en el seno de la cultura occidental tres grandes acepciones de la inteligencia: 1) Como inteligencia práctica:intellectus practicus (Aristóteles, Tomás de Aquino), praktische Vernunft (Kant), es decir, como virtud para discernir y actuar racionalmente que orienta la acción, los juicios de valor y la elección de las reglas de convivencia. 2) Como inteligencia o saber teórico, nous theoretikós (Aristóteles), ratio speculativa (Tomás de Aquino), o facultad cognoscitiva Erkenntnisvermögen (Kant, Hegel), que permite aprehender y representar formalmente la realidad, así como realizar cálculos y deducciones lógicas. 3) Como inteligencia o racionalidad instrumental, que alude a la idoneidad (eficacia) de los medios requeridos para la obtención de determinados fines, así como para dirigir procesos de adaptación y/o aprendizaje (Bergson, Köhler, Weber), en una acepción “neutra”, diferente de la noción peyorativa que identifica la inteligencia o razón instrumental (instrumentelle Vernunft) con los procesos discursivos dirigidos a posibilitar y legitimar el dominio de la naturaleza y la explotación de los hombres (Horkheimer). Estas dimensiones de la inteligencia permiten comprobar que en sus acepciones 2 y 3, o epistemológica y heurística, la noción de inteligencia puede ser predicable respecto a determinados tipos de software que reproducen procesos de conocimiento. Respecto a la inteligencia teórica o epistemológica los avances de la IA han permitido evidenciar la carencia de fundamento de aquellas concepciones lógicas y antropológicas basadas en la supuesta aptitud humana inimitable de deducción e inferencia silogística, desde el momento en que tal facultad ha sido ventajosamente superada por los ordenadores. Esto no implica que la inteligencia o el razonamiento humano hayan sido absorbidos o suplantados en su integridad por la IA, sino que la peculiaridad de esas facultades ya no puede cifrarse en su mera dimensión silogística. Más bien habrá 39 que referirla a su capacidad para imaginar, comprender, utilizar y valorar críticamente máquinas silogísticas. De modo análogo, en el plano de la inteligencia instrumental o heurística se ha superado el prejuicio que consideraba la facultad de aprendizaje como privativa de la especie humana, en la medida en que desde que, con la máquina de Turing en 1950, se pudo comprobar la capacidad de las máquinas para realizar tareas definidas y/o simular juegos. Especial atención merece la capacidad de los programas de la IA para orientar (corregir o perfeccionar) su propio funcionamiento, a partir de la autorregulación o retroacción (feedback), de informaciones elaboradas en su propio proceso operativo, lo que implica capacidad para auto calibrar su aproximación o alejamiento de los objetivos programados para su actividad. La evolución de las posibilidades operativas de la IA es, en principio, ilimitada máxime cuando se está experimentando con nuevas generaciones de ordenadores que: en el plano del hardware, pudieran llegar a sustituir el chip de silicio por el de carbono, lo que auspicia todo tipo de conjeturas sobre la aproximación del sistema operativo de los circuitos de la IA a los procesos de la mente humana; mientras que en el del software se abre paso la posibilidad de utilizar lógicas polivalentes, probabilistas o fuzzy, es decir, borrosas, capaces de operar con tablas de verdad vagas e imprecisas y con reglas de inferencia cuya validez es aproximada en lugar de exacta, como ocurre en la lógica formal. Existe un sector de la inteligencia, el 1 o práctico, que es el que afecta a la conciencia, que no pueden ser asumidas por la IA. Se trata de actividades y modos de preferencia (valoraciones) y elecciones de fines, que los seres humanos llevan a cabo a través de su estructura biológica y psicológica, pero esa estructura no opera en abstracto, sino en función de experiencias sociales y culturales. De cuanto hasta aquí se ha expuesto se infiere que la IA posee una potencialidad incuestionable en los diversos ámbitos del conocimiento, también para el conocimiento del Derecho (normas, jurisprudencia y doctrina), pero carece de conciencia. La IA representa 40 por tanto una inteligencia desprovista de conciencia. En estos últimos años los progresos de la IA en todos los ámbitos del conocimiento han adquirido un desarrollo de extraordinarias proporciones, pero sin que los desarrollos tecnológicos hayan podido avanzar en el ámbito de la conciencia. El universo digital comenzó su expansión hace ya algunas décadas. En sus inicios no se planteaba la cuestión de establecer un marco político ético y jurídico para sus proyecciones. Se consideraba que su incidencia e implicaciones se reducirían a los ámbitos de la economía, la industria y el comercio, por lo que la evaluación de sus efectos quedaba circunscrita a su eficacia en aquellos aspectos. Con la evolución de la IA se fue adquiriendo progresiva constancia de sus repercusiones sociales, éticas, políticas y jurídicas. En la actualidad las sociedades y los gobiernos son conscientes de la necesidad de establecer una regulación adecuada de las plataformas de redes dotadas de IA. El ejemplo del Reglamento de la UE mencionado supra, constituye un dato elocuente de la necesidad perentoria que reviste esa regulación. En su Parte Expositiva, expresión equivalente a la más usual en la tradición normativa de “Exposición de Motivos” el Reglamento declara su propósito de contribuir al desarrollo de una (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea. (considerando 1). PRINCIPIOS FUNDAMENTALES DE LA PROYECCIÓN DE LA IA A LA ÉTICA Y AL DERECHO La importancia que reviste en la sociedad digital que habitamos la IA y la convicción de que se trata de una forma de inteligencia carente de la posibilidad de establecer finalidades y objetivos, es decir, carente de conciencia, ha determinado distintas propuestas 41 dirigidas a establecer un marco ético-jurídico para la actuación y desarrollo de este importante avance tecnológico. Entre estas iniciativas reviste especial importancia el recordar las Directrices éticas para una IA fiable, de 2019, elaboradas por el Grupo independiente de expertos de alto nivel sobre IA creado por la Comisión de la UE. Ese documento ha sido recogido en el Considerando 27 de la Parte Expositiva del Reglamento sobre IA de la propia UE. En dichas directrices, el Grupo independiente de expertos de alto nivel sobre IA desarrolló siete principios éticos, pero con inmediata proyección jurídica, que tienen por objeto contribuir a garantizar la fiabilidad y el uso responsable de la IA. Se trata de siete principios para la utilización y supervisión humanas de los sistemas de IA y que se concretan en los siguientes: “solidez técnica y seguridad, gestión de la privacidad y de los datos, transparencia, diversidad, no discriminación y equidad; bienestar social y ambiental, y rendición de cuentas”. Todos y cada uno de estos principios tienen una importante relevancia en el ámbito jurídico, por lo que conviene glosar esta particularidad. No obstante, en el propio Considerando 27 del Reglamento sobre IA de la UE se puntualiza la compatibilidad de esos principios con los requisitos jurídicamente vinculantes del Reglamento y de cualquier otro acto aplicable del Derecho de la Unión, esas directrices contribuyen al diseño de una IA coherente, fiable y centrada en el ser humano, en consonancia con la Carta y con los valores en los que se fundamenta la Unión. De acuerdo con las directrices del Grupo independiente de expertos de alto nivel sobre IA: Por acción y supervisión humanas se debe entender que los sistemas de IA se desarrollen y utilicen como herramienta al servicio de las personas, que respeten la dignidad humana y la autonomía personal, y que funcione de manera que pueda ser controlada y vigilada adecuadamente por seres humanos. Este principio tiene especial incidencia para los sistemas de IA dirigidos a la elaboración o 42 aplicación de normas jurídicas. Representa, por tanto, una prohibición expresa a cualquier sistema autónomo de IA dirigido a la elaboración de normas jurídicas o de su aplicación. Todo sistema de IA relativo a esas funciones básicas del Derecho deberá obedecer a la acción y supervisión de personas humanas, a las que corresponderá la plena responsabilidad de sus actos. De este modo, la UE prohíbe expresamente toda las teorizaciones de ciencia ficción sobre los denominados legisladores o jueces Robot, ya que se considera que la creación y la aplicación del Derecho no puede quedar al margen de la responsabilidad humana. Por solidez técnica y seguridad se debe entender que los sistemas de IA se desarrollen y utilicen de manera que sean sólidos en caso de problemas y resilientes frente a los intentos de alterar el uso o el funcionamiento del sistema de IA para evitar su uso ilícito por terceros y reducir al mínimo los daños no deseados. Dada la importancia de los sistemas jurídicos en los que pueda utilizarse la IA y las repercusiones sociales de un mal uso o interferencia en dichos sistemas, se plantea la necesidad de garantizar la plena solidez de su funcionamiento y la seguridad de su empleo que afecta directamente a la garantía del valor de la seguridad jurídica. Por gestión de la privacidad y de los datos se debe entender que los sistemas de IA se desarrollen y utilicen de conformidad con normas en materia de protección de la intimidad y de los datos personales, al tiempo que tratan datos que cumplen normas estrictas en términos de calidad e integridad. Esta exigencia obliga a el respeto de las normas internacionales, europeas y españolas que protegen el derecho a la intimidad y la garantía de los datos personales. Por transparencia se debe entender que los sistemas de IA se desarrollen y utilicen de un modo que permita un acceso y conocimiento de su estructura y funcionamiento. De este modo, las personas podrán ser conscientes de que se comunican o interactúan con un sistema de IA. Asimismo, los responsables de los sistemas de IA deberán informar a las personas afectadas por el tratamiento de datos. Desde el punto de vista jurídico, ello implica la necesidad 43 de informar a cuantos se hallen afectados por el tratamiento de sus datos acerca de los derechos que les asisten para garantizar su status jurídico. Por diversidad, no discriminación y equidad se debe entender que los sistemas de IA se desarrollen y utilicen de un modo que incluya a diversos agentes y promueva la igualdad de acceso, la igualdad de género y la diversidad cultural, al tiempo que se evitan los efectos discriminatorios y los sesgos injustos prohibidos por el Derecho nacional o de la Unión. Por bienestar social y ambiental se debe entender que los sistemas de IA se desarrollen y utilicen de manera sostenible y respetuosa con el medio ambiente, así como en beneficio de todos los seres humanos, al tiempo que se supervisen y evalúen los efectos a largo plazo en las personas, la sociedad y la democracia. En lo que hace referencia a este principio se deberán tener presentes las distintas normas que en el Derecho europeo y en nuestro ordenamiento jurídico tutelan los bienes y valores que aparecen enunciados en su expresión. La aplicación de esos principios debe traducirse, cuando sea posible, en el diseño y el uso de modelos de IA. En cualquier caso, deben servir de base para la elaboración de códigos de conducta en virtud del Reglamento sobre la IA promulgado por la UE. Estos principios fundamentales de carácter ético-jurídico deberán impulsar un debate entre todas las partes implicadas o interesadas en los desarrollos de la IA, incluidos los gobiernos, la industria, el mundo académico, la sociedad civil y los operadores jurídicos, a fin de que los tengan en cuenta, según proceda, para el desarrollo de normas y mejores prácticas en la utilización de la IA.  50 polígrafos y otras herramientas similares, para evaluar la fiabilidad de las pruebas durante la investigación o el enjuiciamiento de delitos y, en la medida en que no esté prohibido conforme al presente Reglamento, para evaluar el riesgo de que una persona física cometa un delito o reincida, no solo sobre la base de la elaboración de perfiles de personas físicas o la evaluación de rasgos y características de la personalidad o comportamientos delictivos pasados de personas físicas o grupos de personas, o para elaborar perfiles durante la detección, la investigación o el enjuiciamiento de delitos. El uso de herramientas de IA por parte de las autoridades garantes del cumplimiento del Derecho y otras autoridades pertinentes no debe convertirse en un factor de desigualdad o exclusión. No debe ignorarse el impacto del uso de herramientas de IA en los derechos de defensa de los sospechosos, en particular la dificultad para obtener información significativa sobre el funcionamiento de dichos sistemas y la consiguiente dificultad para impugnar sus resultados ante los tribunales, en particular por parte de las personas físicas investigadas. El Reglamento de la UE pone especial énfasis en garantizar a los ciudadanos europeos que la IA no podrá ser utilizada por las autoridades policiales de forma que afecte directamente a sus garantías procesales y penales, ante el riesgo de que los sistemas de IA incontrolados puedan crear pruebas falsas o afectar a las condiciones para el ejercicio de una legítima defensa por parte de las personas investigadas. CONCLUSIÓN: EL GARANTISMO JURÍDICO EUROPEO ANTE LOS DESARROLLOS DE LA IA A partir del desarrollo de las Nuevas Tecnologías (NT) y, en particular de la IA, las sociedades avanzadas europeas experimentaron un constante afán de renovación en su economía, así como en los principales aspectos de su vida social y cultural. Para la sociedad digital, no solo el conocimiento aparece como una realidad infinita pero alcanzable, sino que esta creencia se manifiesta en todos los 51 órdenes de la realidad. Se ha difundido la convicción de que no existen fronteras para el conocimiento. El deseo de un avance permanente se ha traducido en un cierto clima de disconformidad con lo ya conseguido, porque se presume siempre que se pueden conseguir logros y avances tecnológicos de mayor alcance. La IA constituye hoy un signo caracterizador de las sociedades europeas avanzadas de nuestro tiempo, de modo que no es posible abordar cualquiera de sus problemas sin que la economía, la ética, la cultura y el Derecho se vean afectados. La IA que aparecía en sus inicios como un factor decisivo para la solución de los más diversos problemas de las sociedades digitales, se ha convertido ella misma en un problema. Se ha hecho problemática en la medida en que muchas de sus aplicaciones pueden afectar directamente a la garantía de los derechos y libertades. La normativa europea sobre IA tiene como finalidad básica establecer un equilibrio responsable entre los avances de la IA, que no pueden ser interrumpidos o dificultados y la seguridad de que tales desarrollos no puedan ser conseguidos a costa de la limitación o menos cabo de los derechos fundamentales. Es necesario reiterar en este punto que la buena disposición del legislador europeo por llevar a cabo un minucioso elenco de todas aquellas circunstancias que pueden afectar a la libertad se ve condicionado por los propios avances de la IA, al crear continuamente situaciones nuevas que no podían haber sido previstas por el legislador. En este ámbito la prolijidad normativa en la tipificación de situaciones de riesgo no siempre resulta la más adecuada y, en ocasiones como sucede con la dinámica de la IA, en tantos aspectos imprevisible. Por ello, parece más adecuado optar por una legislación más flexible que permita a la judicatura adaptar las normas a las circunstancias cambiantes. De este modo, a través de una legislación de tipos más abiertos, se evita que las lagunas legislativas puedan causar situaciones de indefensión para los ciudadanos afectados en sus derechos y libertades. 52 En cualquier caso, la razonable y necesaria actitud de previsión de los riesgos que se derivan de una aplicación masiva de la IA no debe confundirse con una posición abiertamente contraria a su desarrollo. En la actualidad cualquier avance en la economía, la cultura y el Derecho precisa de los aportes tecnológicos que propicia la IA, la masa de datos que es necesario manejar en cualquiera de esas actividades, requiere de los correspondientes programas tecnológicos adecuados para su almacenamiento, ordenación y recuperación. El Big Data y los algoritmos son hoy instrumentos necesarios para la consecución de las finalidades prácticas de las más diversas actividades humanas. Por este motivo, no parece razonable la postura de quienes se sitúan frontalmente contra cualquier utilización de la IA. Muchas de esas actitudes incurren en la mera fraseología o en una beatería intelectual que pretende ignorar que, desde sus inicios todas las civilizaciones han tenido que recurrir a un determinado tipo de avances técnicos. Lo que es preciso es suscitar en la inteligencia humana, en la ética y en el Derecho una capacidad que se halle en condiciones de utilizar responsablemente los avances de la IA sin poner en peligro la libertad. Al final de la segunda parte de Fausto Wolfgang Goethe nos indica cual es la última palabra del saber y la responsabilidad humanas: “que solo merece la libertad y la vida quien cada día se esfuerza en conquistarlas”. Esta máxima debiera ser tenida en cuenta por el legislador de la UE para una constante regulación normativa de los avances de la IA, afín de que ésta lejos de ser un riesgo se convierta en un medio tecnológico al servicio de la libertad y la vida en las sociedades digitales de Europa.