Ética de la inteligencia artificial y big data: algunas implicaciones para los derechos fundamentales

73 ÉTICA DE LA INTELIGENCIA ARTIFICIAL Y BIG DATA: ALGUNAS IMPLICACIONES PARA LOS DERECHOS FUNDAMENTALES Jesús Ignacio Delgado Rojas Dpto. Filosofía del Derecho Universidad de Sevilla INTRODUCCIÓN La sociedad del siglo XXI está inmersa en una revolución tecnológica que conlleva una profunda transformación en la forma en la que se ha venido entendiendo la humanidad. Responsables de dichos avances son los importantes logros alcanzados en diversos ámbitos como la Inteligencia Artificial (en adelante, IA), los sistemas de Big Data o la robótica. Esta revolución digital ha venido a mejorar la vida de las personas en muchos ámbitos, a facilitar muchos procesos, pero también nos invita a reflexionar sobre los nuevos retos que se plantean respecto a la protección de los derechos fundamentales y de los principios éticos que deben primar ante el uso de este tipo de tecnologías, dado que no se puede asegurar que se encuentren controladas en su totalidad y sean incapaces de provocar perjuicio alguno. Con su habitual agudeza lo ha señalado el profesor Pérez Luño: «La cultura jurídica debe ser consciente de las continuas y aceleradas transformaciones tecnológicas, a fin de que las normas jurídicas que las regulan no puedan pecar de obsolescencia. Mantiene, en este punto, intacta su vigencia el postulado del historicismo jurídico a tenor del cual no existe pausa para el Derecho, porque la vida humana es un perpetuum mobile y las normas que deben regularla tienen que ser acordes con esa incesante mutación. La sociedad digital se halla en continuo cambio, en movimiento y, en su seno, las NT y las TIC constituyen la vanguardia de ese flujo transformador. De ahí, que constituya un reto insoslayable para la cultura jurídica estar alerta 74 para captar el signo de los tiempos y ofrecer cauces de regulación jurídica adecuados de la protección de los derechos digitales, que representan una condición insoslayable para que las sociedades tecnológicas sean sociedades bien ordenadas» (Pérez Luño, 2021: 40). La utilización masiva de datos o Big Data ha supuesto una transformación en multitud de aspectos en este ámbito. Esto se debe no solo a la existencia y creación de herramientas tecnológicas que contribuyen a esta tarea, sino también por la integración de esta informática en la vida cotidiana de la ciudadanía. Numerosos desarrollos tecnológicos han propiciado la aparición de diversos medios a través de los cuales se generan datos, desde elementos básicos transformados en dispositivos inteligentes (una pulsera-reloj), hasta las famosas aplicaciones con funciones de seguimiento y/o rastreo de contagios durante los momentos más duros de la pandemia del COVID-19. Estos datos, aparentemente inocuos, son posteriormente relacionados, entre sí y con otros de distinto rango, por diferentes métodos procedentes de la minería de datos con el fin de extraer conocimiento. La combinación del inmenso volumen de tales datos originados a través de numerosas fuentes y las tecnologías que los almacenan, ha traído consigo innegables beneficios de diversa índole. Sin embargo, dicho tratamiento de datos también ocasiona injerencias en la vida privada de los individuos, lo que implica sin duda una amenaza, sobre todo, a aquellos derechos fundamentales que han de protegerla. El principal impacto afecta a la privacidad de las personas, a su libertad entendida como autonomía y a los posibles sesgos discriminatorios que atentan contra el derecho a la igual dignidad. En este trabajo abordaré los riesgos de este conjunto de tecnologías mediante una concreta aproximación metodológica: el alcance que tienen en los derechos fundamentales de la ciudadanía, cuestión que cada vez suscita más preocupación. Por otro lado, también habrá que tener en cuenta los principios éticos que deben regir esta disciplina. Los avances en esta materia son tan inmediatos que 75 es imprescindible calibrar el impacto ético que estos fenómenos implican para valores tan fundamentales como la dignidad de la persona, la libertad o la privacidad, entre otros. Es evidente que desde múltiples perspectivas debe hacerse una valoración muy positiva de estos avances. Pero el uso de estas herramientas también ha traído consigo un aspecto negativo. Y no es un problema menor, pues se trata de la vulneración –también masiva– de ciertos derechos fundamentales que, además, conforme avanza la acumulación y el tratamiento de datos y el desarrollo de las nuevas tecnologías, se antoja cada vez más difícil de atajar. En este capítulo también se harán unas consideraciones generales al hilo del impacto de los sistemas de IA en el tratamiento de datos y la pertinencia o no de encuadrar esa emergente categoría llamada derechos digitales como derechos humanos fundamentales para la mejor garantía de la privacidad, la autonomía y la igualdad. DATOS MASIVOS Y ENTORNO DIGITAL Los datos vienen conformando nuestro llamado «yo» digital y toda actividad humana parece articularse a través de datos. Las consecuencias en el plano de la subjetividad son evidentes: la identidad personal acaba por concebirse como un sistema informativo complejo, integrado por acciones, memorias e historias en las que se expresa nuestra propia conciencia. Desde esta perspectiva, se puede llegar a decir que «somos nuestra información» (Floridi, 2017: 78) y que la sociedad en la que vivimos es, precisamente, una data society: «una ‘sociedad de datos’, que no sólo se rige por los datos como en su advenimiento fue la sociedad de la información y el conocimiento, sino que está íntimamente impregnada de ellos, llegando a implicar y moldear al hombre mismo como un data subject» (Faini, 2019: xvii). Por distintas razones, la concreción de la definición exacta de este concepto de Big Data o de datos masivos presenta complejidad al no haber un acuerdo común por parte de los expertos, debido a la profunda omnipresencia social, económica y tecnológica que caracteriza a «la revolución de los datos masivos» (Mayer- 76 Schönberger y Cukier, 2013). En general, esta expresión hace referencia al conjunto de datos que no pueden ser capturados, administrados y procesados por computadoras tradicionales dentro de un alcance razonable (Chen, Mao, y Liu, 2017: 171-209). Además, dicha denominación responde a las diversas tecnologías y sistemas informáticos que tienen como objetivo el tratamiento de una inmensa cantidad de datos «empleando complejos algoritmos y estadística con la finalidad de hacer predicciones, extraer información oculta o correlaciones imprevistas y, en último término, favorecer la toma de decisiones» (Garriga Domínguez, 2016: 28). Del Big Data se predican cuatro características esenciales o “uves”. Doug Laney, analista de Gartner, una de las compañías líderes mundiales en tecnologías de la información, fue pionero al definir el «Big Data» como «activos de información de gran Volumen, Velocidad y Variedad». En el año 2011, el McKinsey Global Institute añadía una cuarta V: el Valor que pueden generar las compañías y los gobiernos al explotar el potencial del Big Data. El almacenamiento masivo de datos, sin ordenarlos ni procesarlos adecuadamente no tiene ningún valor. Por tanto, la IA se convierte en el instrumento necesario para almacenar, procesar y usar los datos. A la par que se complejizan los datos masivos, se añaden nuevas características o “uves” relevantes para su correcto funcionamiento: (i) veracidad, que los datos recogidos sean fiables para obtener información de calidad; (ii) visualización, transformando el conglomerado de datos en resultados visuales como, por ejemplo, mapas de rastreo; y (iii) variabilidad, entendida como la adaptación al continuo cambio que caracteriza a la era tecnológica. Pero, pese a ser todas esas características significativas, de lo que se trata en definitiva es de explotar el valor proveniente de los patrones que pueden descubrirse al hacer conexiones de datos y metadatos. De ahí que se haya señalado que el «Big Data es notable no por su tamaño, sino por su relación con otros datos» (Boyd y Crawford, 2011). 77 LOS DERECHOS FUNDAMENTALES IMPLICADOS EN EL USO DE LA IA Y EL BIG DATA El impacto del Big Data en los derechos y libertades de los ciudadanos es un asunto recurrente cuando se trata de analizar, establecer estrategias o aplicar la IA. A este respecto, el Informe de 2021 de la Agencia Europea de los Derechos Fundamentales de la Unión Europea (FRA), Construir correctamente el futuro. La Inteligencia Artificial y los derechos fundamentales, se centra en las herramientas utilizadas en la UE y cómo pueden afectar a los derechos fundamentales, especialmente en las «prestaciones sociales, la actuación policial predictiva, los servicios sanitarios y la publicidad dirigida». En el recién aprobado Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de Inteligencia Artificial (la llamada Ley de Inteligencia Artificial de la UE) se postula, en su Considerando 29, que: «las técnicas de manipulación que posibilita la IA pueden utilizarse para persuadir a las personas de que adopten comportamientos no deseados o para engañarlas empujándolas a tomar decisiones de una manera que socava y perjudica su autonomía, su toma de decisiones y su capacidad de elegir libremente. Son especialmente peligrosos y, por tanto, deben prohibirse la introducción en el mercado, la puesta en servicio o la utilización de determinados sistemas de IA con el objetivo o al efecto de alterar de manera sustancial el comportamiento humano, con la consiguiente probabilidad de que se produzcan perjuicios considerables, en particular perjuicios con efectos adversos suficientemente importantes en la salud física o mental o en los intereses financieros. Esos sistemas de IA utilizan componentes subliminales, como estímulos de audio, imagen o vídeo que las personas no pueden percibir –ya que dichos estímulos trascienden la percepción humana–, u otras técnicas manipulativas o engañosas que socavan o perjudican la autonomía, la toma de decisiones o la capacidad de 78 elegir libremente de las personas de maneras de las que estas no son realmente conscientes de dichas técnicas o, cuando lo son, pueden seguir siendo engañadas o no pueden controlarlas u oponerles resistencia». Dentro del contexto español, en relación con el impacto de las nuevas tecnologías en los derechos de las personas, se ha regulado el tratamiento de macrodatos de carácter personal en la Ley Orgánica 3/2018 de Protección de Datos Personales y garantía de los derechos digitales, en la que en su preámbulo ya augura que «una deseable futura reforma de la Constitución debería incluir entre sus prioridades la actualización de la Constitución a la era digital y, específicamente, elevar a rango constitucional una nueva generación de derechos digitales». Por su parte, la Carta de Derechos Digitales, dentro de su apartado XXV, hace referencia expresa al reconocimiento de una relación de derechos digitales ante el entorno de la IA, en el que establece que se debe asegurar «un enfoque centrado en la persona y su inalienable dignidad». Resulta, por tanto, necesario que frente a los usos perniciosos de la IA y el Big Data deban arbitrarse nuevas y actualizadas directrices, legislaciones y mecanismos suficientes para proteger los derechos fundamentales de las personas, y de forma especial, la privacidad, la autonomía y los posibles riesgos de discriminación. De cara a la protección de los derechos fundamentales resulta importante distinguir a los posibles titulares o poseedores de esos datos: si la regulación se dirige al poder público, deberán entrar en juego principios como los de responsabilidad de las administraciones, el principio de legalidad o la prevalencia del interés público; si, en cambio, son las empresas privadas las destinatarias de la regulación, regirán, entre otros, el principio de libertad de empresa y otros tipos de intereses a tener en cuenta. En todo caso, lo que parece fuera de toda duda es que la necesidad de una regulación robusta se hace perentoria. 79 En este sentido, parte de la doctrina defiende la idea de que resultaría lógico buscar, en base a la legislación ya existente, una regulación específica para la protección de los derechos y deberes fundamentales aquí afectados. Pero también se entiende, por otro sector doctrinal, que los cambios sociales que conlleva la irrupción de la IA y el Big Data pueden llevar a replantear algunos de estos derechos para adaptarlos a esta nueva realidad o incluso crear nuevas categorías de derechos, los llamados neuro-derechos y los derechos digitales. Parece así emerger una nueva generación de derechos cuyo objetivo principal consistiría «en la corrección de los problemas y perjuicios causados a la ciudadanía debido a la falta de una regulación apropiada capaz de establecer un marco jurídico específico para el uso, el despliegue y el desarrollo de las tecnologías digitales e Internet, la IA, la robótica y las tecnologías conexas» (Llano Alonso, 2024: 55); se trata de los derechos digitales, unos derechos articulados sobre «un soporte virtual, no analógico, donde el cuerpo se volatiliza para dar paso a una estructura distinta de derechos que han de buscar la seguridad de la persona sobre el tratamiento de los datos y la arquitectura matemática de los algoritmos» (Barrio Andrés, 2021: 209). La doctrina iusfilosófica se halla dividida acerca del reconocimiento de los derechos digitales como una auténtica categoría nueva de derechos humanos. Los autores y autoras favorables al reconocimiento de la dimensión ético-jurídica de los derechos digitales y su incorporación al interior de los ordenamientos jurídicos, cuentan a su favor con un incipiente marco legal –softlaw regional, en la mayoría de las ocasiones– que «ya» ha abordado y regulado la cuestión de los derechos digitales. Esto es un dato fáctico, empírico. No me detengo en estas posturas porque mi planteamiento se mueve, más bien, en el ámbito normativo, en el deber ser, y desde él, creo que merece la pena seguir reflexionando sobre el fundamento de ese reconocimiento de derechos. 80 Mucho me temo que los derechos humanos, para ser protegidos de forma firme y sólida, han de ser pocos. Me muestro proclive a considerar que el sobredimensionamiento o la sobrecarga de derechos va en desmedro de las garantías de su protección. La fuerza normativa de los derechos humanos se banaliza cuando todo es convertible en un derecho humano. Desde luego que estamos ante preocupaciones muy justificadas que envuelven problemas, necesidades y exigencias (de privacidad, seguridad, protección…) muy importantes, ya que plantean retos y desafíos que deben abordarse urgentemente por la teoría general del Derecho. Pero no está tan claro, a mi modo de ver, que la respuesta pase necesariamente por categorizar tales derechos digitales como derechos humanos. Hablar de derechos digitales es utilizar un lenguaje figurado, aplicable a otras nociones que, respondiendo a loables pretensiones éticas, son en cambio distintas a los derechos humanos. Bien apuntó Haarscher las consecuencias peligrosas que pueden derivar de la «banalización por inversión» cuando se llega a inundar de invocaciones a los derechos humanos lo que no son más que vacuas proclamas demagógicas: «al concederles inmediatamente el estatus de derechos humanos en sentido fuerte, se corre el riesgo de producir el efecto habitual de la banalización por inversión: en lugar de que los “nuevos” derechos amplíen el alcance de los antiguos (en definitiva, que los refuercen), es la precariedad de su estatus lo que hace correr el riesgo de afectar a los derechos de las primeras generaciones; poco a poco nos acostumbraremos a que los derechos humanos en general no sean más que una vaga reivindicación moralizante» (Haarscher, 1989: 44). También aquí surgen con fuerza algunas dudas que estas tecnologías plantean por el riesgo que entrañan para el ejercicio de los derechos fundamentales. Debemos destacar el peligro de que se creen brechas sociales, políticas y económicas entre aquellos que saben utilizar los datos y aquellos que no tienen acceso a ellos (por ejemplo, personas de avanzada edad) o no saben llevar a cabo la 81 evaluación y utilización de los mismos. Además, podrían quedarse excluidos del progreso que ofrece la IA un grupo considerable de personas que no aportan datos relevantes, lo que implicaría que sus necesidades y reivindicaciones, al no tener capacidad de influencia en las decisiones que se adopten, ni si quiera van a ser tenidas en cuenta. Por tanto, además de la privacidad, hay un grave riesgo para el ejercicio de los derechos relativos a la igualdad y la no discriminación. En este sentido, y avanzando en las dudas que suscita querer proteger los datos bajo la fórmula de los derechos digitales tras su procesamiento masivo, en los últimos años estamos asistiendo a la proliferación de herramientas, en muchos casos resultado de la combinación de la IA, la Neurociencia y el Big Data, que provocan, con graves riesgos para la afectación de los derechos, sesgos algorítmicos en materia de manipulación de nuestra autonomía personal (Delgado Rojas, 2024: 81-104). Cathy O’Neil, doctora en matemáticas con trayectoria en Harvard y en el MIT, promueve el necesario conocimiento sobre los riesgos éticos de los macrodatos y avisa de que los algoritmos pueden ser «destructivos e injustos para los individuos» por su potencial como «armas de destrucción matemática» (O’Neil, 2016). Cabe ante ello denunciar los sesgos implícitos en la creación de los algoritmos, que ordenan y separan a la población en ganadores y perdedores; los ganadores son aquellos que consiguen el trabajo o el crédito que desean, mientras los perdedores quizás no tengan ni siquiera opción a ser entrevistados o son los que terminan pagando la cuota más elevada por su seguro médico. Para paliar estas situaciones, deben instaurarse una serie de principios éticos en el uso de la IA, incluso para evitar daños que no sean voluntarios. Por ello, los sistemas de IA deben ser robustos, no sólo desde el punto de vista tecnológico, sino también desde una perspectiva social. Sin duda, la ética aplicada a la IA puede