Inteligencia generativa, ética y protección de datos: regulación y desafíos

MÁSTER EN PROPIEDAD INTELECTUAL Y DERECHO TECNOLÓGICO Facultad de ciencias sociales y de la comunicación Curso 2022/2023 __________________________________________________________________________________________________ TRABAJO FINAL DE MÁSTER “Inteligencia generativa, ética y protección de datos: regulación y desafíos” Alumnos: Gema Cores Pérez Yeison Grisales García Directora: Prof. Dra. Lorena Pérez Campillo Convocatoria ordinaria En Madrid, a 30 de septiembre de 2023 La sola posibilidad del riesgo exige por responsabilidad constitucional impedirlo, pero sin negar la IA. Abreviaturas Sigla Español Inglés BD Macrodato big data DF derechos fundamentales fundamental rights GI Inteligencia Generativa generative intelligence LaMDA Language Model for Dialogue Applications Modelo de lenguaje para aplicaciones de diálogo ML RPA aprendizaje automático Automatización de procesos Robóticos Machine Learning Robotic Process Automation UE EM Unión Europea Estado Miembro European Union Member State Inteligencia generativa, ética y protección de datos: regulación y desafíos __________________________________________________________________________ RESUMEN La inteligencia generativa (IG) es una tecnología prometedora que ha demostrado ser útil en todo tipo de ámbitos. Su proliferación ha hecho surgir una serie de preocupaciones éticas y de privacidad en torno a su uso de las que todos somos conscientes. En este trabajo se pretende aunar, desde un punto teóricopráctico, los hitos evolutivos y la labor normativa llevada a cabo por diferentes estados estos últimos años. El eje central del estudio se enmarca y sustenta sobre tres pilares con los que esta inteligencia revolucionaria confronta; las implicaciones éticas, la privacidad de datos y el compliance. A través de una metodología mixta de investigación, se identifican los principales riesgos asociados a su uso como son la vulneración de los derechos fundamentales de los usuarios y las pautas regulatorias a seguir para lograr frenar y/o solucionar estas problemáticas. Se confirman las premisas iniciales al concluirse que existen desafíos importantes de los que devienen oportunidades para mejorar la eficiencia y eficacia, tanto en el cumplimiento normativo como en su protección. PALABRAS CLAVE inteligencia artificial, inteligencia generativa, privacidad, ética, regulación Generative intelligence, ethics and data protection: legal regulation and challenges ____________________________________________________________________ ABSTRACT Generative intelligence (GI) is a promising technology that has proven useful in all sorts of areas. Its proliferation has raised a number of ethical and privacy concerns around its use that we are all aware of. This work aims to unite, from a theoretical-practical point of view, the evolutionary milestones and the normative work carried out by different states in recent years. The central axis of the study is framed and supported by three pillars with which this revolutionary intelligence confronts; ethical implications, data privacy and compliance. Through a mixed research methodology, the main risks associated with its use are identified, such as the violation of the fundamental rights of users and the regulatory guidelines to be followed to curb and solve these problems. The initial premises are confirmed by concluding that there are important challenges from which opportunities arise to improve efficiency and effectiveness in both regulatory compliance and protection. KEYWORDS artificial intelligence, generative intelligence, privacy, ethics, regulation ÍNDICE ___________________________________________________________________________ 1. INTRODUCCIÓN .............................................................................................................. 1 1.1 Antecedentes ........................................................................................................................ 2 1.2 Descripción del problema .................................................................................................... 4 1.3 Alcance ................................................................................................................................ 5 2. EVOLUCIÓN E INFLUENCIA DE LA IA....................................................................... 6 2.1 Origen y conceptualización.................................................................................................. 6 2.2 El impacto de la inteligencia generativa ............................................................................. 7 2.3 Big data e IA ..................................................................................................................... 10 2.4 Litigios contra herramientas de IG .................................................................................... 12 3. DERECHO COMPARADO Y JURISPRUDENCIA ...................................................... 13 3.1 España en la UE ................................................................................................................. 14 3.2 Latino América ................................................................................................................. 18 3. 3 América del Norte: EEUU y Canadá ................................................................................ 20 3.4 Asia .................................................................................................................................... 22 4. MARCO ÉTICO-JURÍDICO DE LA IA ......................................................................... 26 4.1 Gobernanza de datos: ética y sector privado ...................................................................... 28 4.2 Conflictos éticos y afectación de DF ................................................................................. 30 4.3. Medidas enfocadas a la protección ................................................................................... 31 5. PRIVACIDAD E IA ......................................................................................................... 35 5.1. Particularidades normativas en el RGPD y labor de la AEPD ......................................... 35 5.2 Problemáticas asociadas, responsabilidad y soluciones ..................................................... 38 6. COMPLIANCE E IA........................................................................................................ 41 6.1 Compliance tecnológico..................................................................................................... 41 6.2 Posibilidades y limitaciones de uso ................................................................................... 42 7. CONCLUSIONES ............................................................................................................ 46 8. FUENTES NORMATIVAS ............................................................................................. 48 9. BIBLIOGRAFÍA .............................................................................................................. 48 10. OTROS RECURSOS EMPLEADOS .............................................................................. 53 11. ANEXOS .......................................................................................................................... 56 11.1 Entrevistas ........................................................................................................................ 56 11.2 Glosario de herramientas IA ............................................................................................ 63 ÍNDICE DE TABLAS Tabla 1 Transición hacia la IA (fuente propia) ........................................................................ 4 Tabla 2 Legislaciones vigente Europa y América (fuente propia) ........................................ 22 Tabla 3 Leyes de protección de datos por país. ..................................................................... 25 Tabla 4 Artículos relevantes del RDPD. Privacidad e IA (fuente propia) ............................. 38 1 1. INTRODUCCIÓN __________________________________________________________________________ La inteligencia generativa (GI, por sus siglas en inglés) es un campo en rápido crecimiento dentro de la inteligencia artificial (IA) basado en el desarrollo de sistemas capaces de generar nuevo contenido. Siendo un tema candente y de vital importancia a futuro en muchos ámbitos dentro de nuestra sociedad, tiene el potencial de revolucionar muchas industrias, a través de diferentes herramientas que mencionaremos a continuación. Numerosos autores y expertos en la materia 1 vaticinan que su presencia será innegable, beneficiosa, con matices y cautelas, por lo que siendo nosotros todavía legos en esta materia hemos ahondado en diversas revisiones bibliográficas, monografías y estudios de casos para recolectar en esta obra una aproximación al estado ético-normativo en el que se encuentra la IA desde el punto de vista de la privacidad. El presente estudio tiene como objetivo documentar cual es el estado normativo, dimensión e impacto de la inteligencia artificial generativa en nuestra sociedad. Dado que este es un tema en crecimiento con un claro impacto en el futuro, hemos considerado importante llevar a cabo una investigación sobre las implicaciones éticas asociadas con su uso, así como los desafíos relacionados con la privacidad y protección de datos que plantea. Para ello, nos remontamos a su origen y observamos cual ha sido su evolución conceptual. El análisis comparado de la regulación y los instrumentos internacionales de países como España, Canadá, EEUU o Singapur implementan evidencian la dirección regulatoria seguida en cada territorio -más o menos avanzado en este sectorlo cual permite evidenciar los riesgos asociados y vaticinar a cuáles nos enfrentaremos en un futuro y cómo podríamos hacerlo. Partiendo de este escenario, el eje central de la investigación se centra en tres áreas diferenciadas, pero, a su vez, interrelacionadas. 1 CRAWFORD K., investigadora y académica en ética de la IA. Ha trabajado en temas relacionados con la justicia algorítmica y la equidad en la tecnología. NY University. Microsoft research. GEBRU T., investigadora de ética de la IA en Google, se ha destacado por su trabajo en la diversidad y la equidad en la IA y la ética de la IA en general. CHOWDHURY R., experta en ética y responsabilidad en la IA, sesgo algorítmico y equidad. Miembro responsable de IA - Centro Berkman Klein de la Universidad de Harvard. BRYSON J., científica de la computación especializada en ética, robótica y responsabilidad moral de los sistemas de IA. Profesora de Ética y Tecnología en la Hertie School, Berlín. TONER H., centra su estudio en la ética y la política de la IA, incluyendo temas de seguridad y riesgos en la IA. Directora de Estrategia y Becas de Investigación Fundamental en el Centro de Seguridad y Tecnología Emergente (CSET) de Georgetown. PASQUALE F., experto en la regulación de la IA y la ética de la IA, con un enfoque en la transparencia y la rendición de cuentas. Integrante del Comité Asesor Nacional de Inteligencia Artificial de EE. UU. (NAIAC), profesor de Brooklyn Law. DIGNUM V., profesora en Inteligencia Artificial Responsable y directora científica de WASP-HS (Humanidades y Sociedad). Se centra en la ética y la gobernanza de la IA y ha trabajado en el desarrollo de marcos éticos para la IA. Umea University - Suecia y CUSSINS NEWMAN J., investigadora en ética de la IA y ha contribuido a la discusión sobre la toma de decisiones algorítmicas y la justicia en la IA. investigadora en el Centro de Ciberseguridad a Largo Plazo de University of California (UC Berkeley), donde se centra en la gobernanza digital y las implicaciones de seguridad de la IA. 2 (i) Marco ético-jurídico. La necesidad de pautas éticas claras para el desarrollo y uso de la GI. El desarrollo y uso de la GI deben estar guiados por pautas éticas claras. Estas pautas deben garantizar que la GI se utilice para el bien y no para causar daño. (ii) Privacidad en la protección de datos. El potencial de la GI para violar la privacidad de las personas. Los sistemas de GI requieren grandes cantidades de datos para entrenarse, y estos datos podrían ser utilizados para reproducir nuevo contenido perjudicial a base del ya existente 2 , rastrear el comportamiento de las personas, identificar sus preferencias e incluso predecir sus acciones futuras. Esto podría llevar a una pérdida de privacidad y podría ser utilizado para discriminar a las personas. (iii) Compliance. Aunque no exista una legislación específica sobre inteligencia artificial (IA), hay importantes limitaciones jurídicas a su empleo. No respetarlas puede suponer conflictos que conlleven su anulación y la imposición de sanciones, con pérdida de inversiones y riesgo reputacional. Las conclusiones alcanzadas, a través de la doctrina analizada, corroboran las hipótesis iniciales. Las entrevistas anexadas aportan una visión cautelosa pero esperanzadora que refuerzan esa visión, que es la nuestra. 1.1 Antecedentes La IA fue el término del año 2022 para la Real Academia de la Lengua española. Su historia se entrelaza con avances tecnológicos y desafíos éticos que han impulsado la necesidad de un enfoque éticamente más profundo y de normas que se ocupen de regular la protección de los datos empleados en este campo. A medida que la capacidad de las máquinas (modelos fundacionales 3 ) para generar contenido original ha evolucionado y con ellas las distintas herramientas empleadas, también lo han hecho las soluciones éticas y legales propuestas, pero de forma más lenta. En esta sección haremos un breve recorrido de los antecedentes que han motivado el presente trabajo, abordando situaciones anteriores al estado actual de la materia y explorando cómo han llevado a la demanda de una mayor regulación y consideración ética en este ámbito. - Décadas de 1950 y 1980: Los Primeros Pasos de la IA y la Falta de Consideración Ética: Durante los albores de la IA en las décadas de 1950 y 1980, la generación de contenido por parte de máquinas se centraba en la resolución de problemas lógicos y matemáticos. Los sistemas como “Eliza” de Joseph WEIZENBAUM 4 , aunque rudimentarios, demostraron la 2 GONZÁLEZ ARENCIBIA, M., MARTÍNEZ CARDERO., D. (2020) “ Dilemas éticos en el escenario de la inteligencia artificial. Economía y Sociedad, 25(57), 93-109. Disponible en https://dx.doi.org/10.15359/eys.25-57.5 3 PEGUERA, M. (2023).” La propuesta de Reglamento de IA: una intervención legislativa insoslayable en un contexto de incertidumbre”. Perspectivas regulatorias de la Inteligencia Artificial en la Unión Europea. Madrid: Reus. 4 Eliza, el primer Bot psicólogo. BBC. 03 Junio. 2018, https://www.bbc.com/mundo/noticias-44290222. 9 búsqueda Google, se ha dedicado a almacenar grandes cantidades de datos (big data), en su website para poder proporcionar información. Un usuario debe escribir un prompt solicitando la información a buscar y este motor de búsqueda le arroja una lista de Links, donde puede leer contenido del tema solicitado, actualmente este mismo usuario puede digitar el mismo prompt en una plataforma de inteligencia artificial generativa y la IAG le arroja no links sino nuevos contenidos a partir de todos los links y bases de datos almacenados, obtenidos de sus bases de datos (Big data). El impacto de esta tecnología ha revolucionado la manera en que interactuamos con la información y la creatividad. Sin embargo, su uso generalizado ha planteado interrogantes en términos de propiedad intelectual, responsabilidad y control. Uno de los desafíos centrales es la atribución adecuada de contenido generado por IA. ¿Quién es el autor de un texto creado por una máquina? ¿Puedo vender mi cuento infantil generado por la IG con derechos de autor, solo por haber creado un prompt profesional? Las políticas de uso deben abordar si el crédito debe ir al usuario que inició la generación, al desarrollador del modelo fundacional o a la plataforma en sí. Además, surge la cuestión de los derechos de propiedad intelectual sobre el contenido generado. La adaptación de políticas de uso también debe considerar los riesgos de uso indebido de la inteligencia generativa. La generación automatizada de contenido plantea la posibilidad de difamación, discriminación y desinformación. Las plataformas deben establecer directrices claras sobre el contenido que está prohibido generar y difundir. Además, la cuestión de la responsabilidad legal surge en casos en los que el contenido generado causa daños. ¿Es la plataforma responsable, el desarrollador del modelo fundacional o el usuario que inició la generación? La intersección entre la IAG y el Derecho Tecnológico plantea desafíos éticos y legales únicos. La capacidad de generar contenido falso y engañoso puede tener un impacto en la difamación, la propiedad intelectual y la privacidad. Además, como así indica EDELMAN (2019) la falta de claridad en los derechos de autor y la atribución en el contenido generado por máquinas crea ambigüedades en la ley actual. Los marcos legales deben adaptarse para abordar estas cuestiones emergentes y garantizar la protección adecuada de los derechos de los creadores y la sociedad en general. La IAG se está utilizando en una variedad de aplicaciones, como la generación de contenido creativo, el desarrollo de nuevos productos y el marketing. Ha tenido un impacto significativo en todos los niveles de la sociedad. A nivel individual, se utiliza para crear nuevos productos y servicios, así como para mejorar la experiencia del usuario (crear chatbots que pueden proporcionar asistencia al cliente, o para generar imágenes y videos personalizados) A nivel empresarial, la IAG se utiliza para desarrollar nuevos productos y servicios, así como para mejorar la eficiencia de los procesos (creación de prototipos de productos, o para automatizar tareas repetitivas. Etc.) A nivel gubernamental, la IG se utiliza para mejorar la prestación de servicios, así como para tomar mejores decisiones(detectar fraudes, censos o para predecir el comportamiento de la población…etc.) A nivel global, la IG se utiliza para abordar algunos de los desafíos más urgentes del mundo, como el cambio climático y la pobreza, desarrollando nuevas fuentes de energía, o para 10 mejorar la educación y la atención sanitaria y no podemos ignorar el uso que se le puede dar en el campo militar. Algunos ejemplos de chatbots generativos incluyen ChatGPT, Bing Chat y Bard. ChatGPT es un chatbot desarrollado por OpenAI que utiliza el modelo de lenguaje GPT (pionero en este género) para generar texto similar al humano en función de la entrada proporcionada. Bing Chat es un chatbot desarrollado por Microsoft que utiliza tecnología de IA para responder preguntas y ayudar a los usuarios a crear contenido, Bard es un chatbot desarrollado por Google que utiliza el modelo de lenguaje LaMDA para generar texto similar al humano en función de la entrada proporcionada. Además de estos tres chatbots generativos populares, hay muchos otros disponibles en el mercado. Algunos ejemplos incluyen Jasper, YouChat y Chatsonic by Writesonic 26 . Cada uno de estos chatbots tiene sus propias características y capacidades únicas. La velocidad a la que estas herramientas avanzan es sorprendente. Innovaciones como GPT-3, un modelo de lenguaje generativo de OpenAI, han demostrado la capacidad de crear textos convincentes y conversaciones coherentes. Las redes neuronales generativas pueden producir imágenes y videos indistinguibles de la realidad. Asistentes virtuales como chatbots pueden responder preguntas y resolver problemas en tiempo real. Sin embargo, esta rapidez en la innovación también ha llevado a la creación de contenido falso convincente, como deepfakes y noticias falsas, lo que pone en riesgo la confianza en la información en línea. Dado el potencial impacto negativo de estas herramientas, el "Derecho Tecnológico" o "Derecho Digital" debe enfocarse en abordar cuestiones legales y éticas relacionadas con la tecnología y la transformación digital de la sociedad. En el Anexo I se muestra una tabla de creación propia de distintas herramientas digitales agrupadas por sectores, muy utilizadas y genéricamente conocidas, legítimas y útiles, que perniciosamente utilizadas pueden pretender fines engañosos, invasivos o ilegales con todos los riesgos -comentados a continuaciónque ello conlleva. 2.3 Big data e IA BOYD Y CRAWFORD (2011) insisten que el Big Data no sólo se refiere a grandes conjuntos de datos, herramientas y procedimientos utilizados para manipular y analizar estos, sino también a un giro en el pensamiento computacional y la investigación. Se da una necesaria convergencia entre ambos porque los sistemas computacionales son capaces de tratar, aprender, resolver problemas y tomar decisiones a partir de los grandes datos bajo un cambio de paradigma. La ingente acumulación de información y el big data es lo que ha permitido en los últimos años que vaya haciéndose efectivo el desarrollo de la IA. Gracias al big data y la IA se permite generar patrones dinámicos de tendencias de futuro: la predictibilidad y el apoyo en la toma de decisiones. Podría decirse que uno es el alimento del otro. 26 ORTIZ, S., (2023) “The best AI chatbots: ChatGPT and other noteworthy alternatives” Disponible en The best AI chatbots of 2023: ChatGPT and alternatives | ZDNET. 11 Siguiendo las conclusiones alcanzadas por CAMPILLO (2023) en la era del dataísmo nos podemos encontrar con tres desafíos; (i) las nuevas tecnologías favorecen el crecimiento del flujo de datos y conectan información de las personas a través de la ideología del dataísmo; (ii) la libertad y la consciencia humana individual y colectiva pueden vulnerarse y (iii) la «necesidad encubierta» de compartir datos en una sociedad que persigue el equilibrio entre la vigilancia masiva y el empoderamiento individual. En su obra, POLONETSKY (2015) aborda en términos genéricos la privacidad y el control del usuario en la era de los análisis de datos masivos mientras que ADI y FAWCETT (2018) inciden en que la privacidad y la seguridad de los datos son temas importantes en el aprendizaje automático. Entendemos que, con relación a la IG, estos puntos todavía no se han interiorizado ni enfrentado del todo, por lo que los desafíos son más evidentes y peligrosos. Persisten problemáticas en la inclusión digital, afectando principalmente a grupos como mujeres, personas mayores, personas con discapacidad y minorías étnicas que se ven exacerbados por la propia falta de diversidad en el sector tecnológico. Los algoritmos, si no se gestionan adecuadamente, perpetúan sesgos y desigualdades al depender de datos insuficientemente diversos. Shoshana ZUBOFF plantea una perspicaz reflexión sobre la transformación fundamental que ha experimentado el capitalismo en la era moderna. En una de las conclusiones volcadas en su obra “La era del capitalismo de vigilancia“, textualmente aduce lo siguiente: “Tengo una buena y una mala noticia. La buena es que las grandes empresas tecnológicas como Google y Facebook no van a vender tus datos personales y/o de interacción con sus plataformas. La mala noticia, es que han conseguido un nivel de analítica tan avanzado que, gracias al análisis a escala de tus datos y de millones de usuarios, lo que venden es tu comportamiento futuro” Según la autora, estamos ante una nueva era del capitalismo en el que los datos se han convertido en la gran materia prima en un nuevo mercado donde nosotros, no somos el producto, sino la mina de extracción sobre la cual predecir un comportamiento futuro que poder vender a otros (empresas) asunción que también siguen autores como PARADA (2021). En este contexto, los datos han emergido como la materia prima que redefine las dinámicas económicas y comerciales. En lugar de ser meros consumidores, somos la fuente generadora de esta valiosa materia prima que impulsa el motor de la economía contemporánea. Esta evolución redefine profundamente la forma en que las empresas interactúan con los individuos y aprovechan su información personal. La analogía de “nosotros como la mina de extracción” resalta la analogía entre la extracción de recursos naturales y la recopilación de datos personales. Así como las minas suministran minerales cruciales para la industria, nosotros proporcionamos información crucial que es esencial para el funcionamiento y la expansión de las empresas. Sin embargo, esta analogía también pone de manifiesto un cambio importante: en este nuevo paradigma, no solo entregamos datos pasivamente, sino que se extraen de nosotros a medida que interactuamos con el mundo digital. Es fundamental entender que este intercambio de datos tiene una implicación más amplia, la predicción del comportamiento futuro. Las empresas están utilizando algoritmos y técnicas de análisis de datos avanzados para analizar patrones y tendencias en la información 12 que recopilan de nosotros. Este análisis no solo refleja nuestras preferencias y hábitos actuales, sino que también se utiliza para anticipar nuestras acciones futuras. Este aspecto de predicción del comportamiento es lo que agrega un valor excepcional a los datos y, en última instancia, lo que se comercializa. En esta nueva economía de los datos, las empresas no solo venden productos físicos o servicios tangibles, sino que también venden información sobre los consumidores. Esto ha llevado a un cambio de paradigma, donde el conocimiento sobre los patrones de comportamiento y las preferencias del consumidor se ha convertido en un activo comercial sumamente valioso. Las empresas ahora tienen la capacidad de diseñar estrategias de marketing altamente personalizadas y dirigidas -incluyendo servicios proporcionados por IA 27 - lo que a su vez puede aumentar la eficacia de sus campañas y la probabilidad de conversiones. Es importante reconocer que este cambio hacia la economía de los datos no está exento de desafíos y preocupaciones éticas. La privacidad y la seguridad de los datos personales son cuestiones cruciales en este contexto. A medida que los datos fluyen a través de plataformas digitales y son compartidos y comercializados, surge la preocupación por quién tiene acceso a esta información y cómo se utiliza. Además, la transparencia en la recopilación y el uso de datos se convierte en un tema candente, ya que los usuarios deben tener la capacidad de comprender y controlar cómo se utilizan sus datos. La analítica avanzada de datos ha transformado la manera en que las empresas y organizaciones comprenden y se relacionan con los usuarios. Esta práctica implica el uso de técnicas y herramientas sofisticadas para analizar conjuntos de datos complejos con el objetivo de obtener conocimientos profundos y significativos, los cuales pueden traer beneficios para las empresas, pero pueden causar un impacto negativo en el usuario en cuanto a su privacidad y seguridad. 2.4 Litigios contra herramientas de IG Los casos más mediáticos discutidos en los tribunales abordan infracción de copyright y privacidad de datos. Una batalla legal abierta, previamente pronosticada, en el que las tecnológicas se defienden empleando la teoría del fair use (uso legítimo) y guardan silencio sobre cuáles son las fuentes de los textos utilizados para entrenar a sus IA. Este enfrentamiento ha cristalizado este año en algunos de los siguientes casos que se encuentran resueltos o pendientes de sentencia próxima: ● Asunto Sarah Andersen, Kelly McKernan y Karla Ortiz vs. Midjourney, Stability AI 28 : Numerosos profesionales del arte afirman que estas inteligencias han infringido los derechos de autor de millones de artistas, según dicha representación, con sus modelos entrenados con imágenes y obras publicadas en Internet sin el consentimiento de los creadores y titulares originales. Este es la demanda que los autores consideran la demanda alfa, como 27 Ver más en redacción APED. “Cómo afecta la inteligencia artificial al marketing?” de 23 de noviembre de 2020. Disponible en: ¿Cómo afecta la inteligencia artificial al marketing? | APD 28 CHERRE, I.K., “Las IA, acusadas de piratería: Stable Diffusion y Midjourney serán demandadas por vulnerary el copyright” 16 de enero de 2023. Blog computer hoy. Disponible en Las IA no entienden de propiedad intelectual: Stable Diffusion y Midjourney serán demandas por vulnerar el copyright | Computer Hoy 13 movimiento que dio origen a la judicialización con ocasión de los riesgos y efectos perversos dimanantes del empleo de las IG. ● Gremio de Autores (R.R Martín, Grisham) VS OpenAI: Entienden que los resultados son obras derivadas, una mera copia de las suyas tras entrenar a la IA con estas. Se oponen a cualquier argumento de Fair Use, incluso señalando que la IA podría haber sido entrenada con obras de dominio público. ● Asunto PM vs. OpenAI LP 29 : Hasta dieciséis demandantes anónimos afirman que se ha obtenido de manera ilícita su información personal privada a una escala sin precedentes, proveniente de las aplicaciones de terceros que incorporan ChatGPT, violando así las leyes de la privacidad y a través de implementaciones en otros sistemas se obtiene acceso no autorizado por el usuario. SnapChat, Spotify, Slack , Microsoft Teams, datos como ubicaciones, imágenes, o incluso comunicaciones privadas. De la resolución de esta demanda habrá un precedente en el tratamiento de datos y en el seguimiento o investigación sobre como estos datos se han adquirido y procesado. ● Asunto Lensa IA 30 : Esta aplicación se popularizó el pasado año y sigue siendo una de las más descargadas en la actualidad. Es capaz de crear avatares (“Magic Avatar”) a partir de fotografías de los usuarios y datos biométricos de carácter sensible. La empresa utiliza tus imágenes no solo para crear el avatar sino para entrenar sus algoritmos. Para crear uno de estos avatares, el programa pide a los usuarios que carguen una serie de selfies y requiere acceso a las fotos en el dispositivo personal de esa persona. La aplicación extrae los datos faciales de los usuarios sin su permiso. Su política de privacidad detalla en grados cada vez mayores, qué datos se recopilan y cómo se almacenan esos datos. Sin embargo, falta en la política cualquier mención de la geometría facial. Esta más que dudosa forma de operar ha sido objeto de una demanda en la jurisdicción de Illinois pendiente de pronunciamiento. 3. DERECHO COMPARADO Y JURISPRUDENCIA __________________________________________________________________________ La IA es un tema de gran interés en todo el mundo, y muchos países están trabajando en la creación de leyes y regulaciones para abordar los desafíos -transfronterizosy oportunidades que presentan estas tecnologías. Esto ha generado la reacción de los estados y 29 Referencia 23-cv-03199. Consulta en P.M. v. OpenAI LP, 3:23-cv-03199 – CourtListener.com 30 DAFOE, T., (2023) “A Class Action Lawsuit Against a Popular A.I. Art Generator Alleges the App Collects Its Users’ Biometric Information Without Their Permission” Blog de Artnet new. Disponible en artnet.com 14 los países han comenzado a incorporar leyes sobre inteligencia generativa desde su aparición en la era digital. La implementación de leyes de protección de datos en Europa, América y Asia responde a una creciente preocupación por garantizar la ética y la privacidad en un entorno donde la IA desempeña un papel cada vez más importante en nuestras vidas. China, la potencia tecnológica por excelencia, ha publicado nuevas reglas para la IAG convirtiéndose en uno de los primeros países del mundo en regular la tecnología que alimenta servicios populares como ChatGPT 31 . En esta tarea legislativa, resulta interesante la opinión de diversos expertos, entre los que destacan PASQUALE (2019), quienes plantean que las nuevas leyes para la robótica tengan un papel protagonista la propia experiencia humana en esta era. 3.1 España en la UE La IG, que involucra la creación automatizada de contenido, ha experimentado un crecimiento exponencial en los últimos años. Europa, como ya hizo con los datos personales, se ha planteado la definición de un marco regulatorio que garantice los derechos y responsabilidades de las empresas y personas desarrolladoras o usuarias de los modelos y algoritmos de IA. La UE presentó una propuesta para un marco regulatorio de la UE sobre inteligencia artificial (IA) en abril de 2021. El proyecto de ley de IA es el primer intento de promulgar una regulación horizontal para la IA. El marco legal propuesto se centra en la utilización específica de los sistemas de IA y los riesgos asociados 32 . Dicha propuesta reglamentaria, conocida como IA Act, sigue un enfoque basado en la categorización de estos riesgos y establece un marco jurídico horizontal y uniforme para la IA encaminado a garantizar la seguridad jurídica y fue aprobada por el parlamento por una mayoría abrumadora. Este esfuerzo legislativo allana el camino a las futuras negociaciones Inter constitucionales que teóricamente acabarán con el resultado de la puesta en marcha de la primera gran regulación en materia de inteligencia artificial. También debemos destacar, el Modelo de Estudio de Impacto Algorítmico (EIA) y Guía de Evaluación 33 que la Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic) utiliza para analizar los tipos de sistemas que usan aprendizaje automático como así explica HERNÁNDEZ (2019). Esta herramienta puede ser utilizada tanto para analizar sistemas automatizados que utilicen el aprendizaje automático en las organizaciones, como para apoyar a la toma de decisiones. En España, como en muchas otras jurisdicciones, la falta de regulación específica ha llevado a la consideración de cuestiones clave como la responsabilidad legal, la autoría y la privacidad de los datos. A fecha presente, nuestro país no cuenta -todavíacon una legislación específica que armonice legal e íntegramente esta materia en todo el territorio español. 31 HE, L., “China takes major step in regulating generative AI services like ChatGPT” CNN Business blog. Julio de 2023.Disponible en China takes major step in regulating generative AI services like ChatGPT | CNN Business. En https://www.cnn.com/2023/07/14/tech/china-ai-regulation-intl-hnk/index.html 32 The 'EU Legislation in Progress' briefings are updated at key stages throughout the legislative procedure.” 33 AGUIRRE SALA., J.F., “ Especificando la responsabilidad algorítmica” Teknokultura. Revista de Cultura Digital y Movimientos Sociales ISSNe: 1549-2230. 15 Sin embargo, ello no ha sido óbice para que dentro del propio tejido empresarial, consciente de la importancia a medio plazo de esta inteligencia y de su potencial, y junto con el Gobierno, se haya dado pasos en firme para colocarse a la cabeza de la UE para liderar su aplicación. Ello se desprende por ejemplo de la creación por parte de OdiseIA -el Observatorio Del Impacto Social y Ético de la Inteligencia Artificial-, y PwC con la colaboración de Google, Microsoft, IBM y Telefónica, la primera Guía de buenas prácticas para el uso de la Inteligencia Artificial ética 34 , el traslado de la sede de la Agencia estatal a la Coruña, el Decreto-Ley 2/2023, de 8 de marzo, de medidas urgentes de impulso a la inteligencia artificial realizado por la comunidad autónoma de Extremadura, la determinación de impulsar la regulación de la IA durante la presidencia de España en el Consejo de la UE 35 , el Observatorio del impacto social de los algoritmos 36 , el estatuto que regulará el funcionamiento de la Agencia Española de IA 37 y la presentación del piloto del primer sandbox 38 . Esta última forma de desplegar IA se centra en la regulación dinámica con entornos de prueba/espacios controlados de pruebas (regulatory sandboxes) también conocidos como cajas de arena 39 . El término "sandbox de IA" se refiere a un entorno de prueba aislado y seguro donde se pueden desarrollar y probar algoritmos de inteligencia artificial (IA) y modelos de aprendizaje automático sin riesgo de afectar negativamente a sistemas o datos en producción 40 . Es un enfoque crucial para garantizar la seguridad y la calidad de los sistemas de IA antes de que se implementen en un entorno real. Las consideraciones clave y posibles soluciones relacionadas con el uso de un sandbox de IA son 41 : ● Seguridad de datos: El sandbox de IA debe estar diseñado para proteger los datos sensibles y evitar fugas de información durante las pruebas y el desarrollo de modelos. ● Evaluación de riesgos: Antes de utilizar un modelo de IA en producción, es fundamental evaluar los riesgos potenciales asociados con su implementación y utilizar el sandbox para mitigar estos riesgos. ● Aislamiento del entorno: Un sandbox de IA debe ser completamente aislado del entorno de producción, lo que significa que los cambios y pruebas en el sandbox no afectarán los sistemas en producción. ● Flexibilidad: Debe ser un entorno flexible donde los desarrolladores puedan experimentar y probar diferentes configuraciones de modelos de IA y algoritmos. 34 Ver más en: OdiseIA, PwC, Google, Microsoft, IBM y Telefónica presentan la primera guía para el uso responsable de la IA 35 CORRALES, R. “ Las 4 prioridades de España en la Presidencia del Consejo de la UE” 31 de agosto de 2023. Disponible en Las 4 prioridades de España en la Presidencia del Consejo de la UE | Business Insider España. 36 CASTELLÓ LLANTADA, C., (2021) “España, campo de pruebas europeo para la inteligencia artificial“ Blog cinco días. 37 Más información en: Premio a las Buenas Prácticas en privacidad y protección de datos personales para la adecuación al RGPD y LOPDGDD - Iberley 38 El sandbox tiene como objetivo acercar a las autoridades competentes a las empresas que desarrollan IA para definir las mejores prácticas que guiarán la implementación del futuro Reglamento de IA de la Comisión Europea. Esto también garantizaría que la legislación pueda implementarse en dos años. 39 COVARRUBIAS, L., ZADAMIG, J., MENDOZA ENRÍQUEZ, O. A., & GRAFF GUERRERO, M. A. R. I. O. (2022). Enfoques regulatorios para la Inteligencia Artificial (IA). Revista chilena de derecho, 49(3), 31-62. 40 LE, H.-V., & NGO, Q.-D. (2020). V-sandbox for dynamic analysis iot botnet. Ieee Access, 8. Disponible en https://doi.org/10.1109/ACCESS.2020.3014891 41 Articulo IT solutions de Between. Que es un-Sandbox. https://impulsate.between.tech/sandbox-informatica-que-es 16 Posibles soluciones y alternativas: ● Ambientes de desarrollo aislados: Utilizar contenedores o entornos virtuales aislados para el desarrollo de modelos de IA. Esto permite a los desarrolladores experimentar de manera segura sin afectar el entorno de producción. ● Plataformas de gestión de modelos: Utilizar plataformas diseñadas para administrar y desplegar modelos de IA, como Kubeflow o TensorFlow Servin. Estas plataformas ofrecen un entorno seguro para implementar y administrar modelos de IA en producción. ● Simuladores y entornos de pruebas: Para modelos de IA que interactúan con el mundo real, como vehículos autónomos o robots, se pueden utilizar simuladores y entornos de pruebas virtuales para probar y depurar el comportamiento de la IA antes de la implementación real. ● Control de versiones y registro de modelos: Implementar un sólido control de versiones y un registro de modelos para rastrear los cambios en los modelos de IA a medida que se desarrollan y prueban en el sandbox. ● Auditorías de seguridad: Realizar auditorías regulares de seguridad y pruebas de penetración en el sandbox de IA para identificar y solucionar posibles vulnerabilidades. Para suplir esta ausencia de normas, las regulaciones existentes en áreas como el derecho de autor, la protección de datos y la ética en la inteligencia artificial se aplican de manera indirecta. La Ley de Propiedad Intelectual de España regula los derechos de autor y el uso de obras creativas. En el contexto de la inteligencia generativa, surge la pregunta sobre quién es el autor legítimo de un contenido generado por un algoritmo. Aunque la ley no aborda este tema específicamente, ha habido discusiones en torno a la posibilidad de atribuir derechos de autor a las obras generadas por IA, aunque la legislación vigente precisa que las autorías solo pueden recaer sobre el ser humano. La Ley Orgánica de Protección de Datos Personales y Garantía de los Derechos Digitales (LOPDGDD) establece los principios y requisitos para el tratamiento de datos personales. En el contexto de la IG, la recopilación y el uso de datos para entrenar algoritmos plantean preocupaciones de privacidad y cumplimiento de esta norma. La Propuesta de Ley de Inteligencia Artificial (futuro reglamento) 42 , es uno de los elementos más representativos del nuevo modelo regulatorio digital y tanto por sus ambiciosos objetivos (entre ellos, “garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten [...] los derechos fundamentales y valores de la Unión”); como por constituir la primera iniciativa a nivel mundial de establecer un marco normativo de la 42 Los eurodiputados mostraron su posición negociadora el pasado 14 de junio buscando la promoción de la innovación, garantizar la seguridad y proteger los derechos humanos teniendo como objetivo alcanzar un acuerdo a finales de este año. 17 inteligencia artificial de carácter general, erigiéndose ya desde antes de su entrada en vigor, para muchos autores, como LÓPEZ-TARUELLA (2023) como el nuevo estándar global regulatorio de la materia. Tanto la legislación europea como el Reglamento General de Protección de Datos (RGPD), enfatiza la importancia de la transparencia, la responsabilidad y la equidad en el uso de la IA. La generativa, como ChatGPT, tendría que cumplir requisitos de transparencia como serían revelar que el contenido ha sido generado por IA diseñar el modelo para evitar que genere contenidos ilegales publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento. En España han llamado la atención casos sobre los desafíos legales de la IG, entre otros: (i) Autoría del contenido generado por IA 43 , planteando un debate sobre la propiedad de las obras generadas por una inteligencia artificial en España. Aunque no se ha llegado todavía a una conclusión legal definitiva (sí para los tribunales americanos que marcarán probablemente una estela a seguir) el caso resaltó la necesidad de definir responsabilidades legales en este contexto. (ii) Uso de datos personales en algoritmos generativos: se ha discutido la importancia de cumplir con las regulaciones de protección de datos y garantizar el consentimiento informado de los usuarios. Todos los proyectos de IA y el entorno regulatorio para sus ensayos pasarán el filtro de control de la CNMC, antes de que se aprueben las normas europeas sobre esa materia, para así poder evaluar con precisión si el marco regulatorio se adecúa a los principios de buena regulación 44 . Dentro del Parlamento Europeo, ya en el 2021, la Comisión de Libertades Civiles, Justicia y Asuntos de Interior pidió a la Comisión de Asuntos Jurídicos que incluyera en la resolución sugerencias muy interesantes y “avisos a navegantes”. En el contexto del desarrollo y uso de sistemas IA dentro de conflictos armados europeos esta formación apuntó lo siguiente, extrapolable a otras realidades: a. Sugerencias ● Adopción de un enfoque europeo común armonizador para todos los EM que brinde seguridad jurídica a los desarrolladores y agentes que lo implementan para atenuar riesgos, garantizar uso ético y evitar empleo con mala fe. 43 LEVENE, A., (2023). «Artificial Intelligence and Authorship» COPE: Committee on Publication Ethics. En https://publicationethics.org/news/artificial-intelligence-and-authorship,STOKEL-WALKER,C.,(2023)” ChatGPT Listed as Author on Research Papers: Many Scientists Disapprove”. Nature 613, n.o 7945 620-21. en https://doi.org/10.1038/d41586-023-00107-z. 44 Muy interesante el propio contenido del IPN/CNMC/020/23. 18 ● Diseño general que incluya directrices respecto a la supervisión y vigilancia humanas. Se debe imponer la obligación de transparencia y explicabilidad de las aplicaciones de IA, auditorías independientes y pruebas de resistencia específicas para prestar asistencia y garantizar el cumplimiento. ● EM debe plantearse la necesidad de establecer garantías en forma de, por ejemplo, supervisiones cualificadas y normas deontológicas en cuanto al empleo de la IA. Deben evaluarse los riesgos relacionados con las técnicas basadas en IG antes de automatizar las actividades relacionadas con el ejercicio de la autoridad estatal. b. Avisos ● Determinadas técnicas de IA permiten automatizar el tratamiento de la información y actuar a una escala sin precedentes, como en el caso de la vigilancia colectiva en ámbitos civiles y militares, lo que representa una amenaza para los derechos fundamentales y allana el camino para la injerencia de manera ilegal en la soberanía nacional. ● El empleo de la IA en la lucha contra la criminalidad y la ciberdelincuencia podría brindar una amplia gama de posibilidades y oportunidades, si bien al mismo tiempo ha de seguir prevaleciendo el principio de que lo que es ilegal en el mundo real lo es también en el virtual. ● Advierte de los problemas que se plantean en cuanto a la intrusión en la vida privada, la no discriminación y la protección de los datos personales en relación con el uso de aplicaciones de reconocimiento automático. 3.2 Latino América Aunque la regulación específica de la IG varía en América Latina, existen marcos legales relevantes que se aplican a diferentes aspectos de esta tecnología. La mayoría de los países latinoamericanos cuentan con leyes de propiedad intelectual que regulan los derechos de autor y la protección de obras creativas. En el contexto de la IG, se ha planteado la misma cuestión que en la UE, quién es el autor legítimo de una obra generada por un algoritmo. En países como México y Argentina, se han debatido cuestiones de autoría y responsabilidad en casos relacionados con la música generada por IA35. En otros como Chile, se han creado comités de ética y se están implementando medidas para regular el uso 25 ● Concientización y Educación: se promueve la conciencia pública y se educa sobre la importancia de la privacidad y la ética en la era digital. A continuación, se acompaña información sobre leyes de protección de datos y la fecha de entrada en vigor de los países comentados y otros. Tabla 3 Leyes de protección de datos por país. País Ley de Protección de Datos Fecha de Entrada en Vigencia Descripción de la Ley Estados Unidos Ley de Privacidad de Datos de California (CCPA) 1 de enero de 2020 Proporciona a los residentes de California ciertos derechos de privacidad en línea y control sobre sus datos personales. Canadá Ley de Protección de la Privacidad en el Sector Privado (PIPEDA) 4 de abril de 2000 Regula la recopilación, el uso y la divulgación de información personal por parte de las organizaciones privadas. México Ley Federal de Protección de Datos Personales en Posesión de Particulares 6 de julio de 2010 Establece los principios para el tratamiento de datos personales y los derechos de los titulares de datos. Brasil Ley General de Protección de Datos (LGPD) 18 de septiembre de 2020 Regula el tratamiento de datos personales y garantiza los derechos de los titulares de datos en Brasil. Argentina Ley de Protección de Datos Personales (Ley 25.326) 4 de octubre de 2000 Establece los principios para el tratamiento de datos personales y los derechos de los titulares de datos en Argentina. Chile Ley de Protección de Datos Personales (Ley 19.628) 12 de mayo de 1999 Regula el tratamiento de datos personales y la protección de la privacidad en Chile. Colombia Ley Estatutaria 1581 de 2012 15 de octubre de 2012 Regula el manejo de datos personales en Colombia y establece los derechos de los titulares de datos. 26 País Ley de Protección de Datos Fecha de Entrada en Vigencia Descripción de la Ley Panamá Ley de Protección de Datos Personales (Ley 81 de 2019) 29 de marzo de 2021 Regula la protección de datos personales en Panamá y los derechos de privacidad de los individuos. Paraguay Ley de Protección de Datos Personales (Ley 5542/15) 29 de enero de 2018 Establece las normativas para la protección de datos personales en Paraguay y los derechos de los titulares de datos. Singapur Ley de Protección de Datos Personales de Singapur (PDPA) 2 de julio de 2012 Establece reglas para la recopilación, el uso y la divulgación de datos personales en Singapur. Taiwán Ley de Protección de Datos Personales de Taiwán (PDPA) 1 de octubre de 2012 Regula el procesamiento de datos personales y garantiza los derechos de privacidad de los individuos en Taiwán. Japón Ley de Protección de Datos Personales (APPI) 30 de mayo de 2017 Establece normas para la gestión y protección de datos personales en Japón. Corea del Sur Ley de Protección de la Información Personal (PIPA) 30 de septiembre de 2011 Regula la recopilación y el tratamiento de datos personales en Corea del Sur. China Ley de Seguridad de la Información Personal de la República Popular de China 1 de sept.-23 Regula la protección de la información personal en China y establece requisitos de seguridad. 4. MARCO ÉTICO-JURÍDICO DE LA IA ___________________________________________________________________________ La IA 58 se refiere a sistemas que exhiben comportamiento inteligente al analizar su entorno y tomar acciones con cierta autonomía para alcanzar objetivos específicos. Estos 58 Comisión Europea. (2018) “IA para Europa ”Comunicación de la Comisión al Parlamento europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. 27 sistemas pueden ser programas informáticos o estar integrados en dispositivos de hardware, como robots avanzados, vehículos autónomos y dispositivos de IoT. La IA se utiliza en aplicaciones diarias como traducción de idiomas, análisis de imágenes, motores de búsqueda y filtrado de spam. Indiscutiblemente vinculada a esta, la tecnoética es una disciplina emergente en el cruce de la tecnología y la ética, ética de la responsabilidad ante los avances tecnológicos, que se ha vuelto cada vez más relevante en un mundo impulsado por avances tecnológicos sin precedentes, siendo la delimitación de los aspectos éticos y jurídicos de la IA una de las cuestiones más importantes de la agenda política actual. Demandada una ética de la responsabilidad ante avances tecnológicos desde los años 70 por el filósofo MARIO BUNGE 59 es definida como el estudio de las implicaciones éticas de la tecnología. Busca examinar y abordar los dilemas morales que surgen a medida que la innovación tecnológica se adentra en diversas áreas de la vida humana. Aunque la tecnoética como disciplina es bastante reciente, el origen de la palabra en realidad es muy antiguo: proviene de los términos griegos techne y noetikos; el primero se traduce como “fabricación o producción material” y el segundo como “conciencia o mente”. Por lo tanto, haciendo nuestra la conclusión de ADELL (2008) la unión de estos vocablos podría significar “consciencia sobre la fabricación materia”. Como se puede apreciar, la tecnoética no solo hace referencia al uso consciente de la informática o los aparatos electrónicos; en realidad se refiere a cualquier artefacto u objeto elaborado por el ser humano que haya sido creado con la finalidad de mejorar su existencia. Uno de los aspectos centrales de la tecnoética es considerar cómo las nuevas tecnologías impactan los valores fundamentales y las normas sociales presentando desafíos tecnoéticos que incluyen: (i) Privacidad y vigilancia tecnológica: la proliferación de cámaras de vigilancia y la recopilación masiva de datos personales plantean cuestiones sobre la privacidad individual y la necesidad de un equilibrio entre seguridad y libertad. Las tecnologías como la inteligencia artificial y el reconocimiento facial han aumentado las preocupaciones sobre la vigilancia constante. (ii) IA y automatización: la introducción de la inteligencia artificial y la automatización en diversos campos laborales genera debates sobre la pérdida de empleos y la necesidad de reentrenamiento y adaptación. La tecnoética busca abordar los impactos sociales y económicos de estas innovaciones. (iii) Biotecnología y manipulación genética: avances en la edición genética y la biotecnología plantean dilemas éticos sobre la modificación genética en humanos y la creación de organismos genéticamente modificados. La tecnoética cuestiona los límites de la intervención humana en la biología. (iv) Ética en la realidad virtual y aumentada: La realidad virtual y aumentada ofrecen nuevas formas de experiencia y comunicación, pero también plantean cuestiones sobre la distinción entre la realidad y la simulación, así como los efectos psicológicos y sociales. 59 Afirmado ello por GÓMEZ SÁNCHEZ, Y., Catedrática de Derecho Constitucional, UNED. Directora del Centro de Estudios Políticos y Constitucionales. Conferencia Congreso "Hacia un mundo híbrido: inteligencia artificial, ética y derecho", celebrado el 23 de marzo de 2022. 28 Por último, lo que a este estudio más interesa, (iv) la ética dentro del uso de la propia IA. La toma de decisiones autónoma por parte de sistemas de inteligencia artificial presenta desafíos éticos en términos de responsabilidad y transparencia. La tecnoética explora cómo garantizar la rendición de cuentas y la equidad en la IA. En este ámbito destacan autores como BOSTROM Y YUDJOWSKY (2014) que analizan las implicaciones éticas de la inteligencia artificial. En todos los campos de la sociedad digital se subraya la necesidad de una reflexión continua sobre las implicaciones éticas de las tecnologías emergentes. La tecnoética busca establecer un marco para guiar el desarrollo y la implementación de la tecnología de una manera que respete los valores humanos y la dignidad. 4.1 Gobernanza de datos: ética y sector privado En la actualidad, en un mundo donde la generación y el intercambio de datos son moneda corriente, la gobernanza de datos emerge como un imperativo fundamental para garantizar la privacidad, la seguridad y la equidad en un entorno digital en constante evolución. La gobernanza de datos se refiere al conjunto de políticas, normas y procesos que guían la recolección, almacenamiento, uso y compartición de datos, tanto a nivel individual, institucional como empresarial. La gobernanza de datos es un proceso crítico para cualquier empresa que maneje grandes cantidades de información. Con el creciente uso de tecnologías emergentes, como la inteligencia artificial y el aprendizaje automático, se hace necesario evaluar el impacto que estas tecnologías tienen en la gobernanza de datos de una empresa. Las tecnologías emergentes tienen el potencial de mejorar la gobernanza de datos de una empresa al permitir el análisis y procesamiento de grandes cantidades de información de manera más eficiente y precisa. Sin embargo, también pueden presentar desafíos en términos de privacidad y seguridad de los datos. Hoy en día, y según estudios realizados ya en el año 2014 por CUKIER, MAYERSCHONBERGER menos del 2% de los datos no se encuentra digitalizado, cifra que con seguridad se habrá visto aún más reducida en el año presente. Nos pasamos de la era del átomo (papel, medios magnéticos) a la era digital, lo cual da nacimiento al big data (nomenclatura inglesa otorgada a los datos masivos) que se refiere a la gran capacidad de almacenamiento de datos y que a la vez genera el surgimiento de oligopolios naturales, al encontrarnos frente a un grupo muy reducido que controla el mercado de los datos. La gobernanza de datos empresariales se refiere a la implementación de políticas, procesos y estructuras que guían la recolección, almacenamiento, uso y compartición de datos internos y externos. A medida que las organizaciones se esfuerzan por maximizar el valor de sus datos, también deben asegurarse de respetar la privacidad, la seguridad y la legalidad. Los estados y países han trabajado sobre la normativa que debe regir la Gobernanza de Datos Empresariales, para evitar la violación de derechos, por ello todas las empresas deben seguir unos estándares para estar acorde a la legislación vigente en áreas como el cumplimiento normativo, privacidad-seguridad de datos, la calidad e integridad de estos, su acceso y control, y la existencia de ética en su propio análisis. Las empresas deben adherirse a regulaciones específicas según su industria y ubicación geográfica. Ejemplos notables incluyen el Reglamento General de Protección de Datos 29 (GDPR) 60 en la UE y la Ley de Privacidad del Consumidor de California (CCPA) 61 en los Estados Unidos. La protección de datos personales es primordial. Las organizaciones deben implementar medidas técnicas y organizativas para garantizar la seguridad de los datos y prevenir violaciones. Mantener la calidad y la integridad de los datos es esencial para la toma de decisiones precisa. Las empresas deben establecer procedimientos para la limpieza y la validación de datos. La gobernanza de datos implica definir roles y responsabilidades para el acceso a los datos. Esto asegura que solo las personas autorizadas puedan acceder y manipular la información. Las decisiones basadas en datos pueden tener implicaciones éticas. Las empresas deben considerar cómo se utilizan los datos para evitar sesgos y asegurar decisiones equitativas. La gobernanza de datos de índole empresarial proporciona numerosos beneficios. Obtendremos datos confiables y actualizados para respaldar la toma de decisiones estratégicas y operativas. La gestión adecuada de datos reduce la duplicación y los errores, lo que a su vez mejora la eficiencia operativa. Una gobernanza sólida permite a las empresas innovar al tiempo que aseguran que los datos se utilicen de manera ética y efectiva 62 . El cumplimiento normativo, al que hemos hecho referencia ut supra, reduce el riesgo de sanciones y daños a la reputación de la empresa debido a incumplimientos. Indirectamente, la protección de datos y la transparencia en el manejo de la información aumentan la confianza de los clientes en la empresa. Además de ese sometimiento a las normas, la visión ética en el procesamiento de datos se desprende de la propia responsabilidad social corporativa. Herramientas como los códigos de ética empresarial 63 y la existencia de un canal de denuncias interno en el que los empleados puedan comunicar incumplimientos de los principios o políticas éticas en materia de privacidad y protección de datos, confidencialidad se implantan y consiguen inculcar dentro de las entidades valores y preceptos éticos. En la creación de estos, el diseñador tendrá un papel fundamental para ajustarlo a principios éticos. Lo ideal sería que se pudiera crear aplicados al sector en cuestión (por ejemplo, en investigación biomédica o ensayos clínicos) donde se informara con distinta iconografía y de forma comprensible sobre la finalidad de los datos, de los terceros, cifrado, portabilidad, y compensación económica de haberla 64 . Instaurado este código, aceptado y conocido por la totalidad de personas que forman la empresa, será imprescindible la creación de un comité ético que ostente carácter “multidisciplinar” en su composición y participación al tratarse de organizaciones dedicadas a la tecnología de la información y las tecnologías emergentes como IA. Formado no solo por expertos en protección de datos y privacidad si no también desarrolladores e ingenieros en informático o telecomunicaciones. La participación de todos ellos será fundamental. En su conjunto, el comité, se encargarán de elaborar el código, pero se dejará la participación abierta 60 Consulta a través de https://eur-lex.europa.eu/eli/reg/2016/679/oj 61 Consulta a través de https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201720180AB375 62 Empresas como Siemens se han apoyado en la IA, creando a partir de ella aplicaciones que controles anomalías dentro de procesos y evaluar el impacto de negocio. Ver más en: Siemens lanza una app de Inteligencia Artificial para detectar anomalías en la industria de procesos | Prensa | Empresa | Siemens 63 los basados en políticas de carácter más específico que los basados en principios corporativos incluirían la confidencialidad como así comenta FERNANDEZ, R. (2011) en su obra Códigos éticos o de conducta. 64 Esto es lo que se conoce como “ethic by design” filosofía en la que destaca Tristan Harris, estadounidense especialista en tecnología. 30 a los empleados a los que se consulte. La autoevaluación será otra de esas herramienta, en este caso voluntaria, que nos ayudaría a analizar y valorar las limitaciones de la organización en cuestiones de ética de los datos. Siguiendo a HASSELBACH (2018) será de gran ayuda que esta se guíe por cuestionarios conocidos como “checklist en el que teniendo como premisa inicial los propios derechos y libertades de las personas, y en particular, al derecho de privacidad y protección de datos, se compruebe si el cumplimiento de ciertos ítems. En el este campo de la IA y el machine learning consideramos que la comprobación debería analizar y asegurar, entre otras, que: - Los usuarios tengan la propiedad de los datos en lugar de los intereses comerciales o institucionales. - No se expone vulnerabilidades y contiene medidas concretas para que no evitar discriminación algorítmica - Su uso beneficie a la persona y no cause daños físicos, psicológicos, sociales o financieros. - Se vendan datos como datos personales identificables o como patrones en un nivel agregado - Se asegure de que se trate de información totalmente anónima que solo describa patrones y no individuos. Sacar partido a estas herramientas y tratar la privacidad como un valor intrínseco de la empresa en su día a día, autoevaluando ese cumplimiento efectivo, dará como resultado la obtención de certificaciones de calidad de ética de datos, vital para acaparar atención de los stakeholders y para el crecimiento dentro del mercado tecnológico 65 . 4.2 Conflictos éticos y afectación de DF Uno de los riesgos más importantes que presenta el aprendizaje automático es el peligro de amplificar la discriminación y los sesgos existentes contra ciertos grupos que ya batallan para que se les trate con dignidad y respeto. El uso de sistemas de IA compromete a una gran diversidad de derechos fundamentales, independientemente del campo de aplicación; entre ellos se incluyen, entre otros, la privacidad, la protección de datos, la no discriminación y el acceso a la justicia. La Comisión Europea ha venido destacando la necesidad de una legislación adicional para salvaguardar la no discriminación a la hora de utilizar la IA 66 . Otros organismos en sus respectivos ámbitos de actuación siguieron esa línea como ocurrió con Amnistía Internacional en su Declaración de Toronto (mayo de 2018) sobre la protección del derecho a la igualdad y la no discriminación en los sistemas de aprendizaje automático 67 . 65 que deberán ser promovidos por Estados miembros, las autoridades de control, el Comité Europeo de Protección de Datos y la Comisión Europea artículo 52 del RGPD. 66 Plan de Acción de la UE Antirracismo para 2020-2025. 67 Concretamente establece el deber de los Estados de prevenir la discriminación en el diseño o la implementación de los sistemas de aprendizaje automático en contextos públicos o mediante asociaciones público-privadas, describe las responsabilidades de los actores privados y afirma el derecho a un recurso efectivo y a llamar a cuentas a los responsables de las violaciones. 31 La Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, enfatizó en Ginebra (15 de septiembre de 2021) la urgente necesidad de establecer una moratoria a la venta y el uso de los sistemas de inteligencia artificial (IA) que amenazan gravemente a los derechos humanos, hasta que se hayan puesto en vigor las salvaguardas adecuadas. Bachelet pidió además que se prohíban los programas de AI cuyo uso no cumpla con la normativa internacional de derechos humanos 68 . En su informe “The right to privacy in the digital age Report of the United Nations High Commissioner for Human Rights”, la Oficina de Derechos Humanos de la ONU analiza cómo la IA -incluidas la elaboración automática de perfiles, la toma de decisiones y otras tecnologías de aprendizaje para las máquinasafecta al derecho a la intimidad y a otros derechos, incluidos los relativos a la salud, la educación, la libertad de movimiento, la libertad de reunión y asociación pacífica, y la libertad de expresión. Concluye que los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, obsoletos, poco pertinentes y sobre todo discriminatorios. El almacenamiento de datos a largo plazo entraña también riesgos particulares, ya que en el futuro esa información podría aprovecharse de formas difíciles de prever en la actualidad. Otro informe revelador en este caso es el realizado por la Agencia Europea de los Derechos Fundamentales de la Unión Europea (FRA) “Getting the future right — Artificial intelligence and fundamental rights 69 (Construir correctamente el futuro — La inteligencia artificial y los derechos fundamentales). Este presenta una visión de conjunto de las tecnologías relacionadas con la IA actualmente utilizadas en la Unión Europea (UE) y analiza sus implicaciones sobre los derechos fundamentales. Se centra en ejemplos de casos de uso en cuatro ámbitos específicos: las prestaciones sociales, la actuación policial predictiva, los servicios sanitarios y la publicidad dirigida. Se destaca la importancia de la concienciación y de evitar los datos de escasa calidad. 4.3. Medidas enfocadas a la protección Para garantizar que los sistemas de IA se utilizan de forma segura, equitativa y no discriminatoria, es esencial desarrollar directrices éticas o recomendaciones para su uso. Un ejemplo paradigmático de ello es la Resolución 2020/2012(INL) promulgada el 20 de octubre de 2020 por el Parlamento Europeo denominada “Marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas”, así como la Resolución 2020/2014(INL) con recomendaciones destinadas a la Comisión sobre el “Régimen de 68 Declaración de la Alta Comisionada sobre los riesgos de la inteligencia artificial para la privacidad en el Consejo de Europa, (2021) Disponible en Los riesgos de la inteligencia artificial para la privacidad exigen medidas urgentes –Bachelet | OHCHR. 69 véase más en: Construir correctamente el futuro. La inteligencia artificial y los derechos fundamentales. RESUMEN (europa.eu) estando el informe principal disponible en el propio sitio web de la FRA. 69 32 responsabilidad civil en materia de inteligencia artificial”. De ambas podemos extraer que resulta necesario que la normativa que se dicte garantice: a) La aplicación uniforme del sistema de evaluación de riesgos y el respeto de las obligaciones jurídicas conexas, para asegurar la igualdad de condiciones entre los Estados miembros y prevenir la fragmentación del mercado interior, evitando que se vulneren los derechos fundamentales y las normas de seguridad establecidas en el Derecho de la Unión. b) Una amplia protección de los consumidores y el mercado interior en sentido subjetivo (ya sean usuarios de un algoritmo, estén sujetos a él o sean sus destinatarios), geográfico (sea cual sea el lugar donde estén quienes desarrollen, comercialicen o utilicen el sistema de IA) y funcional (aplicable a todos los intervinientes en la cadena de los sistemas de IA). c) La transparencia de la IA para garantizar que se respeta el derecho a la información de los consumidores, lo que constituye un principio fundamental del Derecho de la Unión, lo que afecta a los procesos de automatización, el tratamiento de los datos y el control por las autoridades. Aplicar la denominada IA “explicable o XAI 70 ” también puede ayudar a detectar mejor la discriminación en el momento de utilizarla. Para impugnar efectivamente decisiones basadas en el uso de la IA, las personas tienen que saber que se ha utilizado, así como de qué modo y dónde presentar una reclamación. Las organizaciones que utilizan la IA tienen que ser capaces de explicar su sistema y las decisiones basadas en esta. d) La ausencia de sesgos culturales y de género y de discriminación automatizada, aunque sea de forma involuntaria, incluida la discriminación indirecta, en particular en relación con grupos de personas con características similares, garantizando la plena protección de los derechos fundamentales y la salvaguarda de los valores de nuestra sociedad. Esto pasa por omitir información sobre características protegidas, como el género, la edad o el origen étnico, pueden garantizar que un sistema de IA no discrimine. No obstante, esto no es necesariamente cierto. Habida cuenta de la dificultad para explicar sistemas de IA complejos, la UE, juntamente con los Estados miembros, debe considerar la posibilidad de elaborar directrices para dar apoyo a los esfuerzos en pro de la transparencia en este ámbito. Para ello, debe nutrirse de los conocimientos técnicos acumulados por los organismos de derechos humanos nacionales y por las organizaciones de la sociedad civil activas en este campo. Resulta importante canalizar el debate, definir conceptos, aplicar conceptos éticos ya referidos en epígrafes anteriores, conseguir una tecnología al servicio de la humanidad y no de las empresas, elaborar códigos de buenas prácticas que acompañen los códigos normativos, determinar las necesidades para poder abordarlas y generar beneficios compartidos, sinérgicos. 70 BARQUILLA, Y., “Qué es la Inteligencia Artificial explicable “ 21 de agosto de 2023. Disponible en Qué es la Inteligencia Artificial explicable | BeeDIGITAL. 33 Autores como NARAYANAN, HUEY Y FELTEN (2018) presentan una taxonomía de transformaciones de opacidad para el aprendizaje automático que preserva la privacidad, siendo este un ejemplo de uso compatible con el respecto de los derechos del usuario. En la actualidad, se observa un movimiento que busca responder de forma proactiva a los riesgos asociados con la IA. Algunas de las mayores empresas españolas han tomado medidas y han regulado el uso de la IA por parte de la plantilla 71 . Casos como el de la empresa Samsung, donde trabajadores que interactuaban con ChatGPT filtraron información confidencial 72 dan peso a los argumentos de los detractores o cuanto menos a los más agnósticos sobre los múltiples beneficios de este tipo de programas. 73 Una empresa que empleando estas herramientas no tiene una política al respecto tiene un nuevo frente abierto, pues las credenciales de las cuentas de los usuarios que han sido comprometidas pueden ser comprometidas en la dark web brindado el acceso a los resultados de las consultas realizadas, los prompts, etc 74 , por eso gigantes tecnológicos como Google Brand (IA de google) o Zoom han modificado sus políticas de privacidad para incorporar entrenamientos de algoritmos de IA a través de los datos obtenidos mediante el uso de servicio por parte de los usuarios 75 . Para garantizar que los beneficios superen los riesgos, es fundamental implementar medidas sólidas de privacidad y seguridad. La ética debe ser un pilar central en el uso de los datos, garantizando que el tratamiento sea justo, transparente y respetuoso con los derechos de los individuos. Al navegar por las aguas de la era digital, es esencial abordar estos riesgos con diligencia y responsabilidad. La UE ha sido un actor clave en la promulgación de regulaciones y directrices para abordar los riesgos en el tratamiento de datos. La regulación más relevante en este ámbito es el Reglamento General de Protección de Datos (GDPR por sus siglas en inglés), que entró en vigor en mayo de 2018 y el libro blanco sobre inteligencia artificial (Comisión -europea – 2019). El GDPR establece un marco normativo riguroso para la protección de datos personales y aborda una serie de riesgos relacionados con la privacidad y la seguridad de los datos. En esencia, el GDPR tiene como objetivo fortalecer los derechos de los individuos en cuanto a la privacidad y el control de sus datos personales, al tiempo que impone obligaciones 71 Por otro lado nada que no le exigiera ya desde finales del 2018 el artículo 87.3 de la Ley Orgánica 3/2018 (LOPDGDD) el cual les obliga a “establecer criterios de utilización de los dispositivos digitales”. Son las conocidas habitualmente como Política o Políticas de Medios Digitales o Políticas de Uso Aceptable72 ChatGPT: empleados de Samsung filtraron información secreta en conversaciones con el bot | TN 73 Precisamente a este caso hizo referencia Alejandro Touriño socio-director de Écija, despacho líder en TMT, en la que se refirió a esa otro realidad junto al uso corporativo -y regladode herramientas de IA, no siempre conocida o gestionada por las propias compañías, consistente en trabajadores y profesionales de dichas compañías que hacen uso particular de este tipo de herramientas con impacto directo en el ámbito empresarial Artículo completo en: Antídoto del riesgo empresarial. Opinión (expansion.com) 74 Se vende cuenta hackeada de ChatGPT: hay más de 100.000 en la ‘dark web’ | Tecnología | EL PAÍS (ampproject.org) 75 TERÁN HAUGHEY, M., “Zoom actualiza su política para entrenar a su IA con tus datos y no te dejan rechazarla “ The economist. 8 de agosto de 2023. 34 significativas a las organizaciones que recopilan y procesan estos datos. Entre las medidas clave que la UE ha adoptado para abordar los riesgos en el tratamiento de datos se encuentran: − Consentimiento Informado. El GDPR establece que las organizaciones deben obtener un consentimiento claro y específico de los individuos antes de recopilar y procesar sus datos personales. Este consentimiento debe ser informado y voluntario, y los individuos deben ser informados sobre cómo se utilizarán sus datos. − Derechos de los Individuos. El reglamento otorga a los individuos una serie de derechos, incluido el derecho a acceder a sus datos, rectificar información incorrecta, eliminar sus datos en ciertas circunstancias y objetar el procesamiento de sus datos para fines específicos. − Principios de Protección de Datos. El GDPR establece principios clave de protección de datos que las organizaciones deben cumplir, incluida la minimización de datos (recopilar solo los datos necesarios), la exactitud de los datos y la limitación del almacenamiento. − Notificación de Brechas de Seguridad. Las organizaciones están obligadas a notificar a las autoridades competentes y a los individuos afectados en caso de una violación de seguridad que pueda resultar en la pérdida, acceso no autorizado o divulgación de datos personales. − Transferencia Internacional de Datos. El GDPR también aborda la transferencia de datos personales fuera de la UE, asegurándose de que los mismos estándares de protección se apliquen a nivel global. − Sanciones y Multas. El GDPR establece sanciones significativas por incumplimiento, incluidas multas que pueden ascender a un porcentaje del volumen de negocios anual de una organización. La UE, a través del GDPR y otras regulaciones relacionadas, ha enfocado sus esfuerzos en abordar los riesgos de la IA en el tratamiento de datos, especialmente en términos de privacidad y seguridad. Estas regulaciones han tenido un impacto significativo en la forma en que las organizaciones recopilan y procesan datos personales, y han servido como referencia para otras regiones en la promulgación de regulaciones similares. Pero a medida que avanzamos en el tiempo, el usuario informado, es consciente que cada vez que tenga contacto con la tecnología, su vida privada está siendo afectada con el seguimiento que realizan los algoritmos inteligentes, lo cual ha generado una serie de controversias y acusaciones relacionadas con la privacidad y la protección de datos. Algunas de estas controversias han llevado a investigaciones y sanciones por parte de reguladores y autoridades en varios países. ARROYO-FERNÁNDEZ Y ALARCÓN DEL AMO (2020) proponían ya en ese año una revisión completa del marco legal europeo en materia de protección de datos y privacidad, a la vista de los antecedentes mencionados en apartados previos, al día de hoy y en los próximos años consideramos que su afirmación será una realidad precisamente por todos los riesgos detectados en una tecnología que estará presente en muchos ámbitos vitales y profesionales. Otros autores como CALO (2015) se mostraban más permisivos y se inclinan por decir que aun siendo aconsejable un cambio sistemático de leyes o instituciones legales para preservar o reequilibrar los valores establecidos debe apelarse a la adopción de políticas de IA (“AI policies”) como respuestas concretas, normativas o no. Incluso afirma que es demasiado 41 6. COMPLIANCE E IA ___________________________________________________________________________ 6.1 Compliance tecnológico Las dos tecnologías principales que están alterando la industria del Compliance hoy en día son la Inteligencia Artificial (IA) y el Machine Learning (ML, aprendizaje automático). Consultamos a la IA de ChatGPT por este apartado y esta fue su respuesta: “El Compliance en relación con la inteligencia artificial (IA) se refiere a la conformidad con regulaciones y estándares éticos en el desarrollo y uso de sistemas de IA. Esto incluye la protección de datos personales, la transparencia en la toma de decisiones por parte de los sistemas de IA, la responsabilidad por los resultados y la garantía de que los sistemas no discriminen o causen daño a los individuos. En la era digital, los sistemas de IA están siendo utilizados en una amplia gama de industrias, desde la salud hasta la banca y las finanzas. Debido a su capacidad para procesar grandes cantidades de datos, estos sistemas pueden ayudar a tomar decisiones más eficientes y precisas, pero también plantean desafíos éticos y de privacidad. Es por eso por lo que el Compliance en IA es esencial para garantizar que estos sistemas sean utilizados de manera responsable y éticamente sólida. Esto puede incluir la implementación de políticas y procedimientos para asegurar la privacidad de los datos, la transparencia en la toma de decisiones por parte de los sistemas de IA, la garantía de la no discriminación y la responsabilidad por los resultados. Además, el Compliance en IA también puede incluir la auditoría y supervisión de los sistemas para verificar su cumplimiento con las regulaciones aplicables. Esto puede ayudar a prevenir consecuencias negativas como sanciones, multas y pérdida de confianza pública” En contra de lo que comúnmente se piensa, este tipo de tecnología no está pensada para reemplazar a los humanos en su trabajo. De hecho, se desarrollaron para hacer los trabajos más sencillos y amenos. Por ejemplo, la RPA (automatización de procesos robóticos) puede realizar sin esfuerzo tareas repetitivas y aburridas de forma más eficiente que los humanos. De este modo, los trabajadores pueden centrarse en aspectos de su trabajo que requieran inteligencia emocional, razonamiento e interacción humana. Entre las tareas adecuadas para la RPA se encuentran el autocompletado de cuestionarios, la entrada de datos o copiar y pegar información entre formularios y departamentos. El compliance es un ámbito que está experimentando una profunda transformación gracias al uso de la IA. La implementación del compliance a través de programas y sistemas de gestión es fundamental para garantizar la legalidad y la ética en la toma de decisiones empresariales, pero también para prevenir posibles sanciones y multas, proteger la reputación de la compañía y mejorar su eficiencia. 42 En este contexto, el uso de la IA en el compliance se presenta como una oportunidad para mejorar la efectividad y la eficiencia de estos programas. Y ello, tanto a través del machine learning (aprendizaje automático) como de su aproximación “ruled-based” (IA basada en reglas), permitiendo ayudar a identificar posibles riesgos, y a diseñar medidas de prevención y detección más efectivas, así como a mejorar la toma de decisiones empresariales y a garantizar el cumplimiento normativo. Las organizaciones pueden utilizar el machine learning en sus sistemas de gestión de compliance para lograr eficiencia y cumplir sus objetivos éticos, sin descuidar la posible presencia de los riesgos potenciales que esto conlleva y la importancia de identificarlos y gestionarlos. Un buen funcionamiento de los sistemas de compliance requiere políticas con altos estándares éticos y estrategias de uso de IA. Autores como VARELA ARRESE (2021) afirman que la convergencia entre la cultura de compliance y la IA se presenta como un elemento diferenciador que agrega valor a las organizaciones y sugieren que la utilización responsable y ética de la IA será un factor clave para el éxito de las organizaciones y quienes no lo apliquen deberán asumir el riesgo de desaparecer del mercado. En este contexto, el uso de la IA en el compliance se presenta como una oportunidad para mejorar la efectividad y la eficiencia de estos programas. Y ello, tanto a través del machine learning (aprendizaje automático) como de su aproximación “ruled-based” (IA basada en reglas), permitiendo ayudar a identificar posibles riesgos, y a diseñar medidas de prevención y detección más efectivas, así como a mejorar la toma de decisiones empresariales y a garantizar el cumplimiento normativo. 6.2 Posibilidades y limitaciones de uso El uso de la IA en el ámbito del compliance presenta los riesgos y desafíos ya comentados y supone una revolución en el modo en que las empresas pueden prevenir y detectar posibles delitos en su seno. La IA, a través del deep learning (aprendizaje profundo), permite procesar grandes cantidades de información de forma automatizada, lo que facilita la identificación de posibles riesgos y la toma de decisiones basadas en datos objetivos. En definitiva, una mejora sustancial en la eficiencia y efectividad de los procesos de supervisión y control en las empresas. Las posibilidades del uso de la IA en el ámbito del compliance son numerosas y variadas. En primer lugar, permite el análisis de grandes cantidades de datos de forma automatizada y eficiente, lo que facilita la detección de posibles riesgos y la toma de decisiones basadas en datos objetivos. Por ejemplo, a través de técnicas de análisis de datos como el machine learning, se pueden detectar patrones de comportamiento sospechosos en los registros financieros de una empresa, lo que podría indicar la existencia de prácticas fraudulentas o de blanqueo de capitales. 43 Otra posibilidad es la creación de sistemas de alerta temprana que permitan a las empresas detectar y prevenir posibles infracciones normativas de forma proactiva. Estos sistemas podrían estar basados en el análisis de datos internos de la empresa, así como en el monitoreo de fuentes externas de información, como noticias o informes regulatorios. La IA también puede ser útil en el ámbito de la formación y el entrenamiento de los empleados en materia de cumplimiento normativo. Por ejemplo, se pueden crear simulaciones de situaciones reales en las que los empleados deban tomar decisiones éticas y legales, permitiéndoles practicar y adquirir conocimientos de una forma más dinámica e interactiva. Otra de las posibilidades es la mejora de la eficiencia y la reducción de costos en los procesos de auditoría. A través de técnicas de automatización, se pueden realizar auditorías de forma más rápida y precisa, permitiendo a los auditores centrarse en las áreas de mayor riesgo y reduciendo el tiempo. Las instituciones financieras utilizan algoritmos de ML para analizar grandes cantidades de datos financieros y transacciones sospechosas, lo que les permite identificar patrones y anomalías que podrían indicar actividades ilícitas. Cuenta con algoritmos que optimizan los programas de cumplimiento de las empresas y analizan cualquier anomalía para estandarizar procesos y asegurar que se cumplan todas las leyes locales. Otro ejemplo es el uso de la IA en la detección de fraude y corrupción en contrataciones públicas. Uno de los casos más reseñables es el del Gobierno de Colombia, que ha implementado un sistema de IA para analizar los datos de licitaciones y contratos públicos, con el objetivo de detectar posibles irregularidades o patrones de corrupción. También se puede hacer uso de la IA para analizar y clasificar documentos y registros electrónicos en busca de posibles infracciones. Por ejemplo, una empresa puede utilizar la IA para identificar rápidamente documentos que contengan información confidencial o que puedan estar sujetos a regulaciones específicas, lo que puede ayudar a prevenir la divulgación de aquella sensible o la violación de normas de cumplimiento. Entre las limitaciones de uso más destacables se encontrarían las siguientes: ● Interoperabilidad: La aplicación de regulaciones de compliance en la IA puede ser complicada debido a la falta de estándares y directrices internacionales claras, lo que dificulta la interoperabilidad global. ● Innovación Limitada: Un exceso de regulación podría frenar la innovación en el campo de la IA al aumentar los costos y la complejidad del desarrollo de sistemas. ● Evasión y Fallos Éticos: A pesar del compliance, siempre existe la posibilidad de que se evadan las regulaciones o de que se produzcan fallos éticos en el diseño o uso de sistemas de IA. 44 ● Problemas de Privacidad: Aunque el compliance se enfoca en la protección de datos, la recopilación y el procesamiento de información personal para entrenar modelos de IA aún plantean desafíos importantes para la privacidad. Pero existe una parte oscura del compliance en la IA donde poco se habla y está relacionada con el riesgo de violación de derechos fundamentales. A pesar de los esfuerzos por garantizar la ética y el cumplimiento normativo, se han planteado preocupaciones sobre cómo la IA podría utilizarse para infringir derechos humanos y libertades individuales. Siguiendo a MUNUERA (2017) algunas de las preocupaciones incluyen: ● Vigilancia Masiva: La IA puede utilizarse para llevar a cabo una vigilancia masiva y la recopilación de datos en masa, lo que plantea preocupaciones sobre la privacidad y la invasión de la vida personal. ● Discriminación Algorítmica: A pesar de los esfuerzos para mitigar el sesgo, los algoritmos de IA pueden discriminar de manera inadvertida a ciertos grupos, lo que podría llevar a la discriminación sistemática. ● Impacto en la Libertad de Expresión: La IA puede utilizarse para censurar o manipular información en línea, lo que podría afectar la libertad de expresión y la diversidad de opiniones. ● Riesgo para la Seguridad: La IA también puede utilizarse en aplicaciones militares y de seguridad, lo que podría aumentar los riesgos para la paz y la estabilidad internacional. Por lo tanto, no podemos ignorar la IA y un manejo del compliance bajo el dominio de gobiernos autoritarios disfrazados de democracias o dictaduras, que utilizan estas herramientas tecnológicas para imponer y prolongar su sistema de gobierno. La cuarta revolución que trae envuelta la inteligencia artificial (IA), ha experimentado un aumento significativo en países con altas tasas de crecimiento económico. Algunos de estos países, como Singapur, Corea del Norte y Taiwán, han logrado un rápido desarrollo industrial, pero carecen de sistemas democráticos. Estos gobiernos han reconocido que, mediante el eficiente empleo de la IA, pueden supervisar y, en cierta medida, influenciar la sociedad y la política con una inversión técnica relativamente baja. Al mismo tiempo, este enfoque también ha contribuido a fomentar un marco de crecimiento económico significativo. El caso de Singapur 86 , en particular, resulta intrigante, ya que ofrece una oportunidad para analizar este tema desde una perspectiva teórica y práctica más profunda, sobre todo a lo que atañe a la afectación de derechos fundamentales. 86 El caso de Singapur. De una isla pobre a uno de los países más ricos del mundo. https://www.bbc.com/mundo/noticias-47032379 45 Reflexiones como la de MÉNDEZ (1996) se hacen indispensables en esta era tecnológica: “La reseña de casi cada persona en el mundo desarrollado (y de cada vez más gente en el Tercer Mundo) está archivada en un conjunto de bases de datos recogidas, analizadas y accesibles para gobiernos y grandes empresas. Más y más, estas computadoras están conectadas y comparten sus insidias cibernéticas. Usando redes de alta velocidad con inteligencia avanzada y números de identificación tales como el Social Security Number en Estados Unidos, las computadoras pueden crear instantáneamente completos dossiers de millones de personas sin necesidad de un sistema centralizado. Nuevos adelantos en genética, en investigación biométrica, avanzados sistemas de registro telemático, de "transporte inteligente de datos", y de cotejo de transferencias financieras han aumentado dramáticamente la cantidad de detalles disponibles. Diversos convenios internacionales facilitan el intercambio de información a través de las fronteras, y al igual que las legislaciones nacionales, con el pretexto de "garantizar la seguridad" frecuentemente impiden que la sociedad civil pueda enfrentar, o incluso reconocer, tales invasiones a la vida de las personas” El uso de la IA en el ámbito del compliance tiene el potencial de mejorar significativamente la eficiencia y efectividad de los programas de cumplimiento normativo, facilitando la detección temprana de posibles riesgos y la toma de decisiones informadas. La regulación y supervisión adecuadas son esenciales para abordar estos desafíos y garantizar que la IA se utilice de manera responsable y ética. 46 7. CONCLUSIONES ___________________________________________________________________________ -ILa intersección entre IA y regulación es un tema crucial en la actualidad. La evolución de esta inteligencia generativa es evidente y a medida que se convierte en una fuerza motriz en la economía de los datos, se acrecenta la necesidad de implantar un marco regulatorio sólido en cada país (siempre teniendo en cuenta su situación geopolítica). Europa, con su enfoque en la protección de datos y sus valores fundamentales, está en una posición única para liderar la innovación en este campo, siendo un ejemplo para países latinoamericanos y siguiendo la estela marcada por China y EEUU. -IILa comunidad jurídica enfatiza la importancia de una regulación proactiva. En concordancia con BROSTROM Y YUDJOWSKY (2014) es esencial reflexionar de forma continua sobre las implicaciones éticas de las tecnologías emergentes, desde la transparencia y con enfoques centrados en el ser humano para así proteger sus derechos. La comunidad jurídica aún enfrenta desafíos significativos en la armonización de leyes de privacidad y ética de la IA. La convergencia de estas áreas requerirá un esfuerzo continuo para equilibrar la innovación tecnológica con la protección de los derechos individuales. -IIILa jurisprudencia jugará un papel crucial al establecer precedentes legales en casos relacionados con la IA y la privacidad al resolver las demandas recientemente interpuestas. Casos como el fallo del Tribunal de Justicia de la Unión Europea en el caso Schrems II han destacado la importancia de garantizar la transferencia de datos transfronteriza de manera segura y con respeto a los derechos fundamentales. En vez de doctrina y jurisprudencia los estados deben enfocarse en desarrollar directrices claras y específicas para la aplicación de la IA en diversas industrias, abordando aspectos como la transparencia, la explicabilidad y la rendición de cuentas. -IVLa implementación del Reglamento General de Protección de Datos (RGPD) en la Unión Europea ha marcado un hito significativo en la regulación de la privacidad, fija un estándar elevado para el tratamiento de datos y establece requisitos mínimos necesarios para subsanar los riesgos vinculados. Sin embargo, se echa en falta un abordaje de la problemática ética del uso de datos en la IA, el establecimiento de un marco en el que se proteja esos datos en primer lugar, y una vez instaurado se incorporen paulatinamente los conjuntos de datos para las pruebas, la formación y, finalmente, la toma de decisiones. 47 -VLos riesgos del uso de IA en cualquier sector no está en la herramienta per se, si no en la definición de cómo esta se va a utilizar y cómo se medirán los resultados obtenidos. Se necesitan requisitos de control para garantizar la concienciación sobre sus implicaciones éticas. Las evaluaciones de impacto y el canal de denuncias son vías internas que presentan ventajas y buenos resultados para impedir las posibles consecuencias negativas de su aplicación. Esto respalda la hipótesis de que la regulación anticipada y exhaustiva de la IA, sobre todo en el sector privado, es esencial para evitar cometer infracciones y vulneraciones al aplicar sesgos discriminatorios. -VILa participación conjunta de expertos en derecho tecnológico, ética y compliance es crucial para garantizar regulaciones justas y éticas. Esto coincide con la hipótesis de que la regulación global de la IA es necesaria y debe basarse en estándares éticos y legales sólidos. Además, la colaboración entre profesionales de diferentes campos puede conducir a un desarrollo y uso más responsables de la IA, abordando así las preocupaciones éticas y de privacidad. -VIISe corrobora la necesidad de abordar los sesgos algorítmicos y la discriminación en los sistemas de IA, para evitar resultados como los del Caso Compas, destacando la importancia de evaluar continuamente los modelos/ algoritmos y la anonimización de los datos para evitar impactos negativos en los individuos. -VIIILa ética no es algo dicotómico de ceros y unos, sino que su relación con la IA tiene que ser un proceso dinámico, diáfano y multidisciplinar, no se puede dejar todo en mano de los técnicos. Los riesgos de su uso no es un debate que pueda ni deba analizarse bajo una óptica meramente tecnológica. Una organización tecnológica-empresarial será ética y responsable desde el punto de vista de la privacidad, cuando actúa desde un punto de vista preventivo y no reactivo frente a sesgos, usando herramientas de privacy by design, adhiriéndose a best practices e impulsando la implantación de códigos de conducta y checklist. -IXEl informe del Parlamento Europeo (2021) sigue teniendo un contenido aplicable en la actualidad y desde nuestro punto de vista, aunque aún quede mucho por hacer, las medidas sugeridas en este han sido implementadas por España como Estado Miembro. Parece que ha nacido una conciencia traducida en actos tendentes a su regularización. 48 8. FUENTES NORMATIVAS ___________________________________________________________________________ - Decreto-Ley 2/2023, de 8 de marzo, de medidas urgentes de impulso a la inteligencia artificial en Extremadura. - Decisión TJUE “Caso Schrems II” nº 2016/1250 sobre la adecuación de la protección conferida por el Escudo de privacidad UE-EEUU (la “Sentencia”) - Guía básica de anonimización AEPD - Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales. - Ley 25.326 - Protección de los Datos Personales de Argentina - Ley Chile - Ley 19628, Biblioteca del Congreso Nacional de Chile - Ley Federal de Protección de Datos Personales en Posesión de los particulares - Ley de protección de datos de la Rep. De China - Ley de protección de datos de Singapur - Ley de protección de datos de Japón - Propuesta de Ley de Inteligencia Artificial - Reglamento UE 2016/679 9. BIBLIOGRAFÍA __________________________________________________________________________ ADI, K., FAWCETT, T. (2018). Data privacy and security in machine learning. IEEE Big Data, 1-10. AGUIRRE SALA., J.F., “ Especificando la responsabilidad algorítmica” Teknokultura. Revista de Cultura Digital y Movimientos Sociales ISSN: 1549-2230. ARROYO-FERNÁNDEZ, I., ALARCÓN DEL AMO, M. D. C. (2020). Data protection and privacy in the digital era: A comprehensive review of the European legal framework. Sustainability, 12(18), 7256. ADELL, R. (2008) “La tecnoética: nuevo campo de conocimiento para el siglo XXI” Recuperado el 1 de abril de 2020 de Scielo: scielo.org.co mencionado en https://www.lifeder.com/tecnoetica/ BARQUILLA, Y., “Qué es la Inteligencia Artificial explicable “ 21 de agosto de 2023. Disponible en Qué es la Inteligencia Artificial explicable | BeeDIGITAL BELLVER BELDA, J. (2023) “El uso de la inteligencia artificial en el ámbito del compliance: posibilidades, limitaciones y perspectivas de futuro” Lefebvre. elderecho.com El uso de la inteligencia artificial en el ámbito del compliance (elderecho.com) 49 BOYD D. y CRAWFORD K. (2011). “Six Provocations for Big Data”, A Decade in Internet Time: Symposium on the Dynamics of the Internet and Society, p. 6 Acceso completo: https://ssrn.com/abstract=1926431 BOYD, B., CRAWFORD K., (2012) “Critical questions for big data: Provocations for a cultural, technological, and scholarly phenomenon” Disponible en: [PDF] datasociety.net BOSTROM, N., YUDKOWSKY, E. (2014). The ethics of artificial intelligence. Cambridge handbook of artificial intelligence, Pag. 316-334. BRUNDAGE, M., (2018) “ The malicious use of artificial intelligence: Forecasting, prevention, and mitigation” Disponible en [PDF] bath.ac.uk BRYSON J., (2017) “Standardizing ethical design for artificial intelligence and autonomous systems” CALO, R., (2015). “Robotics and the Lessons of Cyberlaw”, California Law Review, Vol. 103, No. 3, pp. 513-63; University of Washington School of Law Research Paper Nº 2014-08, pág. 553. Disponible en SSRN: https://ssrn.com/abstract=2402972or http://dx.doi.org/10.2139/ssrn.2402972 CALERO, J., (2018) “ El capital humano en los procesos de automatización: una primera aproximación al caso español” Cuadernos económicos de ICE, 2018 Disponible en [HTML] scielo.cl CAMPILLO, LP (2023). “Dataísmo de la salud, tecnología y protección de datos personales”. Revista de derecho y genoma humano: genética, biotecnología y medicina avanzada, ISSN 1134-7198, Nº 57, 2022, págs. 183-216. CAMPILLO, LP (2022) ”La ética de los datos en las organizaciones e instituciones públicas y la gobernanza en el sector de la salud digital” CASTELLÓ LLANTADA, C., (2021) “España, campo de pruebas europeo para la inteligencia artificial“ Blog cinco días. CASTILLO, C. E., ZARAMA, K., & URCUQUI, C. C. “Sistema para la detección de deepfake de sonido”. Capítulo 10. Pág. 237. CHERRE, I.K., “Las IA, acusadas de piratería: Stable Diffusion y Midjourney serán demandadas por vulnerar el copyright” 16 de enero de 2023. Blog computer hoy. Disponible en Las IA no entienden de propiedad intelectual: Stable Diffusion y Midjourney serán demandas por vulnerar el copyright | Computer Hoy COTINO HUESO., L. (2019) “Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del derecho” Revista General de Derecho Administrativo, ISSN-e 1696-9650, Nº. 50. 50 CORRALES, R. “ Las 4 prioridades de España en la Presidencia del Consejo de la UE” 31 de agosto de 2023. Disponible en Las 4 prioridades de España en la Presidencia del Consejo de la UE | Business Insider España. COVARRUBIAS, L., (2022) “Enfoques regulatorio para la IA” Disponible en [PDF] crowdfundinsider.com COVARRUBIAS, L., ZADAMIG, J., MENDOZA ENRÍQUEZ, O. A., & GRAFF GUERRERO, M. A. R. I. O. (2022). Enfoques regulatorios para la Inteligencia Artificial (IA). Revista chilena de derecho, 49(3), 31-62. CUCARELLA., M, MOLINA, D., (2023) “La obligatoriedad de la regulación de la IA en las empresas” artículo publicado el 7 de abril en Blog Baker McKenzie y en Actualidad jurídica Aranzadi, ISSN 1132-0257, Nº 996 CUKIER, K., MAYER-SCHÖNBERGER V., (2014) “The Rise of Big Data: How It’s Changing the Way We Think about the World” Disponible en: https://doi.org/10.1515/9781400865307-003 DAFOE, T., (2023) “A Class Action Lawsuit Against a Popular A.I. Art Generator Alleges the App Collects Its Users’ Biometric Information Without Their Permission” Blog de Artnet new. Disponible en artnet.com DÍAZ VARELA Y ARRESE ., N (2021) “Inteligencia artificial y compliance” Revista de privacidad y derecho digital, ISSN 2444-5762, Vol. 6, Núm. 24. DIGNUM V., (2022) “ Relational artificial intelligence” ELSAYED-ALI S., “Derechos humanos e inteligencia artificial: el reto de una era“ 20 de agosto de 2018. Disponible en Derechos humanos e inteligencia artificial: el reto de una era | openDemocracy EDELMAN, B., & LAVINE, M. (2019). “The art of creating artificial creativity: Intellectual property, AI, and data rights” Computer Law & Security Review, 35, 75-93. ELENA GRIGORE, A., (2022) “Derechos humanos e inteligencia artificial” IUS ET SCIENTIA Vol. 8, Nº 1, ISSN 2444-8478 pág. 165-175 Disponible en: Vista de Derechos humanos e inteligencia artificial | IUS ET SCIENTIA FARNADI, G., (2023) “The AI industry through the lens of ethics and fairness” UNESCO/Mila – Québec Institute of Artificial Intelligence. Disponible en: THE AI INDUSTRY THROUGH THE LENS OF ETHICS AND FAIRNESS FERNÁNDEZ R., “ Inteligencia artificial (IA) - Datos estadísticos“ Agosto 2023. Disponible en Inteligencia artificial (IA) - Datos estadísticos | Statista FERRANTE E., (2021) “ Inteligencia artificial y sesgos algorítmicos” NUSO Nº 294. FLORIDI L., “An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations” Disponible en [PDF] brooklaw.edu 57 2. ¿Qué tipos de datos se suelen utilizar para el training? ¿Cree que converge algún conflicto ético en ello? El tipo de dato depende del modelo y de lo que se pretenda conseguir, sería más apropiado hablar de orígenes de dato. Por ejemplo, Chatgpt está entrenando con cientos de miles de papers, Wikipedia, novelas… con fuentes exactas “cerradas”. En mi opinión, las IAs como tal no son éticas, y mucho menos morales. Lo que es son los datos con los que se alimentan para sus entrenamientos. Quién y cómo se eligen, la sujeción a la licencia de uso o copyright debería de ser lo reglado. En esencia para mí la ética de las IA está en los datos, no en como esta los infiere o los usa después. Igual que nosotros leemos monografías de las que sacamos conclusiones, nuestras publicaciones futuras deben incluir citas relevantes de esos papers. 3. ¿Qué riesgos entiende asociados a la forma de operar de estas herramientas? y por el contrario ¿Cuál diría que es la utilidad más destacable de la IA? El problema de ambas ramas tiene que ver con los datos de entrada. Usas libros con copyright para hacer parte del training, usas datos que no son abiertos y públicos, incluyen papers sin citación…etc. Ninguna de las redes aprende la imagen de entrada per se, sino las características relevantes o comunes que forman y confeccionan a partir de un punto aleatorio de ruido una salida que nosotros identificamos con la entrada. No hay una gran base de datos de donde sacar segmentos, algo similar a ver una imagen que te gusta e intentar hacer una réplica a mano, sin tener ningún problema mientras no digas que es la original… de esto sacamos otro problema grave, la atribución. La IA es excelente encontrando patrones en datos relacionados pero inconexos entre sí, eso se puede usar claramente para replicar, suplantar o copiar, pero también es ideal para resumir, extrapolar y empezar nuevos desarrollos. Depende del uso del modelo y del entorno donde se emplee. Por ejemplo, una IA que valore objetivamente riesgos a la hora de contratar un seguro… ¿con qué datos lo entrenas? con los de tu clientes porque fijas en las condiciones una cláusula de consentimiento? ¿hasta qué puntos los anonimizas? Si no aceptas el uso de los datos no te darían el seguro… son múltiples los beneficios y desde mi punto de vista más que visibles, pero de igual forma los riesgos. Universidad UQAM de Montreal, Quebec, Canadá. D. Felipe Fortín, Director y profesor de ciclos superiores de la facultad de derecho. 1. Desde una perspectiva jurídica, ¿cuáles son los retos más importantes que plantea la regulación de la IA en términos de ética, privacidad y protección de datos a nivel internacional? La regulación de la Inteligencia Artificial (IA) a escala internacional plantea grandes desafíos vinculados a la ética, la privacidad y la protección de datos. La armonización de las leyes de IA entre diferentes países tiene como objetivo hacer que estas leyes sean similares para evitar confusiones, promover el comercio internacional, proteger la 58 privacidad, fomentar el cumplimiento, reducir los conflictos legales y fortalecer la cooperación internacional. Al mismo tiempo, la protección de la privacidad en el contexto de la IA se basa en regulaciones que garantizan el consentimiento informado del usuario, la transparencia empresarial, la minimización de datos, la seguridad de los datos, el derecho a la eliminación, las evaluaciones del impacto en la privacidad, la responsabilidad corporativa, la protección de los grupos vulnerables y la supervisión regulatoria. La minimización de datos, por otro lado, implica recopilar y utilizar solo los datos estrictamente necesarios para una tarea determinada, reduciendo así los riesgos de privacidad, seguridad y cumplimiento normativo, al tiempo que se fomenta el uso responsable de la información personal. Para garantizar la seguridad de los datos, las empresas que utilizan IA deben contar con medidas de seguridad sólidas para evitar violaciones e intrusiones, mientras que las regulaciones deben establecer estándares mínimos de seguridad. Además, los usuarios deben tener derecho a solicitar la eliminación de sus datos personales de los sistemas de inteligencia artificial de acuerdo con las leyes de protección de datos. También se debería exigir a las organizaciones que realicen evaluaciones del impacto en la privacidad de los sistemas de IA potencialmente intrusivos, con regulaciones que especifiquen la responsabilidad de las empresas y los desarrolladores por violaciones de la privacidad. Es importante que las regulaciones consideren la protección de los grupos vulnerables, como los niños, los ancianos y las minorías, que pueden correr un mayor riesgo de sufrir daños relacionados con la IA. Finalmente, los reguladores deberían tener el poder de supervisar y controlar el cumplimiento de las regulaciones de privacidad por parte de las organizaciones, incluida la capacidad de imponer sanciones por incumplimiento. 2. ¿Cómo pueden adaptarse y evolucionar los marcos jurídicos actuales, como el Reglamento General de Protección de Datos de la Unión Europea, para abordar eficazmente las preocupaciones éticas y de privacidad en el contexto de la IA y el aprendizaje automático? Los marcos legales actuales, como el Reglamento General de Protección de Datos (GDPR) de la Unión Europea, enfrentan el imperativo de evolucionar para abordar mejor las preocupaciones éticas y de privacidad que surgen en el contexto de la protección de datos, la Inteligencia Artificial (IA) y el aprendizaje automático. Esta adaptación se puede lograr de varias maneras estratégicas. En primer lugar, los reguladores pueden desempeñar un papel crucial en el desarrollo de directrices específicas de IA para complementar y perfeccionar las disposiciones existentes del RGPD, proporcionando así orientación precisa sobre aspectos como la recopilación de datos, los algoritmos de transparencia y la evaluación de riesgos de privacidad. Al mismo tiempo, es esencial imponer mayores requisitos de transparencia, exigiendo a las organizaciones que expliquen de forma transparente el funcionamiento de sus algoritmos, el procesamiento de datos y el proceso de toma de decisiones de sus sistemas de IA. Además, se debe fortalecer la necesidad de evaluar el impacto en la privacidad, alentando a las empresas a realizar evaluaciones más rigurosas y completas para identificar riesgos e implementar medidas de mitigación adecuadas. Para garantizar una protección 59 adecuada de los datos personales, los marcos legales también deberían imponer estándares de seguridad más estrictos, exigiendo medidas como cifrado, gestión de acceso y detección de infracciones. Los derechos individuales sobre los datos, como el derecho de acceso, el derecho de rectificación y el derecho de supresión, podrían reforzarse para tener en cuenta las especificidades de la IA. También se debe fortalecer la rendición de cuentas en el campo de la IA mediante el establecimiento de mecanismos de rendición de cuentas claros y eficaces para los desarrolladores, propietarios y usuarios de sistemas de IA. Una mayor cooperación internacional entre países y regiones puede contribuir a la armonización de las regulaciones de IA, reduciendo así los riesgos de conflictos legales transfronterizos y promoviendo al mismo tiempo una regulación consistente a nivel mundial. Por último, es esencial mejorar el seguimiento y la aplicación de las leyes relacionadas con la IA, posiblemente mediante la creación de organismos reguladores especializados en esta área, para garantizar que las reglas se respeten de manera efectiva. Todas estas medidas tienen como objetivo adaptar las leyes existentes para abordar eficazmente los desafíos que plantea la IA, garantizando al mismo tiempo la protección de la privacidad, los derechos individuales y promoviendo la ética en el desarrollo y uso de estas tecnologías avanzadas. 3. Dado que la IA no conoce fronteras y se utiliza en todo el mundo, ¿cuál es la necesidad y la viabilidad de establecer normas internacionales sólidas que aborden de forma coherente los aspectos éticos, de privacidad y de protección de datos de la IA? La importancia de establecer estándares internacionales sólidos para abordar de manera consistente aspectos éticos, de privacidad y de protección de datos en el campo de la Inteligencia Artificial (IA) es indiscutible. Esta necesidad surge del carácter transfronterizo de la IA, que no conoce límites geográficos y que puede desarrollarse en un país, utilizarse en otro y tener un impacto global. La ausencia de estándares internacionales crea un vacío regulatorio que complica la gestión de los desafíos globales que plantea la IA. Estos estándares proporcionarían una base coherente y transparente para regular el uso de la IA a nivel mundial, aumentando la claridad de las reglas y expectativas para gobiernos, empresas e individuos. Además, promoverían la promoción de la ética en el desarrollo y uso de la IA estableciendo principios fundamentales como la transparencia, la rendición de cuentas, la justicia y la equidad. Establecer estas normas internacionales también es factible, como lo demuestran los precedentes en otros sectores tecnológicos, como las telecomunicaciones y la aviación, que han establecido con éxito normas internacionales efectivas. Organizaciones internacionales como ISO (Organización Internacional de Normalización) y ITU (Unión Internacional de Telecomunicaciones) ya están involucradas en el desarrollo de estándares relacionados con la IA. La clave para la viabilidad reside en una estrecha cooperación entre los países y las partes interesadas, incluidos gobiernos, empresas, universidades y organizaciones no gubernamentales. Esta colaboración es esencial para desarrollar estándares equilibrados y efectivos que satisfagan las necesidades globales y 60 permitan gestionar los desafíos de manera coordinada y efectiva, al tiempo que generan confianza entre las partes interesadas involucradas en el campo de la IA. King Street Management, New York, EEUU. D. Kiryl Mauryshchau, ingeniero de sistemas, Máster en finanzas informáticas, experto en Big data. 1. Desde una perspectiva jurídica, ¿cuáles son los retos más importantes que plantea la regulación de la IA en términos de ética, privacidad y protección de datos a nivel internacional? - Complejidad Los rápidos avances en el mundo de la visión por ordenador y el aprendizaje automático, que forman parte de lo que se entiende por IA, hacen que la regulación y/o los marcos jurídicos unificados sean difíciles de ofrecer a tiempo, cubriendo todas las novedades y nuevas funcionalidades. La complejidad de esta tecnología en particular obligará a una estrecha colaboración entre reguladores, informáticos y políticos, y no será fácil de conseguir. - Transparencia insuficiente La mayoría de las aplicaciones basadas en IA, si no todas en cierta medida, son auténticas cajas negras. El código que ejecuta esas aplicaciones muy a menudo no es público y resulta inaccesible para cualquier persona ajena a la empresa que lo desarrolla y mantiene. Esto lleva a muchas incógnitas sobre cómo esa caja toma ciertas decisiones. Esto es especialmente pronunciado en los casos en que las decisiones podrían ser de una importancia capital, como las decisiones legales o las médicas, aquellas que pueden alterar por completo la vida de las personas. Para regular el proceso, los responsables políticos deberán tener acceso al código fuente, entenderlo y crear leyes basadas en él. Muy lejos de ser una empresa sencilla. - Sesgo Los programas de IA utilizan el enfoque del aprendizaje automático, en el que el ordenador necesita introducir datos para obtener conocimientos sobre el tema. Esto se denomina entrenamiento. El conjunto de datos de entrada que describe y explica el tema, por así decirlo, puede tener hechos desequilibrados en torno a ciertas cuestiones. Este desequilibrio puede sesgar la decisión que produce el sistema en una dirección determinada, creando un sesgo. Imaginemos el sesgo que puede introducirse en función de las desigualdades socioeconómicas, por ejemplo. Se trata de un problema realmente difícil que requiere un marco legal "justo" en torno a los datos que se introducen en las aplicaciones y robots basados en IA. Lo que necesita aún más tecnología a su alrededor para detectar y resolver esos problemas. - Ética y privacidad Algunos subconjuntos de datos que se utilizan cada vez más en los modelos de toma de decisiones basados en IA contienen lo que se denomina PII, información personal identificable. Para evitar que se filtre a objetivos no deseados que puedan utilizarla con intenciones maliciosas o a otros que puedan utilizarla para obtener una ventaja industrial injusta, los datos deben anonimizarse, lo que significa que toda la PII tiene que eliminarse por 61 completo o codificarse hasta un punto en el que ya no esté presente. Este proceso en sí requeriría una fuerte regulación en términos de cuáles son los criterios cuando los datos se consideran libres de PII y todo el proceso en torno a qué pasos tomar y evitar cualquier fuga lateral en el proceso. Esto es bastante complicado, porque el proceso tiene que ser sensible al tiempo requeriría numerosas leyes de privacidad de datos y ciberseguridad en torno a él. - Internacionalización Todos los retos definidos anteriormente son aplicables tanto a nivel nacional como internacional. El nivel internacional plantea retos adicionales porque no hay uniformidad en las leyes de todo el mundo. Además, en algunas partes del mundo ni siquiera se aplica adecuadamente el Estado de Derecho. Esto exige que la regulación de la IA alcance una escala mundial y se aplique en todas las partes del planeta. Evidentemente, hay algunos remedios que pueden tomarse, como la exclusión de determinados países del proceso, algo inevitable dado el actual clima económico mundial. Sin embargo, esas exclusiones están afectando negativamente al poder de las tecnologías impulsadas por la IA. 2. ¿Cómo pueden adaptarse y evolucionar los marcos jurídicos actuales, como el Reglamento General de Protección de Datos de la Unión Europea, para abordar eficazmente las preocupaciones éticas y de privacidad en el contexto de la IA y el aprendizaje automático? Actualmente, el RGPD no aborda explícitamente las preocupaciones éticas en la IA. El énfasis debe ponerse en la protección de datos como enfoque ascendente, lo que no es exactamente el caso en este momento (de momento es más bien descendente). Las funciones primarias están ahí para proteger los datos como un componente existente que ya se ha añadido. Lo que debería haber es un marco para proteger los datos en primer lugar, y una vez que ese marco esté en su lugar, empezar a incorporar los conjuntos de datos para las pruebas, la formación y, finalmente, la toma de decisiones. Estos sistemas han evolucionado con el tiempo, de las aplicaciones a los datos primero, pero el siguiente paso es la protección primero. La asunción de un uso responsable y ético es buena que se siga y se cumpla, pero tiene que implementarse en la base de cualquiera de los sistemas de IA y aprendizaje automático por defecto. Ese marco de base debe abordar: a) Directrices éticas claras y cristalinas que deben cumplirse en todas las fases de cualquier canalización de datos, con repercusiones o incapacidad de procesamiento en los casos en que no se cumplan. b) Adición de modelos de evaluación del impacto ético a cualquiera de los componentes de ingestión y consulta de datos que puedan bloquearse siempre que la evaluación no supere el umbral aceptable. c) Fomento de la transparencia en la construcción y el funcionamiento de cualquier sistema basado en IA. No siempre será totalmente posible, y en esos casos la adición de medidas de rendición de cuentas puede utilizarse como factor atenuante. d) Cooperación a nivel internacional y colaboración entre todas las ramas de la sociedad para lograr un consorcio sobre normas uniformes relativas al uso y el desarrollo de aplicaciones basadas en IA. 62 3. Dado que la IA no conoce fronteras y se utiliza en todo el mundo, ¿cuál es la necesidad y la viabilidad de establecer normas internacionales sólidas que aborden de forma coherente los aspectos éticos, de privacidad y de protección de datos de la IA? Las tecnologías basadas en la IA tienen un impacto global que penetra en la vida de todas las personas a un ritmo sin precedentes. Es necesario minimizar el arbitraje regulador como efecto secundario de los diferentes enfoques de la regulación en las distintas partes del mundo. También blindar un posible favoritismo en los casos en que algunas entidades puedan optar por aplicar determinados aspectos de los datos a un nivel diferente, creando así una ventaja injusta. La tarea es de un nivel alto de complejidad, pero es factible asumiendo la colaboración internacional, toneladas de todo tipo de recursos se necesitan: capital humano en todas las funciones (tecnología, legal, social, etc.) así como recursos estables en computación y almacenamiento datos y finalmente manteniendo un objetivo global para hacer del mundo un lugar mejor para vivir para todos” Conclusiones extraídas: Las encuestas a expertos en informática y en derecho internacional desempeñan un papel esencial en la validación de nuestras hipótesis; la recopilación de datos, la obtención de perspectivas interdisciplinarias, la identificación de desafíos y soluciones, y la formulación de recomendaciones informadas. Contribuyen de manera significativa a la calidad y robustez del trabajo de investigación y ayudan a extraer conclusiones respaldadas por datos empíricos y la experiencia de expertos. Si las respuestas de los expertos concuerdan con las hipótesis, esto refuerza la validez de las afirmaciones del estudio o por el contrario, si las respuestas difieren o plantean cuestiones adicionales, esto puede llevar a ajustes en las conclusiones y sugerir áreas de investigación futura. Los expertos en informática y en derecho internacional brindan perspectivas complementarias sobre la necesidad de regulación global de la IA. Ambos destacan la importancia de la armonización de leyes a nivel internacional para evitar confusiones y promover la cooperación en la regulación de la IA. Sus respuestas respaldan la hipótesis de que la regulación de la IA debe ser global y consistente para abordar desafíos éticos y de privacidad de manera efectiva. Hacen hincapié en que la ética de la IA se centra en los datos utilizados para su entrenamiento. Subrayan la importancia de seleccionar datos éticos y cumplir con licencias y derechos de autor. Esto respalda la idea de que la ética en la IA está vinculada a la elección y gestión de datos. Por otro lado, los expertos en derecho internacional enfatizan la necesidad de regulaciones que garanticen el consentimiento informado del usuario, la transparencia y la minimización de datos. Sus respuestas corroboran la importancia de la ética y la privacidad en la recopilación de datos en la regulación de la IA. Ambos, incluso el experto con un perfil mucho más técnico -lo cual nos sorprendió gratamentemencionan los riesgos éticos inherentes a su uso, la importancia de la protección de datos, la rendición de cuentas y la supervisión regulatoria en la regulación de la IA. Los 63 expertos en derecho destacan la necesidad de evaluar el impacto en la privacidad y fortalecer los derechos individuales sobre los datos, lo que respalda la hipótesis de que la regulación de la IA debe incluir disposiciones específicas para proteger los datos personales. También comentan la importancia de la rendición de cuentas, lo que concuerda con la idea de que los desarrolladores y las organizaciones deben asumir la responsabilidad por el cumplimiento ético y legal en el uso de la IA. El experto en derecho internacional aboga por el establecimiento de estándares internacionales sólidos en el campo de la IA. Esta respuesta respalda la hipótesis de que la regulación de la IA debe ser global y basada en estándares que promuevan la ética, la privacidad y la protección de datos. La cooperación internacional es vista como esencial para desarrollar estándares equilibrados y efectivos que satisfagan las necesidades globales. 11.2 Glosario de herramientas IA 64