Derechos y riesgos de las IA generativas y/o frontera

1 Capítulo 26 Derechos y riesgos de las IA generativas y/o frontera 1 Miguel Ángel Moreno Navarrete Profesor Titular de Derecho Civil Universidad de Granada (España) RESUMEN: La reciente aparición de la inteligencia artificial generativa va a tener un impacto directo en los derechos de los ciudadanos. Se plantean los riesgos que estas tecnologías suponen para la privacidad, la autonomía de la voluntad y la igualdad, y se destaca el peligro de la manipulación de la información, la discriminación algorítmica y la vulneración de la libertad personal. Asimismo, se subraya la importancia de una regulación jurídica adecuada que los contemple y garantice un uso ético y transparente de la IA. Hoy, más que nunca, es necesaria una unión pacífica entre Ciencia y Derecho para afrontar los desafíos de la disrupción tecnológica, con un marco regulador centrado en la protección de los derechos fundamentales; en definitiva, en la persona como valor permanente. ABSTRACT: The recent emergence of generative artificial intelligence will have a direct impact on citizens» rights. These technologies pose risks to privacy, autonomy of will, and equality, highlighting the dangers of information manipulation, algorithmic discrimination, and the infringement of personal freedom. Furthermore, it underscores the importance of an appropriate legal framework that addresses these risks and ensures the ethical and transparent use of AI. Today, more than ever, a peaceful union between Science and Law is necessary to confront the challenges and technological disruption, with a regulatory framework focused on the protection of fundamental rights, ultimately, on the individual as a permanent value. PALABRAS CLAVE: inteligencia artificial, derechos, riesgos. KEYWORDS: Artificial intelligence, rights, risks. I. La digitalización de lo cotidiano, la sociedad del dato y el internet del valor Desde los años 90 del siglo pasado, Internet cambió nuestras vidas. Se convirtió en la plataforma habitual de libre circulación de la información. Desde ese tiempo, en la Red operan personas, datos y modelos de negocio. En nuestra opinión, su gobierno se fundamenta más en la confianza, que en la protección que dispensan las normas jurídicas específicas. En definitiva, compartimos información que afecta a nuestra esfera jurídica y realizamos negocios en línea, la razón, entendemos, es porque las empresas nos producen confianza, no por las normas que nos protegen; ya que interactuamos por hábitos, ocio, negocios o necesidad. Los ciudadanos se han acostumbrado a la utilización de la tecnología digital en su vida diaria, a la «digitalización de lo cotidiano», produciéndose una interacción constante con la tecnología, las empresas y los prestadores de servicios. Esta interacción se traduce en una gran producción de datos que son utilizados para establecer patrones de comportamiento o 1 Esta publicación se ha elaborado en el marco del Proyecto de Investigación Aplicada UGR — FEDER (C.SEJ.158.UGR23) sobre «Respuestas jurídicas a la protección de los menores en la sociedad digital: Riesgos e inteligencia artificial». 2 su indexación social o económica; y cuyo fin es el consumo por encima de todo. Esto en el mejor de los casos, pues existen otros fines más peligrosos, que conllevan toda una serie de actividades contrarias a los derechos de los ciudadanos. Ha pasado ya mucho tiempo si nos referimos a la Informática como Ciencia, y han sido ya varios los hitos que se han producido, especialmente debemos referirnos: al fenómeno de la Web 2.0, el Internet del valor, la computación en la nube, el Big Data, las tecnologías de registro distribuido (como blockchain y los criptocontratos), la inteligencia artificial, el Internet de las cosas (IoT), la robótica, la revolución industrial 4.0, etc. Por ello, hoy más que nunca necesitamos la unión pacífica entre Ciencia y Derecho. La irrupción de estas tecnologías se está produciendo de manera exponencial a partir de los avances significativos de la ingeniería del hardware y de la ciencia computacional; y muchos hablan ya de tecnologías disruptivas. Es lo que se ha denominado el cambio de modelo o paradigma fundamental. Como expone, refiriéndose a la computación en la nube, Kushida et al., hemos pasado de la computación de la escasez a la computación de la abundancia 2 . Y esta revolución en la Ciencia está acelerando la transformación de los productos, servicios y modelos de negocio, y modificando sustancialmente las Tecnologías de la Información y de las Comunicaciones (TICs) existentes. Pero todo ello tiene sus riesgos. Ya en abril de 2016, la Revista «Investigación y Ciencia», publicó un doble manifiesto que nos informaba sobre los peligros reales de la inteligencia artificial y de la automatización de lo cotidiano. Y fueron visionarios de la tecnología como Musk, Gates y Wozniak, quienes alertaron del peligro para la humanidad llegándola a comparar con las armas nucleares. Como señala Helbing et al., «lo indiscutible es que el modo de organizar la economía y la sociedad sufrirá un cambio fundamental 3 ». De tal manera que las posibilidades de negocio en la Red y las posibilidades de interacción de los ciudadanos con la tecnología se han multiplicado de manera evidente. Ahora bien, de todos los avances que se están produciendo, son blockchain y la inteligencia artificial los que producen o pueden producir mayor repercusión en los derechos de los ciudadanos y los que suscitan mayor problemática. Pues blockchain revolucionará las formas de las relaciones jurídicas y la inteligencia artificial afectará a toda la esfera jurídica de la persona y, en último extremo, nace para ser autónoma respecto de la voluntad humana. Respecto a blockchain, hoy en día, a partir de la criptografía de clave pública y de las redes de registro distribuido, estamos asistiendo a una nueva época, donde el valor y el patrimonio digital es un hecho. Pues pasamos de la confianza como motor de la circulación de la información a la seguridad. De esta forma, ha surgido el denominado «Internet del valor» y la «economía simbólica». Pues es posible realizar actos y negocios jurídicos de forma segura a partir de técnicas criptográficas y redes descentralizadas y distribuidas, donde se prefiere la 2 Kushida, K. E. Murray, J., and Zysman, J., «Cloud Computing: From Scarcity to Abundance». Journal of Industry, Competition and Trade, Vol. 15, núm. 1, 2015, (http://link.springer.com). 3 Helbing, D. et al., «Manifiesto Digital I: ¿Democracia digital o control del comportamiento? Una llamada para garantizar el uso democrático de los macrodatos y de la inteligencia artificial», Revista Investigación y Ciencia, Nº. 475 (2016), pp. 76-83. 3 seguridad frente a la confianza. Como afirma Lee, «se espera que Blockchain sea una tecnología clave que permita nuevos protocolos para el establecimiento de una economía simbólica en el futuro, que conduzca a un nuevo paradigma económico 4 ». Expone Visconti que la economía simbólica está produciendo una ruptura con los modelos comerciales tradicionales, y es una realidad hoy en día en sectores como: las transacciones comerciales, de inmuebles, transporte, comercio electrónico en general, mercado de valores, seguros, préstamos, etc., en definitiva, la transferencia de valor a través de estándares abiertos 5 . El Internet del valor supone, desde el punto de vista jurídico, la seudonimización de las personas y la tokenización de las cosas y servicios. Se trata de un salto cualitativo de lo real a lo simbólico. Pero todo ello tiene sus riesgos. Las tecnologías blockchain pueden afectar muy especialmente a la libertad, en este caso, a la libertad de decidir de manera consciente. En definitiva, a la libertad de contratar y a la libertad contractual, sobre todo en el ámbito del consumo. De esta forma, con la digitalización de lo cotidiano, la libertad de contratar y contractual que se consagró en la vieja Europa con la implantación de las ideas de la Revolución francesa y que se plasmó en la codificación del Derecho civil, desaparece para convertir la voluntad humana en inconsciente y predecible. La igualdad de las partes en la contratación no existe, ni tan siquiera, con la aplicación de la normativa protectora de los consumidores, pues el «cambio de paradigma» afecta a los derechos y libertades más próximos al ser humano. Y la implantación de las tecnologías de registro distribuido y el tratamiento de datos, en cuanto a su aplicación al consumo, afectan fundamentalmente a la libertad individual, pues convierte nuestra conciencia en colectiva. En este sentido, la digitalización de lo cotidiano restringe la libertad y mercantiliza nuestra vida privada. El problema es que el consumidor lo asume como algo habitual y normal, pues, hemos aprendido a convivir con ello. En la actualidad, las normas jurídicas no nos dan repuestas a este problema, pues un mayor control estatal o una mayor información, la supervisión de la publicidad, etc., no es suficiente. Es necesario que el uso de blockchain y los contratos inteligentes esté asociado a un marco normativo específico. Hemos entendido necesario introducir la realidad actual del Internet del valor y de la economía simbólica para poder situar el verdadero objeto de esta investigación, cual es los riesgos de la inteligencia artificial respecto de los derechos de los ciudadanos, pues, no pasará mucho tiempo para que estas tecnologías se unan de forma inseparable. II. Disrupción tecnológica y protección jurídica La cuestión es si los sistemas de Derecho, tan arraigados en la Historia, se van a adaptar sobre las bases y fundamentos actuales o, por el contrario, se va a ir adoptando sistemas 4 Lee, J. Y., «A decentralized token economy: How blockchain and cryptocurrency can revolutionize business», Business Horizons, Volume 62, Issue 6, November-December 2019. https://doi.org/10.1016/j.bushor.2019.08.003 5 Visconti, R., «Blockchain Valuation: Internet of Value, digital networks and smart transactions», Project: valuation of web assets (domain names — websites — digital brands — M-Apps), 2019, pp. 3-5. 4 jurídicos disruptivos, ¿por qué no? En este sentido, el uso de la inteligencia artificial y de blockchain debe acompañarse con el establecimiento de un marco ético y jurídico apropiado, como han reiterado los diferentes documentos, al respecto, publicados por las Instituciones de la Unión Europea y la dogmática jurídica. ¿Será el reciente Reglamento Europeo que regula la inteligencia artificial la solución? Este es un debate que requiere un estudio mucho más profundo. En este sentido, la discusión sobre la regulación de la inteligencia artificial en la Unión Europea comenzó con un enfoque en la necesidad de un marco legal que garantizara una IA «centrada en el ser humano». Esto se vinculó a los valores fundamentales de la Unión Europea, como la protección de los derechos fundamentales y la privacidad a partir de los postulados de la Carta de los Derecho Fundamentales (2010). Ya, desde 2017, el Consejo de la Unión Europea pidió repetidamente la adopción de normas comunes sobre IA. En 2020, solicitó a la Comisión que presentara propuestas concretas basadas en un enfoque regulador proporcional y basado en riesgos. En 2019 se publicaron directrices no vinculantes para el uso confiable de la IA, elaboradas por un grupo de expertos de alto nivel. Estas directrices establecieron principios para garantizar que la IA respete los derechos fundamentales y que sus usos sean transparentes, seguros y responsables. Como hito importante, en 2020 se publica el «Libro Blanco sobre la Inteligencia Artificial». En este documento clave, la Comisión Europea propuso una estrategia para fomentar la adopción de la IA y, al mismo tiempo, abordar los riesgos asociados con ciertos usos de la tecnología. La Comisión se comprometió a promover una IA confiable y segura, proponiendo normas armonizadas en toda la UE para el desarrollo y uso de sistemas de IA. En el mismo año, la Comisión lanzó una consulta pública sobre la regulación de la IA, que fue seguida por una evaluación de impacto. En dicha evaluación, se identificaron problemas clave asociados a la IA, como la opacidad de los sistemas, su complejidad y la dependencia de grandes cantidades de datos. Destacamos la Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL)), en cuyo título III, dispone sobre los principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas, se basa en los siguientes principios: – Una inteligencia artificial, una robótica y unas tecnologías conexas antropocéntricas, antropogénicas y controladas por seres humanos; – Evaluación de la conformidad obligatoria de la inteligencia artificial, la robótica y las tecnologías conexas de alto riesgo; – Seguridad, transparencia y rendición de cuentas; – Salvaguardias y vías de recurso contra el sesgo y la discriminación; 5 – Derecho de resarcimiento; – Responsabilidad social e igualdad de género en la inteligencia artificial, la robótica y las tecnologías conexas; – Una inteligencia artificial, una robótica y unas tecnologías conexas ambientalmente sostenibles; – Respeto de la intimidad y restricciones al uso del reconocimiento biométrico; – Buena gobernanza relativa a la inteligencia artificial, la robótica y las tecnologías conexas, incluidos los datos utilizados o producidos por dichas tecnologías. Fue en abril de 2021 cuando la Comisión Europea propuso la primera regulación de la IA, se trataba de la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecían normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial 6 ). El mismo fue publicado el 12 de julio de 2024 con la denominación «Reglamento de Inteligencia Artificial 7 ». En términos generales, su finalidad es: «promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, “sistemas de IA”) en la Unión, así como prestar apoyo a la innovación 8 ». Y se dirige tanto a los proveedores de sistemas de IA, cualquiera que sea su ubicación, como a los prestadores de servicios que ponga en funcionamiento o desplieguen dichos sistemas 9 . III. La inteligencia artificial generativa y/o frontera 6 COM/2021/206 final. 7 Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial). 8 Reglamento Europeo IA, Art. 1. Reglamento Europeo IA, Considerando (1): «(…) promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea». 9 Reglamento Europeo IA, Considerando (21): «Con el objetivo de garantizar la igualdad de condiciones y la protección efectiva de los derechos y libertades de las personas en toda la Unión, las normas establecidas en el presente Reglamento deben aplicarse a los proveedores de sistemas de IA sin discriminación, con independencia de si están establecidos en la Unión o en un tercer país, y a los responsables del despliegue de sistemas de IA establecidos en la Unión». 6 Las ciencias en general permiten interpretar la vida real de forma conceptual, a partir de la observación. La inteligencia artificial, por su parte, a partir de acciones de la vida cotidiana, reconstruye y predice la realidad a partir de modelos o patrones. Su origen siempre son los datos. Su fin, la predicción sobre nuevas realidades. La inteligencia artificial no tiene como fin ser mecánica, sino creadora, como expone Hui, «la inteligencia emerge cuando este [algoritmo] deja de ser mecánico, es decir, cuando adquiere la capacidad de lidiar con accidentes que no están grabados como reglas». Y a partir de hechos empíricos es capaz de crear reglas no prefijadas, es decir que no se limita a aplicar lo universal a lo particular 10 . Constituye sin duda un riesgo el rasgo de la creatividad de la inteligencia artificial, porque la creación está reservada al sujeto individual a través del conocimiento y la voluntad humana. En la actualidad, en el comercio digital y en los procesos de toma de decisiones en las relaciones comerciales entre clientes y empresas, la inteligencia artificial está desempeñando un papel cada vez más relevante, fundamentalmente mediante técnicas de aprendizaje automático (Machine Learning) o profundo (Deep Learning, redes neuronales); además de los nuevos modelos como las IA generativas y/o las IA frontera, basados en el procesamiento de imágenes, sonidos o del lenguaje natural (LLMs), cuya máximos exponentes son GPT-o.3 (modelo de razonamiento), GEMINIS 2.0, CLAUDE 3.5, etc. La inteligencia artificial surge con la finalidad de ser autónoma respecto de la voluntad humana; por ello, en la actualidad, se ha producido un gran avance con las IA generativas. En general, se caracterizan por que producen soluciones basadas en los datos de entrenamiento, pero sin ser copia exacta de los mismos, de ahí la generación. Los modelos son, generalmente, las redes generativas adversarias (GANs), los autorregresivos y las redes de codificación variacional (VAEs). Igualmente asistimos al desarrollo teórico de la Superinteligencia Artificial (ASI) que es un concepto que se refiere a una forma de inteligencia artificial que supera la capacidad intelectual de los seres humanos en prácticamente todos los campos como: la creatividad, la toma de decisiones, la resolución de problemas complejos, el aprendizaje autónomo y la interacción social; lo cual puede producir graves problemas éticos y jurídicos, por un lado, y de seguridad por otro. Los llamados sistemas LLM (Large Language Models) son modelos que han sido entrenados con grandes cantidades de datos (textos, imágenes, etc.), utilizan redes neuronales profundas, generalmente mediante la denominada arquitecturas transformers, desarrolladas por Google. Fue en 2017, cuando Vaswani et al., publicaron el artículo «Attention is All You Need 11 », pero en 2018 es cuando se produce un hito importante, Radford et al., de la compañía OpenAI, publicaron la investigación «Improving Language Understanding by Generative Pre-Training»; lo cual suponía un avance significativo, pues dio la luz GPT (Generative Pre-trained Transformer). Hasta esa fecha, el procesamiento del 10 Hui, Y., «Sobre el límite de la inteligencia artificial. Un repaso a las teorías sobre inteligencia e inteligencia artificial, desde la tradición filosófica occidental y el neoconfucianismo», CCCBLAB, Investigación e Innovación en Cultura, sep. 2020, (http://lab.cccb.org/es/sobre-el-limite-de-la-inteligencia-artificial/). 11 Cfr. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I., «Attention is All You Need», 2017, arXiv:1706.03762 (https://arxiv.org/abs/1706.03762). 7 lenguaje natural tenía un problema, la necesidad de etiquetar grandes cantidades de datos. Por contra, la empresa OpenAI encontró mucho mejor rendimiento a partir de un preentrenamiento de grades cantidades de texto sin etiquetar (no supervisado), seguido de un ajuste fino (Fine-Tuning), ya si, con datos etiquetados, para tareas específicas, en contextos mucho más reducidos. La importancia de estos modelos es que son capaces de generar nuevo contenido, a partir del pre-entrenamiento, donde el modelo aprende patrones de lenguaje y probabilidades de secuencia, mecanismos de atención (transformer) y codificación posicional. A partir de ahí, los usuarios producen una entrada inicial (Prompt) o secuencia de texto y el modelo produce una predicción auto-regresiva generando palabra a palabra (tokens) y lenguaje coherente y contextual 12 . En la actualidad, el origen no solo son textos, sino que pueden ser imágenes, audios, vídeos (multi-modal), lo que puede producir salidas en dichos formatos (multi-tarea). Como ya hemos expuesto, los modelos son, generalmente, las redes generativas adversarias (GANs), los auto-regresivos y las redes de codificación variacional (VAEs). Las GANs consisten en dos redes neuronales, una llamada generadora y otra llamada discriminadora. La red generadora intenta crear datos (como lenguaje o imágenes) mientras que la discriminadora intenta determinar si los datos generados son reales o falsos. A través de múltiples iteraciones de entrenamiento, la generadora mejora su habilidad para crear datos que parezcan reales. A dicha arquitectura se le une los transformers y, aunque no siempre, la IA por refuerzo. En definitiva, a medida que las redes neuronales se entrenan en más y más datos, y a medida que se ajustan y perfeccionan los modelos, su capacidad para generar contenido de apariencia real aumenta. Ahora bien, existe en la comunidad científica una profunda preocupación sobre los nuevos avances en el campo de la inteligencia artificial y su necesidad de regulación. Se le ha denominado inteligencia artificial «frontera» porque están en el límite del conocimiento humano por su alta capacidad de razonamiento, lo cual puede suponer un peligro para el propio ser humano 13 . Según Anderljung et al., la IA frontera son modelos de vanguardia altamente avanzadas y peligrosas; y son considerados como una amenaza para la seguridad pública, ya sea por su uso indebido o por accidentes no previstos. En general son las tecnologías IA de alta capacidad más novedosas, como los modelos de lenguaje generativo, la IA en la medicina, tecnologías de conducción autónoma, reconocimiento facial avanzado, etc. Una de las primeras cuestiones que pueden plantearse es dónde están los límites para poder determinar que una IA frontera o avanzada pueda ser peligrosa. Anderljung et al., proponen algunas circunstancias que pueden ser peligrosas: como que personas no expertas puedan 12 Por todo, Radford A., Narasimhan K., Salimans T., Sutskever I., «Improving Language Understanding by Generative Pre-Training», OpenAI, 2018 (https://cdn.openai.com/research-covers/languageunsupervised/language_understanding_paper.pdf). – Radford, A., Wu, J., Child, R., et al. «Language Models are Unsupervised Multitask Learners», OpenAI, 2019 (https://cdn.openai.com/better-languagemodels/language_models_are_unsupervised_multitask_learners.pdf). – Raffel, C., et al. «Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer», 2019, arXiv:1910.10683 (https://arxiv.org/abs/1910.10683). 13 Un ejemplo reciente es el modelo OpenAI Chatgpt o.1. 8 diseñar sin esfuerzo armas biológicas o químicas, propagar desinformación a los ciudadanos, ataques cibernéticos o evitar el control humano de las IA 14 . Pero más allá de algunos ejemplos, podemos sintetizar las áreas de riesgo de estas IA avanzadas: – Igualdad, derechos y justicia. – Libertad y autonomía. – Información. – Privacidad. – Responsabilidad. – Ocupación laboral y derechos de los trabajadores. – Seguridad. – Singularidad y control. Igualmente asistimos al desarrollo teórico, no en la práctica, de la Super-inteligencia Artificial (ASI) que es un concepto que se refiere a una forma de inteligencia artificial que supera la capacidad intelectual de los seres humanos en prácticamente todos los campos como: la creatividad, la toma de decisiones, la resolución de problemas complejos, el aprendizaje autónomo y la interacción social; lo cual puede producir graves problemas éticos y jurídicos, por un lado, y de seguridad, por otro. Sobre la calificación jurídica de estos modelos de IA, a la luz del Reglamento Europeo, los «Sistemas IA» pueden 15 ser considerados como «de uso general», aunque estos últimos se diferencian de los primeros por su capacidad funcional, en particular la generalidad y la capacidad de realizar de manera competente una amplia variedad de tareas diferenciadas 16 . 14 Por todo, Anderljung, M. et. al., «Frontier AI Regulation: Managing Emerging Risks to Public Safety», Computers and Society (cs.CY); Artificial Intelligence (cs.AI) (https://arxiv.org/abs/2307.03718), pp. 6 y 7. 15 Reglamento Europeo IA, Art. 3.1): «un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtual». 16 Reglamento Europeo IA, Considerando (97): «El concepto de modelos de IA de uso general debe definirse claramente y diferenciarse del concepto de sistemas de IA con el fin de garantizar la seguridad jurídica. La definición debe basarse en las características funcionales esenciales de un modelo de IA de uso general, en particular la generalidad y la capacidad de realizar de manera competente una amplia variedad de tareas diferenciadas». 9 En general, los sistemas de IA de uso general pueden utilizarse como sistemas de IA de alto riesgo por sí solos o ser componentes de sistemas de IA de alto riesgo 17 . Y la IA generativa son un ejemplo de los modelos de IA de uso general 18 . Del mismo modo, los sistemas IA de uso general podrán ser considerados de riesgo sistémico, considerándose como: «un riesgo específico de las capacidades de gran impacto de los modelos de IA de uso general, que tienen unas repercusiones considerables en el mercado de la Unión debido a su alcance o a los efectos negativos reales o razonablemente previsibles en la salud pública, la seguridad, la seguridad pública, los derechos fundamentales o la sociedad en su conjunto, que puede propagarse a gran escala a lo largo de toda la cadena de valor 19 ». En este sentido, El Reglamento Europeo IA determina esta condición cuando 20 : a) tiene capacidades de gran impacto evaluadas a partir de herramientas y metodologías técnicas adecuadas, como indicadores y parámetros de referencia; b) con arreglo a una decisión de la Comisión, adoptada de oficio o a raíz de una alerta cualificada del grupo de expertos científicos, tiene capacidades o un impacto equivalente a los establecidos en la letra a), teniendo en cuenta los criterios establecidos en el anexo XIII 21 . Respecto a las obligaciones de los proveedores de sistemas IA de uso general, el Reglamento Europeo IA, refiere toda clase de obligaciones de información, documentación y transparencia 22 . Si bien, cuando se traten de los calificados como de riesgo sistémico, tendrán 17 Reglamento Europeo IA, Considerando (85). 18 Reglamento Europeo IA, Considerando (99): «Los grandes modelos de IA generativa son un ejemplo típico de un modelo de IA de uso general, ya que permiten la generación flexible de contenidos, por ejemplo, en formato de texto, audio, imágenes o vídeo, que pueden adaptarse fácilmente a una amplia gama de tareas diferenciadas». 19 Reglamento Europeo IA, Art. 3.65). 20 Reglamento Europeo IA, Art. 51. 21 Reglamento Europeo IA, Anexo XIII: «(…) criterios: a) el número de parámetros del modelo; b) la calidad o el tamaño del conjunto de datos, por ejemplo medidos a través de criptofichas; c) la cantidad de cálculo utilizada para entrenar el modelo, medida en operaciones de coma flotante o indicada con una combinación de otras variables, como el coste estimado del entrenamiento, el tiempo estimado necesario o el consumo de energía estimado para el mismo; d) las modalidades de entrada y salida del modelo, como la conversión de texto a texto (grandes modelos de lenguaje), la conversión de texto a imagen, la multimodalidad y los umbrales punteros para determinar las capacidades de gran impacto de cada modalidad, y el tipo concreto de entradas y salidas (por ejemplo, secuencias biológicas); e) los parámetros de referencia y las evaluaciones de las capacidades del modelo, también teniendo en cuenta el número de tareas sin entrenamiento adicional, la adaptabilidad para aprender tareas nuevas distintas, su nivel de autonomía y capacidad de ampliación y las herramientas a las que tiene acceso; f) si sus repercusiones para el mercado interior son importantes debido a su alcance, lo que se dará por supuesto cuando se haya puesto a disposición de al menos 10 000 usuarios profesionales registrados establecidos en la Unión; g) el número de usuarios finales registrados». 22 Reglamento Europeo IA, Art. 53. 16 Radford A., Narasimhan K., Salimans T., Sutskever I., «Improving Language Understanding by Generative Pre-Training», OpenAI, 2018 (https://cdn.openai.com/researchcovers/language-unsupervised/language_understanding_paper.pdf). Radford, A., Wu, J., Child, R., et al. «Language Models are Unsupervised Multitask Learners», OpenAI, 2019 (https://cdn.openai.com/better-languagemodels/language_models_are_unsupervised_multitask_learners.pdf). Raffel, C., et al. «Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer», 2019, arXiv:1910.10683 (https://arxiv.org/abs/1910.10683). Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I., «Attention is All You Need», 2017, arXiv:1706.03762 (https://arxiv.org/abs/1706.03762). Visconti, R., «Blockchain Valuation: Internet of Value, digital networks and smart transactions», Project: valuation of web assets (domain names — websites — digital brands — M-Apps), 2019, pp. 3-5.