El abordaje de ChatGPT: el “rinoceronte gris” de la IA conversacional

El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional1 THE CHATGPT APPROACH: THE “GREY RHINO” OF CONVERSATIONAL IA María Dolores García Sánchez Universidad de Sevilla [email protected] 0000-0002-1074-7509 Recibido: 09 de mayo de 2023 | Aceptado: 12 de junio de 2023 RESUMEN PALABRAS CLAVE Desde que hizo su aparición en noviembre de 2022, ChatGPT ha ocupado la atención tanto de medios en línea como tradicionales. Un “rinoceronte gris” que venía dando signos de su presencia en las últimas décadas, pero que no ha sido ni atendido ni abordado adecuadamente antes de convertirse en una realidad. Esta laguna ha propiciado diferentes reacciones ante un modelo que, si bien puede ser útil en determinados contextos y haciendo un uso responsable del mismo, no se haya exento de riesgos. En el presente estudio, examinaremos el estado de la cuestión del fenómeno de ChatGPT en diferentes entornos –Italia, España y la Unión Europea– con la finalidad de apreciar la apremiante necesidad de contar con unas líneas básicas regulatorias para que una IA de este tipo pueda implementarse en el mercado sin atentar contra los derechos fundamentales de los usuarios y minimice los potenciales peligros inherentes a su uso. ChatGPT Inteligencia Artificial Chatbot Derechos fundamentales Reglamento IA Protección de datos ABSTRACT KEYWORDS Since its emergence in November 2022, ChatGPT has captured the attention of both online and traditional media. A “gray rhino” that had been showing signs of its presence in recent decades, but was neither adequately addressed nor approached before becoming a reality. This gap has led to different reactions towards a model that, although it can be useful in certain contexts with responsible use, is not without risks. In this study, we will examine the status of the issue of the ChatGPT phenomenon in different environments - Italy, Spain, and the European Union - with the aim of appreciating the urgent need for basic regulatory guidelines to allow for the implementation of such AI in the market without infringing upon the fundamental rights of users and minimizing the potential risks inherent in its use. ChatGPT Artificial Intelligence Chatbot Fundamental rights AI Regulation Data protection 1. El presente estudio se enmarca en el Proyecto de Investigación “Biomedicina, Inteligencia Artificial, Robótica y Derecho: los Retos del Jurista en la Era Digital” (PID2019-108155RB-I00). IUS ET SCIENTIA 2023 • Vol. 9 • Nº 1• ISSN 2444-8478 https://editorial.us.es/es/revistas/ius-et-scientia https://dx.doi.org/10.12795/IETSCIENTIA • © Editorial Universidad de Sevilla 2023 CC BY-NC-ND 4.0. https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 • pp. 46-68 I. Introducción El desarrollo de la Inteligencia Artificial (IA) ha experimentado en las últimas décadas un desarrollo exponencial sin precedentes y se encuentra cada vez más presente en nuestra vida cotidiana. Si bien es cierto que la IA venía siendo una reincidente en las noticias, el 30 de noviembre de 2022 tuvo lugar el lanzamiento de uno de los productos tecnológicos con mayor crecimiento de la historia: ChatGPT2. Desde entonces, no deja de acaparar la atención de medios tanto tradicionales como digitales. El fenómeno de ChatGPT ha vuelto a poner sobre la mesa los efectos tanto positivos como negativos del empleo de este tipo de herramientas por parte de la sociedad, así como las ambivalentes opiniones de la ciudadanía y diversos sectores: los que la consideran como el mejor chatbot creado hasta la fecha y presentado al público general (Roose, 2022) y los que lo aprecian como la más catastrófica creación, prediciendo incluso efectos dramáticos para los sistemas democráticos (Cowen, 2022). En cualquier caso, lo que no puede obviarse es que nos encontramos ante una tecnología que tiene y tendrá un gran impacto y, de no ser abordada y regulada adecuadamente, puede implicar unos riesgos relevantes para el conjunto de la sociedad. Estamos ante un fenómeno conocido metafóricamente como “rinoceronte gris”3, que ha venido dando señales de su inminente presencia y manifestación en las últimas décadas (Ruíz Arébalo, 2022). En efecto, como consecuencia del imparable y exponencial avance en los últimos años de la IA, en general, y de los chatbots, en particular, una tecnología de tal magnitud podía encontrarse perfectamente sobre la mesa4. Pero lo cierto es que la eventualidad de una Inteligencia Artificial Conversacional –IAC– de este calibre no ha sido atendida5 y ha acabado convirtiéndose en una realidad que, los diferentes 2. En los primeros 5 días alcanzó un millón de usuarios. Vid., ChatGPT logró, en sólo cinco días, obtener un millón de usuarios (27 de febrero de 2023). Recuperado de https://www.eleconomista.com.mx/tecnologia/ChaGPT-logro-en-solo-cinco-dias-obtener- un-millon-de-usuarios-20230227-0020.html 3. Un “rinoceronte gris” es una metáfora para describir aquellas situaciones de extremo riesgo que se sabe que son posibles o incluso probables de suceder, pero que se descartan o pasan por alto. Son eventos probables que tienen impactos potencialmente catastróficos, pero siempre con un elemen- to de incertidumbre. El término fue ideado por la analista Michele Wucker en la cumbre de Davos de 2013 y desarrollado en su obra The gray rhino: how to recognize and act on the obvious dangers we ignore, en contraposición al concepto de “cisne negro”, apuntalado por Nassim Taleb, para describir situaciones de alto riesgo e impacto imposibles de anticipar y que cambian por completo nuestro paradigma (como por ejemplo el 11-S). 4. El mercado de chatbots se valoró en 525.7 millones de dólares en 2021 y, actualmente, se espera que alcance un valor de 3.99 millones de dólares en 2030. Esto representa una tasa de crecimiento anual compuesto –CAGR– de alrededor del 25.7 %. Vid., Grand view research (2023), Chatbot Market Size, Share & Trends, Analysis Report By Application (Customer Services, Branding & Advertising), By Type, By Vertical, By Region (North America, Europe, Asia Pacific, South America), And Segment Forecasts, 2023 – 2030. https://www.grandviewresearch.com/industry-analysis/chatbot-market 5. O una respuesta muy débil pues, cuando ChatGPT fue presentado al mundo, únicamente contábamos con una propuesta de Reglamento Europeo sobre IA y disposiciones genéricas en materia IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 47 países e instituciones desconocen cómo abordar adecuadamente. Prohibirlas, a nuestro juicio, de nada sirve, pues no sería más que un torpe intento de frenar un tsunami que ya ha comenzado. A la vista de lo anterior, en el presente estudio examinaremos determinadas reacciones en diferentes entornos a este fenómeno de ChatGPT. Pero primero, nos detendremos brevemente en perfilar su funcionamiento para, después, poner de relieve sus riesgos más relevantes. II. Ideas básicas sobre el funcionamiento de ChatGPT Diseñado por la empresa OpenAI6, se trata de un prototipo de chatbot inteligente, manifestación de la IAC, esto es, aquellas que utilizan un conjunto de datos recopilados y estructurados por programadores de software para crear bases de datos que alimentan y capacitan a los sistemas con un repertorio de posibles preguntas y respuestas que intercambian con los usuarios (Rodríguez Spinelli, 2022, p.95). Los sistemas de chatbots se basan en grandes modelos lingüísticos, esto es, una técnica de aprendizaje automático7 que utiliza una ingente cantidad de textos disponibles para aprender patrones y generar nuevos textos a partir de ellos. En otros términos, estos modelos calculan qué palabra es más probable que vaya a continuación, en relación a un conjunto de ellas o una frase y, mediante este sistema, son capaces de generar frases, párrafos e incluso páginas completas en relación a lo consultado por un usuario (Shah, 2023). Más concretamente, este chatbot ha sido desarrollado empleando la tecnología Generative Pre-trained Transformer 3 (GPT-3), un modelo de lenguaje que utiliza aprendizaje profundo (deep learning) y es capaz de genera un texto similar al humano, pudiendo incluso mantener una conversación realista. Pero no es solo capaz de producir texto: también crea códigos de computación, historias, poemas, discursos, guiones de teatro, ensayos… Lo que hace la aplicación es recoger información y datos de millones de sitios web a partir de textos estructurados (data scraping o web scraping)8 para generar nuevos contenidos que, en apariencia, son tan coherentes como si los hubiese escrito una persona (Alonso-Arévalo y Quinde-Cordero, 2023, p.137). de protección de datos. Una normativa – y proyecto de normativa– aún insuficientes para atender a una tecnología de este calado. 6. Esta compañía de investigación de IA que se anuncia como sin ánimo de lucro, fue fundada en octubre de 2015 por Elon Musk, Sam Altman y otros inversores. 7. El aprendizaje automático o machine learning conforma un subconjunto de IA que permite a un sistema mejorar y aprender de forma autónoma a través de redes neuronales y aprendizaje profundo (deep learning), sin tener que ser programado explícitamente y con un contacto humano mínimo o nulo. 8. Recibe esta denominación el proceso de recopilación y extracción de contenidos y datos de Internet de manera automática. Esto puede ser muy lesivo para la privacidad o para la información que ya estuviera colgada. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 48 Todo ello, a través de un sencillo proceso gratuito9 de registro que nos dirige a una interfaz que sigue el modelo imperativo, donde el usuario plantea una petición y el sistema devuelve un resultado en un contexto multilingüe (García-Peñalvo, 2023, p.2) y omnipresente -24 horas al día, 7 días a la semana–, lo que posibilita una retroalimentación rápida y simultánea. Lo que singulariza a ChatGPT del resto de chatbots es el elevado número de parámetros que han sido empleados en su entrenamiento. En concreto, dispone de más de 175.000 millones de parámetros10 y constituye uno de los modelos más grandes entrenados hasta la fecha11, y el mayor abierto al público mundial (Maslej et al., 2023). No obstante, cuantos más parámetros tenga un modelo, más datos se necesitarán para entrenarlo. De acuerdo con sus creadores, el modelo GPT-3 ha sido entrenado con 45TB de datos de texto procedentes de múltiples fuentes hasta septiembre de 2021. Es decir, el modelo actual de ChatGPT puede hacernos una redacción sobre el descubrimiento de América, pero no va a poder decirnos quien ganó Eurovisión en 2022. De hecho, si le hacemos esa pregunta nos contestará: Lo siento, pero como modelo de lenguaje, mi conocimiento se detiene en septiembre de 2021 y no tengo acceso a información en tiempo real. Según mi información más reciente, no puedo proporcionarte el resultado de Eurovisión en 2022. Te sugiero consultar fuentes confiables de noticias o buscar en Internet para obtener la información más actualizada sobre el ganador de Eurovisión en 2022. 9. En la actualidad, existe también ChatGPT Plus, la versión de pago de ChatGPT. A diferencia de la versión gratuita, la de pago dispone de un motor diferente: GPT-4, más avanzado. En nuestro estudio, no obstante, nos centraremos en la versión gratuita pues, precisamente por su libertad de acceso, es previsible que la disrupción social y los potenciales riesgos lleguen a ser mayores. 10. “Los parámetros son valores numéricos que emplean los modelos de aprendizaje automático durante el entrenamiento. El valor de los parámetros en los modelos de aprendizaje automático determina cómo puede interpretar los datos de entrada y predicciones. (...) A lo largo del tiempo, ha habido un incremento constante en el número de parámetros, que se ha hecho especialmente pronunciado desde principios de la década de 2010. El hecho de que los sistemas de IA aumenten rápidamente sus parámetros refleja la creciente complejidad de las tareas que se les pide que realicen, la mayor disponibilidad de datos, los avances en el hardware subyacente y, lo que es más importante, el rendimiento de los modelos más grandes” –traducción propia– Vid., Maslej, et al., 2023, p. 54. 11. Para dotar estos datos de contexto, de acuerdo con el Artificial Intelligence Index Report de 2023, GPT-2, lanzado en 2019, considerado por muchos como el primer gran modelo lingüístico, tenía 1.500 millones de parámetros y su entrenamiento costó unos 50.000 dólares. ChatGPT, solo es superado en la actualidad por PaLM (Pathways language model), la IA desarrollada por Google –e integrado en su bot conversacional Google Bard– para hacer frente a OpenAI. PaLM ha sido entrenada con un cuerpo de 540 millones de parámetros. Pero, a diferencia de Chat GPT que es de libre acceso y, por tanto, con un potencial mayor de incidencia en la población por la universalización de su uso, Google Bard no es accesible en todos los países (como es el caso de España, donde aún no se encuentra disponible). Nos encontramos ante el claro ejemplo de cómo el entrenamiento y capacidad de estos chatbots crece de manera exponencial en cuestión de meses. Íbidem p. 60. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 49 Asimismo, tampoco es posible pedirle que elabore un razonamiento, puesto que no se halla programado para tal finalidad12 y carece de la capacidad para discriminar la información cierta de la que no lo es (lo que origina no pocas situaciones en las que la respuesta a la petición del usuario es incorrecta). A pesar de que, como hemos indicado previamente, la interfaz de este modelo puede llevar a cabo interacciones que le permiten ir construyendo palabras para mantener una conversación similar a un ser humano, es evidente que la comprensión de las expresiones naturales y los matices del lenguaje pueden ser difíciles de interpretar para un sistema de IA. Entonces, ¿cómo se logra este comportamiento y comunicación cuasihumana del chatbot? Pues bien, para conseguirlo, los desarrolladores de ChatGPT emplearon, al igual que en otros chatbots existentes en el mercado, varios principios de lenguaje: —El procesamiento del Lenguaje Natural (NLP, por las siglas en inglés Natural Language Processing). Se trata de un área de la IA que explora la manipulación de textos de lenguaje natural o discursos por parte de los ordenadores. De esta forma, el conocimiento de la comprensión y uso del lenguaje humano se reúne para desarrollar técnicas que permitan a estos sistemas comprender y manipular expresiones naturales para llevar a cabo las tareas deseadas. En concreto, la mayoría de las técnicas de NPL están basadas en machine learning (Adamopoulou y Moussaiadesm, 2020, p. 377). —La comprensión del Lenguaje Natural (NLU, por las siglas en inglés, Natural Language Understanding). Conforma el núcleo de cualquier tarea de NLP. Su objetivo es extraer contexto y significado de las entradas del usuario en lenguaje natural. De esta forma, se identifica su intención y se extraen entidades específicas de dominio. Más concretamente, una intención representa una correspondencia entre lo que un usuario dice y la acción que debe realizar el chatbot. Por su parte, las acciones corresponden a los pasos que dará el chatbot cuando el usuario introduzca intenciones específicas y pueden tener parámetros para especificar información detallada sobre ellas (Adamopoulou y Moussaiadesm, 2020, p. 377). En otras palabras, se trata de la parte en la que el chatbot trata de comprender el significado de lo que quiere el usuario apoyándose en algoritmos, reglas, bases de datos y temas internos, que indicarán cual es la manera correcta de contestar. —La Generación de Lenguaje Natural –NLG, por las siglas inglesas Natural Language Generation-, esto es, la construcción de una contestación consultando los repositorios de datos para ofrecer una respuesta adecuada a un fin específico (Wigmore, 2023). 12. Como sí sería el caso de PaLM. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 50 Los procedimientos anteriores posibilitan a la herramienta, además de humanizar su interacción con los usuarios, contextualizar lo que estos preguntan y poder continuar una conversación, puesto que “recordará” la información previamente proporcionada y la tendrá en cuenta en sus futuras interacciones. En esta línea, otro aspecto que hace destacar a ChatGPT del resto de tecnologías hasta la fecha, es su habilidad para manejar los feedbacks de las respuestas y revisarlas sobre la marcha (Pearl, 2022). En definitiva, nos encontramos ante un sistema al que es posible preguntar cualquier cosa susceptible de ser contestada mediante un texto y que, a diferencia del buscador de Google, no nos proporcionará un listado de enlaces en los que puede hallarse contenida la información que buscamos, sino que dará una respuesta concreta a nuestra petición. Incluso cabe pedirle que module el tono de su respuesta, haciéndolo más informal, profesional o solemne en función de las demandas del usuario. Las posibilidades de lo que podemos solicitarle a ChatGPT son casi infinitas, como también lo son sus usos y, por esta misma razón, la incidencia real de sus potenciales riesgos es sumamente difícil de predecir. III. Retos y riesgos de ChatGPT No obstante las múltiples ventajas que el uso de este sistema puede suponer para el usuario –en términos de ahorro de tiempo y esfuerzo a la hora de cribar multitud de datos u obtener una respuesta precisa a una petición determinada-, hemos de tener presente que su uso debe venir revestido de numerosas cautelas derivadas de su principales riesgos. Tanto es así, que es la propia herramienta la que nos informa de sus mayores limitaciones en la pantalla principal desplegada para introducir la petición concreta. 3.1. Información incorrecta y sesgos En particular, nos advierte que “puede ocasionalmente generar información incorrecta” y “producir instrucciones dañinas o contenido sesgado”. En cuanto a la primera de ellas, en la propia política de privacidad de OpenAI13se previene expresamente del riesgo de inexactitud de los datos recabados de Internet14 en las contestaciones proporcionadas por la herramienta. En este sentido, se informa de que, en ciertos casos –dado que el servicio genera respuestas leyendo la solicitud de 13. OpenAI (27 de abril de 2023), Política de privacidad, https://openai.com/policies/privacy-policy 14. Sobre este particular, en el campo que nos ocupa (el derecho español), la herramienta es particularmente imprecisa. En primer lugar, dado que su entrenamiento llega hasta 2021, no podremos preguntarle por reformas legislativas posteriores a dicha fecha. Pero, además, cuenta con grandes vacíos desde el punto de vista de los pronunciamientos jurisprudenciales, con respecto a los cuales se encuentra tremendamente desactualizada. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 51 un usuario y prediciendo las siguientes palabras que podrían aparecer en la réplica con mayor probabilidad-, los términos más probables pueden no ser los más exactos. Por ello, insta a no confiar en la exactitud de los resultados de sus modelos. Del funcionamiento con el que opera este modelo lingüístico también se deriva que no sea capaz de entender las premisas incorrectas de una pregunta y termine respondiendo, de todos modos, a cuestiones erróneas. Por ejemplo, si le preguntamos “¿Qué recurso no devolutivo puede interponerse ante una sentencia firme en Derecho español?”, nos responderá –tomando como base la premisa (errada) de nuestra pregunta-, que “el recurso no devolutivo que puede interponerse ante una sentencia firme es el recurso extraordinario de revisión”. Respuesta que, como sabemos, no es correcta, pues si bien es cierto que el recurso de revisión puede interponerse frente a sentencias firmes, este es un recurso devolutivo. Por esta razón, un uso responsable de la herramienta pasaría por contrastar y verificar, en otros sitios webs confiables adicionales y/o con bibliografía específica, los resultados proporcionados. Asimismo, para minimizar la posibilidad de obtener respuestas incorrectas, sería conveniente dotar nuestras peticiones de un contexto claro y preciso (prompt) pues, si el mismo es ambiguo o escaso, el programa puede interpretar la petición de diferentes maneras y, como resultado, generar una contestación que no sea certera. Otro riesgo importante es la aportación de contenido sesgado. En efecto, como ya hemos precisado, ChatGPT ha sido entrenado con multitud de datos procedentes de Internet, los cuales pueden contener información inconsistente, incompleta o incorrecta, reflejando sesgos inherentes en este contenido15. Esto implica que las respuestas generadas por el modelo pueden reflejar prejuicios implícitos en el texto con el que ha sido entrenado, tales como sesgos raciales, de género o culturales. Lo expuesto lleva aparejado el riesgo de arraigar conceptos o ideas errados o fomentar un pensamiento sesgado. De esta forma, se facilita la implantación de patrones silenciosos de discriminación sistemática que pasen inadvertidos para la mayoría de las personas, desconocedoras de estos peligros. Con el fin de paliar las limitaciones puestas de manifiesto, el cuidado tanto de la precisión como de la objetividad de los datos que se introducen en el modelo algorítmico reviste suma importancia16. Y, no solo para agregar valor a los sistemas y procedimientos que los incorporan, sino, fundamentalmente, para asegurar que sean lo más correcto posibles a la hora de abordar temas sensibles amparados por derechos fundamentales: la dignidad de las personas, el derecho a la privacidad y la prohibición de cualquier tipo 15. Es lo que se conoce con la denominación de dirty data. 16. Por esta razón, la Resolución del Parlamento Europeo sobre las implicaciones de los macrodatos en los derechos fundamentales dispone que “serán necesarias evaluaciones periódicas sobre la representatividad de los conjuntos de datos, así como examinar la exactitud e importancia de las predicciones” (consideración general 22). Vid., Resolución del Parlamento Europeo sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley, 14 de marzo de 2017. https://www.europarl.europa.eu/doceo/document/TA-8-2017-0076_ES.html IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 52 de discriminación por motivos de género, raza, edad, etnia, discapacidades, creencias políticas o religiosas… Sin embargo, asegurar la calidad de los datos que alimentan estas herramientas algorítmicas se torna una tarea extremadamente compleja, pudiendo plantearse cuestiones relativas a la concreción y selección de aquellos que efectivamente van a introducirse, la razón de incorporar estos y no otros, o la manera en que va a llevarse a cabo su análisis. Tales cuestiones repercuten y condicionan la legitimidad y fiabilidad de la respuesta proporcionada por el programa. En definitiva, para un uso adecuado, consciente y responsable de este modelo algorítmico, hay que tener en cuenta la eventual presencia de errores y sesgos en el material recabado para su entrenamiento, así como en las respuestas generadas, siendo especialmente crítico al evaluar estas últimas. 3.2. Uso inadecuado Tampoco debe perderse de vista la posibilidad de que, como una herramienta potente de lenguaje, sea empleada con fines malintencionados (engañosos, difamatorios o discriminatorios). Así, aun cuando ChatGPT contaba con mecanismos de seguridad incorporados para evitar un uso inadecuado en el momento de su lanzamiento, resulta imposible prever todos los escenarios inapropiados que un usuario final pueda concebir. A modo de ejemplo, se descubrió que ChatGPT podía ser engañado para que diera instrucciones detalladas sobre cómo construir una bomba si se le pedía que lo hiciera desde la perspectiva de un investigador que afirmaba trabajar en proyectos de seguridad relacionados con bombas (Korda, 2023). Sin embargo, un día después de la publicación del artículo en el que se evidenciaba este defecto, el mensaje exacto empleado para engañar al sistema dejó de funcionar. En su lugar, ChatGPT respondió que no podía proporcionar información sobre cómo llevar a cabo actividades ilegales o peligrosas. El caso anterior evidencia la naturaleza evasiva de este modelo algorítmico. Es decir, sus desarrolladores intentan incorporar salvaguardas antes de tiempo, los usuarios finales tratan de romper el sistema y eludir sus políticas, y los desarrolladores reaccionan parcheando las lagunas una vez que salen a la luz… y así ad infinitum. Finalmente, en torno a este uso inadecuado de ChatGPT, hay otra cuestión interesante desde el punto de vista ético que ha de ser tenida en cuenta en su funcionamiento: cuando el programa proporciona una respuesta que implica una muestra de conocimiento, lo hace sin indicar las fuentes de las que ha sido extraída la información suministrada17. 17. Si se le solicita expresamente, el sistema proporcionará un listado de enlaces de los cuales ha sido obtenida la información para elaborar la respuesta, pero lo hará sin indicar de dónde ha sido extraída expresamente cada elemento de la contestación aportada. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 53 3.3. Problemas de privacidad y confidencialidad Puesto que ChatGPT –como hemos vistoha sido desarrollado con los contenidos disponibles en la Red hasta septiembre de 2021, dentro de ellos sería posible encontrar datos personales, tanto de usuarios como de no usuarios, recabados, en su mayoría, sin el consentimiento previo de sus titulares. Pero hay que tener en cuenta que no solo se nutre de la información con la que ha sido inicialmente entrenado, sino también de la suministrada por los usuarios cada vez que emplean la aplicación. ChatGPT da respuesta a sus demandas, pero a la vez estos alimentan el algoritmo directa e indirectamente. De esta manera, los datos que recopile no serán solo los personales identificativos que son facilitados al crear la cuenta (nombre, credenciales…), sino también los de conexión como la IP, la ubicación aproximada, el navegador o el móvil desde el que se emplea la herramienta. Así, durante las “conversaciones” con el sistema, es posible que se recopilen y almacenen los mensajes intercambiados, lo que puede incluir información personal y confidencial que sea revelada durante su uso. Además, si bien la interacción es anónima, existe el riesgo de que los datos proporcionados sean utilizados para identificar a los individuos, lo que puede amenazar su privacidad y confidencialidad. Por otro lado, también hay que tener presente que, si las conversaciones con el chatbot se almacenan indefinidamente, existe un mayor riesgo de que el contenido sensible o confidencial permanezca en manos de los proveedores de servicio y que estos lo compartan con terceros u otros proveedores18 –con fines de investigación o desarrollo de productos-, o sean objeto de hackeos o brechas de seguridad en el futuro. Es cierto que, una vez abierta la cuenta, el sistema advierte de que las propias conversaciones que los usuarios tengan con el chat pueden ser reutilizadas para su entrenamiento e insta a no introducir información sensible. Sin embargo, más allá de esta somera referencia, no se facilita información alguna a los interesados cuyos datos hayan sido recogidos por OpenAI, y manejados por ChatGPT, sobre el modo en que serán tratados. A día de hoy, aun cuando buceemos en la política de privacidad, no es posible conocer qué ocurre detrás de la herramienta. No obstante, recientemente –como veremosse ha incorporado a dicha política la indicación expresa de los datos personales de los usuarios que van a ser recabados en sus interacciones con ChatGPT, así como el uso que se dará a los mismos, con la posibilidad de oponerse específicamente a que sean empleados para entrenar al algoritmo. A pesar de encontrarnos ante un fenómeno con entidad suficiente para ocasionar riesgos tan relevantes, este se ha manifestados en un contexto legal, tanto nacional como europeo, que no se encontraba preparado para asumir una irrupción tecnológica de este calibre. Un “rinoceronte gris” que ya ha hecho acto de presencia y cuyos efectos, dada la carencia de una regulación suficiente, ha sido necesario abordar sobre la marcha y calibrar con la normativa en vigor, con evidentes carencias. 18. Eventualidad de la que se advierte en la propia política de privacidad de OpenAI. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 54 Asimismo, recuerda que, actualmente, la tecnología permite dibujar perfiles y patrones a partir de datos personales, los cuales pueden servir para influir directamente en las personas, y alerta de que, ante el uso masivo e intenso de datos, es necesario contar con las herramientas adecuadas para proteger los derechos y libertades. En la misma línea, recientemente saltaba en nuestro país la noticia35 de que grandes empresas españolas –como Telefónica36, BBVA37 o Redeia38- han resuelto limitar, e incluso prohibir, a sus empleados el uso de ChatGPT. Las razones de dicha decisión descansan en la alta probabilidad de que la información generada por la herramienta tenga sesgos o aporte información errónea, así como el peligro de introducir datos personales y corporativos y que se produzcan filtraciones39. Otras compañías, tales como Naturgy y Enagás, han enviado a sus empleados recomendaciones para utilizar este y otros sistemas de IA y, en particular, la segunda apuesta por introducir unos principios de uso correcto de la IA en su nuevo código ético, así como en un programa de formación de empleados40. 4.3. Unión Europea En el ámbito de la UE, el 21 de abril de 2021 fue publicada la Propuesta de Reglamento por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Reglamento IA)41. Su objetivo descansa en mejorar el funcionamiento del mercado interior mediante el establecimiento de un marco jurídico uniforme, en particular en lo que concierne al desarrollo, la comercialización y la utilización de la IA de conformidad con 35. Grandes empresas españolas ya prohíben a sus empleados el uso de ChatGPT: “Contine información errónea” (mayo 2023). Recuperado de https://www.elmundo.es/economia/empresas/2023/05/21/64679873e4d4d863428b45a9.html 36. La compañía no permite el uso de la herramienta para tratar información de la empresa, salvo que la cuenta sea contratada y controlada por Telefónica. Asimismo, para garantizar que la IA se utilice de forma segura, incorpora en su organigrama un Comité de IA Ética para que evalúe casos de uso de alto riesgo, y está trabajando en un reglamento interno de gobernanza de la IA, que abordará tanto ChatGPT como otras inteligencias artificiales generativas. 37. La entidad bancaria, prohíbe el uso de ChatGPT con carácter general, aunque para aquellos profesionales que crean que puede serles de utilidad, ha habilitado un proceso de autorización. 38. Redeia (Red Eléctrica), por su parte, ha bloqueado el uso de la versión pública por posibles riesgos vinculados a la protección de la información. Cuestión especialmente relevante, puesto que nos encontramos ante una empresa que gestiona infraestructuras estratégicas. 39. Fuera de España, en empresas como Deloitte, JPMorgan, Verizon, Apple o Microsoft (siendo llamativo el caso de esta última por tratarse de uno de los principales inversores de OpenAI), también se ha desaconsejado el uso de datos confidenciales o sensibles en ChatGPT. La revolución de ChatGPT y el temor de las grandes empresas españolas, (junio 2023). Recuperado de https://gdempresa.gesdocument.com/noticias/chatgpt-grandes-empresas 40. En el mismo sentido, Mapre y Repsol, trabajan con protocolos para garantizar que la IA se emplee de forma ética y segura. 41. Propuesta de Reglamento por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial), y se modifican determinados actos legislativos de la Unión, 21 de abril de 2021. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01 aa75ed71a1.0008.02/DOC_1&format=PDF IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 61 la normativa de la UE. Asimismo, persigue varios fines de interés general, tales como asegurar un nivel elevado de protección de la salud, de la seguridad y los derechos fundamentales reconocidos y protegidos por el derecho de la Unión, y garantiza la libre circulación transfronteriza de bienes y servicios basados en la IA42. En particular, para lograr que una normativa de este tipo puede regular tecnologías disruptivas en constante transformación (y no quede obsoleta incluso antes de su entrada en vigor), la propuesta de Reglamento IA no se articula en base a tecnologías concretas, sino que parte de una estructura organizada en niveles de riesgo que se pueden derivar del uso de estos sistemas. De esta manera, se distingue entre modelos que conlleven un riesgo inaceptable (que directamente se prohíben), un alto riesgo (que se permiten, pero sujetos a rigurosos controles para evitar que puedan afectar a las libertades y a los derechos fundamentales), un riesgo limitado y un riesgo mínimo. En la actualidad, los avances en la tramitación del Reglamento IA siguen su curso, estando prevista, en principio, su aprobación para enero de 2024 (Garvi Carvajal, 2023). Uno de los hitos más recientes en este proceso ha sido el compromiso alcanzado en mayo por el Parlamento Europeo sobre un Borrador de enmiendas43 en torno a la propuesta inicial del Reglamento IA. En concreto, a los efectos de nuestro estudio, en este Borrador de enmiendas se introducen obligaciones para los proveedores de modelos fundacionales y sistemas de IA generativa44 (entre los que se encontraría ChatGPT). 4.3.1. Sistemas de IA de propósito general Antes del Parlamento Europeo, la propuesta del Consejo de la Unión Europea de 25 de noviembre de 202245 introdujo el concepto de sistema de IA con propósito general. Por tal se entienden aquellos sistemas algorítmicos que puede ser empleados para realizar funciones de aplicación general –como el reconocimiento de imagen/voz–, en una pluralidad de contextos46. Además, se advierte que estos pueden ser empleados como sistemas de alto riesgo por sí mismos o ser componentes de otros sistemas de alto riesgo. 42. Con lo que se impide que los Estados miembros impongan restricciones al desarrollo, la comercialización y la utilización de sistema de IA, a menos que el Reglamento lo autorice expresamente. 43. Borrador de enmiendas del Parlamento Europeo a la Propuesta de Reglamento sobre normas armonizadas relativas a la Inteligencia Artificial, 9 de mayo de 2023. https://www.europarl.europa.eu/ meetdocs/2014_2019/plmrep/COMMITTEES/CJ40/DV/2023/05-11/ConsolidatedCA_IMCOLIBE_AI_ ACT_EN.pdf 44. La propuesta inicial del Reglamento IA no incluía definición alguna en la que pudieran englobarse los sistemas de IA generativa como una subcategoría concreta dentro de los sistemas algorítmicos. No obstante, la aparición de ChatGPT –entre otros–, ha llevado a los legisladores europeos a abordar una regulación específica. 45. Propuesta del Consejo de la Unión Europea para un Reglamento sobre normas armonizadas de Inteligencia Artificial. Documento 2021/0106 (COD), de 25 de noviembre de 2022. https://artificialintelligenceact.eu/wp-content/uploads/2022/12/AIA-%E2%80%93-CZ-%E2%80%93-General-Approach- 25-Nov-22.pdf 46. Más concretamente, el art. 1b) de la Propuesta del Consejo de la UE, define a los sistemas de IA de propósito general como “un sistema de IA que, independientemente de cómo se comercialice IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 62 En consecuencia, debido a su naturaleza particular y con el objetivo de garantizar un reparto equitativo de responsabilidades a lo largo de la cadena de valor de la IA, dichos sistemas han de estar sujetos a requisitos y obligaciones proporcionados y más específicos en base al Reglamento IA, garantizando, al mismo tiempo, un alto nivel de protección de los derechos fundamentales, la salud y la seguridad. Con esta finalidad, los proveedores de sistemas de IA de propósito general47 deberán cooperar con los proveedores de los respectivos sistemas de alto riesgo, para permitirles cumplir las obligaciones pertinentes en virtud del Reglamento IA y con las autoridades competentes establecidas en el mismo48. Es el art. 4b de la propuesta del Consejo sobre el Reglamento IA el que recoge los requisitos de los sistemas de propósito general y las obligaciones de sus proveedores. Así, se dispone que determinados requisitos establecidos para los sistemas de IA de alto riesgo –en concreto los señalados en el Capítulo 2 del Título III49- han de ser aplicados o ponga en servicio, incluso como software de código abierto, está destinado por el proveedor para realizar funciones de aplicación general, como el reconocimiento de imagen, voz y generación de audio, detección de patrones, respuesta a preguntas, traducción y otras; un sistema de IA de propósito general puede ser utilizado en una pluralidad de contextos e integrarse en una pluralidad de otros sistemas de IA” (traducción propia), op., cit. 47. Independientemente de que puedan ser utilizados como sistemas de alto riesgo como tales o como componentes de sistemas de alto riesgo. 48. De esta forma, para poder tomar en consideración las características específicas de los sistemas de IA de propósito general y la rápida evolución de la técnica y el mercado en este campo, habrá de conferirse a la Comisión competencias de ejecución para especificar y adaptar la aplicación de los requisitos establecidos en el Reglamento a los sistemas de IA de propósito general y para especificar la información que han de compartir los proveedores de estos sistemas para que los proveedores de los respectivos sistemas de IA de alto riesgo puedan cumplir sus obligaciones en virtud del Considerando 12c de la Propuesta del Consejo de la UE. 49. Tales requisitos incluyen: el establecimiento, implantación, documentación y mantenimiento de un sistema de gestión de riesgo asociados a estos sistemas (es decir, un proceso iterativo continuo que se lleva a cabo durante todo el ciclo de la vida de un sistemas de IA de alto riesgo que requerirá actualizaciones sistemáticas periódicas); en el caso de sistemas de este tipo que utilicen técnicas que implican el entrenamiento de modelos con datos, se desarrollarán a partir de conjuntos de datos de entrenamiento, validación y prueba que se someterán a técnicas adecuadas de gobernanza y gestión de datos, que sean pertinentes y representativos, carezcan de errores y estén completos, que dispongan de las propiedades estadísticas adecuadas y que tengan en cuenta los elementos particulares del contexto geográfico, conductual o funcional específico en el que se pretenda utilizar el sistema; antes de la entrada al mercado del sistema de IA de alto riesgo o su puesta en servicio, se preparará su documentación técnica –que demuestre que cumple los requisitos anteriores– y se mantendrá actualizada; estos sistemas se diseñarán y desarrollarán con capacidades de registro que garantizarán un nivel de trazabilidad del funcionamiento del sistema de IA durante su ciclo de vida; se diseñarán y desarrollarán de un modo que garantice que funcionan con un nivel de transparencia suficiente para que los usuarios interpreten y usen correctamente su información de salida e irán acompañados de las instrucciones de uso correspondiente de forma concisa, completa, correcta y clara que sea pertinente, accesible y comprensible para los usuarios; se diseñarán y desarrollarán de manera que puedan ser vigilados de manera efectiva por personas físicas durante el periodo que estén en uso; y se diseñarán y desarrollarán de modo que, en vista de su finalidad prevista, alcancen un nivel adecuado de precisión, solidez y ciberseguridad y funcionen de manera consistente en estos sentidos durante todo su ciclo de vida. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 63 también a los de propósito general. Pero no mediante una aplicación directa de los mismos, sino a través de un acto de ejecución adoptado por la Comisión50 que especificaría cómo deben aplicarse estos requisitos a dichos sistemas de IA sobre la base de una consulta y una evaluación de impacto que tenga en cuenta sus específicas características y su cadena de valor, la viabilidad técnica y el desarrollo tecnológico y del mercado51. 4.3.2. Modelo fundacional Posteriormente, a la definición anterior de sistemas de IA de propósito general, el Borrador de enmiendas del Parlamento Europeo añade la noción de “modelo fundacional”, como subcategoría de los sistemas de propósito general, e incluye la IA generativa52, esto es, aquella desarrollada a partir de algoritmos entrenados con una amplia gama de fuentes y datos capaces de realizar una gran variedad de tareas posteriores, incluidas algunas para las que no han sido desarrollados o entrenados53. Entre las obligaciones impuestas por el Reglamento IA a los proveedores de modelos fundacionales se encuentran, esencialmente, la demostración (a través de un diseño, prueba y análisis adecuados) de la identificación, reducción y mitigación de los riesgos razonablemente previsibles para la salud, seguridad, derechos fundamentales, medio ambiente, democracia y Estado de Derecho; procesar e incorporar únicamente datos que estén sujetos a medidas apropiadas de gobierno de datos, en particular, examinar la idoneidad de las fuentes y posibles sesgos; y diseñar y desarrollar un modelo base sólido para lograr niveles adecuados de rendimiento, previsibilidad, interpretabilidad, corregibilidad, seguridad y ciberseguridad. Además, deberán diseñar sus modelos aplicando las normas concebidas para reducir el consumo de energía, el uso de recursos y residuos y para aumentar la eficacia energética y la eficiencia global del sistema54. En particular, el art. 28 b. 4 del Borrador de enmiendas del Parlamento Europeo regula específicamente los modelos fundacionales utilizados en sistemas de IA generativa, esto es, aquellos destinados específicamente a generar, con distintos niveles de autonomía, contenidos como texto complejo, imágenes, audio o video, estableciendo un último nivel más estricto de obligaciones y requisitos. De esta forma, además de los requisitos generales exigidos a los proveedores de un modelo fundacional, estos deberán: a) cumplir las obligaciones de transparencia del art. 52.1 del Reglamento IA esto es, la necesidad de que los sistemas algorítmicos que interactúan con personas estén diseñados y desarrollados de forma que las mismas estén 50. A través de este acto de aplicación, se garantizaría que los Estados miembros participaran adecuadamente y mantuvieran la última palabra sobre cómo se aplican los requisitos en este contexto. 51. Además de cumplir con tales requisitos, los proveedores de estos sistemas están obligados a implementar un sistema de gestión de calidad, conservar al menos la documentación relevante durante 10 años y someter a evaluación de conformidad al sistema de IA sobre el impacto que puedan estos sistemas tener sobre la seguridad, los derechos fundamentales o el medio ambiente, entre otros. 52. ras el auge de ChatGPT y otros modelos. 53. Considerando 60 d) del Borrador de enmiendas del Parlamento Europeo. 54. Art. 28 b) del Borrador de enmiendas del Parlamento Europeo. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 64 informadas de que están actuando con un sistema de IA55; b) formar y, en su caso, diseñar y desarrollar el modelo para que garantice las salvaguardias adecuadas contra la generación de contenidos contrarios al Derecho de la Unión, en consonancia con el estado de la técnica generalmente reconocido y con el ejercicio de los derechos fundamentales, incluida la libertad de expresión; c) y documentar y poner a disposición del público un resumen suficientemente detallado del uso de los datos de entrenamiento protegidos por la legislación sobre derechos de autor. No obstante este más estricto nivel de obligaciones y requisitos para los modelos fundacionales empleados en sistemas de IA generativa, el considerando 60 g) del Borrador de enmiendas señala expresamente que tales requisitos y obligaciones específicos no equivalen a considerar los modelos fundacionales como sistemas de IA de alto riesgo –aun cuando deban cumplir determinados requisitos establecidos para los sistemas de IA de alto riesgo–, sino que deben garantizar que se cumplan los objetivos del Reglamento IA para asegurar un alto nivel de protección de los derechos fundamentales, la salud y la seguridad, el medio ambiente, la democracia y el Estado de Derecho. Esta apreciación es compatible con lo previsto para los sistemas de IA de propósito general, en el sentido de que los modelos generativos de IA, per se, no pueden ser clasificados como sistemas de IA de alto riesgo, pero sí pueden ser usados como tales –en función de su finalidad–, o pueden integrarse en un modelo de IA que sí sea calificado como de alto riesgo. Como consecuencia de lo apuntado, los requisitos y obligaciones exigidos no resultarán de aplicación si el proveedor excluye expresamente todos los usos de alto riesgo en las instrucciones que elabore para su sistema de IA. Exclusión que solo será permisible si el proveedor tiene motivos suficientes para considerar que este no será objeto de un uso indebido una vez comercializado56. No obstante, a nuestro juicio, se trata de una previsión criticable, pues es difícil (por no decir imposible) excluir plenamente todo uso indebido que un tercero pueda llegar a hacer de la herramienta, incluso aun cuando el proveedor haya aplicado un grado de diligencia adecuado de conformidad con el estado de la técnica. V. Breve reflexión final ChatGPT ha supuesto un gran impacto social y ha contribuido a que la IA, en su máxima expresión, se convierta en mainstream. Es cierto que toda nueva tecnología genera, en mayor o menor medida un impacto y viene acompañada de potenciales riesgos, directamente proporcionales a su nivel de desarrollo y complejidad técnica. Por ello, tratar de minimizarlos ex ante resulta crucial para fomentar la evolución de la IA al tiempo que se preservan adecuadamente los derechos fundamentales tanto de los usuarios de la herramienta en cuestión como de los no usuarios. 55. Excepto en las situaciones en las que ello resulte evidente debido a las circunstancias y al contexto de utilización. 56. Art. 4 c) de la Propuesta del Consejo de la Unión Europea. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 65 En concreto, para paliar los peligros asociados a ChatGPT (entre los que encontrábamos la posibilidad de que proporcione contenido incorrecto o sesgado, su uso inadecuado por los usuarios y los problemas de confidencialidad y privacidad), consideramos que los proveedores de servicios de IA deberían implementar medidas de seguridad y privacidad sólidas, tales como el cifrado de extremo a extremo (con el que cuentan varias aplicaciones de mensajería como Whatsapp) y políticas claras de anonimización y transparencia en el uso de datos. A pesar de los riesgos inherentes al desarrollo tecnológico –en especial de la IA–, prohibirlo devendría una tarea completamente estéril. El tsunami tecnológico es imparable. Se trata, por tanto, de aprender a surfear las olas. Pero para ello, hemos de contar con una base estable y una técnica adecuada que nos permita lograr el equilibrio necesario para mantenernos a flote sobre la tabla. Por ello, resulta apremiante establecer las reglas del juego. La incertidumbre siempre ha sido fiel compañera de cualquier cambio, pero con unos fundamentos sólidos elementales y unas líneas rojas inapelables, consideramos que sería posible minimizar o paliar sus riesgos. El Reglamento de la IA promete atender a dicha necesidad de contar con una regulación básica y general en la materia que nos permita navegar el tsunami algorítmico y tratar de alcanzar el arduo equilibrio entre el desarrollo tecnológico, la minimización de los riesgos y el respeto de los derechos fundamentales de los usuarios y no usuarios. Sin embargo, aún se encuentran en fase de aprobación y, dado el rápido y exponencial desarrollo de la IA hacia sistemas cada vez más potentes y eficaces, conviene que esta se produzca cuanto antes. ChatGPT es solo la punta del iceberg. Vendrán muchísimas más tecnologías de este tipo, más eficientes, pero también con mayor potencial lesivo. Y, para evitar que nos encontremos –otra vez– frente a nuevos “rinocerontes grises” cuyo impacto nos termine arrollando y haya que reaccionar ex post ante eventuales peligros para la seguridad, los derechos fundamentales y la sociedad global, conviene estar preparados con antelación. Pero no solo para abordar directamente las consecuencias de las tecnologías venideras, sino para controlarlas y adecuarlas desde su diseño y desarrollo a un marco normativo respetuoso con los derechos fundamentales, la transparencia, la seguridad y el medio ambiente, analizando sus futuribles contingencias. Finalmente, además de esta base legislativa, consideramos que se hace indispensable empoderar a la población en el uso de las nuevas tecnologías, educándola en un empleo adecuado, ético y responsable de las herramientas digitales y en unas nociones elementales –al menos– de ciberseguridad. Bibliografía Adamopoulou, E., Moussaiades, L., (2020) “An Overview of Chatbot Technology”, AIAIA 2020: Artificial Intelligence Applications and Innovations. IFIP Advances in Information and Communication Technology, vol. 584. Springer, Cham. https://link.springer.com/ chapter/10.1007/978-3-030-49186-4_31 IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 66 Agencia Española de Protección de Datos (13 de abril de 2023), La AEPD inicia de oficio actuaciones de investigación a OpenAI, propietaria de ChatGPT. https://www.aepd.es/es/prensa-y-co- municacion/notas-de-prensa/aepd-inicia-de-oficio-actuaciones-de-investigacion-a-openai Agencia Española de Protección de Datos (11 de mayo de 2023), Las autoridades de la Red Iberoamericana de Protección de Datos Personales inician una acción coordinada en relación con el servicio de ChatGPT, https://www.aepd.es/es/prensa-y-comunicacion/notas-de-prensa/ autoridades-ripd-inician-accion-coordinada-servicio-chatgpt Alonso-Arévalo, J., Quinde-Cordero, M., (2023) “ChatGPT: La creación automática de textos académicos con inteligencia artificial y su impacto en la comunicación académica y educativa”, Revista Desiderata, nº22. https://gredos.usal.es/handle/10366/152505 Borrador de enmiendas del Parlamento Europeo a la Propuesta de Reglamento sobre normas armonizadas relativas a la Inteligencia Artificial, 9 de mayo de 2023. https://www. europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/CJ40/DV/2023/05-11/ ConsolidatedCA_IMCOLIBE_AI_ACT_EN.pdf Cowen, T., (diciembre 2022), “ChatGPT Could Make Democracy Even More Messy”, The Washington Post. https://www.washingtonpost.com/business/chatgpt-could-makedemocra- cy-even-more-messy/2022/12/06/e613edf8-756a-11ed-a199-927b334b939f_story.html Garante per la protezioni dei dati personali: a) Provvedimento del 30 marzo 2023 [9870832]. https://www.gpdp.it/web/guest/home/ docweb/-/docweb-display/docweb/9870832 b) Comunicado de 4 de abril de 2023. https://www.gpdp.it/web/guest/home/docweb/-/ docweb-display/docweb/9872284 c) Comunicado de 6 de abril de 2023. https://www.gpdp.it/web/guest/home/docweb/-/ docweb-display/docweb/9872832 d) Provvedimento del 11 de abril 2023 [9874702]. https://www.gpdp.it/web/guest/home/ docweb/-/docweb-display/docweb/9874702 e) Comunicado de 12 de abril de 2023. https://www.gpdp.it/web/guest/home/docweb/-/ docweb-display/docweb/9874751 f) Comunicado de 28 de abril de 2023. https://www.gpdp.it/web/guest/home/docweb/-/ docweb-display/docweb/9881490 García-Peñalvo, F.J., (2023) “La percepción de la Inteligencia Artificial en contextos educativos tras el lanzamiento de ChatGPT: disrupción o pánico”, Education in the Knowledge Society, Vol. 24. https://revistas.usal.es/tres/index.php/eks/article/view/31279 Garvi Carvajal, A., (mayo de 2023), La UE se prepara para endurecer el uso de ChatGPT. EL PAÍS. https://cincodias.elpais.com/cincodias/2023/04/28/legal/1682678408_904956.html Grand View Research (2023), Chatbot Market Size, Share & Trends, Analysis Report By Application (Customer Services, Branding & Advertising), By Type, By Vertical, By Region (North America, Europe, Asia Pacific, South America), And Segment Forecasts, 2023 – 2030. https://www. grandviewresearch.com/industry-analysis/chatbot-market Korda, M., (enero 2023), “Could a Chatbot Teach you how to build a dirty bomb?”, OUTRIDER. https:// outrider.org/nuclear-weapons/articles/could-chatbot-teach-you-how-build-dirty-bomb Ley Orgánica 2/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (BOE núm. 294, de 6 de diciembre de 2018). https://www.boe.es/buscar/doc.php?id=BOE-A-2018-16673 IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 67 Maslej, N., Fattotini, L., Brynjolfsson, E., Etchemendy, J., Ligett, K., Lyon, T., Manyika, J., Ngo, H., Niebles, J.C., Parli, V., Shoham, Y., Wald, R., Clark, J., Perrault, R., (2023) The AI Index 2023 Annual Report, AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, Stanford, CA. https://aiindex.stanford.edu/report/ Pearl, M., (diciembre 2022), “The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Need ideas? Great! Need facts? Stay away!”, Mawshable https://mashable.com/ article/chatgpt-amazing-wrong Propuesta de Reglamento por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial), y se modifican determinados actos legislativos de la Unión, 21 de abril de 2021. https://eur-lex.europa.eu/resource.html?uri=cellar:e0 649735-a372-11eb-9585-01aa75ed71a1.0008.02/DOC_1&format=PDF Propuesta del Consejo de la Unión Europea para un Reglamento sobre normas armonizadas de Inteligencia Artificial. Documento 2021/0106 (COD), de 25 de noviembre de 2022. https://artificialintelligenceact.eu/wp-content/uploads/2022/12/AIA-%E2%80%93-CZ- %E2%80%93-General-Approach-25-Nov-22.pdf Recomanació 1/2023 en relació amb la utilització de ChatGPT i el seu impacte en la protecció de dades personals, 21 de abril de 2023. Autoridad Catalana de Protección de Datos https://apdcat.gencat.cat/web/.content/01-autoritat/normativa/documentos/Recomanacio12023_ChatGPT.pdf Reglamento 2016/679 del Parlamento Europeo y del Consejo, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, de 27 de abril de 2016. https://www.boe.es/doue/2016/119/L00001- 00088.pdf Resolución del Parlamento Europeo sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley, 14 de marzo de 2017. https://www.europarl.europa.eu/doceo/document/ TA-8-2017-0076_ES.html Rodríguez Spinelli, F., (2022), “Bots, tenemos que hablar”, en FODERTICS 10.0 (dir. Bueno de Mata, F.), Comares, Granada. Roose, K., (diciembre 2022), “The Brilliance and Weirdness of ChatGPT”, The New York Times. https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html Ruíz Arébalo, J., (enero 2022) “Cisnes negros, rinocerontes grises, pandemias y meteoritos”, Global Strategy- Geopolítica y Estudios Estratégicos. https://global-strategy.org/ cisnes-negros-rinocerontes-grises-pandemias-y-meteoritos/ Shah, C., (marzo 2023), “Is ChatGPT Closer to a Human Librarian Than It Is to Google?”, Gizmodo, https://gizmodo.com/chatgpt-ai-openai-like-a-librarian-search-google-1850238908. Wigmore, I., (abril 2023), “Natural language generation (NLG)”, TechTarget. https://www.techtarget.com/searchenterpriseai/definition/natural-language-generation-NLG. IUS ET SCIENTIA • 2023 Vol. 9 • Nº 1 • pp. 46-68 ISSN 2444-8478 • https://doi.org/10.12795/IESTSCIENTIA.2023.i01.04 El abordaje de ChatGPT: el “Rinoceronte Gris” de la IA conversacional María Dolores García Sánchez 68