La libertad de expresión en una nueva encrucijada: tras los pasos de Antonio A. Cançado Trindade

Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 89 La libertad de expresión en una nueva encrucijada: tras los pasos de Antonio A. Cançado Trindade 1 Freedom of expression at a crossroads: following Antonio A. Cançado Trindade’s tenets Liberdade de expressão em uma nova encruzilhada: seguindo os passos de Antonio A. Cançado Trindade Eulalia W. Petit de Gabriel Professora de Direito Internacional Público e Relações Internacionais na Universidade de Sevilha (Espanha). Doutora em Direito pela Universidade de Sevilha (Espanha). Diploma “cum laude” da Academia de Direito Internacional de Haia. Orcid: https://orcid.org/0000-0002-6448-6594 RESUMEN: La libertad de expresión constituye a la par un derecho individual y una garantía institucional de la democracia, el pluralismo político y el Estado de derecho. Hoy se enfrenta a ataques clásicos como la censura o la persecución de periodistas. A la vez han surgido nuevos desafíos en relación con los contenidos que vulneran los derechos de otros (discursos de odio) o el funcionamiento de la democracia (fake news). Análogamente, las obligaciones del Estado de garantía, control y protección se enfrentan a retos como los nuevos actores (empresas que controlan redes digitales), o la automatización de contenidos y procesos de supervisión (inteligencia artificial). Este trabajo reitera el papel y responsabilidad del Estado en términos de atribución clásica de responsabilidad, que ya subrayara en el primer asunto sobre libertad de expresión ante la Corte Interamericana, el Juez Cançado Trindade, entonces Presidente de la misma. PALABRAS CLAVE: Libertad de expresión; Corte Interamericana de Derechos Humanos; discurso de odio; fake news; inteligencia artificial. 1 Trata-se de artigo escrito por professora convidada, cujo conteúdo foi publicado originalmente no periódico “RYD - Revista República y Derecho” (Universidad Nacional de Cuyo – Argentina), disponível em: https://revistaryd.derecho.uncu.edu.ar/index.php/revista/article/view/313/157. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 90 ABSTRACT: Freedom of expression constitutes both an individual right and an institutional guarantee of democracy, political pluralism, and the rule of law. It faces today classic attacks such as censorship or the persecution of journalists. At the same time, new challenges have emerged in relation to content that violates the rights of others (hate speech) or the functioning of democracy (fake news). Similarly, the State’s obligations to guarantee, control and protect are confronted with challenges such as new actors (companies’ abilities and liability over the control of digital networks’ contents), or the automation of content production and oversight processes (artificial intelligence). This work enhances the role and responsibility of the State in terms of classic attribution of responsibility, which was already highlighted in the first matter on freedom of expression before the Inter–American Court, as described by its then President, Judge Cançado Trindade. KEYWORDS: Freedom of expression; Inter–American Court of Human Rights; hate speech; fake news; artificial intelligence. RESUMO: A liberdade de expressão é tanto um direito individual quanto uma garantia institucional da democracia, do pluralismo político e do Estado de Direito. Atualmente, ela enfrenta ataques clássicos, como a censura ou a perseguição de jornalistas. Ao mesmo tempo, novos desafios surgiram em relação ao conteúdo que viola os direitos dos outros (discurso de ódio) ou o funcionamento da democracia (notícias falsas). Da mesma forma, as obrigações do Estado de garantir, controlar e proteger estão enfrentando desafios como os novos atores (empresas que controlam redes digitais) ou a automação de conteúdo e processos de monitoramento (inteligência artificial). Este artigo reitera o papel e a responsabilidade do Estado em termos de atribuição clássica de responsabilidade, que já foi sublinhada no primeiro caso sobre liberdade de expressão perante a Corte Interamericana pelo Juiz Cançado Trindade, então Presidente da Corte. PALAVRAS-CHAVE: Liberdade de expressão; Corte Interamericana de Direitos Humanos; discurso de ódio; fake news; inteligência artificial. SUMÁRIO: 1 La Corte IDH ante la libertad de expresión: de la Convención Americana sobre Derechos Humanos a su jurisprudencia. 2 Los nuevos desafíos en los contenidos de la libertad de expresión. 2.a Desafíos a la protección de los derechos de otros: discursos de odio. 2.b El retorno de la desinformación como instrumento contra el Estado de Derecho: las fake news. 3 Los nuevos desafíos para la garantía de la libertad de expresión. 3.a ¿Pérdida o refuerzo del monopolio del control? La responsabilidad de los proveedores de internet vs. la responsabilidad del Estado. 3.b ¿La inteligencia artificial al servicio o en menoscabo de la libertad de expresión? 4 A modo de cierre. Unas mismas herramientas ayer y hoy: tras los pasos de Cançado Trindade. Referencias. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 91 1 La Corte IDH ante la libertad de expresión: de la Convención Americana sobre Derechos Humanos a su jurisprudencia La IX Conferencia Internacional Americana aprobó el 17 de julio de 1948 en Bogotá la Declaración Americana de los Derechos y Deberes del Hombre, el primer texto internacional que declara la universalidad de los derechos y de la dignidad humana. Ha cumplido, por tanto, en 2023 sus primeros 75 años. En la Declaración americana la libertad de investigación, opinión y expresión se inscribe como cuarto derecho reconocido: “Artículo IV. Toda persona tiene derecho a la libertad de investigación, de opinión y de expresión y difusión del pensamiento por cualquier medio”. Además, la libertad de expresión será objeto de protección en el marco de la Organización de Estados Americanos (OEA), creada en la misma Conferencia de Bogotá de 1948, a través del sistema establecido en el Pacto de San José en 1969 (Convención Americana sobre Derechos Humanos, CADH) 2 . El sistema interamericano establecido en la CADH incluye la posibilidad de comunicaciones individuales a la Comisión Interamericana de Derechos Humanos (Com. IDH) por eventuales violaciones de la Declaración de 1948 y los derechos recogidos en el propio Pacto 3 , y una Corte Interamericana de Derechos Humanos (Corte IDH), con competencia sobre las situaciones ocurridas bajo la jurisdicción de los 20 Estados que así lo han aceptado 4 . El artículo 13 CADH recoge la libertad de pensamiento y expresión con una de las redacciones más complejas y elaboradas de entre todos los instrumentos de derechos humanos, universales y regionales. Este trabajo se pretende a la vez homenaje explícito a la memoria de Antonio Augusto Cançado Trindade, quien fue, antes que nada, profesor universitario. No obstante, su visión y concepción del Derecho internacional dimana del cruce de su camino académico con el sendero judicial. Como juez de la Corte Interamericana de Derechos Humanos primero (1994–2006, presidiendo entre 1999 y 2004), y de la Corte Internacional de Justica hasta su fallecimiento (2009–2022), su visión pro 2 Para una visión cabal del funcionamiento del sistema recomendamos las obras de FAÚNDEZ LEDESMA, Héctor. El Sistema Interamericano de Protección de los Derechos Humanos. Aspectos institucionales y procesales. San José, Costa Rica: Instituto Interamericano de Derechos Humanos, 1996. (2ª ed., 1999; 3ª ed., 2004. 1084 p.); ROUSSET SIRI, Andrés y BAYARDI MARTÍNEZ, Cintia. Breves notas sobre el Sistema Interamericano de Derechos Humanos. Mendoza: Universidad Nacional de Cuyo, Universidad de Congreso, 2021. <https://ssrn.com/abstract=3899328>, <http://dx.doi.org/10.2139/ssrn.3899328>; SALMON GARATE, Elisabeth. Introducción al Sistema Interamericano de Derechos Humanos. Lima: Fondo Editorial de la Pontificia Universidad Católica del Perú, 2019. 3 Son actualmente Estados parte en la Convención, sujetos al control por la Comisión interamericana: Argentina, Barbados, Bolivia, Brasil, Chile, Colombia, Costa Rica, Dominica, Ecuador, El Salvador, Granada, Guatemala, Haití, Honduras, Jamaica, México, Nicaragua, Panamá, Paraguay, Perú, República Dominicana, Surinam y Uruguay. Fueron Estados parte Trinidad y Tobago (que denunció el 26 de mayo de 1998, con efecto a partir del 28 de mayo de 1999) y Venezuela (que denunció el 10 de septiembre de 2012, con efecto a partir del 10 de septiembre de 2013.) 4 Argentina, Barbados, Bolivia, Brasil, Chile, Colombia, Costa Rica, Ecuador, El Salvador, Guatemala, Haití, Honduras, México, Nicaragua, Panamá, Paraguay, Perú, República Dominicana, Surinam y Uruguay. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 92 persona del Derecho internacional 5 enriqueció el debate jurisdiccional e iluminó los trabajos de muchos internacionalistas de mi generación y posteriores. Y, sin embargo, su creencia en el Estado como centro nuclear para la eficacia del Derecho internacional y de los derechos humanos corría pareja a su visión humanista. Este trabajo pretende contribuir a esa misma doble perspectiva con una reflexión sobre los nuevos desafíos de la libertad de expresión. La libertad de expresión constituye la fusión inescindible de lo individual y lo colectivo, entre la visión pro persona de los derechos humanos y la función de los mismos como garantía del Estado democrático y del imperio del derecho, instrumento al servicio de la persona. La libertad de expresión constituye a la vez un derecho individual y una garantía institucional de la sociedad democrática y el Estado de derecho pluralista, como han afirmado tanto el Tribunal Europeo de Derechos Humanos (TEDH), la propia Corte IDH 6 y la Comisión Africana de Derechos Humanos. La libertad de expresión constituye uno de los fundamentos esenciales de una sociedad [democrática] es condición básica para su progreso y el desarrollo de todo ser humano. Sin perjuicio de lo dispuesto en el párrafo 2 del Artículo 10 [del Convenio Europeo de Derechos Humanos], la libertad de expresión es aplicable no solo a ‘información’ o ‘ideas’ que se reciben favorablemente o se consideran inofensivas o indiferentes, sino también a las que ofenden, chocan o perturban al Estado o a un sector de la población, y eso es lo que requieren el pluralismo, la tolerancia y la apertura de mente, elementos indispensables sin los cuales no existe una ‘sociedad democrática’. Esto supone, entre otras cosas, que toda ‘formalidad’, ‘condición’, ‘limitación’ o ‘sanción’ impuesta en este ámbito debe ser proporcional al fin legítimo perseguido 7 . Sin embargo, la Corte IDH no tuvo la oportunidad de desarrollar su jurisprudencia contenciosa sobre esta libertad hasta iniciado el siglo XXI, tras la opinión consultiva de 1985 sobre la colegiación obligatoria de periodistas 8 . 5 Algunas de sus obras más conocidas dentro de esa línea de pensamiento son The Access of Individuals to International Justice. OUP, 2011; Vers un nouveau jus gentium humanisé. Recueil des opinions individuelles du juge A. A. Cançado Trindade. L’Harmattan, 2018; International Law for Humankind. Towards a New Jus Gentium. [libro electrónico] Third Revised Edition. Brill, 2020. 6 Las referencias de la Corte Interamericana a esta noción son constantes, incluyendo en algunos casos la cita expresa del párrafo del TEDH citado: Corte IDH. La colegiación obligatoria de periodistas (Arts. 13 y 29 Convención Americana sobre Derechos Humanos). Opinión Consultiva OC–5/85 de 13 de noviembre de 1985. Serie A No. 5; Corte IDH. Caso “La Última Tentación de Cristo” (Olmedo Bustos y otros) Vs. Chile. Fondo, Reparaciones y Costas. Sentencia de 5 de febrero de 2001. Serie C No. 73; Corte IDH. Caso Ivcher Bronstein Vs. Perú. Fondo, Reparaciones y Costas. Sentencia de 6 de febrero de 2001. Serie C No. 74; Corte IDH. Caso Herrera Ulloa Vs. Costa Rica. Excepciones Preliminares, Fondo, Reparaciones y Costas. Sentencia de 2 de julio de 2004. Serie C No. 107; Corte IDH. Caso Ricardo Canese Vs. Paraguay. Fondo, Reparaciones y Costas. Sentencia de 31 de agosto de 2004. Serie C No. 111; Corte IDH. Caso Claude Reyes y otros Vs. Chile. Fondo, Reparaciones y Costas. Sentencia de 19 de septiembre de 2006. Serie C No. 151; Corte IDH. Caso Granier y otros (Radio Caracas Televisión) Vs. Venezuela. Excepciones Preliminares, Fondo, Reparaciones y Costas. Sentencia de 22 de junio de 2015. Serie C No. 293; Corte IDH. Caso San Miguel Sosa y otras Vs. Venezuela. Fondo, Reparaciones y Costas. Sentencia de 8 de febrero de 2018. Serie C No. 348. 7 HUDOC. European Court of Human Rights. Handyside c. Reino Unido, Sentencia del 7 de diciembre de 1976, § 49. 8 Corte IDH. La colegiación obligatoria de periodistas (Arts. 13 y 29 Convención Americana sobre Derechos Humanos). Opinión Consultiva OC–5/85 de 13 de noviembre de 1985. Serie A No. 5. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 93 En 2001 la Corte se pronunció sobre este derecho por primera vez en el asunto Olmedo Bustos y otros vs. Chile, más conocido como La última tentación de Cristo 9 . Este caso –relativo a la censura previa de una película– muestra una de las caras más clásicas de los conflictos en torno a la libertad de expresión: el control del Estado en relación con los contenidos de esta libertad, amparándose bien en un interés general bien en la defensa de derechos de terceros. Este asunto versaba sobre la expresión artística –el cine– como cauce para canalizar la libertad de expresión. A la par, ponía a la sociedad de final de los noventa ante los límites de la tolerancia y el concepto del respeto de las convicciones religiosas de una parte importante de la sociedad. En el asunto Olmedo Bustos, la Corte IDH condenó a Chile por violación de la libertad de expresión ante el ejercicio de la censura previa por parte de Chile, en concreto por una corte chilena, expresamente prohibida por el párrafo segundo del art. 13 CADH: 2. El ejercicio del derecho previsto en el inciso precedente no puede estar sujeto a previa censura sino a responsabilidades ulteriores, las que deben estar expresamente fijadas por la ley y ser necesarias para asegurar: a. el respeto a los derechos o a la reputación de los demás, o b. la protección de la seguridad nacional, el orden público o la salud o la moral públicas. La Corte consideró que tanto la ley que permitía el control previo como la decisión judicial que determinó el secuestro de la película antes de su visionado eran contrarias a la CADH. En aquel momento, la decisión fue cuasi–revolucionaria al afirmar de forma inequívoca que la vulneración de los derechos de la Convención podía derivar de un acto de efectos generales como la propia ley y no sólo de sus medidas de aplicación. Ello comportaba la necesidad de adecuación del ordenamiento jurídico interno a la CADH, más allá de la responsabilidad en el caso concreto, en el entendimiento de que la ley generaba un estado de permanente violación por parte del Estado de sus obligaciones generales en el marco de la Convención, anticipando así a nuestro entender lo que posteriormente sería la teoría del control de convencionalidad. La jurisprudencia posterior de la Corte IDH ha hecho frente a un número significativo de problemas tradicionales de la libertad de expresión, bien en relación a la convivencia necesaria de derechos de particulares (libertad de expresión frente a derecho al honor o vida privada y de familia, libertad religiosa, etc.), bien en relación a las actividades del Estado de control de la libertad de expresión, como puede ser la censura y/o persecución de periodistas y medios. El análisis sistemático de la jurisprudencia de la Corte IDH puede consultarse en el cuadernillo de jurisprudencia de la Corte IDH 10 , aunque resultan especialmente 9 Corte IDH. Caso “La Última Tentación de Cristo” (Olmedo Bustos y otros) Vs. Chile. Fondo, Reparaciones y Costas. Sentencia de 5 de febrero de 2001. Serie C No. 73. 10 Corte IDH, Cuadernillo de jurisprudencia nº 16, Libertad de pensamiento y de expresión, 2021, en el que se incluyen referencias hasta la sentencia en el Caso Bedoya Lima y otra Vs. Colombia, de las enunciadas en la nota previa, faltando incorporar las tres última dictadas por la Corte IDH. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 94 recomendables los trabajos –actualizados hasta 2018– del antiguo Juez Sergio García Ramírez 11 . La actualidad de la defensa de la libertad de expresión, en su doble dimensión individual e institucional es más importante, si cabe, que nunca. Más de veinte años después del caso Olmedo Bustos, la censura y la persecución de periodistas continúan siendo uno de los rostros de las violaciones de la libertad de expresión. El pasado 31 de octubre de 2023, por ejemplo, la CIDH presentó ante la Corte IDH un caso frente a Ecuador por la muerte del del fotoperiodista Julio García Romero durante una manifestación en 2005 y la falta de una investigación diligente y efectiva de lo ocurrido 12 . En el marco de estos conflictos de corte clásico, y como un principio positivado por la propia CADH, cabe la sanción por el ejercicio de la libertad de expresión que vulnera derechos de otros o que incide en la paz social o el orden público. El Estado puede controlar el ejercicio de esta libertad en tales casos, imponiendo sanciones, siempre a posteriori, y no como medidas de censura previa. La jurisprudencia ha ido delimitando la amplitud del abanico sancionatorio, considerando, eso sí, la sanción penal como última herramienta, que sólo en ciertos contextos puede ser considerada como una medida proporcional y necesaria en una sociedad democrática. En caso contrario, se produce un inevitable efecto desalentador (chilling effect) hacia el ejercicio de la libertad de expresión, base de una sociedad democrática y pluralista. No obstante, a los conflictos clásicos de derechos entre particulares –libertad de expresión y honor, libertad de expresión y libertad religiosa, libertad de expresión y vida privada y de familia, etc.– y a las tensiones entre la voracidad controladora de Estados cada vez más extremistas y demócra–dictatoriales, por ese mismo carácter institucional de la libertad de expresión como garantía del pluralismo, el debate político y social y la democracia, se suman y proyecta hacia 11 GARCÍA RAMÍREZ, Sergio y GONZA, Alejandra. La libertad de expresión en la jurisprudencia de la Corte Interamericana de derechos humanos. Costa Rica: Corte Interamericana de Derechos Humanos: 2007. Existen actualizaciones posteriores: GARCÍA RAMÍREZ, Sergio, GONZA, Alejandra y RAMOS VÁZQUEZ, Eréndira. La libertad de expresión en la jurisprudencia de la Corte Interamericana de Derechos Humanos: de la Opinión Consultiva OC–5/85, de 1985, a la sentencia sobre el Caso Carvajal y otros, de 2018. 5ª ed. Sociedad Interamericana de Prensa, 2018. Con posterioridad, existen nuevos casos sobre este artículo 13, como: Corte IDH. Caso Álvarez Ramos Vs. Venezuela. Excepción Preliminar, Fondo, Reparaciones y Costas. Sentencia de 30 de agosto de 2019. Serie C No. 380; Corte IDH. Caso Urrutia Laubreaux Vs. Chile. Excepciones Preliminares, Fondo, Reparaciones y Costas. Sentencia de 27 de agosto de 2020. Serie C No. 409; Corte IDH. Caso Bedoya Lima y otra Vs. Colombia. Fondo, Reparaciones y Costas. Sentencia de 26 de agosto de 2021. Serie C No. 431; Corte IDH. Caso Pueblos Indígenas Maya Kaqchikel de Sumpango y otros Vs. Guatemala. Fondo, Reparaciones y Costas. Sentencia de 6 de octubre de 2021. Serie C No. 440; Corte IDH. Caso Palacio Urrutia y otros Vs. Ecuador. Fondo, Reparaciones y Costas. Sentencia de 24 de noviembre de 2021. Serie C No. 446; Corte IDH. Caso Moya Chacón y otro Vs. Costa Rica. Excepciones Preliminares, Fondo, Reparaciones y Costas. Sentencia de 23 de mayo de 2022. Serie C No. 451. Una valoración más reciente de la evolución de la jurisprudencia de la Corte IDH sobre libertad de expresión puede verse en GARCÍA HIGUERA, Rubén. “¿Una nueva etapa para la libertad de expresión? La dimensión social en la jurisprudencia de la Corte Interamericana de Derechos Humanos”. En MONTALBÁN ZAMBRANO, Digno y WENCES, Isabel (coords.). La justicia detrás de la Justicia. Ideas y valores políticos en la Corte Interamericana de Derechos Humanos. Madrid: Marcial Pons, 2023, págs. 50–60. 12 Corte IDH. Caso García Romero y otros vs. Ecuador, presentación de la Comisión a la Corte, 9 de julio de 2023. Disponible en: https://acortar.link/NcBTSl. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 95 el futuro nuevos desafíos a la libertad de expresión, tanto respecto de los límites de los contenidos admisibles como de los poderes, responsabilidades y obligaciones de los Estados para su protección efectiva y eficaz. En este trabajo queremos presentar a vuelapluma un mapa de tales desafíos y conflictos, estructurándolos en torno a dos ejes. El primer eje está constituido por los desafíos relativos a los contenidos “amenazantes”, prohibidos o abusivos de la libertad de expresión como son los delitos de odio, que amenazan los derechos de terceros, y las fake news, que ponen en jaque al propio Estado de derecho (2. Los nuevos desafíos en los contenidos de la libertad de expresión). El segundo eje en torno a la libertad de expresión gira en torno a los problemas que el Estado afronta para la garantía y control de la libertad de expresión en la sociedad contemporánea, bien desde la perspectiva de la compleja relación con las empresas responsables de medios sociales digitales y sus competencias/ obligaciones de control, bien desde las diversas perspectivas que la inteligencia artificial puede impactar en la libertad de expresión y su garantía y protección, en ambos casos como mecanismos alternativos/sustitutivos/complementarios al control del Estado (3. Los nuevos desafíos para la garantía de la libertad de expresión). En un ejercicio de eterno retorno, y volviendo a la primera sentencia del Corte IDH en relación con la libertad de expresión (el asunto Olmedo Bustos o La última tentación de Cristo) concluimos evocando nuevamente a Antonio Augusto Cançado Trindade, quien como presidente de la Corte añadiera a la sentencia su voto concurrente clarificador (4. A modo de cierre. Unas mismas herramientas ayer y hoy: tras los pasos de Cançado Trindade). 2 Los nuevos desafíos en los contenidos de la libertad de expresión Para una comprensión global de los desafíos en los contenidos de la libertad de expresión, proponemos un análisis en función del conflicto subyacente. Ante los tribunales internacionales, sea la Corte Interamericana o sea el Tribunal Europeo, el contencioso se planteará (casi) siempre como una demanda de un particular frente a un Estado. El particular considera que su libertad de expresión ha sido violada. Sin embargo, el origen de la violación puede darse en dos escenarios completamente distintos. Son supuestos clásicos los conflictos entre particulares: la libertad de expresión de uno de ellos supone un atentado a la dignidad, la honra, la vida de familia: libelos y difamaciones, obras artísticas cuyo visionado puede ser perjudicial en el desarrollo emocional de la infancia, etc. Ante estos supuestos, el derecho interno y las instituciones del Estado deben aportar respuestas positivas (obligaciones positivas), que regulan el conflicto de derechos, esto es, la protección de la infancia, la protección del honor… El Estado debe tener un sistema de recursos que permita establecer cuál de los derechos prevalece y, en su caso, qué sanción corresponde al ejercicio incorrecto, dañino, de la libertad de expresión. Cuando el particular así “sancionado” o el particular cuya honra, dignidad u otro derecho, consideran que el Estado no ponderó adecuadamente, castigó excesivamente o no protegió suficientemente, surge un contencioso contra el Estado ante el sistema –interamericano o europeo– en el cual se dilucida el alcance de la libertad de expresión y las obligaciones y responsabilidades del Estado. Pero Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 96 el conflicto inicial se da en un “choque” de derechos de los particulares. Desde esta primera dimensión, los discursos de odio (2.a Desafíos a la protección de los derechos de otros: discursos de odio) se caracterizan por amenazar los derechos de grupos, a menudo minoritarios, mediante la instigación a la violencia, fundamentalmente. El segundo escenario clásico resulta de la intervención directa del Estado en la llamada censura: el Estado, directamente, vulnera la libertad de expresión de un particular (persona física o jurídica) sea mediante controles previos, mediante un sistema de autorización o clasificación, cierre de medios o canales de expresión, persecución de periodistas, etc. que no están justificados. En tales casos el particular demanda ante el sistema internacional para que se examine si existe justificación que ampare la restricción, si esta fue necesaria y/o en último extremo, si fue proporcional al objetivo buscado (siempre que tal finalidad estuviera entre las permitidas). En este contexto, la reacción del Estado ante lo que él mismo califica como desinformación o noticias falsas, que se propagan para condicionar la propia vida del Estado, la democracia y el Estado de derecho, se encuentra hoy también bajo lupa (2.b El retorno de la desinformación como instrumento contra el Estado de derecho: las fake news). Ninguna de estas dimensiones ha llegado aún a conocimiento de la Corte Interamericana, por lo que nos asomamos al vacío jurisprudencial en el contexto de la aplicación de la CADH. 2.a Desafíos a la protección de los derechos de otros: discursos de odio Todos nuestros países –sea en América, en Europa, en Asia– afrontan en tiempos recientes formas de ejercicio –si no abusivo, peligrosamente antisocial– de la libertad de expresión frente a colectivos minoritarios que generan escaladas de sentimientos intolerantes, xenófobos, discriminatorios, y que pueden llegar a constituir una apología de la violencia o generar por sí mismos violencia. La CADH resulta en este sentido un texto único por el detalle con el que regula la libertada de expresión, dedicando un apartado específico al discurso de odio, con el único precedente del art. 20 del PIDCP. En el art. 13.5 CADH se dice que: Estará prohibida por ley toda apología del odio nacional, racial o religioso que constituyan incitaciones a la violencia o cualquier otra acción ilegal similar contra cualquier persona o grupo de personas, por ningún motivo, inclusive los de raza, color, religión, idioma u origen nacional. La Corte Interamericana, que ha citado en passant esta disposición en la sentencia Olmedo Bustos y en alguna otra posterior, no se ha visto verdaderamente confrontada en ningún caso al discurso de odio. La libertad de expresión se encuentra ante una primera encrucijada: ¿hay un límite absoluto – no relativo y dependiente de los derechos de terceros o de una función o propósito público– a los contenidos amparados por la libertad de expresión? Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 97 Desde una perspectiva ontológica, en sus primeros momentos tras la segunda guerra mundial y en la sociedad de Estados Unidos y en las europeas, se consideró que la prohibición y/o castigo del discurso de odio era una intervención estatal legítima para proteger grupos minoritarios. Hoy día el concepto se ve cada vez más ampliado y dirigido a la noción de la protección misma del Estado de derecho, esto es, la protección el Estado frente al discurso de odio que ataca a la concepción social, política, religiosa, mayoritaria o predominante en un momento dado (por ejemplo, calificar como discurso de odio a quienes atacan los símbolos del Estado o las instituciones del mismo). No obstante, esta ampliación resulta ser cuestionada por parte de la doctrina constitucional y penalista dado que puede llevar a limitar la propia libertad de expresión sobre elementos más o menos políticos del modelo de Estado o de sociedad. En el fondo, el discurso de odio contrapone dos concepciones diferentes del propio sistema democrático: el concepto de democracia liberal (una democracia debe tolerar cualquier pensamiento y expresión, lo que lleva a admitir por ejemplo que un comercio pueda excluir servicios para ciertos colectivos raciales, religiosos, de género o sexuales) y el concepto de democracia militante (según el cual y para ejercitar legítimamente derechos y libertades como el de asociación o la propia libertad de expresión deben respetarse los valores básicos del propio ordenamiento, lo cual permite, por ejemplo, prohibir partidos políticos no democráticos). La línea de separación entre una y otra concepción es frágil y, en particular, dependen de quién tiene detente la capacidad de definir cuál es el contenido de la libertad de expresión y sus límites y cuáles son los criterios de valoración de la conducta estatal respecto de la libertad de expresión 13 . A diferencia del sistema inter–americano, el TEDH ha abordado este problema desde sus primeros tiempos, aun cuando el Convenio Europeo de Derechos Humanos (CEDH) no contiene previsión análoga al art. 13.5 CADH. Los tempranos asuntos sobre el negacionismo del holocausto o, por el contrario, sobre la apología del genocidio mismo, fueron quizás el punto de partida. Con posterioridad la casuística se ampliaría en relación con distintas formas de expresión extremista en relación con grupos religiosos, étnicos, políticos, de identidad de género… Por eso, y frente a la tolerancia que constituye la base de una sociedad democrática para con las formas de expresión ofensivas o perturbadoras expresada en 1976 en el asunto Handyside el propio TEDH ha afirmado más recientemente que: Tolerancia y respeto a la igualdad y dignidad de todos los seres humanos constituye la base de una sociedad democrática y pluralista. Siendo así, en determinadas sociedades democráticas puede considerarse necesario sancionar o incluso impedir todas las formas de expresión que expandan, inciten, promuevan o justifiquen el odio basado en la intolerancia…, siempre que las 13 GARCÍA HIGUERA, Rubén. “¿Una nueva etapa para la libertad de expresión? La dimensión social en la jurisprudencia de la Corte Interamericana de Derechos Humanos”. En MONTALBÁN ZAMBRANO, Digno y WENCES, Isabel (coords.). La justicia detrás de la Justicia. Ideas y valores políticos en la Corte Interamericana de Derechos Humanos. Madrid: Marcial Pons, 2023. Págs. 49–50. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 104 la Desinformación en 2018 34 . Dicho Plan, una vez recabado el apoyo del Consejo, sería el germen ese mismo año de un modelo normativo, basado en la auto– regulación de las empresas del sector a través de la asunción de un Código de conducta. Actualizado y renovado en 2022 35 por las propias empresas que ya participaban en el proceso, permitió la creación de un sistema de Alerta rápida sobre desinformación, un Centro de Transparencia accesible a los ciudadanos y la conexión entre las obligaciones de las empresas asumidas a través de este Código voluntario y las obligaciones estrictamente legales 36 , derivadas del Reglamento de Servicios Digitales 37 . No obstante, este enfoque basado en el compromiso voluntario de los operadores de internet suscita nuevos desafíos para la protección y garantía de los derechos humanos y, específicamente, la libertad de expresión, al reducir o aparentemente opacar el control y por ende la responsabilidad atribuible al Estado. Sin duda, la Comisión y la Corte interamericana pueden verse interpeladas en un futuro no lejano en algún asunto que plantee este ‘nuevo’ desafío a la libertad de expresión. Entonces, deberán decidir si el acento reside en el control de los contenidos de la libertad de expresión o en el control del margen de actuación del Estado. De las nuevas encrucijadas en que se encuentra el Estado al ejercer tales controles nos ocupamos a continuación. 3 Los nuevos desafíos para la garantía de la libertad de expresión La protección internacional de los derechos humanos, incluida la libertad de expresión, es siempre subsidiaria. Con ello se pretende indicar que la garantía y protección primaria y fundamental corresponde al Estado. En la actualidad el poder del Estado se enfrenta a desafíos como el creciente papel de intervención de las empresas que controlan las redes digitales respecto a los contenidos vertidas en las mismas (3.a ¿Pérdida o refuerzo del monopolio del control? La responsabilidad de los proveedores de internet vs. la responsabilidad del Estado) o el papel que desempeña la tecnología en el contenido y control de contenidos de la libertad de 34 Comisión Europea (2018). Un enfoque multidimensional de la desinformación Informe del Grupo independiente de alto nivel sobre noticias falsas y desinformación en línea; Comisión Europea (2018). Comunicación de la Comisión al Parlamento, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Hacer frente a la desinformación en línea: un enfoque europeo. Bruselas, 26 de abril de 2018. COM(2018) 236 final; Comisión Europea (2018). Código de buenas prácticas sobre desinformación; Comisión Europea (2018). Comunicación conjunta al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Plan de acción contra la desinformación. Join (2018) 36 final. Bruselas, 5 de diciembre de 2018. 35 Comisión Europea (2022). Código de buenas prácticas reforzado de 2022 sobre desinformación. 36 Sobre esta cuestión, véase ESPALIÚ BERDUD, Carlos. “The EU Code of Practice on Disinformation: An Example of the Self–Regulatory Trend in International and European Law·. VISUAL REVIEW. International Visual Culture Review. 2024, vol.16, núm.2, págs. 95–109. https://doi.org/10.62161/revvisual.v16.5217. 37 Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales). Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 105 expresión (3.b ¿La inteligencia artificial al servicio o en menoscabo de la libertad de expresión?). 3.a ¿Pérdida o refuerzo del monopolio del control? La responsabilidad de los proveedores de internet vs. la responsabilidad del Estado En 2019, el Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión (RELE) de la Comisión Interamericana de Derechos Humanos, ya referido, presentaba un informe específico sobre los discursos de odio en línea 38 . Sin duda, un nuevo desafío para la libertad de expresión está vinculado a los nuevos canales por los cuales se expresan los ciudadanos. En este apartado no abordamos un tipo de discurso –puede ser el discurso de odio, pero podría tratarse de cualquier manifestación de expresión que sin constituir discurso de odio afecta a derechos de terceros o a la convivencia en una sociedad democracia–, sino el medio utilizado y el impacto que el medio tiene en las obligaciones de garantía del Estado de los derechos de los ciudadanos. Los poderes de control y represión de manifestaciones y acciones lesivas de derechos en el contexto de nuevos medios y modos de comunicación: las redes sociales constituyen, sin duda, un nuevo escenario de aplicación de la CADH 39 . Las redes sociales, como antes ocurriera con periódicos, radio o televisión, pueden verse como un canal más para la libertad de expresión. En tal sentido, podría pensarse que los conflictos que puedan plantearse vienen ya resueltos por los criterios interpretativos tradicionales. Sin embargo, el funcionamiento de las mismas, su inmediatez, la amplitud de la difusión de sus contenidos, hablándose así de “viralidad” de los contenidos vertidos en las mismas por su capacidad de contagio y expansión… introducen elementos que generan nuevos conflictos. Podemos identificar al menos cuatros potenciales sujetos en la cadena de uso de redes sociales, que podrían resultar implicados en una relación de (ausencia de) respeto, garantía y protección de derechos humanos y fundamentales: aquel que vierte un mensaje, aquel que puede sentirse ofendido por el mismo, la empresa responsable de la red y el Estado, garante último de los derechos y libertades. Los posibles conflictos son muchos: en conexión con el apartado anterior, mensajes que incitan al odio y a la violencia vertidos en redes (discurso de odio en redes sociales); otros mensajes que afectan a la dignidad y derechos de terceros; actuaciones de los moderadores de la red social que limitan las expresiones, imágenes o contenidos vertidos por los autores retirando contenidos, y en último extremo, la reacción del Estado al que unos y otros puedan acudir para 38 ONU. Informe del Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión: “el derecho de los derechos humanos y la reglamentación del “discurso de odio” en línea”, de 9 de octubre de 2019. Resolución A/74/486. 39 GIMÉNEZ, Iraida A. “La libertad de expresión y las redes sociales a la luz del sistema interamericano de derechos humanos”. En: PETIT DE GABRIEL, Eulalia W. (dir.). Valores (y temores) del Estado de derecho: libertad de expresión v. delitos de opinión en Derecho internacional. Aranzadi, 2023. Págs. 241–264. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 106 determinar si hubo violación de la libertad de expresión o violación de derechos de terceros o de las garantías de la sociedad democrática. En suma, los contenidos vertidos en redes sociales y el control sobre los mismos constituyen hoy un nuevo desafío en tanto en cuanto el “operador” interpuesto, la empresa responsable de la red social, puede verse adjudicado una función relevante en el control y filtrado de contenidos (función pública o para– pública) 40 a la vez que mantiene una relación de naturaleza contractual con los usuarios que aceptan sus términos y condiciones para operar en la red. Dos nos parecen las cuestiones clave en este sentido. De un lado, debe estudiarse en qué medida dicho “actor” –la empresa responsable del medio digital– ejerce su propia libertad de expresión al moderar contenidos o deviene responsable del control y garantía de los derechos de terceros o de la garantía de la pluralidad propia de un Estado de derecho. En términos de responsabilidad internacional del Estado, ¿actuaría la red como sujeto de un derecho protegido por la CADH o como “una persona o entidad que ejerce atribuciones del poder público”, en el sentido del art. 5 de los artículos sobre responsabilidad internacional de los Estados elaborado por la CDI? 41 En segundo lugar, en qué medida el Estado asume la responsabilidad del control sobre las decisiones de la red social como propia o si es responsable autónoma o cumulativamente, o en su defecto, del control y respeto de los derechos implicados. De todo ello dependerá cómo se configure la exigibilidad de protección de los posibles afectados en un caso concreto ante la Comisión interamericana o la Corte IDH en relación con la CADH. Baste pensar en la actividad reciente del Consejo asesor de contenidos de Facebbok/Meta modificando su posición restrictiva de los comentarios publicados en relación con las tomas de rehenes israelíes en Gaza por parte del grupo terrorista Hamás, ante la presión de organizaciones no gubernamentales 42 . Debemos reflexionar sobre las variables implicadas: de un lado, la medida en la 40 Numerosas son las noticias de prensa en las que vemos que se plantean situaciones de esta naturaleza en los últimos años: “Las redes sociales justifican la censura invocando a los Derechos Humanos”. El Economista.e. 19 de enero de 2021; “El debate por la censura en las redes sociales, un arma de doble filo”. El País. 14 de febrero de 2021; “Un informe señala a Rusia y China como los países con mayor control estatal de Internet”. El Liberal. 18 de octubre de 2022; “Supreme Court poised to reconsider key tenets of online speech”. The Boston Globe. 19 de enero de 2023; “Internet, libertades comunicativas y ¿nuevas reglas de juego?”. El País. 20.04.2023; “La UE quiere obligar a las empresas de internet a revisar las comunicaciones privadas para detectar pederastia”. El País. 23 de mayo de 2023; “De incógnito, perseguidos o en el exilio: los periodistas resisten en Centroamérica”. El País. 28 de mayo de 2023; “La lucha laboral de quienes limpian desde Kenia la toxicidad de Facebook, TikTok y ChatGPT por tres euros la hora”. El País. 2 de agosto de 2023; “Musk demanda a California por la ley que exige transparencia a las redes sociales”. El País. 9 de septiembre de 2023; “El Supremo de Estados Unidos sentenciará sobre la libertad de expresión en las redes sociales”. El País. 29 de septiembre de 2023. 41 A/RES/56/83, de 12.12.2001, que incluye en Anexo los artículos finales. Puede verse el texto de los mismos con comentarios en ILC. “Draft articles on Responsibility of States for Internationally Wrongful Acts with commentaries”. Yearbook of the International Law Commission. 2001, vol. II, Part Two. 42 Hostages Kidnapped From Israel, 2023–050–FB–UA, de 19 de diciembre de 2023: “The Board overturns Meta’s original decision to remove the content from Facebook. It finds that restoring the content to the platform, with a “mark as disturbing” warning screen, is consistent with Meta’s content policies, values and human–rights responsibilities”. En sentido análogo y en la misma fecha la adoptó también en relación a Instagram, Consejo asesor de contenido (oversightboard.com). Decisión 2023–049–IG–UA. <https:// oversightboard.com/decision/. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 107 que la actuación de la empresa responsable de la red social contribuye a proteger o violar la libertad de expresión o los derechos de aquellos perseguidos por la apología de la violencia y el odio a través de los comentarios vertidos en la propia red social; de otro lado, la medida en que el Estado es responsable de proteger tales derechos o actuar frente a su violación y la medida en la que ha transferido tal control a la red social o es responsable de supervisar el mismo. Esto es, ¿resulta el Estado responsable directa o indirectamente por las actuaciones en redes sociales? ¿Cuál es el papel de los medios sociales en el control de contenidos y cuál es la responsabilidad del Estado –regulando o no– tal modelo de control o filtrado? ¿Puede el Estado atribuir su responsabilidad de control y garantía a un actor privado al permitirle la moderación y/o limitación de la libertad de expresión? 43 Este es un debate abierto, y que, en la práctica, admite diversos modelos, desde el más liberal en Estados Unidos (aunque en evolución, según el cual, las redes no tienen obligaciones de control) hasta el europeo en el que se están estableciendo obligaciones de filtrado por parte de las redes sociales. En relación con jurisdicciones nacionales, los asuntos ante las cortes de EEUU son paradigmáticos por ser un país caracterizado por una visión de la libertad de expresión ultraliberal, que no ha admitido tradicionalmente apenas limitaciones (libertad de expresión de la primera enmienda). En Estados Unidos, una Corte de California rechazó el 14 de diciembre de 2022 la petición de los rohingya de responsabilidad de Facebook/Meta por no haber restringido los comentarios que alimentaron el odio contra ellos, aunque permitió que se reformulara la demanda. Esta Corte ha considerado que no se pudo establecer el nexo de causalidad 44 , aunque permitió la reformulación de la demanda, que sigue en trámite. Por su parte, la Corte Suprema de los Estados Unidos ha dado la razón en 2023 en sendos asuntos a Twitter, Google y Facebook, que habían sido demandadas por la difusión de mensajes de organizaciones terroristas, rechazando que la mera publicación de mensajes implique colaboración con el terrorismo 45 . En junio de 2024, la Corte Suprema de EEUU ha tenido una resuelto una demanda sobre desinformación y moderación en redes sociales en el contexto de la pandemia. En el caso, la demanda fue planteada por Missouri, otros cinco 43 En el ámbito de la Unión Europea, esta ha regulado ya la cuestión de los controles y distribución de responsabilidades en relación con servicios prestados de forma digital a través del Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales). 44 JONES, Rachyl. Se desestima la demanda por genocidio de los rohingya contra Meta, por ahora. observer. com 15 de diciembre de 2022. https://acortar.link/FIbqKf .La demanda originalmente planteada puede consultarse como JANE DOE, individually and on behalf of all others similarly situated, Plaintiff, v. META PLATFORMS, INC. (f/k/a Facebook, Inc.), a Delaware corporation, Defendant. En: https://acortar.link/vwElsw.Para el seguimiento procesal del asunto Doe v. Meta Platforms, Inc., véase https://acortar.link/R0mpV8 . Sobre el tema, ARENAL LORA, Libia. “El discurso del odio online y la incitación al genocidio: limitaciones y alcance de la responsabilidad de la empresa facebook en el caso rohingya”. En: PETIT DE GABRIEL, Eulalia W. (dir.). Valores (y temores) del Estado de derecho: Libertad de expresión vs. delitos de opinión en Derecho internacional. Pamplona: Aranzadi, 2023, págs. 265– 308. 45 SUPREME COURT. Twitter, Inc. v. Taamneh et al., certiorari. N° 21–1496, 18 de mayo de 2023. https:// acortar.link/zTgJqA. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 108 Estados y un grupo de medios sociales contra el Gobierno Federal, argumentando que el Gobierno Federal había presionado a los medios para la retirada de la información. La Corte consideró en el caso que no se había probado que la decisión de retirar información de los medios sociales obedeciera a presiones del Gobierno, por lo que no podían considerar víctimas de censura y por tanto carecían de legitimación para actuar 46 . Actualmente (diciembre de 2023) están pendientes dos casos más ante la Corte Suprema de EEUU en las que se discuten las propias políticas de moderación de contenidos de las plataformas. Los Estados de Texas y Florida han aprobado leyes contra esas políticas con el argumento de que imponían la censura a sus usuarios, silenciando voces conservadoras (en relación con el bulo electoral del triunfo de Donald Trump, por ejemplo, o desinformación sobre la pandemia), en violación de la libertad de expresión que consagra la Primera Enmienda de la Constitución. Varias compañías tecnológicas recurrieron alegando que son precisamente tales normas las que vulneran la Primera Enmienda (libertad de expresión) porque les dejan sin el derecho a elegir qué publicar en sus plataformas. Los recursos han sido presentados por asociaciones del sector (Netchoice y la Asociación de la Industria de la Computación y Comunicaciones), entre cuyos miembros están Google (que controla Youtube), Meta (Facebook e Instagram), X (antes conocida como Twitter), TikTok, Yahoo, Snap y Pinterest, entre otras 47 . La Corte Suprema de los Estados Unidos, en una decisión de 1 de julio de 2024, aceptó la tesis de los demandantes. Estimó que el Estado no puede en principio obligar a los medios a eliminar sus políticas propias de control de contenidos. Tras ello, la Corte reafirma la libertad de expresión e ideológica del propio medio, sin que exista un interés público que justifique la intervención estatal, estableciendo un paralelismo con el tratamiento en su jurisprudencia previa de la prensa escrita tradicional 48 . En esta misma línea, la Unión Europea aprobó el 17 de abril de 2024 un Reglamento relativo a la libertad de los medios de comunicación, especialmente en el ámbito digital, destinado entre otras cuestiones a proteger la libertad de los medios para determinar su línea editorial. En este contexto, la jurisprudencia futura deberá aclarar el equilibrio que debe establecerse entre las decisiones empresariales sobre gestión de contenidos (la llamada moderación de contenidos digitales) y el respeto de los derechos de terceros, tanto por parte de la propia empresa de medios como del Estado al supervisar las actuaciones de aquella 49 . 46 SUPREME COURT, Murthy, Surgeon General, et al. v. Missouri et al., certiorari to the united states court of appeals for the fifth circuit, No. 23–411, June 26 2024. 47 SUPREME COURT. Ashley Moody, Attorney General of Florida, et al., Petitioners v. NetChoice, LLC, dba NetChoice, et al. N°22–277. 23 de septiembre de 2022. https://acortar.link/ubaZ5U ; Supreme Court. NetChoice, LLC, dba NetChoice, et al., Petitioners v. Ken Paxton, Attorney General of Texas. N°22–555. 19 de diciembre de 2022. https://acortar.link/KfOLKL. 48 SUPREME COURT, Moody, Attorney General of Florida, et al. v. Netchoice, llc, Dba Netchoice, et al., certiorari to the United States Court of Appeals for the Eleventh Circuit, No. 22–277, July 1, 2024. El asunto fue devuelto a las cortes inferiores para su reexamen a la luz de la valoración de la Corte Suprema. 49 Reglamento (UE) 2024/1083 del Parlamento Europeo y del Consejo, de 11 de abril de 2024, por el que se establece un marco común para los servicios de medios de comunicación en el mercado interior y se Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 109 En un contexto diferente, la Gran Sala del TEDH ha confirmado en 2023 en el asunto Sánchez v. Francia una sentencia previa de 2021, considerando compatible con el CEDH una actuación de un Estado (Francia) que sanciona a un político que no borró sus publicaciones en su muro de Facebook, ni los comentarios de sus seguidores, calificados como de odio religioso. Esto es, el TEDH entiende que el Estado debe y puede controlar el discurso en las redes sociales para proteger los derechos de terceros y el orden público. Consideró que no es necesario para tal control y revisión una denuncia de parte. No obstante, el TEDH indicó que la proporcionalidad de la medida debe examinarse a la luz de la notoriedad de quien realiza los comentarios y de su responsabilidad pública (en este caso, por ser político en campaña electoral) 50 . Sin embargo, el TEDH no entró en ese caso a valorar la responsabilidad de las redes sociales y/o del Estado por la actuación o ausencia de actuación de estas. Ese paso ha sido franqueado el 7 de septiembre de 2023, en Index.hu Zrt v. Hungary, cuando el TEDH ha afirmado la responsabilidad de un Estado por la ausencia de control de un portal de internet (Facebook) sobre opiniones difamatorias vertidas en el mismo, como violación del artículo 10 CEDH que consagra la libertad de expresión 51 . En su conjunto, comienza a reunirse una cierta jurisprudencia del TEDH en relación con distintos aspectos relativos a la libertad de expresión e internet 52 , que pudiera ser una guía de llegar asuntos de esta naturaleza a plantearse ante la Corte IDH, dada la colaboración entre ambas cortes. En este contexto, merece un seguimiento el trabajo que pueda realizar el Comité Jurídico Interamericano, en el seno de la OEA, que inscribió en 2022 sesión la cuestión del “fortalecimiento del régimen de responsabilidades en el uso de las tecnologías de la información y la comunicación en su agenda de trabajo” 53 . 3.b ¿La inteligencia artificial al servicio o en menoscabo de la libertad de expresión? En un estado más rudimentario se presenta la reflexión sobre la sustitución progresiva del control sobre los contenidos elaborados por seres humanos por el control de medios no operados por personas, la inteligencia artificial operada sin intervención humana una vez definida y parametrizada. modifica la Directiva 2010/13/UE, DO L, 2024/1083, 17.4.2024, en concreto, el para. 50 y 56 del Preámbulo y su art. 19. 50 HUDOC. European Court of Human Rights. Sanchez v. France. N° 45581/15, ECHR 2.9.2021; recurrida ante Gran Sala, ECHR [GC] 15.5.2023. 51 HUDOC. European Court of Human Rights. Index.hu Zrt v. Hungary, Nº. 77940/17, ECHR 7.9.2023. 52 TEDH. Acceso a Internet y libertad para recibir y difundir información e ideas. Factsheet (marzo 2022); TEDH. Guía sobre el artículo 10 del Convenio Europeo de Derechos Humanos: Libertad de expresión. actualizada a 20.4.2021 (versión en inglés, actualizada a 31.8.2022. Puede verse un comentario crítico en UCHTFELD, Erik. “Be Careful What You Wish For: The Problematic Desires of the European Court of Human Rights for Upload Filters in Content Moderation”. VerfBlog. 23 de septiembre de 2023. https:// acortar.link/wjxM6i DOI: 10.17176/20230923–103502–0. 53 OEA. Comité Jurídico Interamericano culmina su centésimo primer período ordinario de sesiones. Boletín informativo. agosto de 2022. https://acortar.link/AbrAfZ ; Además https://acortar.link/VDPrHt. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 110 En general, asistimos al debate reciente sobre la inteligencia artificial desde múltiples perspectivas. En primer lugar, y en relación con la libertad de expresión podríamos plantear sin duda el complejo interrogante de cómo gestionar los contenidos elaborados mediante inteligencia artificial desde la perspectiva de la “libertad de expresión” y la protección de derechos de terceros (más allá de derechos como la propiedad intelectual de los contenidos utilizados). Si bien una máquina, un sistema informático, no puede considerarse “autor” en el sentido de gozar de derechos “humanos” como la libertad de expresión, los contenidos así elaborados pueden estar vulnerando derechos de terceros (honra, dignidad) o valores sociales como la seguridad nacional, la integridad territorial, la seguridad pública, la defensa del orden, la prevención del delito, la protección de la salud o de la moral, para impedir la divulgación de informaciones confidenciales o para garantizar la autoridad y la imparcialidad del poder judicial 54 . Cabría discutir a quién debe atribuirse la responsabilidad primaria (el operador que solicita el contenido, el propietario del software, la empresa que distribuye las licencias…), contra quién puede/debe actuar el Estado. Dicha cuestión se convertiría en el eventual fundamento de una reclamación internacional frente al Estado ante los sistemas de protección de derechos humanos, por no haber protegido debidamente los derechos de terceros o los intereses públicos. En caso contrario, podríamos llegar a encontrarnos con un determinado tipo de información que no forma parte de la libertad de expresión y, por tanto, queda al margen de las herramientas del Estado para la defensa de los derechos humanos de las personas bajo su jurisdicción. ¿Sería el Estado responsable no obstante frente a los particulares víctimas por la lesión de sus derechos convencionales? ¿Sobre qué base de atribución de responsabilidad? Esta perspectiva del análisis de la inteligencia artificial dirige la atención hacia los contenidos elaborados mediante dicha inteligencia artificial, y hacia cualquier otra incidencia de la inteligencia artificial en derechos humanos y cómo controlarlos teniendo en cuenta que, igual que las redes sociales, el uso de esta tecnología puede estar tanto en manos de operadores privados en muchos Estados, como en manos públicas, en otros. Una perspectiva complementaria deriva de la reflexión sobre cómo los mecanismos de control sobre contenidos que amenazan derechos de terceros o los valores públicos dignos de protección pueden verse operados de manera automática por sistemas de inteligencia artificial. Esto es, cómo afecta al funcionamiento de la CADH la sustitución de los controles humanos –sobre los contenidos de la libertad de expresión –pues en última instancia, el Estado es operado por personas, sean en el legislativo, ejecutivo o judicial– por sistemas basados en inteligencia artificial, mediante el uso de algoritmos y otros procedimientos tecnológicos 55 . Tales sistemas, sin intervención humana, eliminan contenidos publicados en medios fundamentalmente digitales sobre la base de inputs de conceptos o expresiones altamente susceptibles de estar vinculados a 54 Valores del orden público citados en el apartado segundo del artículo 15 CEDH, a modo de ejemplo. 55 Puede verse el muy interesante trabajo de DIAS OLIVA, Thiago. “Content Moderation Technologies: Applying Human Rights Standards to Protect Freedom of Expression”. Human Rights Law Review. 2020, núm. 20, págs. 607–640. Doi: 10.1093/hrlr/ngaa032. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 111 discursos de odio, violencia, racismo, xenofobia, etc. No obstante, la ausencia de control sobre tales mecanismos de revisión y depuración de contenidos puede determinar una vulneración creciente y constante de la libertad de expresión, tanto en su dimensión de libertad individual como en su dimensión institucional de garantía del pluralismo propio de una sociedad democrática y puede ser una herramienta al servicio del Estado totalitario o de poderes económicos, sociales y políticos, alternativos al Estado mismo que pongan en riesgo la existencia misma de la sociedad democrática, plural y fundada en los derechos y valores consagrados por la CADH. En ambas dimensiones del problema nos encontramos ante un desafío no abordado aún por la jurisprudencia de la Corte IDH. Tampoco los sistemas regionales africano o europeo han recibido aún caso alguno sobre inteligencia artificial, en los que pueda encontrarse un referente. Sin embargo, se han comenzado a dar ciertos pasos en el ámbito internacional para intentar una regulación multilateral. De un lado, y con una perspectiva regional, el Consejo de Europa comenzó a reflexionar sobre la interacción entre inteligencia artificial y derechos humanos al menos desde 2017, produciendo distintos resoluciones, directrices e informes 56 . El Comité de Inteligencia Artificial 57 del Consejo de Europa trabaja en un borrador de tratado marco sobre inteligencia artificial, derechos humanos, Estado de derecho y democracia, cuya versión más reciente data de 18 de diciembre de 2023, pendiente de su tercera y última lectura 58 . Por su parte, la Unión Europea inició sus deliberaciones y trabajos en 2018, creando un grupo de expertos de alto nivel, que adoptaría diversos documentos de política y recomendaciones 59 La Comisión Europea publicó varias Comunicaciones al Parlamento Europeo, el Consejo Europeo, el Consejo, el Comité Económico y Social y el Comité de las Regiones sobre un Plan Coordinado sobre Inteligencia Artificial en 2018 60 y sobre creación de confianza en la IA centrada en las personas en 2019 61 . La Comisión estableció asimismo un foro social de discusión abierta sobre IA 62 . Con la aprobación el Libro Blanco sobre la inteligencia artificial –un enfoque europeo orientado a la excelencia y la confianza 63 , se abrió un proceso de consulta pública. Estas actuaciones iban encaminadas a la preparación de una propuesta de Reglamento sobre normas armonizadas sobre 56 Pueden verse los documentos adoptados hasta el presente en: https://acortar.link/ypbWnI. 57 Comité Ad Hoc sobre Inteligencia Artificial (CAHAI) operó entre 2019 y 2021 y fue luego sustituido por el Comité sobre Inteligencia Artificial (CAI. https://acortar.link/d0MbwX), creado en 2021 mediante Resolución del Consejo de Ministros del Consejo de Europa CM(2021)131–addfinal. https://acortar.link/c75Qvg. 58 CAI(2023)28 , Draft Framework Convention On Artificial Intelligence, Human Rights, Democracy And The Rule Of Law, 13 December 2023. https://acortar.link/0Zj7FH. 59 Grupo de expertos de alto nivel sobre inteligencia artificial, Directrices éticas para una IA fiable, 2019; Policy and Investment Recommendations for Trustworthy AI, 2019; Recomendaciones sectoriales de una IA fiable y Lista final de evaluación de la IA fiable (ALTAI), 2020. 60 COM(2018) 795 final, de 7.12.2018. 61 COM(2019) 168 final, de 8.4.2019. 62 La alianza por la Inteligencia artificial, https://acortar.link/x0fDPH , que se reunió en 2019 y 2020. 63 COM(2020) 65 final, de 19.2.2020. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 112 Inteligencia artificial, presentada en 2021 64 . El procedimiento legislativo se ha llevado con celeridad, aunque las discrepancias entre las instituciones implicadas no se han superado hasta un acuerdo político alcanzado por los colegisladores – Parlamento Europeo y Consejo de la Unión– el 9 de diciembre de 2023. Dicho acuerdo se trasladó a una propuesta de enmiendas en primera lectura en el Parlamento Europeo el 13 de marzo de 2024 65 , aceptada por el Consejo de la Unión el 18 de marzo de 2024 66 . A la fecha de cierre de este texto, el Reglamento está aún pendiente de aprobación. En todo caso, constituirá una norma pionera en este ámbito. La Comisión Europea ha creado, mediante decisión de 24 de enero de 2024, la Oficina Europea de la Inteligencia Artificial 67 . De otro lado, y de forma más reciente, la Organización de las Naciones Unidas creó en 2020 un órgano asesor multi–actor sobre inteligencia artificial, en dependencia del Secretario General de Naciones Unidas 68 (y no del Consejo de Derechos Humanos). Este órgano ha aprobado un informe final el de 2023 69 , con miras a una cumbre que deberá celebrarse en el verano de 2024 para la aprobación de un Pacto Global Digital (Global Digital Compact) en septiembre del mismo año. Aunque el informe no está centrado en la protección de derechos humanos, incluye referencias a la cuestión en un marco más global de gobernanza de la Inteligencia Artificial. Desde la perspectiva universal, aunque en un ámbito político no institucionalizado, el G7 ha adoptado en octubre de 2023 unos Principios rectores y un Código de Conducta para sistemas avanzados de IA 70 . En el marco de la OEA, el tema ha sido inscrito en la agenda de reflexión del Comité Jurídico Interamericano en 2023, bajo el título de “Impacto de las tecnologías basadas en inteligencia artificial en los derechos humanos, con especial enfoque en niños, niñas y adolescentes” 71 . Sobre ese esfuerzo y los potenciales casos ante la Corte IDH –¿quién sabe si con una solicitud de opinión consultiva en el camino?– debe construirse una protección eficaz. 4 A modo de cierre. Unas mismas herramientas ayer y hoy: tras los pasos de Cançado Trindade Hasta aquí han sido expuestos aquellos que, a nuestro entender, parecen los mayores desafíos a la libertad de expresión y su protección efectiva, garantía 64 COM/2021/206 final, de 21.4.2021. 65 Documento P9_TA(2024)0138, de 13.3.2024. https://acortar.link/7o5C9I. 66 ST 7536 2024 INIT, de 18.3.2024. 67 C(2024) 390 final, de 24.1.2024. https://acortar.link/VUD6CM. 68 Multistakeholder Advisory Body on Artificial Intelligence, propuesto inicialmente en el Informe del Secretario General “Hoja de ruta para la cooperación digital: aplicación de las recomendaciones del Panel de Alto Nivel sobre la Cooperación Digital” (A/74/821), de 29 de mayo de 2020. El seguimiento de la labor de este órgano subsidiario puede hacerse a través de la página https://acortar.link/41qbmj. 69 AI Advisory Body, Interim Report: Governing AI for Humankind, December 2023. https://acortar.link/ZTJ9KI. 70 Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI system. https://acortar.link/njhbvN. 71 OEA. “Comité Jurídico Interamericano (CJI) culmina su 103 período ordinario de sesiones”, Boletín informativo, agosto de 2023. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 113 institucional de la democracia, el pluralismo y el Estado de derecho. Todos estos desafíos deben llevarnos a reflexionar sobre las “nuevas” responsabilidades del Estado, que en su día ya subrayara Antonio Augusto Cançado Trindade en su voto concurrente a la sentencia en el asunto La Última Tentación de Cristo. En realidad, casi más que un voto concurrente Cançado Trindade ofreció en aquellas páginas una lección de responsabilidad internacional 72 . Cançado Trindade debe ser recordado, sin duda, por su papel esencial en la concreción y aplicación prolífica del principio pro persona. Aunque algún comentarista de su obra haya llegado a afirmar que Cançado sostenía la necesidad de difuminar, relativizar, el rol del Estado, lejos de ello, Cançado reivindicaba la responsabilidad del Estado como garante de la protección de las obligaciones convencionales de protección de los derechos humanos. En el caso Olmedo Bustos, el presidente de la Corte interamericana destiló claramente las obligaciones del Estado de carácter general, y no sólo las relativas a la situación de violación específica en el caso. El propio Estado admitió que la decisión judicial interna vulneró la Convención, aunque negando que el poder judicial –independiente– pudiera generar la responsabilidad directa del Estado sin un acto de gobierno que lo asumiera. Y, sin embargo, para el Juez Cançado el meollo de la cuestión radicaba en si una ley, la ley que permitía ejercer dicha censura previa, podía o no desencadenar la responsabilidad del Estado por violación de la Convención, incluso cuando ya el Presidente Frei había introducido una reforma a nivel constitucional –estancada por demás durante la vida del proceso ante la Corte IDH. El Juez–Profesor Cançado, en 2001, en un ejercicio sistemático de revisión de jurisprudencia previa y de la doctrina internacionalista, afirmó rotundamente que todo poder del Estado puede generar responsabilidad de este por incumplimiento de la CADH. Así, esta responsabilidad es objetiva, en el sentido que el relator Crawford utilizó este término 73 como responsabilidad sin culpa, por incumplimiento de una obligación internacional, la de respetar y garantizar el respeto de los derechos humanos a aquellos bajo su jurisdicción. Como afirmó Cançado, el debate sobre las obligaciones de comportamiento y de resultado –tan relevante en relación con la garantía de los derechos humanos– ha provocado la: […] necesidad de promover una mejor articulación dentro de los ordenamientos jurídicos interno e internacional. […] La adecuación de las normas de derecho interno a lo dispuesto en los tratados de derechos humanos puede efectivamente ser considerada una obligación de resultado. Pero esto no 72 No podemos olvidar que su tesis doctoral, defendida en la Universidad de Cambridge fue reconocida con el Premio York en 1977, versó sobre la regla del agotamiento de los recursos internos en su aplicación a la protección de los derechos humanos: CANÇADO TRINDADE, Antonio Augusto. The Application of the rule of exhaustion of focal remedies in international law: its rationale in the international protection of individual rights. Cambridge: Cambridge University Press, 1983. https://acortar.link/Uz91rl. 73 NACIONES UNIDAS. Asamblea General. Primer informe sobre la responsabilidad de los Estados, del Sr. James Crawford, Relator Especial. A/CN.4/490, para. 77. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 120 ONU. Informe del Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión: “el derecho de los derechos humanos y la reglamentación del “discurso de odio” en línea”, de 9 de octubre de 2019. Resolución A/74/486. PETIT DE GABRIEL, Eulalia W. (dir.). Valores (y temores) del Estado de derecho: libertad de expresión v. delitos de opinión en Derecho internacional. Aranzadi, 2023. PETIT DE GABRIEL, Eulalia W. “El abuso de derecho ante el Tribunal Europeo de Derechos Humanos: ¿cuestión procesal o sustantiva?”. En: PASCUAL VIVES, Francisco y GONZÁLEZ SERRANO, Andrés. Litigación internacional y protección de los derechos humanos. España: La Ley, Wolters Kluwer, 2022. QUESADA ALCALÁ, Carmen. “La ¿innecesaria? penalización del discurso de odio bajo la mirada del Consejo de Europa”. En: PETIT DE GABRIEL, Eulalia W. (dir.). Valores (y temores) del Estado de derecho: libertad de expresión v. delitos de opinión en Derecho internacional. Aranzadi, 2023. QUESADA ALCALÁ, Carmen. “Los mecanismos del Consejo de Europa ante el discurso de odio: ¿coherencia o dispersión?”. En: CONTRERAS MAZARÍO, José María; SÁNCHEZ GÓMEZ, Raúl (dirs.). El tratamiento normativo del discurso del odio. Aranzadi, 2021. QUESADA ALCALÁ, Carmen. “Tribunal Europeo y jurisprudencia en materia de discurso de odio: ¿existe un verdadero estándar de protección para la libertad de expresión?”. En: MARTÍN HERRERA, David (coord..). La Libertad de expresión desde un enfoque global y transversal en la era de los objetivos de desarrollo sostenible. Aranzadi, 2022. ROUSSET SIRI, Andrés y BAYARDI MARTÍNEZ, Cintia. Breves notas sobre el Sistema Interamericano de Derechos Humanos. Mendoza: Universidad Nacional de Cuyo, Universidad de Congreso, 2021. https://ssrn.com/abstract=3899328 http://dx.doi.org/10.2139/ssrn.3899328. SALMON GARATE, Elisabeth. Introducción al Sistema Interamericano de Derechos Humanos. Lima: Fondo Editorial de la Pontificia Universidad Católica del Perú, 2019. SUPREME COURT. Ashley Moody, Attorney General of Florida, et al., Petitioners v. NetChoice, LLC, dba NetChoice, et al. N°22–277. 23 de septiembre de 2022. https://acortar.link/ubaZ5U Supreme Court. NetChoice, LLC, dba NetChoice, et al., Petitioners v. Ken Paxton, Attorney General of Texas. N°22–555. 19 de diciembre de 2022. https://acortar.link/KfOLKL. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 121 SUPREME COURT. Twitter, Inc. v. Taamneh et al., certiorari. N° 21–1496, 18 de mayo de 2023. https://acortar.link/zTgJqA. TEDH, Guía sobre el artículo 10 del Convenio Europeo de Derechos Humanos: Libertad de expresión, actualizada a 20.4.2021 (versión en inglés, actualizada a 31.8.2022). TEDH. Acceso a Internet y libertad para recibir y difundir información e ideas. Factsheet (marzo 2022); TEDH. Guía sobre el artículo 10 del Convenio Europeo de Derechos Humanos: Liber-tad de expresión. actualizada a 20.4.2021. En: UCHTFELD, Erik. “Be Careful What You Wish For: The Problematic Desires of the European Court of Human Rights for Upload Filters in Content Moderation”. VerfBlog. 23 de septiembre de 2023. https://acortar.link/wjxM6i DOI: 10.17176/20230923-103502-0. UNIÓN EUROPEA. Sentencia del Tribunal General (Gran Sala). RT France/Consejo (Asunto T–125/22) . 27 de julio de 2022 [Texto rectificado mediante auto de 14 de octubre de 2022]. WENCES, Isabel (coords.). La justicia detrás de la Justicia. Ideas y valores políticos en la Corte Interamericana de Derechos Humanos. Madrid: Marcial Pons, 2023. Artículos “De incógnito, perseguidos o en el exilio: los periodistas resisten en Centroamérica”. El País. 28 de mayo de 2023. “El debate por la censura en las redes sociales, un arma de doble filo”. El País. 14 de febrero de 2021. “El Supremo de Estados Unidos sentenciará sobre la libertad de expresión en las redes sociales”. El País. 29 de septiembre de 2023. “Internet, libertades comunicativas y ¿nuevas reglas de juego?”. El País. 20.04.2023. “La lucha laboral de quienes limpian desde Kenia la toxicidad de Facebook, TikTok y ChatGPT por tres euros la hora”. El País. 2 de agosto de 2023. “La UE quiere obligar a las empresas de internet a revisar las comunicaciones privadas para detectar pederastia”. El País. 23 de mayo de 2023. Revista do Tribunal Regional Federal da 3ª Região, ISSN 1982-1506, São Paulo, v. 36, n. 161, jan./jun. 2025 122 “Las redes sociales justifican la censura invocando a los Derechos Humanos”. El Economista.e. 19 de enero de 2021. “Musk demanda a California por la ley que exige transparencia a las redes sociales”. El País. 9 de septiembre de 2023. “Supreme Court poised to reconsider key tenets of online speech”. The Boston Globe. 19 de enero de 2023. “Un informe señala a Rusia y China como los países con mayor control estatal de Internet”. El Liberal. 18 de octubre de 2022. Data de convite: 04 abr. 2025 Data de aprovação: 05 jun. 2025