Neuralink: implicaciones éticas de las tecnologías basadas en in terfaces cerebro-máquina

DOI: http://doi.org/10.12795/Argumentos/2022.i25.02 Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 NEURALINK: INMPLICACIONES ÉTICAS DE LAS TECNOLOGÍAS BASADAS EN IN TERFACES CEREBRO-MÁQUINA NEURALINK: ETHICAL IMPLICATIONS OF TECHNOLOGIES BASED ON BRAIN-MACHINE INTERFACES JONATHAN GONZÁLEZ SANTOS Universidad Pablo de Olavide jgo[email protected].es RECIBIDO: 30/12/2021 ACEPTADO: 18/03/2022 Resumen: En los últimos años, Elon Musk se ha convertido en una referencia internacional en el ámbito de la innovación. Entre sus últimas aportaciones se encuentra Neuralink, una empresa neurotecnológica que muchos creen que supondrá todo un hito en el sector. Sin embargo, las aplicaciones que plantea han preocupado a académicos y expertos por el gran impacto que puede generar en la sociedad. En este artículo se ha hecho una breve revisión del estado del arte de la tecnología de interfaces cerebro-máquina, haciendo especial hincapié en las implicaciones éticas asociadas, así como en las medidas que se están empezando a tomar para el desarrollo y uso responsable de esta tecnología. Palabras clave: Neuralink; Interfaz Cerebro-Máquina; Neurotecnología; Neuroética; Bioética. Abstract: In recent years, Elon Musk has become an international reference of the innovation sector. Among his latest contributions we could find Neuralink, a neurotechnology company that many believe will be a milestone in the sector. However, the applications that it raises have worried academics and experts due to the great impact it can generate on society. This article has made a brief review of the state of the art of brain-machine interface technology, emphasizing the associated ethical implications, as well as the measures that are beginning to be taken for the development and responsible use of this technology. Keywords: Neuralink; Brain-Machine Interface; Neurotechnology; Neuroethics; Bioethics. JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 54 Introducción Mucho ha llovido desde que, en 1888, Santiago Ramón y Cajal fijase el punto de mira de la investigación neurofisiológica en la neurona como entidad fundamental para comprender el funcionamiento del sistema nervioso, hito que hizo posible el desarrollo de la neurociencia como un prometedor campo de estudio con muchas incógnitas por resolver. Desde entonces, múltiples han sido los hallazgos que se han producido en este campo y, por ende, diversas consecuencias se han derivado del mismo, siendo la neurotecnología una de las más destacadas, la cual abordaremos en este artículo. La neurotecnología se ha definido como el conjunto de métodos e instrumentos que permiten una conexión directa de componentes técnicos –como electrodos, computadoras o prótesis inteligentes– con el sistema nervioso (Müller y Rotter, 2017). Esta ciencia, clasificada por expertos como dentro del grupo de las tecnologías disruptivas (López Baroni, 2019a), se ha disparado en popularidad en la última década (Slutzky, 2019), siendo Neuralink probablemente la empresa más mediática de este sector en la actualidad. Co-fundada en 2016 por el billonario Elon Musk (CEO de Tesla y SpaceX), esta start-up apareció en una publicación del Wall Street Journal (Winkler, 2017), donde se explicaba que, según palabras del magnate, su objetivo era el desarrollo de una tecnología novedosa a la cual se refería como «neural lace», que consistía en el implante de diminutos electrodos cerebrales que permitirían cargar y descargar pensamientos en el futuro. No obstante, esta tecnología no es completamente nueva, sino que se engloba dentro del marco de las interfaces cerebro-máquina. Los fundamentos teóricos de la interfaz cerebro-máquina (ICM) –brain machine interface (BMI) en inglés– también conocida con otros nombres como interfaz-cerebro-computadora (ICC) o interfaz NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 55 cerebro-ordenador (ICO) aparecieron por primera vez en la literatura científica en la década de los años 60. Sin embargo, no sería hasta finales de los 90 cuando los avances tecnológicos del momento permitieron que la investigación en este campo despegase (Lebedev y Nicolelis, 2017). Así pues, en cuanto a su diseño, las BMI pueden variar en función de múltiples parámetros, aunque de forma general suele estar constituido por tres componentes; un módulo sensor, un módulo de procesamiento de la señal y un módulo de aplicación (Minguez, 2010). Los sensores detectan señales de la corteza cerebral, ya sea de forma invasiva o no invasiva (vg. mediante electroencefalografía, EEG), las digitalizan y envían al módulo de procesamiento, que extraen y clasifican patrones o características de la señal y las traducen a comandos. Estos comandos, que se corresponden con las intenciones de la persona, son recogidos por el módulo de aplicación, el cual realiza la función deseada y, por último, se evalúa la reacción del usuario, cerrando así el ciclo de retroalimentación, y permitiendo ajustar correctamente la acción ejecutada (Kawala-Sterniuk et al., 2021; Lebedev y Nicolelis, 2017; Rashid et. al, 2020; Zhang et. al, 2020). Con respecto a los objetivos de las BMI, si bien inicialmente eran, por una parte, desvelar y utilizar los principios de funcionamiento y propiedades de los circuitos cerebrales y, por otra, crear nuevas terapias que permitieran recuperar la movilidad y sensaciones perdidas en pacientes con discapacidad grave, a raíz de los últimos avances en este campo de investigación han surgido una amplia gama de aplicaciones que han expandido estos propósitos originales (Lebedev y Nicolelis, 2017). En concreto, a partir de la actividad cerebral se han desarrollado aplicaciones basadas en control de cursores (Bacher et. al, 2015; Kennedy et. al, 2000; Wolpaw et. al, 1991), sintetizadores del habla (Fontanillo et. al, 2020; Rashid et. al, 2020; Slutzky, 2019; Zhang et. al, 2020), neuroprostética –entre las que se incluyen prótesis biónicas, JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 56 auditivas o visuales– (Fontanillo et. al, 2020; Zhang et. al, 2020), sillas de ruedas inteligentes (Kawala-Sterniuk et al., 2021; Rashid et. al, 2020), diagnóstico de enfermedades (Fontanillo et. al, 2020), neurofeedback –neuroterapia basada en retroalimentación de la actividad cerebral del individuo– (Fontanillo et. al, 2020; Minguez, 2010), neuroergonomía –diseño de ambientes inteligentes basados en neurotecnología– (Fontanillo et. al, 2020; Minguez, 2010), biometría y seguridad (Alimardani e Hiraki, 2020; Fontanillo et. al, 2020; Minguez, 2010; Rashid et. al, 2020), educación (Alimardani e Hiraki, 2020; Fontanillo et. al, 2020), gaming y realidad virtual (Fontanillo et. al, 2020; Minguez, 2010; Rashid et. al, 2020) o neuromarketing (Fontanillo et. al, 2020; Kawala-Sterniuk et al., 2021). Como se puede apreciar, las utilidades de estos dispositivos son diversas. En la actualidad se ofrecen múltiples servicios cuyo número no para de aumentar a medida que pasa el tiempo. Entre las innovaciones más recientes, un ejemplo relevante es el llevado a cabo por BrainNet. En este proyecto se están haciendo pruebas en humanos con interfaces cerebro-cerebro no invasivas para tareas de resolución colaborativa de problemas. Concretamente estos dispositivos combinan registros EEG con estimulación magnética transcraneal para la transmisión de información no invasiva a otro cerebro. En una de las tareas, dos sujetos que actúan como «remitentes» informan a un tercero, «receptor», sobre si debe girar un bloque en un juego similar al Tetris, sin que este pueda ver la pantalla del juego. La tarea ha sido resuelta con muy buenos resultados y nos apunta hacia nuevos sectores donde está tecnología prevé expandirse (Rashid et. al, 2020). NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 57 Neuralink En este contexto aparece Neuralink, empresa que queremos destacar por tener probablemente el proyecto más ambicioso que existe actualmente en cuanto a sus objetivos a largo plazo. Además, esta start-up cuenta con Elon Musk entre sus fundadores, una figura relevante por varios motivos; Musk comenzó el 2021 proclamándose como la persona más rica del planeta (Klebnikov, 2021). Su visión de mercado y conocimientos del sector empresarial lo han convertido en una de las principales influencias en el ámbito de la innovación, lo que se traduce en una importante movilización de capital en todos sus proyectos. En concreto, en 2019, Neuralink ya había recibido 158 millones de dólares en financiamiento (Markoff, 2019). Un año después, durante el evento Neuralink Progress Update, la compañía anunció que había conseguido la aprobación de la Food and Drug Administration (FDA) de EE.UU. para hacer pruebas en humanos, según palabras del CEO. La empresa se está enfocando fundamentalmente en resolver aspectos técnicos asociados a la ingeniería de las interfaces que permitirán ampliar su potencial. Concretamente, pretende aumentar la cantidad de electrodos en al menos dos órdenes de magnitud con respecto a los dispositivos que están aprobados clínicamente, creando un sistema invasivo, seguro y eficaz, que permita a sus usuarios utilizarlo fuera del laboratorio. Los avances presentados hasta la fecha se basan en sondas de polímero ultrafinas, un robot neuroquirúrgico y otros elementos electrónicos personalizados (Musk, E. & Neuralink, 2019; Web de Neuralink, s.f.): El componente central es el «Link», un dispositivo que se implanta en la corteza cerebral y que contiene chips con la capacidad de procesar y transmitir información obtenida a partir de las neuronas en tiempo real, e incluso permite estimular dichas JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 58 células por estimulación cerebral profunda –deep brain stimulation, DBS–. Además, posee una batería que puede ser cargada inductivamente desde el exterior (Musk, E. & Neuralink, 2019; Neuralink). Este implante está conectado a unas sondas de escala neuronal y muy flexibles que contienen muchos electrodos. En total suman un orden de magnitud más de los que poseen los dispositivos de la competencia y pretenden que este número aumente a medida que vayan optimizando la tecnología. El tamaño y la composición de dichas sondas concuerdan mejor con las propiedades del material del tejido cerebral, comparándolas con las que utilizan otras compañías, y, por lo tanto, poseen mejor biocompatibilidad (Musk, E. & Neuralink, 2019; Neuralink). No obstante, son tan finas y flexibles que la mano humana no las puede insertar. Para ello, han desarrollado un sistema robótico que el neurocirujano puede usar para insertarlas individualmente con una precisión de micras, a través de una sola apertura en el cráneo de 8 milímetros, y dirigirlas hacia las regiones específicas del cerebro en las que deben estar (Musk, E. & Neuralink, 2019; Neuralink). Adicionalmente, están trabajando en la aplicación Neuralink. De momento esta aplicación no está disponible ni aprobada por la FDA, por lo que no tenemos información sobre ella. No obstante, en la página web de Neuralink nos presentan una simulación en la que se puede intuir cómo podrá ser. Aparentemente dispondrá de ejercicios que permitirán controlar mejor diferentes dispositivos a través de la actividad cerebral. Objetivos Los objetivos a corto plazo de Neuralink son similares a algunos de los que hemos visto en el apartado anterior. A saber; mejorar la calidad de vida de personas con parálisis facilitándoles modos alternativos de comunicarse, ya sea por medio de texto o por NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 59 síntesis de voz, además de proporcionarles diferentes alternativas de ocio como puede ser navegar por la web o utilizar diferentes softwares de los dispositivos tecnológicos que usamos cotidianamente, como aplicaciones de fotografía, arte, etc. Una vez cumplido este objetivo, el siguiente paso será ampliar el espectro de trastornos a tratar, incluyendo otras alteraciones neurológicas relacionadas con funciones motoras o sensoriales (Musk, E. & Neuralink, 2019; Neuralink). A largo plazo, los objetivos se tornan mucho más abstractos y ambiciosos. En una entrevista para Code Conference (2016), Musk mostraba su preocupación sobre los peligros que acarrearían los avances en inteligencia artificial (IA), y planteaba una posible solución para hacerles frente. Mediante un símil sobre la evolución del cerebro humano, se refirió al sistema límbico —primitivo, asociado con las emociones— como una «capa» a la que posteriormente se le sumaría otra más, la neocorteza —implicada en aspectos más complejos que podemos asociar con la inteligencia—. Contra la amenaza que suponen los progresos en IA, Elon proponía añadir una tercera capa digital que actúe en simbiosis con las otras dos, al fin y al cabo, según comentaba, esta capa ya la poseemos gracias a los dispositivos inteligentes que utilizamos a diario, es decir, en la actualidad interactuamos con la IA, pero dicha interacción se ve limitada, dado que la entrada y salida de información depende de nuestros pulgares. La idea presentada, con algunos matices, finalmente se materializó en la creación de Neuralink. A medida que desarrolle la tecnología y consiga acceder a más áreas corticales, la empresa pretende ampliar la forma en la que los humanos interactuamos, tanto a nivel individual como en sociedad. A partir de esta simbiosis con la inteligencia artificial, según ha apuntado Musk, podremos asegurar nuestro futuro como civilización (Musk et al., 2019). De una forma más concreta, durante el Progress Update de JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 60 Neuralink, el equipo reveló algunas funciones que consideran que se podrán desarrollar en el futuro y que a día de hoy pueden parecernos de ciencia ficción, como descargar nuestros recuerdos o poseer una supervisión que nos permita ver radiación infrarroja o ultravioleta, entre otras (Musk et al., 2020). No obstante, como respuesta, se han producido muchas críticas por parte de la comunidad científica, que ven con bastante escepticismo estas declaraciones. Por ejemplo, en una publicación de MIT Technology Review se criticaba duramente estas ideas, tachando a Neuralink como un teatro de las neurociencias, al considerar que prometen cosas que serán muy difíciles de cumplir (Regalado, 2020). De lo que no cabe duda es de que independientemente de que se consigan estos objetivos finales, la tecnología basada en interfaces cerebromáquina puede acceder a una información muy delicada y personal, que por lo tanto lleva asociadas unas implicaciones éticas que no podemos dejar pasar por alto, como veremos a continuación. Aspectos éticos Si hacemos una revisión de la literatura científica que trata sobre temas afines a las BMI no tardaremos en darnos cuenta de la preocupación que genera en cuanto a los aspectos éticos que plantea su utilización. Frecuentemente se discute más de un tema de los que abordaremos en este apartado, ya sea en estudios técnicos que dedican una sección a las implicaciones éticas, como en artículos en los que estas últimas constituyen el tema central. Los temas en los que nos enfocaremos son; seguridad y equilibrio riesgo-beneficio, privacidad y consentimiento informado, alteración del «yo» (autonomía y responsabilidad e identidad), mejora y justicia. NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 61 Seguridad y equilibrio riesgo-beneficio Una de las principales preocupaciones que existen son las consecuencias adversas asociadas a la seguridad de los dispositivos, registradas tanto en contextos médicos como no médicos (Fontanillo et. al, 2020). En el primer caso, estudios como el de Tamburrini y Mattia (2011) alertan sobre posibles daños graves derivados de la plasticidad neuronal, causados por el uso de dispositivos no invasivos, especialmente cuando se aplican a largo plazo en niños y adultos jóvenes. Los problemas de seguridad no médicos también son muy discutidos y abarcan un gran espectro, que va desde las emociones negativas generadas durante el entrenamiento intenso (Glannon, 2014) hasta situaciones en las que la vida del usuario se puede ver en peligro provocadas por fallas tecnológicas (Hildt, 2011). De igual forma, algunos autores también reflexionan sobre la vulnerabilidad de las BMI, y las consecuencias en la salud de sus usuarios que conllevarían posibles ciberataques contra estos dispositivos en determinados contextos (Fontanillo et. al, 2020; Zhang et al. 2020). Por una parte, si nos centramos en las consecuencias médicas de estas aplicaciones clínicas, está claro que tanto las fallas como los secuestros de los dispositivos BMI podrían tener efectos extremadamente perjudiciales para los individuos. Por otra parte, otras aplicaciones de esta tecnología no son médicas y tienen como objetivo mejorar la calidad de vida del público en general. Estos usos suelen basarse en tecnología no invasiva, en la que los posibles riesgos clínicos parecen menores a priori. Sin embargo, pasarán años o décadas antes de que conozcamos su impacto en la sociedad. A pesar de esto, comenzar ya el análisis ético puede ayudar a orientar su desarrollo. De hecho, la importancia de estos análisis se puede ver atendiendo a los riesgos no médicos, como la frustración, en los que el debate ético se ha estado centrando en los JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 68 que «Sería más que arrogante decirles a los usuarios: “Creo que esto podría cambiar su identidad, por lo que no les permito utilizar esta tecnología”». Por lo tanto, exponen que el debate no se debería enfocar tanto en si las BMI provocarán cambios de identidad, sino en si esos cambios suponen realmente una amenaza a la identidad por sí mismos o simplemente deben ser vistos como alteraciones que pueden ser beneficiosas o perjudiciales para el usuario, situando el concepto de identidad como algo fijo o mutable en el foco de debate (Fontanillo et. al, 2020). Teniendo en cuenta las desventajas mencionadas, y en contraste con las ventajas que proporcionan estos dispositivos expuestos anteriormente, la cuestión que queda aún por identificar está relacionada con las preferencias del paciente, ya que es posible que los usuarios estén dispuestos a sacrificar algún nivel de exposición a favor de tener una mayor autonomía. Autonomía y responsabilidad Hablar de autonomía en el contexto de las interfaces cerebromáquina es algo complejo, ya que el término presenta dos acepciones diferentes y dependiendo del campo de estudio del experto que las emplee tendrá un significado distinto. Mientras que para los neurocientíficos e ingenieros hace referencia a la independencia con la que una persona realiza una tarea sin ayuda de otros, para los eticistas está más ligado a la autodeterminación o voluntad de los individuos por realizar una determinada acción (Burwell et al., 2017). Así pues, para algunos autores, el uso de esta tecnología favorece la autonomía individual, siempre dentro del contexto clínico y no en otros sectores como el del ocio (Burwell et al., 2017; Fontanillo et. al, 2020). NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 69 No obstante, la amenaza para la aceptación social de las BMI se basa en su capacidad potencial para «comprender» los procesos de toma de decisiones que puedan promover nuevas formas de manipulación y limiten la autonomía del usuario. Este debate ha sido planteado en muchas ocasiones por las políticas públicas y diferentes instituciones, especialmente en el campo del neuromarketing. En este sentido, el uso de la neurociencia para comprender el subconsciente de los consumidores y alterar sus decisiones de compra es una preocupación ética ampliamente difundida. Algunos autores creen que a partir de la decodificación de la actividad cerebral del consumidor y desarrollando técnicas de comunicación efectivas, las corporaciones podrán descubrir el «botón de compra» en el cerebro de los consumidores, lo que en última instancia puede conducir a niveles de manipulación sin precedentes (Fontanillo et. al, 2020). Asimismo, a raíz de algunos proyectos, como los llevados a cabo por la Agencia de Proyectos de Investigación Avanzados de Defensa (Defense Advanced Research Projects Agency, DARPA) como RAM (Restoring Active Memory) o SUBNETS (Systems-Based Neurotechnology for Emerging Therapies), cuyos objetivos incluyen la manipulación de procesos cognitivos y emocionales, cada vez más autores empiezan a preocuparse por los posibles efectos secundarios del uso de BMI sobre la autonomía (Farah, 2015; Ling, 2013). Por otra parte, los especialistas están incorporando en su debate asuntos que podrán tener gran repercusión en un futuro en el que la tecnología BMI esté consolidada, como, por ejemplo, si tenemos menos control sobre nuestros pensamientos que sobre la conducta más perceptible, o si la elección de usar esta tecnología hace que el usuario sea responsable de todas las salidas del dispositivo. Algunos autores opinan que las BMI podrían funcionar «demasiado bien», y como resultado, ejecutar acciones a partir de eventos subconscientes o pensamientos pasajeros (Burwell et al., 2017). JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 70 Respecto a esto, los expertos están divididos entre los que opinan que el usuario debe de ser responsable de las acciones ejecutadas, sean intencionadas o no, y lo equiparan con la responsabilidad que tienen los padres, o dueños de mascotas, por las acciones de sus hijos o animales de compañía, y los que sugieren que las acciones inconscientes deberían considerarse como un defecto del dispositivo y que, por tanto, la responsabilidad debería recaer en sus fabricantes (Tamburrini, 2009; 2014). Además, un último punto a tener en cuenta es la posibilidad de que el dispositivo sea hackeado y por tanto las acciones sean creadas por un tercero. Por todo lo expuesto, actualmente el debate gira en torno a si las herramientas disponibles son suficientes para abordar todas las consideraciones que plantea el uso de BMI o requerirán cambios en nuestros sistemas legales y comprensión de la moralidad (Burwell et al., 2017). Mejora Otra cuestión que surge es el hecho de que a medida que esta tecnología se vaya consolidando para el uso terapéutico, probablemente le seguirán otros usos no terapéuticos, de forma análoga a como ha ocurrido con otras terapias médicas, desde la cirugía plástica hasta la psicofarmacología, cuyo uso ha sido reportado en diferentes contextos como en el caso de estudiantes universitarios para aumentar su atención, o incluso para mejorar las habilidades de juego (Farah, 2015). Relacionado con esto, algunos autores han señalado que el empleo de la neurotecnología puede resultar más efectivo que los métodos farmacológicos de mejora cognitiva que se emplean en la actualidad (Farah, 2015). Así pues, al respecto, es conveniente señalar algunos aspectos importantes a tener en cuenta. El primero es que la mejora de las funciones que ofrecen las interfaces cerebro-máquina va ligada a la NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 71 mercantilización de las habilidades humanas (Farah, 2015). Asimismo, dado que nuestro organismo funciona como un todo, en muchos casos la mejora de una habilidad implica el costo de otra, por lo que debería considerarse a la hora de tener en cuenta en qué casos estaría justificado su uso. Por otra parte, a pesar de que el estado actual de la tecnología no permite otorgar nuevas funciones sobrehumanas a sus usuarios, Musk no es el único que opina que esto puede acontecer a largo plazo, por ejemplo, en una publicación, Zehr expone que el desarrollo de tecnologías que mejoran el intelecto y la fisiología humanos podría transformar la condición humana, y como resultado, el homo sapiens sapiens evolucionaría hacia un homo sapiens technologicus que utiliza la tecnología para mejorar su funcionamiento (Zehr, 2015). Esta reevaluación de la humanidad se ha denominado tradicionalmente «transhumanismo» (Farah, 2015; Fontanillo et. al, 2020) y constituye en la actualidad un movimiento cultural e intelectual consolidado, con múltiples corrientes, que ha generado gran controversia en la población. Si bien no hay garantía para que esto suceda, tampoco hay razón para suponer que no pasará. Por consiguiente, cabe preguntarnos ¿qué opinan los eticistas al respecto? El filósofo Nick Bostrom ofrece un argumento principalmente consecuencialista en el que enfatiza «el enorme potencial de mejoras genuinas en el bienestar y el florecimiento humano que solo se pueden lograr mediante la transformación tecnológica» (Bostrom, 2005). Para el consecuencialismo hedonista, las acciones éticas son aquellas que maximizan el placer de todos. Resulta evidente que las preferencias humanas pueden estar equivocadas, por este motivo se han considerado otras aproximaciones, entre las que se incluye el consecuencialismo perfeccionista, que nos dice que debemos «maximizar la perfección o el pleno florecimiento del potencial humano». Independientemente de las particularidades de JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 72 cada subrama, en general, el consecuencialismo alude a que la mejora puede ayudar a lograr una buena vida, proporcionando cualidades que aumentan las posibilidades de que la tengamos, como la salud o la inteligencia (Farah, 2015). Esta visión parece contradecir a la comprensión deontológica de la ética. Desde este enfoque se contempla que la mejora de las funciones psicológicas mediante la intervención del cerebro es análoga a cuando, por ejemplo, modificamos nuestro coche para aumentar su rendimiento, yaque en los dos casos, independientemente de los resultados, estamos tratando a una persona como un objeto, lo que se traduce en una disminución de nuestra humanidad. En palabras del Consejo de Bioética del Presidente (2003) bajo George W. Bush; «Los logros personales alcanzados de manera impersonal no son realmente los logros de las personas. [El problema] no radica en el hecho de que los medicamentos y dispositivos auxiliares son artefactos, sino en el peligro de violar o deformar la naturaleza de la acción humana y la dignidad de la forma de vida naturalmente humana» (Farah, 2015). El argumento consecuencialista de la perfección también ha sido utilizado en contra de la mejora neurotecnológica por bioeticistas a los que les preocupa que el uso de estas mejoras acabe sucumbiendo a la «tiranía de lo perfecto». Para García Sánchez (2013), a la tradición médica se le está imponiendo que se subordine a los dictados políticos y mediáticos que le indican qué es lo normal en la salud. Y, a su vez, dicho dictado cada vez busca niveles más altos de perfección genética, mental y estética». Según palabras del autor, alcanzar un alto grado de autonomía y de independencia constituye un deseo legítimo y positivo de toda persona y sociedad. Pero una fanática ponderación de estos valores terminaría por rechazar que el ser humano no viene definido por una autonomía y perfección absolutas, ni por estados biológicos puros, sino por lo contrario: estados transitorios de enfermedad y NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 73 dependencia. El pensamiento de este académico parece concordar con lo que sugieren algunos estudios como el de Blanco Mercadé y Fernández Natal (2013) en el cual, el propio personal médico definía a la enfermedad exclusivamente desde los tratados de patología médica, sin tener en cuenta los aspectos biográficos del hecho de enfermar. El autor reconoce la importancia de los logros en el campo de la biomedicina en cuanto a la erradicación de enfermedades y la mejora en las condiciones de higiene y salud de la sociedad, e incluso que algunas acciones de cuidado corporal o mejoramiento estético proporcionan a la persona una situación de bienestar con efectos positivos para su salud. Pero le preocupa la generalización, cada vez más extendida, de la vinculación causa/efecto entre belleza estética y salud física y mental, ya que, como afirma, desde el mero mercado se está determinando cuales han de ser los parámetros exigibles para garantizar una salubridad óptima. Es decir, una supuesta normalidad que debería ser medicalizada en el caso de no alcanzar esos niveles, lo que se traduce en una patologización de la normalidad, o lo que es lo mismo, de la propia sociedad. Argumenta que si bien este fenómeno es más apreciable en el campo de la estética, no es exclusivo de esta especialidad y cada vez se está expandiendo a más ámbitos de la medicina y otras disciplinas. Socialmente, —continúa— se presentan como iconos de normalidad los cuerpos de las celebridades, deportistas de élite, o ciudadanos que por su nivel económico han accedido a mejoras de su físico, transmitiendo una idea ilusoria de la normalidad que trae como consecuencia que cada vez más personas vean como un estigma social la ausencia de determinados aspectos estéticos en su corporalidad, sintiéndose presionadas a acceder a tratamientos de mejora físicas y/o psíquicas hasta el momento innecesarios (García Sánchez, 2013). JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 74 Para concluir con el concepto de la búsqueda de la perfección y analizar el impacto que este hecho puede provocar en la población, podemos trasladar la pregunta a la ciencia y ver hacia donde apuntan los estudios. Un ejemplo de estos es el llevado a cabo por Bigatti (2020) que revela que tanto el perfeccionismo como el síndrome del impostor (estrechamente vinculado a personas con rasgos de personalidad perfeccionista) están asociados con una salud mental más deficiente. Se encontró que el perfeccionismo se correlacionó positivamente con depresión, ansiedad, ideación suicida, burnout, angustia psicológica, cinismo y bajos niveles de autoconfianza, entre otros aspectos de salud mental. Considerando esto, la búsqueda de la perfección no parece ser tan positiva como plantean algunos autores consecuencialistas. Justicia Entre las cuestiones relacionadas con la justicia, el debate sobre la ética de las BMI abarca todo el proceso del desarrollo tecnológico, desde aspectos más generales como su distribución hasta otros más concretos como el propio diseño de los dispositivos. Respecto a este último punto, algunos especialistas en la materia sugieren que, a medida que se consolide el uso de las BMI, las personas con mayor probabilidad de verse afectadas por esta tecnología deberían participar en el proceso de diseño, incluyendo tanto a los usuarios potenciales como a otros sectores de la población (Burwell et al., 2017). La importancia de esta cuestión queda más clara si contemplamos algunos trabajos como el de Wolbring y col. (2013), a los que les preocupa que la mayoría de la literatura sobre interfaces cerebro-máquina trate la diversidad funcional como un problema médico en lugar de sociocultural, lo que sugiere que no se han considerado algunas perspectivas de estas personas, y promueve su estigma social. Las BMI aparecen NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 75 siguiendo un enfoque clínico que busca, de forma análoga a la que lo harían algunos «tratamientos» médicos, la restauración de las capacidades «normales» de los individuos. Si bien esto puede parecer positivo, no lo es para determinadas personas con diversidad funcional que no se ven a sí mismas como discapacitadas y consideran que estas atribuciones se hacen bajo la perspectiva de «la tiranía de lo normal». Por ejemplo, algunas personas de la comunidad sorda no ven a los implantes cocleares como un tratamiento, sino como una mejora (Burwell et al., 2017). Así pues, definir cuál es el estándar de lo «normal» y, consecuentemente, la línea divisoria entre tratamiento y mejora, es un gran desafío que implica cuestiones éticas subyacentes, como la capacidad de la persona para determinar de manera autónoma su tipo particular de cuerpo o forma de vida (Burwell et al., 2017). Otra cuestión de justicia social asociada con la mejora neurotecnológica y el transhumanismo está relacionada con la distribución equitativa de estos dispositivos entre todos los sectores de la población. Algunos autores opinan que la administración adecuada de esta tecnología podría disminuir las desigualdades originadas por la educación recibida o incluso los propios genes implicados en características personales, como coeficientes intelectuales más altos o temperamentos más felices (Farah, 2015). Sin embargo, si no se toman medidas, lo más probable será que los ya privilegiados sean los que disfruten de los beneficios de las mejoras tecnológicas, resultando en un fracaso de la justicia distributiva. Por lo que se refiere al transhumanismo, los expertos defienden que, si finalmente llega a presentarse como una realidad, es probable que cambie las normas sociales y genere nuevas formas de discriminación. Los entornos distópicos, en los que los humanos coexistan con transhumanos, podrían promover una nueva estratificación social. Asimismo, anular el acceso igualitario a los JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 76 recursos como consecuencia del acceso desigual a la tecnología puede agravar la competencia social y la injusticia entre los colaboradores, generando así nuevas formas de discriminación (Farah, 2015). Por otra parte, incluso aunque se garantice una distribución justa, también preocupa que la mejora continuada en la escuela o el trabajo acabe redefiniendo lo «normal», y por consiguiente las demandas de trabajo sean cada vez más difíciles de alcanzar para aquellos que no se adhieran a esta tecnología o dispongan de una versión obsoleta de la misma. Esta situación puede conllevar que muchos se resistan a tener que depender de lo que terceras personas hayan decidido fijar a su gusto sobre lo que debe ser lo perfecto y normal en el ser humano (García Sánchez, 2013). Partiendo de esta reflexión, algunos especialistas como Francis Fukuyama se refieren al transhumanismo como «la idea más peligrosa del mundo» al contemplar la idea de que aquellos humanos a los que no les vaya bien en un mundo con transhumanos puedan ser vistos como formas de vida inferiores y tratados en consecuencia. Así pues, el politólogo plantea la siguiente pregunta: «Si comenzamos a transformarnos en algo superior, ¿qué derechos reclamarán estas criaturas mejoradas, y qué derechos poseerán en comparación con los que quedaron atrás?» (Fukuyama, 2009). Neuroderechos Como hemos visto, los problemas éticos, legales y sociales que surgen, tanto de ésta como de otras nuevas neurotecnologías, son muchos y podrían ir desarrollándose de forma progresiva. Mientras que algunos pueden surgir a corto plazo, otros son más lejanos y dependerá del curso de los avances en investigación. Si bien hay quien opina que estos escenarios aún forman parte del ámbito de la ciencia ficción, otros creen que ya están en proceso, y por tanto es NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 77 necesario actuar cuanto antes (Goering y Yuste, 2016; Yuste, 2018). Rafael Yuste, neurocientíco de la Universidad de Columbia e impulsor del proyecto BRAIN, figura entre los que mantienen esta convicción (Yuste, 2018). Forma parte de El Grupo Morningside, constituido por neurocientíficos, neurotecnólogos, clínicos, especialistas en ética e ingenieros de inteligencia artificial. Entre los que se incluyen representantes de proyectos de tecnología cerebral internacionales y de instituciones académicas y de investigación de Estados Unidos, Canadá, Europa, Israel, China, Japón y Australia (Yuste et al., 2017). El grupo se reunió en un taller patrocinado por la Fundación Nacional de Ciencias de EE. UU. en la Universidad de Columbia, Nueva York, en mayo de 2017 para discutir asuntos relacionados con la ética de las neurotecnologías y de la inteligencia artificial. Como resultado, llegaron a la conclusión de que las pautas éticas existentes hasta la fecha son insuficientes para abordar los problemas planteados. Entre dichas pautas se incluyen; la Declaración de Helsinki (1964), sobre principios éticos para la investigación médica en seres humanos; el Informe Belmont (1979), elaborado por la Comisión Nacional de Estados Unidos para la Protección de Sujetos Humanos de Investigación Biomédica y del Comportamiento; y la Declaración de principios cautelares de inteligencia artificial de Asilomar (2017), firmada por líderes empresariales e investigadores de IA, entre otros. Las medidas que plantearon para abordar estos problemas se dividen en varias líneas de actuación: Una de ellas se basa en el seguimiento del modelo de la deontología médica (Goering y Yuste, 2016; Yuste et al., 2017; Yuste, 2018); A partir del juramento hipocrático, la medicina ha establecido un conjunto de reglas éticas que han formado una deontología, cuyos principios se enseñan en las escuelas de medicina y sus profesionales siguen cerca en gran parte del mundo y a lo largo de la historia (Goering y Yuste, 2016). JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 84 metafísicos como si el uso de los mismos puede alterar nuestro «yo». Por otra parte, en este punto cabe destacar que no todas las preocupaciones éticas que pueden surgir a priori se ven reflejadas en la literatura, como el uso militar, el cual se apenas se menciona y si aparece suele ser tratado muy brevemente. Los resultados derivados no son concluyentes en muchos casos, dado que en los estudios científicos se requiere una mayor validez de los datos para contemplar posibles repercusiones, y a su vez en los estudios filosóficos se plantean problemas a la hora de aplicar conceptos como el de «identidad», de los cuales se ha sugerido que deberían ser reformulados. No obstante, algunos expertos opinan que la acción para regular la neurotecnología debería ser inminente. Una de las acciones más representativas la está llevando a cabo Grupo Morningside, constituido por expertos de diversas ramas del conocimiento, el cual ha impulsado la Iniciativa Neuroderechos. Este proyecto busca que se reconozcan y protejan cuatro neuroderechos universales relacionados con la privacidad mental, identidad y autonomía, acceso equitativo a la mejora y protección frente a sesgos algorítmicos. Chile hizo historia a finales del año pasado al convertirse en el primer país en unirse a esta iniciativa. Acto llevado a cabo bajo tres acciones: una Enmienda Constitucional, un Proyecto de Ley de Neuroprotección y un juramento tecnocrático. Por su parte España está comenzando a tomar parte en este terreno. A pesar de esto, las expectativas de futuro de dicho movimiento aún no están claras. En los últimos años estamos siendo testigos de cómo la brecha entre desarrollo tecnológico y legislación es cada vez mayor, lo que impide actuar frente a actos moralmente cuestionables. Esto puede ser producido por falta de transferencia de conocimiento entre la ciencia y el derecho, pero también puede ser resultado de la estrategia geopolítica de las diferentes naciones. Respecto de esta NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 85 última consideración, algunos de los desafíos que plantean las tecnologías disruptivas se deben a que las empresas se centran en el valor para los accionistas ignorando a las partes interesadas, lo que permite que estas empresas se lucren rápidamente y sus naciones se desarrollen económicamente con facilidad, iniciando una batalla para monopolizar el mercado. Frente a esto, el resto de los países que quieren competir tienden a desarrollar políticas basadas en la desregulación. Lamentablemente, esta es una tendencia que las empresas que desarrollan productos modificados genéticamente han aprendido a tener en cuenta en los últimos años. Por el contrario, dejando el valor económico de lado, encontramos que el valor social, incluyendo el valor para los clientes, comunidades afectadas y público en general, puede frenar esta situación. Esto nos da un hilo de esperanza para poder concluir que, si se toman las medidas adecuadas, quizá aún estamos a tiempo de evitar un fenómeno Crispr en neurotecnología. Referencias Agid, Y., Schüpbach, M., Gargiulo, M., Mallet, L., Houeto, J. L., Behar, C., Maltête, D., Mesnage, V., & Welter, M. L. (2006). Neurosurgery in Parkinson’s disease: the doctor is happy, the patient less so? Journal of Neural Transmission. Supplementum, (70), 409–414. Alimardani, M., & Hiraki, K. (2020). Passive Brain-Computer Interfaces for Enhanced Human-Robot Interaction. Frontiers in Robotics and AI, 7, 125. Bacher, D., Jarosiewicz, B., Masse, N. Y., Stavisky, S. D., Simeral, J. D., Newell, K., Oakley, E. M., Cash, S. S., Friehs, G., & Hochberg, L. R. (2015). Neural Point-and-Click Communication by a Person with Incomplete Locked-In Syndrome. JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 86 Neurorehabilitation and Neural Repair, 29(5), 462–471. Blanco Mercadé, A. y Fernández Natal, M.I. (2013). Qué son la vida, la enfermedad y la medicina para un grupo de médicos jóvenes en formación. En Fundación ETNOR para la Ética de los Negocios y de las Organizaciones (Ed.), Bioética, Neuroética, Libertad Y Justicia (pp. 126-132). Comares. Bostrom, N. (2005). A history of transhumanist thought. Journal of Evolution and Technology, 14(1). 1-25. Burwell, S., Sample, M., & Racine, E. (2017). Ethical aspects of brain computer interfaces: a scoping review. BMC Medical Ethics, 18(1), 60. Columbia NeuroRights Initiative. (s.f.). Proyectos y Publicaciones. https://nri.ntc.columbia.edu/spanish-webpage/proyectos-y- publicaciones. Durán, X. (17 de enero de 2021). Neurodrets: la intimitat del cervell, nova frontera en la lluita per la privacitat. Catalunya Radio. Farah M. J. (2015). An ethics toolbox for neurotechnology. Neuron, 86(1), 34–37. Farisco, M., Laureys, S., & Evers, K. (2015). Externalization of consciousness. Scientific possibilities and clinical implications. Current topics in behavioral neurosciences, 19, 205–222. Fontanillo, C. A., Li, G., & Zhang, D. (2020). Beyond Technologies of Electroencephalography-Based Brain-Computer Interfaces: A Systematic Review from Commercial and Ethical Aspects. Frontiers in neuroscience, 14, 611130. Fukuyama, F. (23 de octubre de 2009). Transhumanism. Foreign Policy. García Sánchez, E. (2013). La tiranía de lo perfecto: implicaciones bioéticas. En Fundación ETNOR para la Etica de los Negocios y de las Organizaciones (Ed.), Bioética, Neuroética, Libertad y Justicia (pp. 1201-1213). Comares. Glannon W. (2009). Stimulating brains, altering minds. Journal of NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 87 medical ethics, 35(5), 289–292. Glannon W. (2014). Neuromodulation, agency, and autonomy. Brain Topography, 27(1), 46–54. Gisquet E. (2008). Cerebral implants and Parkinson’s disease: A unique form of biographical disruption? Social Science & Medicine (1982), 67(11), 1847–1851. Goering, S., Klein, E., Dougherty, D.D. & Widge, A.S. (2017). Staying in the Loop: Relational Agency and Identity in Next- Generation DBS for Psychiatry. AJOB Neuroscience. Goering, S., & Yuste, R. (2016). On the Necessity of Ethical Guidelines for Novel Neurotechnologies. Cell, 167(4), 882–885. Hildt, E. (2011). Brain-Computer Interaction and Medical Access to the Brain: Individual, Social and Ethical Implications. Studies in Ethics, Law, and Technology, 4. Illes, J., & Bird, S. J. (2006). Neuroethics: a modern context for ethics in neuroscience. Trends in Neurosciences, 29(9), 511–517. Kawala-Sterniuk, A., Browarska, N., Al-Bakri, A., Pelc, M., Zygarlicki, J., Sidikova, M., Martinek, R., & Gorzelanczyk, E. J. (2021). Summary of over Fifty Years with Brain-Computer Interfaces-A Review. Brain Sciences, 11(1), 43. Kennedy, P. R., Bakay, R. A., Moore, M. M., Adams, K., & Goldwaithe, J. (2000). Direct control of a computer from the human central nervous system. IEEE transactions on rehabilitation engineering: a publication of the IEEE Engineering in Medicine and Biology Society, 8(2), 198–202. Klebnikov, S. (12 de enero de 2021). Elon Musk is back at no. 1 richest person in the world after Tesla stock rebounds. Forbes Magazine. Lebedev, M. A., & Nicolelis, M. A. (2017). Brain-Machine Interfaces: From Basic Science to Neuroprostheses and Neurorehabilitation. Physiological Reviews, 97(2), 767–837. Ling, G. (2013). Newsmaker interview: Geoffrey Ling. DARPA JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 88 aims to rebuild brains. Entrevistado por Emily Underwood. Science. López Baroni, M. J. (2018). Las narrativas de la Biotecnología. Argumentos de razón técnica, 21, 47-76. López Baroni, M. J. (2019a). Casos de la Bioética norteamericana en el último decenio (pp. 137-191). Ediciones Thomson Reuters. López Baroni, M. J. (2019b). Las Tres Europas frente a la encrucijada genómica. Revista de Bioética y Derecho, 47, 77-92. Markoff, J. (17 de julio de 2019). Elon musk’s Neuralink wants ‘sewing machine-like’ robots to wire brains to the internet. The New York Times. Morse, S.J. (2006). Moral and legal responsibility and the new neuroscience. In J. Illes, (Ed.), Neuroethics: Defining the Issues in Theory, Practice and Policy (pp 33-50). Oxford University Press. Minguez, J. (2010). Tecnología de Interfaz Cerebro-Computador. Jornadas II Internacionales de Mayores y Nuevas Tecnologías. Müller, O., & Rotter, S. (2017). Neurotechnology: Current Developments and Ethical Issues. Frontiers in systems neuroscience, 11, 93. Musk, E. (2016). The Code Conference / Entrevistado por Kara Swisher y Walt Mossberg. Recode. Musk, E., & Neuralink (2019). An Integrated Brain-Machine Interface Platform with Thousands of Channels. Journal of Medical Internet Research, 21(10), e16194. Musk, E. et al. (2019). Neuralink launch event. Musk, E. et al. (2020). Neuralink Progress Update, Summer 2020. Proyecto de reforma constitucional (Boletín N° 13.827-19.), iniciado en moción de los Honorables Senadores señor Girardi, señora Goic, y señores Chahuán, Coloma y De Urresti, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías. República de Chile. NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 89 Rashid, M., Sulaiman, N., P P Abdul Majeed, A., Musa, R. M., Ab Nasir, A. F., Bari, B. S., & Khatun, S. (2020). Current Status, Challenges, and Possible Solutions of EEG-Based Brain-Computer Interface: A Comprehensive Review. Frontiers in neurorobotics, 14, 25. Regalado, A. (30 de agosto de 2020). Elon Musk’s Neuralink is neuroscience theater. MIT Technol Rev. Schaffner, K.F, (2002). Neuroethics: reductionism, emergence, and decision-making capacities. En S. J. Marcus (Ed.), Neuroethics: Mapping the Field (pp 27-33). The Dana Foundation Press. Schüpbach, M., Gargiulo, M., Welter, M. L., Mallet, L., Béhar, C., Houeto, J. L., Maltête, D., Mesnage, V., & Agid, Y. (2006). Neurosurgery in Parkinson disease: a distressed mind in a repaired body? Neurology, 66(12), 1811–1816. Slutzky M. W. (2019). Brain-Machine Interfaces: Powerful Tools for Clinical Treatment and Neuroscientific Investigations. The Neuroscientist: A Review Journal bringing Neurobiology, Neurology and Psychiatry, 25(2), 139–154. Tamburrini, G. (2009). Brain to Computer Communication: Ethical Perspectives on Interaction Models. Neuroethics, 2, 137–149. Tamburrini, G. (2014). Philosophical reflections on brain-computer interface. En G. Grubler, E. Hildt (Eds.), Brain-computer-interfaces in their ethical, social and cultural contexts (pp. 147-62). Springer. Tamburrini, G., & Mattia, D. (2011). Disorders of consciousness and communication. Ethical motivations and communicationenabling attributes of consciousness. Functional neurology, 26(1), 51–54. Thomas, M., & Bigatti, S. (2020). Perfectionism, impostor phenomenon, and mental health in medicine: a literature review. International Journal of Medical Education, 11, 201–213. Vázquez Costa, M. y Vázquez Costa, J.F. (2013). ¿Somos esclavos de nuestro cerebro? En Fundación ETNOR para la Ética de los JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 90 Negocios y de las Organizaciones (Ed.), Bioética, Neuroética, Libertad y Justicia (pp. 1039-1054). Comares. Vlek, R. J., Steines, D., Szibbo, D., Kübler, A., Schneider, M. J., Haselager, P., & Nijboer, F. (2012). Ethical issues in braincomputer interface research, development, and dissemination. Journal of Neurologic Physical Therapy (JNPT), 36(2), 94–99. Web de Neuralink (s.f.) https://neuralink.com/ Winkler, R. (28 de marzo de 2017). Elon Musk Launches Neuralink to Connect Brains with Computers. The Wall Street Journal. Wolbring, G., Diep, L., Yumakulov, S., Ball, N., Leopatra, V., & Yergens, D. (2013). Emerging Therapeutic Enhancement Enabling Health Technologies and Their Discourses: What Is Discussed within the Health Domain? Healthcare, 1(1), 20–52. Wolpaw, J. R., McFarland, D. J., Neat, G. W., & Forneris, C. A. (1991). An EEG-based brain-computer interface for cursor control. Electroencephalography and clinical neurophysiology, 78(3), 252– 259. Workshop: Neuroderechos en Chile: El debate filosófico. (17-19 de marzo de 2021). Universidad Alberto Hurtado. Yuste, R. (2018). Necesitamos neuroderechos universales. Entrevistado por José Viosca Ros. Mente y cerebro. Yuste, R., Goering, S., Arcas, B., Bi, G., Carmena, J. M., Carter, A., Fins, J. J., Friesen, P., Gallant, J., Huggins, J. E., Illes, J., Kellmeyer, P., Klein, E., Marblestone, A., Mitchell, C., Parens, E., Pham, M., Rubel, A., Sadato, N., Sullivan, L. S., … Wolpaw, J. (2017). Four ethical priorities for neurotechnologies and AI. Nature, 551(7679), 159–163. Zehr E. P. (2015). The potential transformation of our species by neural enhancement. Journal of motor behavior, 47(1), 73–78. Zhang, X., Ma, Z., Zheng, H., Li, T., Chen, K., Wang, X., Liu, C., Xu, L., Wu, X., Lin, D., & Lin, H. (2020). The combination of brain-computer interfaces and artificial intelligence: applications NEURALINK: IMPLICACIONES ÉTICAS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 91 and challenges. Annals of Translational Medicine, 8(11), 712. Zhang, X., Wu, D., Ding, L., Luo, H., Lin, C. T., Jung, T. P., & Chavarriaga, R. (2020). Tiny noise, big mistakes: adversarial perturbations induce errors in brain-computer interface spellers. National Science Review, 8(4), nwaa233. JONATHAN GONZÁLEZ SANTOS Argumentos de Razón Técnica, nº 25, 2022, pp. 53-91 92