Milenarismo tecnológico: la competencia entre seres humanos y robots inteligentes

MILENARISMO TECNOLÓGICO: LA COMPETENCIA ENTRE SERES HUMANOS Y ROBOTS INTELIGENTES ANTONIO DIÉGUEZ Universidad de Málaga Precisamente los rasgos más característicos de la condición humana -por ejemplo el miedo a la muerte, la aversión hacia el propio cuerpo, el deseo de moralidad o de liberarse de los erroresunidos a un deseo de dominio evolutivo sobre el mundo natural constituyen las fuerzas fundamen - tales que, de forma creciente, empujan a los humanos para crear máquinas. B. Mazlish, La cuarta discontinuidad, pp. 308-9. Resumen. Este artícu lo se dedica , en p rim er lugar, a expone r y analizar la s opiniones de algu no s investigadores en IA (inteligencia artificial) sobre la s consecuencias de las máquinas inteli gentes (futuro posthumano); en segundo lugar se critican estas posiciones desde el punto de vista de la posibilidad de controlar el d es arrollo de la tecnología. Abstract. F ir stly, this arti cle is d evoted to expose the ideas of sorne distinguished scholars in Al (Artificial Intelligence) abo ut the soc ial consequences of intelligent machines (post - human future). Secondly, these positions are critizi sed from the view-point of the po ssibility of controlling the development of technology. La posibilidad de crear máquinas co n una inteligencia igual o su perior a la humana ha dejado de ser desde hace unos años un tema exclusivo de la ciencia -fi cción para convertirse en un asunto bajo el esArgument os de Razón Técnica, N• 4 (2001) pp. 219-240 220 ANTONIO DIÉG UEZ crutinio de la ciencia. El campo de la Inteli gencia Artificial ( IA) se basa en la aspiración razonada de obtener en un plazo no demasiado lejano tales máquinas inteligentes. O mejor sería decir máquinas con procesos mentales inteligentes, evitando de este modo asumir que la inteligencia sea una propiedad ún ic a y homogénea. Hay ciertamente quienes piensan que esta posibilidad debe ser descartada de an temano, al menos si por inteli ge ncia (o por procesos mentales inteligentes) entendemos algo que no está somet ido a reglas predeterminadas, algo que faculta a lo s seres humanos para reconocer rápidamente lo relevante y lo accesorio en un entorno cambi ante, que les permite ser intuitivos y creativos tanto en el terr eno de la teoría como en el del arte, algo que incluye la capacidad para comprender significados (contenidos semánticos) y para usar el lenguaje haciendo referencia con él al mundo real; algo, en fin, que tiene como manifestaciones singular es la consciencia y lo que habitualmente llamamos ' sentido común'. Lo s críticos de la IA insisten en que éstas son características sin las cuales no cabe hablar de inteligencia, y ponen en cuestión que las máquinas puedan desplegar alguna vez tales características (cf. Dreyfus 1993, Weizenbaum 1984 y Searle 1980; para un análisis, véase Martínez Freire 1995, cap. 8). Estas voces discrepantes -hay que decirlono son tenidas muy en cuenta por los científicos e ingenieros implicados directamente en proyectos de IA, y por el momento sus argumentos no son definitivos contra lo s que presentan l os defensores de las máquinas inteligentes, aunque desde luego no carezcan de plausibilidad inicial en muchos aspectos 1. Es cierto que los avances realizados en el campo de la IA -de los que los sistemas expertos y las red es neuronales artificiales son la mejor muestra-no han s id o tan rápidos ni tan es pectaculares como todavía se esperaba a principios de lo s 80, pero han sido lo suficientemente importantes como para que las expectativas creadas en torno a dicho campo se mantengan en alza (cf. Martínez Freire 1996). 1 Algunas de estas críticas, es pecialm ente la de Dreyfus, han sido recogidas s in embargo en pro pu estas que se presentan co mo alternativas a la visión dominante en !A , tanto en su versión simbólica como en su versi ón co n ex i on ista. Estas propuestas i ntentan superar Ja conc epci ón de la mente c omo un ce ntro des en ca rna do de razonamiento lógico y de compu tación para considerarla más bien como un sistema encarnado (embodied) de control de las actividades de un cuerp o inmerso en un entorno. (Cf. Varela et al. 1991, Brooks 1997, van Gelder 1997 y Clark 1997). MILENARISMO TECNOLÓGICO: LA COMPETENC IA ENTRE SERES ... 221 No es mi intención, sin embargo, e ntr ar aquí en el debate sobre la posibilidad r ea l de crear máquinas superinteligentes, ni en el de la diferencia entre simular la inteligencia y tener inteligencia. Para se guir hasta el final la lín ea de la argumentación que me interesa desarro llar en estas pá ginas, s upondré que las máquina s inteligentes con c apaci - dades superiores a las humanas estarán a nuestro lado en un futuro más o men os lejano, si bien soy consciente de lo problemá ti ca y controvertida qu e es una suposición como ésta. Lo que haré a continuación se rá exp oner en primer lu gar algunas de las implicaciones sociales más radicales que destac ados investigadores en IA han extraído de esa posibilidad, e intentaré mostrar después que , incluso aceptando tal suposición, las previsiones que efectúan sobre el mundo que se avecina están mu y deficientemente fundadas y deben ser tenidas como posibilidade s muy remotas, cuando no como meras fantasías milenaristas. Los ROBOTS DEL ANOCH ECE R U na cuestión que, con toda su crudeza, ha atraído de modo especial a algunos científicos y figuras relevantes de la IA es la de las re la - ciones que podrían establec er se entre el se r humano y las máquinas en un futuro en el cual éstas fueran superiores en inteligencia. ¿Qué suce - derá con el se r humano c uando estas máquina s superinteligentes sean robots o estén integradas en robots capaces de dotarl as de movimiento y puedan construirse a sí mismas y proliferar de forma rápida? Uno de Jos primeros en buscar una respuesta fue Edward Fredkin, gerente del Labo rat or io de Inteligencia Artificial del Ma ssac husett s In stitute of Te c hn ology. En 1979 ya había forjado algunas conclusiones al re spec to que expuso en una entrevista televisiva: Hay tr es grandes acontecimientos en la hi storia. Uno , la creación del universo. Otro, la aparición de la vida. El tercero, que creo de igual imporlancia, es la aparición de la in teligencia artificial. Ésta es una forma de vida [sic} muy diferente, y tiene posibilidades de crecimiento intelectual diftciles de imaginar. Estas máquinas evolucionarán: algunos computadores inteligentes diseñarán otr os, y se harán más list os. La cuestión es dónde quedamos nosotros. Es bas - tante complicado imaginar una máquina millon es de veces más lista que la p erso na más lista y que, sin embargo, siga siendo nuestra 222 ANTONIO DIÉGUEZ esclava y haga lo que queremos. Puede que condesciendan a hablarnos, puede que jueguen a cosas que nos gusten, puede que nos tengan como mascotas2• No muy lejos en el tiempo, en 1981, Robert Jastrow, profesor de Astronomía y Geología en la Universidad de Columbia y presidente del Comité de Exploración Lu nar de la NASA, escribía lo siguiente en una obra de divulgación sob re el funcionamiento y evolución de cerebro titulada El telar mágico: Hay en acción poderosas fuerzas evolutivas -más culturales que biológicasque pueden conducir a una forma de vida inteligente más exótica y evolucionada a partir del hombre, pero bija de su cerebro antes que de sus órganos sexuales. [. .. }Es una vida artificial, hecha de chips de silicio en vez de neuronas[ ... ). (Jastrow 1985, pp. 145-6). Jastrow situaba en 1995 el ini cio de la competenc ia en tre el hombre y los o rdenador es como forma naciente de vida . Es decir, creía que para entonces l os ordenadores habrían igualado a l os se res humanos en inteligencia. Siguie nd o ideas del matemático John Kemeny, Jastrow sostenía que en un principio nuestra relación con ellos sería simbiótica. Los ordenadores sa tisfacerían necesidades socia l es y económicas de los seres humanos y éstos a cambio satisfacerían las necesidades de mantenimiento y reproducción de l os orde n adores. El beneficio se ría mutuo. Per o la relación simbiótica acabaría cuando los orde nadores fueran mucho más inteligentes que los humanos. A partir de entonces, éstos dejarían de t ener utilidad alguna para las máquinas inteligentes. Ante nosotros surge la visión -añadía en la misma obrade gigantescos cerebros empapados de la sabiduría de la raza humana y perfeccionándose a partir de ahí. Si esta visión es exacta, el hombre está condenado a un status de subord ina ción en su propio planeta (Jastrow 1985, p. 172). Ante la imposibilidad de prescindir de los ordenadores, la única solución que veía Jastrow era la de transferir el contenido de las mentes hum a nas individuales a ordenadores , de modo que tendríamos mentes humanas c on cuerpos de máquina y podríamos alcanzar así la inmortalidad. Una idea bastante socorrida, como vamos a ver. Palabras pronunciad as en una entrevista para la BBC TV y recogidas en Copeland 1996, p. 17. Copela nd no da la fecha de la entrevista, p ero casi la s mi smas palabras aparecen en la entrev is ta conc ed id a por Fredkin a Pame la McCordu ck y publicada en 1979 (cf. McCorduck 1991 , pp . 348 y ss). MILENARISMO TECNOLÓGICO: LA COMPETENCIA ENTRE SERES ... 223 El fallo notorio de esta predicción de igualación y superación de la inteligencia humana para 1995 podría imputar se, con algo de buena voluntad, al hecho de que Jastrow no era un investigador en IA , sino un científico interesado en ese campo, que hablaba sin un conocimiento directo del estado de la investigación. Pero los que quizás sea n los más entusiastas defensores de un futuro en manos de las máquinas inteli - gentes sí son conocedores de primera mano de la situación real en dicho campo. Me refiero a Hans Moravec, investigador en el Instituto de Robótica de la Universidad Carnegie-Mellon en Pittsburgh, y a Marvin Minsky, investigador del Laboratorio de Inteligencia Artificial del Massachusetts Institute of Technology y uno de los padres fundadores de la Inteligencia Artificial como disciplina científica. Ha ce un os quince años Hans Moravec afirmaba complacido que la potencia de los programas de los robots más avanzados en aquel momento era comparable a la de los sistemas de control de los insectos (cf . Moravec 1986). Consideraba entonces improbable, p ero no imposible, la existencia de robots con capacidad humana en un plazo de diez años, es decir, de nuevo para el año 1995 . Pero no eran estas sus tesis más llamativas. Sostenía que las máquinas inteligentes serán · habitantes alternativos de nuestro nicho ecológico · (1986, p. 112) y que , por tanto, nuestra existencia estará amenazada incluso aunque dichas máquinas quisieran ser benévolas con nosotros. Moravec pen saba que sería un error reaccionar ante tal perspectiva suprimiendo la investigación en Inteligencia Artificial y en Robótica. Eso sería ir contra el progreso. Si los Estados Unidos -escribíadetuvieran unilateralmente su desarrollo tecnológico, una idea que ha estado en ocasiones de moda, pronto sucumbirían o bien al poder militar de los soviéticos o a lo s éxitos económicos de sus socios comerciales. Y su fuera toda la humanidad en su conjunto la que decidiera no recorrer el camino que abre la lA y que lleva, se gún sus tesis, a la extinción más que probable de nue stra especie, el resultado sería igualmente la exti nción , ya que ese sería el precio a pagar si • por algún milagro maligno e improbable la especie humana decidiera renunciar al progreso· (1986, p. 113). Sin embargo, nada de esto a penaba demasiado a Moravec. Mas bien al contrario, su Apocalipsis particular incluía también la visión de una Nueva Jerusalén cons tituida por fábricas de robots autorreproductivos diseminadas por los asteroides. Esas fábricas podrían · hacer a alguien inmensamente rico • y, con una tasa de reproducción su ficiente, crecerían exponencialmente por el universo (1986, pp. 113-114). 224 ANTON IO DI ÉGUEZ Intentaba convencernos de que la perspectiva del fin para nu estra e specie biol óg ica era menos dram ática de lo que habíamos pen sa do siempre, puesto que después de todo dejaríamos descendencia. Una descendencia inesperada, eso sí: los robo ts in t elige ntes. Así pues -afi rmaba en términ os similares a los de Jastrow- , ·se rá nu estra progenie intelectual, no genética, la que hered ará el univ erso•, una civilización mecá ni ca que • Se llevará consigo t odo lo que nosotros considera mo s im - portante, incluyen do la informa ción de nue stras men tes y genes•. Esto último les permitirá, si así lo quieren alguna vez, reconstruir de n uevo a los seres hum anos (1986, p. 11 4). Pa ra com pet ir con alguna po sibilidad en esta carrera, Moravec presentaba una alternativa: liberar a nue stra mente del cuerpo mortal que la encie rra y trasladarla a un cuerpo mecánico, es de cir, hacer de los seres human os a lgo radicalmente nuevo , u na síntesis de hombr e y máquina, capaz de resp onde r en el mismo nivel al desafío de los ro - bots co mputerizados. Podríamos, por ejemplo, cuando la tecnología lo permitiera, transferir nuestras mentes a una máquina programada paso a paso p ara simular perf ectamen te el comportamie nto de todas nuestras n euronas. Mejor aú n, podríamos hacer copias mecánicas de nosotros mismos, inclui da nue stra mente. A sí no moriríamos hasta que se destruyera la última de nuestras copias, porque •una cop ia fiel es exactamen te tan bue na como el original· (1986, p. 115). O el m odo menos traumático de cons eguir la inmortalidad computacional: llevamos toda la vida a nu estro lado un ordenador que a pr ende a simu lar t odo lo que so m os y lo que hacemos, hasta conseguir una copia perfecta de uno mismo. Al morir, el orde nador toma nuestro puesto y -eso al menos a segu ra Moravecnadie sufre la pérdida causada por nuestra muerte. A muchos le podr ía parecer que una vida ete rn a así no es vivida por uno mismo sino por s us copias y que , por tanto, no tiene na da de vida ete rna. Sólo que en rea lid ad estas copias, según Moravec, son uno mismo. Así qu e, por extraño que sue ne el asunto, aunque es uno mismo el que ha muerto, al mismo ti empo es inm or tal ya que existe i de ntid ad total entre la mente de l que muere y s us cop ias. U na última posibilidad sug erida es la de integrar en nuestro cerebro, en concreto en el c uerpo calloso, un o rd e nador que irí a sustituyen do las funciones de éste a medida q ue fu éram os envejeciendo, h asta que finalmente nuestra mente sea La del ordenador. MrLENARISMO TECNOLÓGICO: LA COMPETENCIA ENTRE SERES . .. 225 Estas ideas eran desarrolladas con más detenimiento en su libro de 1988 Mind Cbildren. Anuncia allí, desde las primeras páginas, un futuro ·postbiológico• y •Sobrenatural· en el que el género humano será superado y desplazado, con el orgullo que experimentaría cualquier padre, por su •progenie artificial., por sus ·hijos mentales·. Sin embargo, la visión del final de los tiempos, que incluye esta vez una resurrección computacional de los muertos Cl988, p. 123), asciende ahora a alturas mayores: Nuestra especulación termina en una supercivilización, síntesis de toda la vida del sistema solar, que constantemente mejora y se expande, que se propaga más allá del sol, que convierte en mente la no-vida. Y posiblemente baya otras burbujas expandiéndose desde algún otro lugar. ¿Qué sucede si nos encontramos con una de ellas? Una posibilidad es la fusión negociada, lo que sólo requeriría un esquema de traducción entre las representaciones de ta memoria. Este proceso, que posiblemente está ocurriendo ahora en algún lugar, podría convertir al universo entero en una extensa entidad pensante, un preludio de cosas todavía más grandes. (Moravec 1988, p. 116). En la actualidad, cuando se han visto ya frustradas bastantes ex pectativas de los setenta y ochenta en el campo de la IA , Moravec ha moderado levemente su tono, pero no el contenido de su mensaje, ni su optimismo inquietante. En el año 2000 vuelve a afirmar que los robots de hoy en día pueden simular el sistema nervioso de insecto s. Si tenemos en cuenta que esto mismo es lo que afirmaba en 1985, cabría suponer que su esperanza inicial de conseguir robots con inteligencia humana en unas pocas décadas debería haber se tambaleado un tanto. Pero no es así. Con una confianza inamovible sitúa en el 2010 la posibilidad de construir robots con la inteligencia de un lagarto, y antes del 2050 los robots nos habrán supe rado en inteligencia a los humanos. Eso significa, entre otras mucha s cosas, que a partir de esa fecha la ciencia la harán los robots. Serán ellos los que investiguen y los que creen c ul - tura. En cuanto a los se res humanos, Moravec no les reserva ya una extinción inevitable. En su lugar se les promete un futuro quizás demasiado apacible para alg uno s: ·Probablemente ocupa rán su ti empo en diversas actividades sociales, recreativas y artísticas, no muy distintas de las que hoy llenan el ocio de jubilados o de personas acomodadas• (Moravec 2000, p. 86). 226 ANTONIO DIÉGUEZ Marvin Minsky co mparte desde hace años las ideas de Moravec, incluida la de sustituir nuesuos cerebros por máquinas para conseg uir la inmortalidad, es deci r, según sus propias palabras •convertirnos en ordenadores• para vivir sin límite temporal y superar la muerte. El problema de superpoblació n que eso podría crear es solucionado con dos propuestas que , para mantener el tono académico , ca lificaremos de demasiado audaces: hacer a la gente más pequeña o mandarla a vivir al espacio. Minsky profetiza también con entusiasmo que los robots inteligentes nos sustituirán en un futuro no muy l ejano y, como hijos es pirituales nuestros, heredarán la Tierra (cf. Minsky 1986 y 1994). EcoLOG !A DE LOS ROBOTS Quizás lo primero que haya que advertir tras la exposición de estas opiniones es que no pueden tomarse c omo representativas de toda la comunidad de científicos e ingenieros que trabajan en campos relacionados con la computadora electrónica, tanto en el hardware como en el software. Los especialistas en ciencias de la computación sue l en ser bastante realistas acerca de las posibilidades reales de aplicación de los resultados de sus investigaciones. Sus previsiones rara vez va n más allá del corto plazo y habitualmente están más interesados en resolver problemas con cretos de programación, sujetos en muchos casos a demandas comerciales, que en darse a especulaciones futuristas como l as que acabamos de presentar. Es posible que éstas estén más difundidas entre los in vestigadores en IA , dado que son ellos los que más implicados es t án en la tarea de dotar de inteligencia a las máquinas, aunque no todos las compartan . Parece claro, s in embargo, que hay mucho de intención propagandística en ellas y que en gran parte su objetivo ha sido el de llamar la atención de la opinión pública sobre un ár ea de investigación necesitada de gr andes recur sos de financiación para sus proyectos. Y no se puede negar que se ha l ogrado un éxito más que notable en ese objetivo propagandístico, en gran parte gracias a la l abo r personal de Marvin Minsky. No obstante, con independencia de la intención que haya tras ellas, son tesis que merece la pena considerar en sí mismas, porque son representativas de un modo muy extendido de entende r el desarrollo tecnológico y el papel que deben repartir se en él los científicos y los ci u- MILENARISMO TECNOLÓGICO: LA COMPETENCIA ENTRE SERES ... 227 dadanos. Su mera formulación pone de manifiesto la insuficiencia de la que todavía adolece el cam po de la Inteligencia Artificial en lo que se refiere a la reflexión acerca de qué tipo de máquinas debemos crear y cuánto control estamos dispuestos a delegar en ellas. No hay aún una •tecnoética· que esté a la altura de las reflexiones actuales en bioética, por mencionar el caso más parecido. No es accidental, en efecto, que los textos que hemos citado estén impregnados de un tono milenarista que está lejos de ser una rareza entre l os entusiastas del progreso tecnológico (cf. Noble 1997). Muchos de los grandes científicos e ingenieros que más han contribuido a ese progreso han sido en sus vidas y convicciones una mezcla extraña de apocalípticos e integrados, por utilizar la terminología que hizo famosa Umberto Eco. Desde una visión milenarista pueden justificar con más facilidad cualquier sacrificio capaz de preparar el advenimiento de la nueva era de plenitud. Así es como mejor se puede entender , por ejemplo, la insensibilidad de los autores citados para el sufrimiento huma - no que preven que causará su propio trabajo. El problema es que el milenarismo lleva ya más de mil años prediciendo un final in minente de la historia, con el consiguiente advenimiento de un mundo nuevo, sin que por el momento se haya cumplido la predicción, y mientras t anto ha legitimado demasiado sufrimiento en este mundo. Este milenarismo con robots no parece que vaya a ser muy distinto. Pero lo que quiero destacar ahora es que hay muchos punto s infundados en los argumentos mezclados de profecías que ofrecen Moravec y Minsky. Nos ceñiremos al primero de ambos autores por razones de espacio y por ser el que más atención ha prestado a la fundamentación de sus predicciones. Para empezar, la cuestión de si los robots heredarán la Tierra jun - to con el resto de la galaxia ni siquiera se plantearía en el caso de que los robots estuvieran especializados en tareas inteligentes muy específicas y carecieran, por tanto, de una inteligencia diversificada capaz de tratar satisfactoriamente problemas muy distintos, como sucede con la inteligencia humana. Ahora bien, ésta es una situación bastante más probable que la que dibuja Moravec, aunque sólo sea porque de s de el punto de vista de la rentabilidad en el mercado interesaría mucho más tener robots del primer tipo que del segundo. Supongamos, sin embargo, que la inteligencia de los robots no les limita a tareas muy específicas. Las condiciones que deberían cumplir- 234 ANfONIO DIÉGUEZ Brook y Stainton afirman que •mucha gente se resistiría a ese ruego•. Yo dudo de que alguien, incluidos Moravec y Minsky, lo ace ptara. La razón de este rechazo es, según estos autores, que a pesar de /as apariencias iniciales, ' mudar' su mente a otro cuerpo podría ser realmente un modo de morir, no un modo de continuar vivo (p. 132). Brook y Stainton ponen el dedo en la llaga. No es sólo que una copia de mi mente no sea yo mismo, es que muy posiblemente mi propia mente en otro cuerpo no se ría yo mismo. Esto es al menos lo que habría que pensar si consideramos la identidad personal como algo más que la posesión de una mente y una mente como algo más un conjunto de informaciones o como un programa de ordenador 3• Pero esto es precisamente lo que Moravec niega. Para él, el rechazo de la idea de que una copia de mí mismo sea yo mismo, así como el negarse a aceptar que yo no muero mientras quede viva una copia de mí mismo, provienen de una opinión común pero errónea a la que denomina •posición de la identidad-cuerpo• (body-identity). Según esta opinión, una persona se define por el material del que está hecho el cuerpo humano. Sin un cuerpo humano que mantenga una cont inui - dad, una persona deja de ser ella misma. Por tanto, no sería ella misma en otro cuerpo que no fuera el suyo, ya sea humano o mecánico. Frente a esa opinión Moravec propone otra que permitiría sa l var su visión de la inmortalidad: la • pos ición de la identidad-patrón• (patternidentity). A semejanza de lo mantiene el funcionalismo, para esta segunda posici ón lo importante no sería el material del que estamos he - chos, sino ·e l patrón y el proceso• que se dan en el cuerpo y el cerebro. ·S i el proceso queda preservado -escribe-, yo quedo preservado. El resto es simple gelatina· (Moravec 1988, p. 117). Moravec compara esta situación con lo que suce de en nuestros cuerpos co n el paso del tiempo. En unos años un ser humano ha cambiado todos y cada uno de l os átomos que constituían su cuerpo en un momen to dado , y sin embargo, ese ser humano sigue siendo la misma persona a pesar de haber cambiado totalmente la materia que lo integraba. Esto querría decir que la identidad personal reside en lo único que se conserva, o sea, el patrón o la es tructura modelo. Entre las consecuencias que saca de esta idea está la de que la mente y el c uerp o pueden ser se parado s. Una posición que con toda razón Esta es también una conclusión que parece seguirse de la concepción de la mente como un sistema dinámico encarnado (o incorporado). Ver nota l. MILENARISMO TECNOLÓGICO: LA COMPETENCIA ENTRE SERES ... 235 califica de dualista, ya que, en efecto, l as tesis de Moravec van más a llá del funcionalismo par a caer de lleno en el dualismo. Un fu ncionalista no podr ía admitir que la misma mente está simult áne amente en dife - rentes soportes materiales, un dualis ta sí. ¿Qué pu e de decirse de es tos argumentos? Es cierto, en prim er lu - gar, que un a persona si gue sie ndo la misma a pesar de los cambi os que el tiempo produce en su cue rpo , sin e mbargo de ahí no se pued e co ncluir qu e su cu erpo no sea pa rte de su identidad personal, ni que és ta se pueda reducir a un mero patrón o estructura funcional. No conv i ene olvidar que los cambios de la edad no hacen que los individuos tengan otro cuer po , sino que tienen el mismo cuerpo (en el sentido de que no ha sido sustituido por otro), aunque sea un c uerpo distinto al de la juventud (en el se ntido de qu e ha sufri do cambios en su apariencia, en sus co mponent es y en sus capacidades). Pr ec i sa mente si la identidad personal se mantiene a trav és de los cambios del cuerpo es, ent re otras razones, porque dichos ca mbios son experimentados co mo cambios en el pr o pio cue rpo, no como un cambio de cu erpo. No obs - tante, es n ecesa rio reconocer que la p os esión del mis mo cuerpo durante tod a la vida no ex cluye la posibilidad de un ca mbio de identidad personal ca us ado por fu er tes trastorno s mentales. Es decir, el cuerpo no basta para garantizar la identidad por sí sólo. Pero tampoco la mente basta par a garantiza rl a. A no se r que se as uma un dualismo radical mente/ cue rp o, no es fácil ace ptar que siga mo s siendo la misma person a, es decir, que se preservara n ue stra identidad personal , si nuestra ment e dejara nuestro cuerpo o si la ca mbiáram os a otro cuerpo. Y mucho menos si este otro cuerpo no es humano. Mas bi en, como se ñala Putnam, par ece una ingenuidad co ncebir la me nt e como una especie de fantasma, capaz de habitar cuerpos diferent es (pero sin ningún ca mbio en el modo de pensar, de sentir, de recordar y de exhibir la personalidad, si se ha de juzgar según el torrente de libros populares sobre la reencarnación y los ·recuerdos de vidas anteriores·) o incluso capaz de existir sin un cuerpo (y continuar pensando, sintiendo, re co rdando y exhibiendo una personali dad ) (Putnam 1981, p. 77). Esta es una de las razones que hace del dualismo un a postu ra mino ri - taria e nt re l os científicos cognitivos. Por otro l ado, si la teoría de la patte rn-identity fuera co rrecta p odríamos decir que una determinada funci ón mat emá ti ca ca paz de mode l ar un siste ma físico, es idéntica a ese sistema físico, cosa que obvi amente no p uede ha cerse. 236 ANTONIO DIÉGUEZ La imposibilidad de aceptar que una co pia de mí mismo pueda ser yo mis mo no proviene de la tesis de la body-identity, sino del concepto mismo de identidad. Como ya señaló Kant en su respuesta al principio de los indiscernibles de Leibniz, basta con que dos cosas es tén en lugares distintos para que no puedan ser co nsid eradas indiscernibles o idénticas. Si se trata realmente de dos cosas, ya no so n idénticas. La identidad sólo pued e ser de una cosa consigo misma. Una copia pue - de ser muy parecida al original del qu e es copia, pero en sentido estricto no puede ser idéntica al original, es decir, no puede ser simultáneamente el original y la copia. En definitiva, si realmente las máquinas superin teligentes llegan a existir y compiten con nosotros por el mismo ni cho ecológico (cosa po co probab le si aceptamos las consideraciones que hemos hecho acerca del poco interés que nuestro modesto nicho tendría previsiblemente para ellas), la hipotética transmisión de nuestra ment e a las máquinas no representaría una alternativa viable. CONCLUSIONES Las previsiones de Moravec acerca de la competencia entre ser es humanos y robots inteligentes por un mis mo nic ho ecológico descansan so bre s upu estos muy cuestionables desd e el punto de vista biológico. En particular los do s siguientes: 1) La mera posesión de la inteligencia por parte de las máquinas las convertiría en competidoras de lo s seres humanos por el mi smo nicho ecológico. 2) El result ado de esta compete ncia sería necesariamente la su st itución de una especie (la hum ana) por la otra (l os robots). En cuanto a la solución propu es ta -la bú s qu eda de la inmortalidad por medio del transvase de nuestra mente a un c uerpo mecánico-, se basa en un duali smo sust en tado por una conc epción sumamente problemática de la identid ad personal. Hay otra s posibilidad es que no han sido tenidas en cuenta por Moravec sin que se nos dé razón de este olv ido y que merecen una exp lorac ión . Podría ocurrir, por ejemplo, que los pr ocesos mentales en lo s que las máquinas fueran re a lmente buenas consistieran en proce - MILENARISMO TECNOLÓGI CO: LA COMPETENCIA ENTRE SERES .. . 237 sos mentales muy distintos de aquéllos en los que los seres humanos fueran realmente buenos. Podría ocurrir que los robots computerizados del futuro fueran mucho más inteligentes que Jos humano s en proce - sos de cálculo, de análisis de datos, de e laboración de plane s basados en análisis de situaciones complejas, de almacenamiento y recuperación de la información, e tc. , pero que no tuvieran la autonomía mental y/ o física suficiente como para representar una amenaza desde el punto de vi sta evolutivo para los seres humanos. Su inteligencia podría se r mayor en todo, incluso podrían tener preferencias a la hora de ejecutar planes concretos y, sin embargo, podrían al mismo tiempo carecer de un control voluntario sobre su propio de stino. Una inquietud adicional que no creo que se deba soslayar es la que suscita lo inapropiado de las actitudes que hemos reseñado, que llegan hasta el punto de considerar un motivo de orgullo y de satis fac - ción el fin de la especie humana bajo el dominio de la máquina. El s er humano es considerado como algo s umamente deficiente que reclama una profunda transformación, un ser que debe ser reconstruido (o recreado), que debe renacer bajo una nueva forma propiciada por la tecnología y que sólo estos profetas de la tecnología están en disposición de co nocer. Su d esa parición como especie biológica no significaría además ninguna pérdida digna de l amentarse mientras las máquinas preservaran su cu ltura. Es posible que a quienes han magnificado el sentido y la importancia de su trabajo con robots y ordenadores , pensando que con él ponen término a una era y abren otra nueva en la que se alcanzará una meta sublime, pueda se rvirles de consuelo ante la persp ec tiva del fin el h ec ho de que las máquinas int eligentes que nos sustituyan se rán nuestros ·hijos mentales•. A otros, en c ambi o, más bien les parecerá que esta metáfora no da para consuelo alguno . Se trata, por ot ra part e, de acti tudes qu e se manifiestan co n la mi sma contundencia que los viejos moralis ta s como enemigas del cuerpo , al que sólo se ve como fu ente de limitaciones, como un lastre que aparta al hombre de su más alto ideal. Incluso s uperan a los viejos moralistas en su rígido ascetismo cuando ni siquie ra se detienen a reconocer, aunque sea para condenarlo, el poder de la sensualidad corporal como aliciente de la vida hum ana. ¿C uáles so n l as razon es para llevar a cabo un proyecto semejante de destrucci ón del s er humano (porque en esto consiste al fin y al cabo 238 ANTONIO DIÉGUEZ el futuro que se nos anuncia, por mucho que se Jo intente pasar por una redención)? Como ya señalara Weize nb aum en su crítica de las ambiciones desmedidas de ciertos representante s destacados de la IA , y como podemos confirm ar en los textos de Moravec, sólo se aducen dos razones (cf. Weizenbaum 1984, p. 252-253). En primer Jugar se insiste en que si no lo hacemos nosotros, lo harán otros peore s que nosotros. En segu ndo lugar se dice que el progreso tecnológico es imparable y que ninguna limitación o control puede modificar su curso. La primera razón es moralmente inaceptable y resulta incapaz de justificar ninguna acción responsable. La segu nda razón da por sentado Jo que es tá en cuest ió n, a sabe r, que el control de la tecnología no es posible. Esta tesis resulta empíricamente refutabl e, ya que vemos habitualmente como ciertas líneas de desarrollo tecnológico no llegan a su ejecución o fracasan al poco de ser realizadas porque chocan con la opinión pública o con otros factores sociales. Es evidente que no podemos renunciar a la tecnología, pero sí podemos -contra lo que defiende el deterministadesobedecer el imperativo tecnológico que convierte en necesario todo lo que es técnicamente posible (cf. Ropohl 1983, Sanmartín 1990 y Niiniluoto 1990). El desarrollo tecnológico es con trolable mediante una adecuada política tecnológica y mediante su cond icionamiento a una serie de valores aceptados. Finalmente, t od o este discurso apoca líptico sobre la exclusión compe titiva de la especie human a frente a las máquinas inteligentes con tribuye en mucho a desviar la atención de otros peligros más inmediatos y reales en relación con la computadora electrónica. La dependencia de las máquinas a la hor a de tomar decisiones en ámbitos de especial importancia social, el caráct er incuestionable con el que se asumen ciertos fines ligad os a su uso y difusión, la extensión de su dominio sobre cada vez más aspectos de nues tras vidas, y la dilución de responsabilid ades que el propio sistema tecn ológico impone, pueden conseguir que el co ntrol efectivo del se r humano sobre s us propia s acciones disminuya ser iamente. Creo que este es un peligro al que debemos por el momento prestarle más atención. REF ERENCIAS Be gon, M. ,]. L. Harper & C. R. Townsend 0999 ): Ecología, (trad. M. Ri ba y R. Salvador), Barcelona: Omega, (3i edición). MILENARISMO TECNO L ÓGICO: LA CO MPETENC IA ENTRE S ERES ... 239 Brook, A. y R.). Staiton (2000): Knowled ge and Mind, Cambridg e, Mass.: The MIT Press. Brooks, R. A. 0997): • lnt elligence without Representation., en ). Hau ge land (ed.), Mlnd Desing ll, Cambridge, Mass.: The MIT Press, pp. 396-4 20 . Clark, A. 0997) : Be in g There. Putting Bra in, Body , and World To getber Again , Cambridge, Mass .: The MIT Press. Co pela nd , J. 0996): I nte lig enci a ar tificial , (trad. ). C. Armer o), Madrid: Alianza. Dreyfus, H. L. 0993): What Computers Stil/ Can't Do , Cambridge, Mass.: The MIT Press. (Edición revisada de Ja obra de 1979 Wbat Computers Can 't Do). Jastr ow, R. (1985): El telar mágico, (trad. D. Sa ntos), Barcelona: Salvat. P e d. en inglés en 198 1. Martínez Freire, P. Cl 995): La nueva filosofía de la mente, Bar ce lona: Gedisa. -(1996): · El futuro de l as máquinas pensantes., en Diálogo Filosófico 35, pp . 235-250. M cCoR oucK , P. 0991 ): Máquinas que piensan , (trad. D. C añ amero), Madrid: Tecnos. ¡a ed. en inglés en 1979. Minsky, M. 0986): ·N ues tro futuro roboti zado· en M. Minsky et al., Robótica, trad. M. M. Moya i Tasis, Barcelona: Plan eta, pp . 241-258. P ed. en inglés en 1985. - 0994): ·¿ Serán l os r obo ts quienes h ere d en la Tierra?, en Investigación y Ciencia, Dic iembr e, p p. 87-9 2. Moravec, H. 0986) : ·Los vaga bundos ., en M. Minsky et a l. , Robótica, trad. M. M. Moya i Tasis, Barcelona: Planeta, pp . 99-119. Ji ed. en inglés en 1985. -1988: Mind Cbildren. The Future of Rob ots and H uman lnteligence , Cambridge, Mass .: Harvard University Press. -2000: · El apo geo de l os robots., en Investigación y Ciencia, Enero, pp. 78-86. NnNtLuorn, l. (1990): ·S hould T echnologica l Imperatives be Obey ed? ., Jnternatio na l Studies in tbe Pbiloso phy of Science, vo l. 4, n" 2, pp. 181189. Noble, D. F. 0997): The Religion of Tecbnology, New Yo r k: A. Knopf. Putnam, H. 0981) : Reason, Trubt and H is tory, Cambridge, Mass.: Cambri dge University Press. Rodríguez, ). 0999): Ecología, Madrid: Pirámide. Ropohl, G. 09 93): "A Cri tique of Technological Determinism., en P. T. Durbin y F. Rapp (eds .), Phi/osophy and Technology, Do rdr echt: Reidel, pp . 8396. Sanmartín, ). 0990 ): Tecnología y futuro human o, Barcelona : Anthropos. Sea rl e, J. 0980): ·Mind, I3rains, a nd Pro grams·, The Bebavioral and Brain Scien ces, 3, pp . 417-424. Rei mpr eso en J. Haugel and (ed.) , Mlnd Desing JI , Cambridge, Mass.: The MIT Pres s, 1997. 240 ANTONIO DIÉGUEZ Van Gelder , T. (1997): · Din am ics and C og niti on•, en]. Haugeland (ed .), M!nd Desing JI, Cambridge, Mass.: The MIT Press , pp . 42 1-450. Varela, F ., E. Thomson & E. Rosch 0991) : The Embodied Mind: Cognitive Science and Human Experience, Cambridge, Mass.: The MIT Press . Weizenbaum ,]. (1984 ): Computer Power and Human Reason, London: Penguin Books .