Sin categoría

Roger Bartra: «Somos seres esencialmente artificiales»

Roger Bartra. León Muñoz Santini / Telos

Roger Bartra (Ciudad de México, 1942) está considerado uno de los grandes pensadores de habla hispana, con una vida tan rica y diversa como su trayectoria intelectual. El editor Tomás Granados Salinas lo definió como una “personalidad híbrida”. Esa definición hacía referencia a sus orígenes catalanes –es hijo de los escritores exiliados españoles Agustí Bartra y Anna Murià– y, sobre todo, a su tránsito continuo por la política, el arte, la filosofía, la antropología, la neurociencia y la historia.

Roger Bartra es doctor en Sociología por La Sorbona de París y se formó en México como etnólogo en la Escuela Nacional de Antropología e Historia. Es investigador y doctor honoris causa por la Universidad Nacional Autónoma de México y miembro del Sistema Nacional de Investigadores. La Wikipedia afirma que “es el investigador mexicano dedicado a las ciencias humanas, sociales y políticas más traducido al inglés (diez libros)”. También es profesor en universidades como la Pompeu Fabra en Barcelona, Johns Hopkins en Baltimore, La Jolla en California, la Universidad de Wisconsin–Madison y en instituciones académicas como Paul Getty Center en Los Ángeles y el Birbeck College de la Universidad de Londres.

En un alarde de generosidad, propia de los más sabios, respondió de inmediato a nuestra propuesta para conversar. Nos pidió una semana para reflexionar sobre las preguntas y a los tres días escribió: “He tenido unos momentos de sosiego y he podido terminar la entrevista”.

León Muñoz Santini / Telos

¿Cómo se encuentra? ¿Cómo ha vivido o está viviendo la pandemia?

La he aprovechado para escribir un par de libros.

¿Le ha hecho la covid-19 replantearse algunas de sus reflexiones acerca del ser humano, de su futuro, de su conciencia y de su comportamiento? ¿En qué sentido?

El coronavirus que provocó la pandemia apareció como una amenaza inmensa surgida de una película o una novela de ciencia ficción. Con el tiempo, acabamos por acostumbrarnos a convivir con un peligro cotidiano e invisible. Y, con ello, llegó la reflexión. Los grandes peligros que nos amenazaron en el siglo XX fueron, casi todos, una consecuencia de las tensiones de la vida social y política, como las dos inmensamente destructivas y mortíferas guerras mundiales.

Cuando parecía que se habían logrado apaciguar un poco los peligros sociales y políticos, y cuando ya apenas nos acordábamos de la gripe que azotó al mundo a comienzos del siglo pasado, llegó la covid-19. Ahora tenemos que existir con el hecho de que la biología es atacada desde las esferas virales, lo que nos obliga a pensar en nuestros cuerpos endebles y vulnerables. Se han intensificado las búsquedas por escapar de esta frágil dimensión biológica.

Queremos analizar de qué forma la experiencia digital diluye, intensifica o sencillamente modifica la distinción entre el ser físico y el ser digital que habita en las redes y se guía por los algoritmos. ¿Qué somos ahora? ¿Qué seremos en el futuro inmediato?

La inclinación por escapar de la cárcel corporal ha llevado a algunos científicos y pensadores a buscar alternativas en las esferas digitales dominadas por algoritmos. Pero creo que ya éramos parte de los algoritmos que habitan en las redes en forma digital. Esa dimensión algorítmica de la cultura existe desde hace mucho, pero hoy se ha expandido de forma que algunos la ven como amenazadora y otros como una esperanza.

¿Y usted, cómo lo ve?

Yo veo la gran expansión de las esferas digitales más como una esperanza que como una amenaza. Los humanos somos seres esencialmente artificiales. Incluso los instrumentos materiales que podemos tocar, ver, oír y oler, que contienen información analógica, albergan amenazas y peligros. Con esos viejos instrumentos, los humanos se han matado durante siglos y han provocado inmensas calamidades. Las armas que han ocasionado muchos millones de muertes a lo largo del siglo pasado, en guerras y revoluciones, no eran digitales.

La tendencia a que las esferas de nuestra conciencia, inscritas en circuitos culturales, sean cada vez más digitales y estén formadas por algoritmos no es en sí misma un peligro. La amenaza está en la forma en que las sociedades usan y abusan de estos recursos digitales. La llamada ciberguerra fría es mucho menos mortífera que las viejas guerras con espadas o con fusiles. La conciencia humana no se dañará si cada vez es más artificial.

Usted se refiere al circuito cultural como un factor determinante para el desarrollo de la conciencia humana. ¿Qué efectos está teniendo el hecho de que nuestro consumo cultural y nuestras relaciones se conformen a partir de unas pautas dirigidas por algoritmos, por máquinas?

Yo sostengo que hay redes exocerebrales conformadas por prótesis simbólicas que prolongan, en las esferas sociales y culturales, funciones cerebrales. Lo he explicado en mi libro Antropología del cerebro. Estas prótesis son estructuras simbólicas como el lenguaje, la música, el arte y las memorias artificiales. Y estas prótesis culturales cada vez están más invadidas por algoritmos, como los que modulan las complejas máquinas que nos rodean, empezando por los teléfonos móviles. Este exocerebro es lo que permite que seamos conscientes de que somos conscientes.

Estos elementos exocerebrales de la conciencia tienen un poder causal y son capaces de modificar y modular la operación y las funciones de las redes neuronales. Los circuitos exocerebrales no son instancias metafísicas y no se encuentran fuera de la esfera de causas y efectos del mundo físico y biológico. Lo que estamos experimentando cada vez con mayor fuerza es que estas prótesis, cada vez más sofisticadas, nos influyen desde el interior de nuestra conciencia. Nuestra conciencia está cada vez más poblada de algoritmos artificiales.

“Muchas de las prótesis que extienden la conciencia hacia las esferas sociales están concebidas para complacer, aliviar y dar placer”, afirma en su libro Chamanes y robots. Esas son funciones que parecen desarrollar hoy las redes sociales, el algoritmo que nos permite vivir en nuestra propia burbuja, los videojuegos y ya, muy pronto, la realidad virtual. ¿Qué efectos tienen sobre nosotros, los humanos? ¿Son una especie de dominación de las máquinas sobre nuestra conciencia?

No hay ningún peligro inminente de que las máquinas dominen nuestra conciencia. Muchas de ellas están atrapadas en nuestra conciencia. Desde que los humanos tallaron los primeros cuchillos de piedra, los instrumentos artificiales se integraron en nosotros. Sus versiones más complejas, los robots, están aquí para ayudarnos y complacernos. Trabajan y nos divierten. Son parte de nuestra conciencia, y si hay algún peligro, este no es externo. He explorado este tema en mi libro Chamanes y robots.

En resumen, en ese libro dice que nuestra conciencia no está dentro de nuestro cráneo sino que se desarrolla en un exocerebro, en el mundo artificial que hemos construido para servirle de prótesis. Con máquinas que aprenden solas y se comunican entre sí, ¿podemos decir que ya existe una cultura robótica capaz de imponerse a la cultura humana?

No hay todavía una cultura robótica en el sentido de que las máquinas inteligentes sean capaces de construir redes simbólicas que las envuelvan y las conecten a otras máquinas o a los humanos. Eso podrá ocurrir el día en que los ingenieros o las mismas máquinas sean capaces de construir exocerebros robóticos. Las máquinas inteligentes ya pueden interactuar entre ellas, siempre y cuando nosotros las conectemos. No lo pueden hacer por sí mismas.

León Muñoz Santini / Telos

¿Cree que estamos cerca de la singularidad? De ese momento en el que las máquinas pueden ser consideradas más inteligentes que los humanos porque son capaces de procesar más información, a más velocidad y tomar la decisión más conveniente para el futuro.

Estamos lejos de la singularidad que serían las máquinas conscientes, que dejarían de ser objetos para convertirse en sujetos. En cambio, sí hay máquinas más inteligentes, más rápidas, con más memoria, que aprenden solas con mayor eficiencia y son capaces de decidir el curso de una acción en el futuro mejor que nosotros. Pero estos robots son unidimensionales, solo nos exceden en un terreno delimitado, carecen de una inteligencia general. Nos ganan en juegos, como en ajedrez, go o póker. A este nivel, se puede esperar que cada vez habrá máquinas mejores que nosotros.

Usted se ha referido en La melancolía moderna al riesgo que supone la ausencia del otro, el no reconocer a los demás. ¿Cree que con la pandemia se ha agravado el problema?

La ausencia de otro sería nuestra muerte. Rimbaud dijo muy claramente: “Je est un autre (yo soy otro)”. El exocerebro no está compuesto de símbolos flotando en el vacío. Esos símbolos, esas prótesis algorítmicas, están apoyadas en los otros, en la sociedad que nos rodea, en personas de carne y hueso.

La pandemia nos ha obligado a filtrar los contactos con los otros a través de las pantallas para esterilizarlos de virus. Pero esta sanitización distorsiona nuestras relaciones. Y cuando los lazos que nos conectan con los otros, de trabajo o de amistad, se debilitan y se estrechan para quedar reducidos a redes digitales, pueden aparecer formas inquietantes de melancolía.

¿Nuestra confianza en la tecnología está justificada? ¿Desaparecerán la desigualdad, el cambio climático, las pandemias…?

La desigualdad, el cambio climático y los virus con potencial pandémico no desaparecerán en un futuro próximo. Son fenómenos de larga, muy larga duración. La pobreza, acaso, se podrá eliminar en un futuro no demasiado lejano. Los daños provocados por el cambio climático tal vez se puedan atenuar. Estaremos equipados para pandemias venideras. Pero no está visible un horizonte social donde no haya desigualdad, ni enfermedades, ni trastornos climáticos. Pero sin una tecnología sofisticada, estos problemas podrían llegar a ser extremadamente peligrosos.

¿Es la tecnología un placebo? ¿Cree que vivimos deslumbrados por el éxito de las compañías tecnológicas y sus creaciones? ¿Son los nuevos chamanes?

Las tecnologías no son inocuas, no son placebos, pero pueden ser usadas como tales. Una máquina incomprensible y aparentemente muy complicada aplicada a un enfermo puede aliviarlo. El uso de prótesis tecnológicamente muy sofisticadas tiene un valor simbólico que genera en los humanos un efecto placebo. Es el caso de los teléfonos móviles y de los videojuegos. Nos proporcionan placer y su ausencia nos provoca dolor o ansiedad. Las tecnologías modernas manejadas por nuevos chamanes pueden lograr efectos de alivio. Pero también pueden convertirse en nocebos, lo contrario al placebo.

Entre las grandes cuestiones de nuestro tiempo y en nuestros países más desarrollados está la preocupación por el desarrollo ético de la inteligencia artificial. ¿Cree que está justificada esa preocupación? ¿Por qué?

Lo que más debe preocupar es la conciencia artificial, no tanto la inteligencia artificial. Desde luego que la inteligencia artificial aplicada a los armamentos genera problemas éticos nuevos, pues estas máquinas destructivas funcionan a veces de manera autónoma y los humanos pierden el control. Es el caso de proyectiles programados para dirigirse a un objetivo y que no pueden ser detenidos por los programadores del artefacto. Tienen que ser destruidos, si hay suerte, por las defensas que se encuentran en el entorno del objetivo enemigo. El posible surgimiento de una conciencia artificial sin duda nos enfrenta a un complicado problema ético. ¿Las máquinas conscientes, los robots, serán formas de una nueva esclavitud?

¿Es la inteligencia artificial el máximo exponente del exocerebro? Y si fuera así, ¿estamos entregando nuestra esencia humana a las máquinas?

El principal componente del exocerebro sigue siendo el habla, el lenguaje. La IA es la expresión más reciente del exocerebro, es decir, de la parte externa de nuestra conciencia. Nuestra conciencia siempre ha estado entregada a instancias externas. Nuestra esencia humana es esa externalidad de la conciencia. Pero la IA basada en máquinas es también una esfera robótica que, en un futuro todavía lejano, podrá independizarse y generar sus propias formas de conciencia. El peligro de que nosotros, los humanos, acabemos siendo el exocerebro biológico de máquinas hiperinteligentes es algo que todavía está en el terreno de la ciencia ficción.

He leído en sus textos referencias a la confusión, la hiperactividad, el cansancio, la hiperinformación, el aburrimiento como amenazas para nuestra propia existencia, nuestro modo de vida, nuestro futuro.

Todo ello está creciendo y conforma una amenaza real. El exceso de información como una masa indiscriminada y caótica que nos llega a través de las redes informáticas, guiadas por inteligencias robóticas, es un fenómeno altamente tóxico. Genera abulia, produce aburrimiento, nos cansa y nos hace sentir superfluos y perdidos en el caos. Hay que agregar otro desafío: la melancolía que invade a las sociedades que experimentan grandes y acelerados cambios, que ven como sus formas tradicionales de vida se esfuman.

¿Cómo interpreta el momento que vive China? Ese liderazgo reconocido en ámbitos como la IA y otras áreas tecnológicas con el que deslumbra al mundo.

Hace un tiempo, en 2014, estuve en China realizando una investigación sobre el desarrollo de las ciencias sociales. Me interesó mucho entender ese peculiar comunismo capitalista que domina allí. Es una situación muy paradójica, pues China es una sociedad que aloja extraordinarios avances técnicos, científicos e industriales y, al mismo tiempo, arrastra el enorme peso de un amplio sector muy atrasado, conservador y arcaico.

En China ya no se exalta la lucha de clases marxista sino la armonía preconizada por Confucio. La rapidez del desarrollo chino es asombrosa, pero hay que pensar que partieron de muy abajo. Las restricciones a la libertad de expresión y pensamiento podrían, en algún momento, frenar su proceso de expansión. La impresionante acumulación de capital tiene su origen en la corrupción, un cáncer peligroso.

¿Cuál es su posición respecto al transhumanismo? La posibilidad de que las soluciones tecnológicas contribuyan al mejoramiento humano.

El transhumanismo es una especie de chamanismo posmoderno, pues parte de la idea de que las prótesis rituales y simbólicas pueden crear extraordinarios efectos biológicos y contribuir a la sanación. Los posthumanistas sustituyen los rituales y los simulacros por prótesis realmente implantadas en el cuerpo de los humanos para aumentar sus capacidades. Las palabras del chamán son sustituidas por artefactos. El objetivo es la creación de una nueva especie posthumana, los cíborgs.

El gran gurú del transhumanismo, Ray Kurzweil, está convencido de que mediante implantes intracerebrales los humanos podrán convertirse en seres mucho más inteligentes y sanos. Se quiere incorporar los mecanismos exocerebrales al cuerpo mismo del cerebro mediante implantes tecnológicos hipersofisticados. Muchos transhumanistas piensan que la singularidad tecnológica que producirán unos seres posthumanos no está muy lejana. Creen que, en apenas unas décadas, estaremos viviendo un mundo posthumano.

Creo que están equivocados y que esa singularidad tardará mucho más en llegar y será muy diferente a la que imaginan. Lo que vendrá serán máquinas conscientes que acompañarán a los humanos. Yo he dicho que los transhumanistas parecen más bien unos chamanes que viajan al futuro y predican la sustitución de órganos por prótesis tecnológicamente sofisticadas con el objeto de llegar a una condición utópica. Hay un ingrediente religioso en la espera del advenimiento de la Singularidad, con mayúscula, que abrirá la puerta a una nueva época

¿Qué nos define como humanos?

Lo que nos hace humanos es la parte no biológica de nuestra conciencia. Se trata de otra singularidad, con minúsculas, la de las prótesis artificiales que constituyen la cultura y el entorno social que los humanos hemos creado. La singularidad que reúne, en una sola red, la palabra con la sensibilidad.

La automatización, los robots nos liberan cada vez de más tareas. Muchos lo interpretan como una amenaza para el empleo. ¿Está justificado?

En un mundo ideal, solo las máquinas estarían empleadas. Yo creo, junto con algunos economistas, que es necesario impulsar una nueva forma de libertad: la libertad de no trabajar o de decidir libremente el tipo de trabajo que se desea. Se trata de poner en duda el carácter sagrado del trabajo, santificado tanto por las tradiciones religiosas como por el liberalismo o el marxismo. El trabajo ya no se asocia naturalmente a la libertad por su carácter moral o redentor. Estas ideas se ligan a la propuesta de un ingreso básico universal.

¿El futuro será mejor? Con una perspectiva elevada como ha podido tener Bezos desde su nave espacial, ¿se atreve a describirnos en un tuit el futuro de la humanidad?

¿Todo eso en menos de 280 caracteres? Esta es mi respuesta: el futuro profundo es previsible: nos toparemos con el reto del ocaso del sol. A corto y mediano plazo debemos ser conscientes de esa amenaza cósmica, que ocurrirá dentro de 7 000 millones de años, y construir desde hoy la inteligencia necesaria para sobrevivir a esa catástrofe.


La versión original de esta entrevista aparece en el número 117 de la Revista Telos, de Fundación Telefónica.


The Conversation

Juan M. Zafra dirige 'Telos', la revista que edita Fundación Telefónica.

The Conversation. Rigor académico, oficio periodístico

A %d blogueros les gusta esto: