El historiador israel\u00ed, autor de \u00e9xitos globales como ‘Sapiens’, publica ‘Nexus’, un libro donde aborda el punto de inflexi\u00f3n y los peligros de la inteligencia artificial<\/p>\n
Se ha convertido en un pensador de referencia global con libros como ‘Sapiens’ o ’21 lecciones para el siglo XXI’ y ahora regresa con ‘Nexus’ (Debate \/ Edicions 62), una historia de las redes de informaci\u00f3n desde la edad de piedra a esa IA que, dice, es un punto de inflexi\u00f3n en la historia humana. Una IA que no es solo un avance, razona, porque gobierna el lenguaje y puede tomar decisiones, y que para imponerse no necesita ning\u00fan Terminator, le basta con contar historias, como han hecho los humanos durante milenios. El israel\u00ed Yuval Noah Harari (Kiryat Atta, 1976) responde telef\u00f3nicamente a La Vanguardia a mediados de agosto, \u201cesperando a si estalla una guerra a\u00fan mayor o es posible un alto el fuego. Es una situaci\u00f3n tensa. No conf\u00edo en las personas al mando, ni en mi gobierno ni en el otro bando. Espero que prevalezcan la raz\u00f3n y la compasi\u00f3n, pero dada la personalidad de quienes gobiernan es dif\u00edcil tener esperanzas\u201d.<\/p>\n
-Dice que si manejamos mal la IA puede eliminar el dominio humano en la Tierra. \u00bfQu\u00e9 significa?<\/p>\n
-Hemos creado una nueva inteligencia potencialmente m\u00e1s poderosa e inteligente que nosotros. Y si se sale de nuestro control, las consecuencias podr\u00edan ser catastr\u00f3ficas. Y no solo para la humanidad, sino para el resto del sistema ecol\u00f3gico. No porque la IA sea malvada, pero si es extremadamente poderosa y no le importamos y no le importan otras entidades org\u00e1nicas, podr\u00eda hacernos lo que hemos hecho nosotros a tantos otros organismos, tantos animales.<\/p>\n
-Ahora bien, \u00e9ste es un escenario muy extremo. Con la IA, parte del problema es que hay cientos de escenarios muy peligrosos. Algunos f\u00e1ciles de imaginar: un dictador le da a la IA el control de las armas nucleares y por error de c\u00e1lculo hay una cat\u00e1strofe. O los terroristas crean con la IA un nuevo virus mortal. Pero la naturaleza misma de la IA es que puede crear nuevas visiones e ideas por s\u00ed misma. No es una herramienta en nuestras manos. Estamos liberando millones de nuevos agentes aut\u00f3nomos que podr\u00edan volverse m\u00e1s inteligentes que nosotros y no podemos anticipar ni controlar qu\u00e9 har\u00e1n.<\/p>\n
-Dice que tienen una poderosa herramienta: el lenguaje.<\/p>\n
-En la civilizaci\u00f3n, en la cultura humana, la clave de casi todo lo que hemos creado es en \u00faltima instancia el lenguaje. Es la clave de la pol\u00edtica, para persuadir a la gente. Es la clave del arte. De la religi\u00f3n. Si piensa en los libros sagrados, las mitolog\u00edas, las oraciones. Y las finanzas, el dinero, en \u00faltima instancia se basan en palabras y s\u00edmbolos. Hasta hoy, nadie excepto los humanos pod\u00eda entender o crear estas cosas. Ning\u00fan otro animal sab\u00eda que hay dinero o dioses o naciones, porque se necesita el lenguaje para tratar con estas cosas.<\/p>\n
-Y la IA domina el lenguaje en muchos sentidos mejor que la mayor\u00eda. Ya crea textos, im\u00e1genes y v\u00eddeos, y es a\u00fan muy primitiva. \u00bfQu\u00e9 suceder\u00e1 cuando pueda crear manifiestos pol\u00edticos persuasivos, nuevos dispositivos financieros, nuevos libros sagrados? Por miles de a\u00f1os, los humanos vivieron envueltos en el capullo cultural creado por otros humanos. Ahora, cada vez m\u00e1s ser\u00e1 creado por una inteligencia no humana.<\/p>\n
-Se\u00f1ala que por primera vez nuestra historia no sucede solo por decisiones humanas.<\/p>\n
-Algunos dicen que la IA es como la imprenta o la radio, y que copia nuestras ideas y las difunde. No es cierto. Es capaz de crear ideas propias y tambi\u00e9n toma decisiones sobre la difusi\u00f3n de las ideas humanas. En un peri\u00f3dico tal vez la persona m\u00e1s importante sea el editor, que decide qu\u00e9 se incluye, qu\u00e9 se deja fuera. Ahora la IA est\u00e1 haciendo el trabajo de los editores de peri\u00f3dicos en las redes sociales, no el de una imprenta. En TikTok o Facebook es un algoritmo el que decide qu\u00e9 mensajes recibir\u00e1n mucha atenci\u00f3n. Y eso moldea la opini\u00f3n p\u00fablica. La cultura humana. Empezamos a ver, y se har\u00e1 cada vez m\u00e1s grande, c\u00f3mo las decisiones de los algoritmos mol\u00addean pol\u00edtica, cultura y sociedad.<\/p>\n
-Podr\u00edamos, dice, vivir dentro de los sue\u00f1os de una inteligencia ajena que no necesita crear a Terminator, solo historias.<\/p>\n
-S\u00ed. Lo vimos hace casi diez a\u00f1os, con la campa\u00f1a de limpieza \u00e9tnica en Myanmar contra los rohingya, en parte impulsada por algoritmos que, para aumentar la participaci\u00f3n de los usuarios en Facebook, difundieron teor\u00edas conspirativas escandalosas, noticias falsas y odio contra esta minor\u00eda. Esto llev\u00f3 al asesinato de decenas de miles. Incluso si los algoritmos tienen solo un 1% de responsabilidad es la primera vez en la historia que las decisiones tomadas por una IA sobre qu\u00e9 informaci\u00f3n difundir han contribuido a un importante cambio hist\u00f3rico. Los algoritmos ya han matado a gente.<\/p>\n
Y si nos fijamos en las democracias, vemos una situaci\u00f3n extra\u00f1a. Los estadounidenses tienen la tecnolog\u00eda de la informaci\u00f3n m\u00e1s sofisticada de la historia pero est\u00e1n perdiendo la capacidad de hablar entre s\u00ed y escucharse. La sospecha es que esta tecnolog\u00eda, en lugar de facilitar la comunicaci\u00f3n, la dificulta. Porque hay muchas voces no humanas. La democracia es una conversaci\u00f3n y deber\u00eda ser entre humanos. Pero en los \u00faltimos a\u00f1os muchas entidades no humanas han entrado. M\u00e1s del 20% del contenido de Twitter lo difunden bots. Y los algoritmos que deciden qu\u00e9 voces amplificar y silenciar no son humanos. \u00bfQu\u00e9 pasa con la conversaci\u00f3n humana cuando las voces m\u00e1s fuertes en ella no son humanas?<\/p>\n
-Apunta a un momento de fracaso para el di\u00e1logo democr\u00e1tico.<\/p>\n
-La gente no puede ponerse de acuerdo en casi nada, en los hechos m\u00e1s b\u00e1sicos, escucharse, mantener un debate razonado. Cuando vemos que ocurre lo mismo en todo el mundo, surge la sospecha de que debe haber una causa com\u00fan y que sea la nueva tecnolog\u00eda de la informaci\u00f3n. No era posible tener democracias a gran escala antes de la tecnolog\u00eda de la informaci\u00f3n moderna. Las democracias antiguas eran peque\u00f1as ciudades-Estado o tribus. Si millones de personas intentan mantener un debate y no hay peri\u00f3dicos ni radio ni televisi\u00f3n, no pueden. Y como la democracia se edifica sobre esas tecnolog\u00edas de la informaci\u00f3n, cualquier revoluci\u00f3n importante en ellas est\u00e1 destinada a crear conmoci\u00f3n en la democracia.<\/p>\n
-Cree que en EE.UU. no hay divisiones mayores que en los sesenta. Y habla de suicidio conservador.<\/p>\n
-Algunas personas intentan explicar lo que sucede en EE.UU. por profundas divisiones ideol\u00f3gicas, pero eran peores en los a\u00f1os sesenta. Los derechos civiles, la revoluci\u00f3n sexual, Vietnam, el apogeo de la Guerra Fr\u00eda… Pero los estadounidenses eran capaces de mantener una conversaci\u00f3n razonada. Estaban de acuerdo en hechos b\u00e1sicos, como qui\u00e9n hab\u00eda ganado las elecciones. Ahora es imposible.<\/p>\n
Y las diferencias ideol\u00f3gicas no parecen ser mayores. Es dif\u00edcil explicar lo que est\u00e1 sucediendo solo en t\u00e9rminos de ideolog\u00eda. Y de hecho en muchos pa\u00edses los partidos que se definen como conservadores se est\u00e1n suicidando, se convierten en partidos radicales antisistema. Trump y sus partidarios son revolucionarios radicales. Est\u00e1n en contra del FBI, dicen que las elecciones son un robo. Quieren desmantelar por completo el sistema existente, crear algo nuevo. Hoy partidos conservadores se convierten en revolucionarios radicales y los llamados progresistas, como los dem\u00f3cratas, deben convertirse en guardianes de las instituciones.<\/p>\n
.\u00bfTeme que gane Trump?<\/p>\n
.Mucho. Dice abiertamente que no respeta el proceso democr\u00e1tico b\u00e1sico. Lo m\u00e1s importante de las democracias es su capacidad de autocorrecci\u00f3n. Si votas por un hombre fuerte, un dictador, puede tomar muchas decisiones buenas pero tarde o temprano tomar\u00e1 una mala, no reconocer\u00e1 su error y no podr\u00e1s deshacerte de \u00e9l.<\/p>\n
En Venezuela Ch\u00e1vez y su movimiento llegaron al poder democr\u00e1ticamente y durante un tiempo mucha gente pens\u00f3 que estaban haciendo cosas buenas, pero finalmente comenzaron a destruir el pa\u00eds. Y ahora el pueblo de Venezuela no puede deshacerse de ellos. Y el peligro es que algo similar pueda suceder en Estados Unidos. Si Trump es elegido, podr\u00eda hacer algo similar a Ch\u00e1vez y Putin.<\/p>\n
-\u00bfC\u00f3mo alinear la IA y la vida?<\/p>\n
-Hemos de darnos cuenta de que a\u00fan tenemos el control. Es responsabilidad de los gobiernos regularla. Por miles de a\u00f1os prohibieron el dinero falso y ahora deben prohibir la creaci\u00f3n de seres humanos falsos, los bots y algoritmos que se hacen pasar por humanos y difunden historias. Una IA nunca deber\u00eda hacerse pasar por un ser humano.<\/p>\n
Las empresas de redes sociales dicen que no quieren censurar las opiniones de ning\u00fan ser humano por la libertad de expresi\u00f3n. Y puedo entenderlo, pero los bots no tienen libertad de expresi\u00f3n. No hay defensa para las empresas de redes sociales que permiten que entidades no humanas, bots, secuestren la conversaci\u00f3n. Y si los algoritmos que administran una red social difunden indignaci\u00f3n y teor\u00edas conspirativas para aumentar la participaci\u00f3n, deben ser considerados responsables como lo ser\u00eda el editor de un peri\u00f3dico.<\/p>\n
-\u00bfC\u00f3mo ve el momento actual de la guerra en Israel, las decisiones de Netanyahu, esta guerra masiva que algunos llaman genocidio?<\/p>\n
-Es peor que en cualquier otro momento de mi vida. Estamos al borde del abismo. Por muy mal que hayan ido las cosas en los \u00faltimos meses, ahora podr\u00edan desembocar en una guerra regional a gran escala, que es lo que quieren los extremistas de ambos bandos. Tienen sus fantas\u00edas mesi\u00e1nicas y creen que cuanto m\u00e1s grandes sean las llamas, antes llegar\u00e1 el Mes\u00edas o lo que sea. Lo que tenemos que recordar es que la ra\u00edz del conflicto aqu\u00ed es que hay dos pueblos que existen en esta tierra y que tienen derecho a existir aqu\u00ed. Pero ambos tienden a negar la existencia del otro o su derecho a existir.<\/p>\n
Deber\u00eda ser sencillo reconocer que hay m\u00e1s de siete millones de palestinos que nacieron aqu\u00ed y no tienen ning\u00fan otro lugar a donde ir. Y tambi\u00e9n hay m\u00e1s de siete millones de jud\u00edos. La mayor\u00eda nacieron aqu\u00ed, no tienen d\u00f3nde ir y tambi\u00e9n tienen derecho a existir aqu\u00ed. Y es t\u00e9cnicamente posible que ambos coexistan en dos Estados o en alg\u00fan otro tipo de acuerdo, porque no hay escasez objetiva de tierra, alimentos, agua o electricidad. Lo que impulsa el conflicto son las mitolog\u00edas, las fantas\u00edas, como las ideas de que Dios nos dio todo este pa\u00eds y los dem\u00e1s no pertenecen aqu\u00ed y todos deber\u00edan desaparecer. Tan pronto como nos deshagamos de estas fantas\u00edas y reconozcamos la simple realidad de que hay dos pueblos aqu\u00ed con derecho a existir, deber\u00eda ser posible encontrar una soluci\u00f3n viable para que jud\u00edos y palestinos podamos disfrutar de seguridad, prosperidad y respeto en el pa\u00eds que nos vio nacer.<\/p>\n
El alto el fuego no es suficiente. Necesitamos volver a la idea de la paz, una paz basada en el reconocimiento del derecho de ambos pueblos a existir. Hemos visto la historia de pueblos que han luchado entre s\u00ed durante siglos con extrema crueldad y finalmente cambiaron de opini\u00f3n y encontraron formas de vivir junto. No creo que jud\u00edos y palestinos sean diferentes como para no poder hacerlo.<\/p>\n
-\u00bfNetanyahu es un obst\u00e1culo?<\/p>\n
-Israel no es Netanyahu. Sigue siendo una sociedad democr\u00e1tica. Hay una oposici\u00f3n muy fuerte contra \u00e9l. Incluso antes de la guerra, cientos de miles de israel\u00edes se manifestaban contra sus pol\u00edticas. Incluso ahora, en medio de la guerra, cada semana hay decenas de miles de israel\u00edes manifest\u00e1ndose en las calles contra \u00e9l y las pol\u00edticas que lidera. Espero que finalmente se establezca un gobierno israel\u00ed diferente, que elija un camino diferente, tanto para proteger la democracia israel\u00ed como para hacer la paz con los palestinos y el mundo \u00e1rabe.<\/p>\n
LA VANGUARDIA<\/p>\n
Youval Noah Harari: \u00abLa IA es potencialmente m\u00e1s poderosa que un dictador\u00bb<\/strong><\/p>\n Historiador y autor de ‘Nexus’<\/strong><\/p>\n Ignasi Aragay<\/p>\n ARA<\/p>\n En su nuevo ensayo, una breve (es un decir: m\u00e1s de 550 p\u00e1ginas) historia de las redes de informaci\u00f3n desde la edad de piedra hasta la inteligencia artificial, Yuval Noah Harari vuelve a realizar un recorrido por la evoluci\u00f3n de la humanidad. El libro lo publica ahora Debate en castellano y Edicions 62 en catal\u00e1n. Este agosto hemos podido conversar por pantalla con el autor israel\u00ed, \u00e9l desde Tel Aviv.<\/p>\n -En ‘Nexus’, y en sus anteriores obras, usted ve la idea de cambio como una constante de la historia. \u00bfC\u00f3mo puede cambiar la humanidad la inteligencia artificial (IA)? Usted parece m\u00e1s proclive a pensar que vamos hacia una sociedad dist\u00f3pica. Lo veo m\u00e1s cerca de un cierto determinismo tecnol\u00f3gico apocal\u00edptico que de un tecnooptimismo. \u00bfEs as\u00ed?<\/p>\n -\u2014 Creo que la IA tiene un inmenso potencial, positivo y negativo. Las personas que desarrollan la IA, los emprendedores, los cient\u00edficos, los ingenieros, se centran en todo lo bueno que nos puede aportar. Es trabajo de los historiadores y fil\u00f3sofos equilibrar esto destacando tambi\u00e9n los escenarios peligrosos, que no son inevitables: no creo que la IA est\u00e9 condenando a la humanidad a la extinci\u00f3n o al desastre. Pero es una posibilidad que debemos tomarnos muy en serio. Espero que si tomamos decisiones sabias podremos prevenir estos escenarios dist\u00f3picos y disfrutar de los inmensos beneficios potenciales de la IA. En cualquier caso, lo m\u00e1s importante de la IA es que es distinta a todas las tecnolog\u00edas anteriores de la historia. Es la primera que puede tomar decisiones por s\u00ed misma, que puede crear nuevas ideas por s\u00ed misma. La imprenta podr\u00eda imprimir nuestros libros, pero no crear uno nuevo. Una bomba podr\u00eda destruir ciudades enteras pero no podr\u00eda decidir qu\u00e9 ciudad bombardear. La IA puede hacerlo. La IA puede escribir libros, crear sinfon\u00edas y todo tipo de artefactos culturales y cient\u00edficos. Es m\u00e1s que una herramienta, es un nuevo tipo de agente en el mundo.<\/p>\n -Por tanto, estamos ante un supercambio. Pero en la historia tambi\u00e9n existen continuidades. \u00bfLa IA destruir\u00e1 la familia, destruir\u00e1 el amor?<\/p>\n -No. Pero las va a cambiar. La familia ha tomado formas distintas a lo largo de la historia. Si lee la Biblia, Jacob se cas\u00f3 con dos hermanas, Raquel y Lia, y tambi\u00e9n tuvo dos esclavas sexuales, Bilh\u00e0 y Zilp\u00e1. Entre las cuatro le dieron 12 hijos que se convirtieron en los antepasados m\u00edticos del pueblo jud\u00edo. Ahora aquel acuerdo familiar incluso lo ver\u00edamos como criminal. Durante buena parte de la historia en el Mediterr\u00e1neo fue muy habitual que los primos hermanos se casaran. Todav\u00eda es muy com\u00fan en Oriente Medio. La Iglesia cat\u00f3lica lleg\u00f3 un momento en que prohibi\u00f3 el matrimonio entre primos hermanos, fue un gran cambio que rompi\u00f3 la familia extensa y cre\u00f3 la familia nuclear. Es probable, pues, que la IA y otras tecnolog\u00edas cambien la forma de la estructura familiar, la forma de nuestra vida rom\u00e1ntica y la forma en que las personas se encuentran. Es posible que confiemos cada vez m\u00e1s en la IA para arreglar las relaciones rom\u00e1nticas con la gente. Incluso podr\u00eda haber casos en los que las personas tengan relaciones \u00edntimas con entidades de IA. Ya est\u00e1 ocurriendo. No es ciencia ficci\u00f3n: la IA es la primera tecnolog\u00eda que puede hacerse pasar por un ser humano. Hubo el caso famoso en Google en el que uno de los ingenieros se convenci\u00f3 de que una IA en la que estaba trabajando era en realidad un ser sensible, consciente. Fue despedido. IA no tiene emociones propias, pero sabe crear la impresi\u00f3n que tiene emociones.<\/p>\n -\u00bfCu\u00e1ndo tardaremos en prohibir a los seres humanos falsos?<\/p>\n \u2014De la misma manera que los gobiernos tienen leyes contra la creaci\u00f3n de dinero falso, necesitamos leyes contra los humanos falsificados. Est\u00e1 bien que las IA tengan contacto con nosotros pero no pueden fingir que son seres humanos. Debemos saber cu\u00e1ndo estamos hablando con una IA. Las dificultades que hoy existen en muchos pa\u00edses, de EE.UU a Brasil, para mantener una conversaci\u00f3n p\u00fablica tienen que ver con que muchas voces no humanas se han unido a la conversaci\u00f3n. En las redes sociales, muchas voces son robots disfrazados. Y esto arruina la confianza.<\/p>\n -\u00bfPodemos crear bots que sepan dudar de s\u00ed mismos?<\/p>\n \u2014Puedes entrenar a una IA para evaluar su propio nivel de certeza sobre algo. Esto es muy positivo. La IA puede evaluar la evidencia que nos presenta, puede decirnos si algo es cierto en un 90% en un 60%. \u00c9sta es una manera realmente de expresar la duda.<\/p>\n -De todas formas, los robots ya est\u00e1n gobernando nuestras vidas, a menudo sin que lo sepamos.<\/p>\n -S\u00ed. Si solicitamos un pr\u00e9stamo a un banco, cada vez m\u00e1s es un algoritmo lo que decide si nos lo conceden. Tambi\u00e9n si solicitamos un trabajo, a menudo en el proceso de evaluaci\u00f3n habr\u00e1 un algoritmo, una IA. Incluso en el sistema penal, en muchos pa\u00edses los jueces se basan en las IA para decidir sobre la sentencia. Esto ir\u00e1 a m\u00e1s. S\u00f3lo estamos al principio de la revoluci\u00f3n de la IA. El peligro es que perdamos el control de nuestras vidas, la capacidad de entender las decisiones que se toman sobre nosotros. Cuando un humano toma una decisi\u00f3n sobre nosotros, lo entendemos porqu\u00e9 tambi\u00e9n somos humanos. Y tambi\u00e9n est\u00e1n en juego las democracias: \u00bfc\u00f3mo puedes regular y supervisar procesos burocr\u00e1ticos de toma de decisiones que ya no son humanos y que no puedes entender?<\/p>\n -Esto es lo que ocurri\u00f3 con el descontrol y la crisis del sistema financiero en el 2008, \u00bfno?<\/p>\n \u2014S\u00ed. En el sistema financiero, por ejemplo en el comercio de divisas, la mayor parte de decisiones las toman algoritmos. Se realiza entre ordenadores, no entre humanos. A medida que damos a la IA m\u00e1s control del sistema financiero, es probable que invente nuevos tipos de estrategias e incluso de dispositivos financieros. Las finanzas son tambi\u00e9n una actividad muy creativa: alguien invent\u00f3 el dinero, los bonos y las acciones. Hoy hay muchos dispositivos financieros que no entienden ni a los pol\u00edticos. Por eso es dif\u00edcil regularlos. Y esto es lo que provoc\u00f3 la crisis financiera de 2007-8. \u00bfQu\u00e9 ocurrir\u00e1 en el futuro si las IA inventan dispositivos financieros tan sofisticados que no haya ni un solo ser humano capaz de entender el sistema financiero?<\/p>\n -Otro ejemplo de estos algoritmos fuera de control fue el del genocidio rohingya. \u00bfQu\u00e9 ocurri\u00f3 en este caso con Facebook?<\/p>\n \u2014Durante d\u00e9cadas, en Myanmar hab\u00eda habido tensiones y odio hacia la minor\u00eda rohingya. Pero en 2016 y 2017 hubo una campa\u00f1a de limpieza \u00e9tnica que provoc\u00f3 la muerte de muchos miles de rohingyes y la expulsi\u00f3n de m\u00e1s de 700.000, la mayor\u00eda expulsados en Bangladesh. Y esto fue alimentado por una propaganda muy intensa y teor\u00edas de conspiraci\u00f3n en las redes sociales, especialmente en Facebook. Lo que impuls\u00f3 esto fueron decisiones tomadas por algoritmos, no por seres humanos. En la Alemania nazi, la propaganda contra los jud\u00edos, en \u00faltima instancia, fue decidida por seres humanos como Goebbels y Hitler. Pero nadie piensa que Mark Zuckerberg o los gestores de Facebook tuvieran nada en contra de los rohingya. Quiz\u00e1s ni siquiera sab\u00edan que exist\u00edan. Lo que realmente ocurri\u00f3 es mucho m\u00e1s peligroso: el contenido fue creado por extremistas humanos. No fue creado por los algoritmos. Pero \u00e9stos decidieron promoverlo para cumplir el objetivo de aumentar el engagement de los usuarios. Se dieron cuenta de que la rabia, el odio y la indignaci\u00f3n funcionaban. Es la primera campa\u00f1a de limpieza \u00e9tnica de la historia que es en parte fruto de decisiones de la IA. Por supuesto, gran parte de la culpa es de los seres humanos de Myanmar, pero tambi\u00e9n hay parte de la culpa de los algoritmos. Y esto ocurri\u00f3 hace casi 10 a\u00f1os. Ahora la IA es mucho m\u00e1s potente. Ahora incluso puede crear el contenido por s\u00ed misma. Es probable que veamos cada vez m\u00e1s acontecimientos hist\u00f3ricos moldeados por decisiones de la inteligencia no humana.<\/p>\n -\u00bfQu\u00e9 hacer para que los algoritmos, la IA, no castiguen la parte amable de nuestra naturaleza y no aumenten el odio y la indignaci\u00f3n?<\/p>\n \u2014Hay un par de mecanismos. Uno importante, como hemos dicho, es tener una ley contra la falsificaci\u00f3n de humanos. No permitir que los robots suplanten a la gente y difundan todas estas teor\u00edas de conspiraci\u00f3n, odio y miedo. Otro m\u00e9todo es hacer que las grandes empresas sean responsables de las acciones de sus algoritmos. Empresas como Facebook o X (Twitter) dicen que no podemos evitar que la gente publique odio en su plataforma por respeto a la libertad de expresi\u00f3n. Esto es complicado: estoy de acuerdo en que no es una buena idea dar a las empresas el papel de decidir qu\u00e9 deben decir o no los humanos. Pero las plataformas no pueden ignorar que son responsables de las decisiones de sus algoritmos, sobre todo porque son el resultado de su propio modelo de negocio. Quieren que la gente pase cada vez m\u00e1s tiempo en su plataforma y por eso difunden informaci\u00f3n t\u00f3xica. Contaminan la informaci\u00f3n. Es tan grave como la contaminaci\u00f3n del aire. Esto debe prevenirse o castigarse.<\/p>\n -Y los usuarios, \u00bfqu\u00e9 podemos hacer?<\/p>\n \u2014De la misma forma que muchas personas se imponen una dieta alimentaria sana, deber\u00edamos tener una dieta informativa, deber\u00edamos tener cuidado con la comida que damos a nuestra mente, que es la informaci\u00f3n. Demasiada informaci\u00f3n es mala para la mente, necesitamos tiempo para relajarnos, tiempo para digerir. Simplemente introducir m\u00e1s y m\u00e1s informaci\u00f3n es una mala idea. Y despu\u00e9s est\u00e1 la calidad de la informaci\u00f3n: si alimentas el cuerpo con comida basura, te haces da\u00f1o. Si alimentas la mente con informaci\u00f3n basura, se enferma. Y buena parte de la informaci\u00f3n que se difunde en las redes sociales es basura.<\/p>\n -\u00bfLos robots de IA tienen derechos? Son seres vivos sin conciencia, como la mayor\u00eda de animales, y estamos dando derechos a los animales.<\/p>\n \u2014Actualmente no, porque no tienen ninguna conciencia. No tienen ning\u00fan sentimiento. No pueden sufrir dolor ni miseria. Existe una gran confusi\u00f3n entre IA y la conciencia. La inteligencia es la capacidad de perseguir objetivos, resolver problemas. La conciencia es la capacidad de sentir cosas, de sentir dolor, placer, amor, odio. Ahora lo confundimos porque en humanos y otros animales van juntos. Nuestros sentimientos configuran nuestros objetivos. Nuestros sentimientos ayudan a resolver problemas. As\u00ed que confundimos conciencia e inteligencia. Pero son distintas. Los ordenadores, las IA, tienen una superinteligencia en algunos campos donde pueden resolver problemas mucho mejor que nosotros, pero tienen conciencia cero. No sienten nada. Una IA puede vencer f\u00e1cilmente a los mejores humanos al ajedrez, pero cuando gana no se siente feliz y si pierde no se siente triste. Los sujetos morales son entidades que pueden sufrir. Si puedes sufrir, hay preguntas morales sobre c\u00f3mo tratarte. Una silla no puede sufrir. Un coche no puede sufrir. Una IA tampoco. Si en el futuro tenemos motivos para pensar que la IA haya desarrollado conciencia, capacidad de sentir, entonces deberemos discutir sobre qu\u00e9 tipo de derechos darles.<\/p>\n -Una pregunta pr\u00e1ctica: \u00bfqu\u00e9 trabajos est\u00e1n m\u00e1s en riesgo hoy en d\u00eda a causa de la IA?<\/p>\n \u2014Los trabajos que s\u00f3lo se refieren al an\u00e1lisis de informaci\u00f3n. Si su trabajo es tomar mucha informaci\u00f3n, encontrar patrones y tomar una decisi\u00f3n, esto es lo m\u00e1s f\u00e1cil de automatizar. Esto puede ser as\u00ed en las finanzas, incluso en medicina, como un m\u00e9dico que s\u00f3lo analiza datos para averiguar qu\u00e9 enfermedad tienes y despu\u00e9s te recomienda un tratamiento. Esto se puede automatizar f\u00e1cilmente. Sin embargo, las tareas que implican habilidades sociales, interactuar con otras personas, o habilidades motrices, utilizar tu cuerpo, son mucho m\u00e1s dif\u00edciles de sustituir. Una enfermera que no s\u00f3lo necesita analizar datos, sino tambi\u00e9n sustituir un vendaje a un ni\u00f1o que llora, es muy dif\u00edcil de replicar.<\/p>\n -Vayamos a los grandes debates ideol\u00f3gicos. Usted hace una reflexi\u00f3n transversal sobre el poder. Lo sit\u00faa como idea central en la concepci\u00f3n del ser humano tanto en el marxismo como en los populismos de derecha actuales. Esta derecha revolucionaria en el peor sentido del mundo est\u00e1 utilizando la IA sin escr\u00fapulos. En cambio, la izquierda se est\u00e1 volviendo conservadora frente a esa derecha revolucionaria y parece que no sabe c\u00f3mo gestionar la IA. Esto es un problema. \u00bfTenemos una derecha nueva, enloquecida, y una izquierda que se pierde en la transici\u00f3n?<\/p>\n \u2014Las fronteras entre la izquierda y la derecha se est\u00e1n desdibujando porque la derecha radical, gente como Trump o Bolsonaro, utilizan la ret\u00f3rica y las ideas marxistas. Vienen a decir que el mundo entero es una lucha de poder entre opresores y oprimidos. En su imaginaci\u00f3n, existen estas \u00e9lites globales que oprimen a todos, contra las que se levantan. \u00c9sta es una narraci\u00f3n marxista. Como el ‘Manifiesto comunista’, que ve toda la historia s\u00f3lo como una lucha entre opresores y oprimidos. Por supuesto, sus pol\u00edticas no son marxistas. Cuando hablan de impuestos o de bienestar, no lo son, pero la comprensi\u00f3n b\u00e1sica del mundo de personas como Trump es sorprendentemente la misma que la de Karl Marx y sus seguidores. Cuando se trata de la IA, es a\u00fan m\u00e1s complicado: casi nadie tiene pol\u00edtica clara alguna. Si ahora miro la carrera presidencial en EE.UU., \u00bfqu\u00e9 diferencia hay entre dem\u00f3cratas y republicanos en su actitud ante la IA? No lo s\u00e9 porque simplemente no hablan de ello. Se habla mucho, por ejemplo, de inmigraci\u00f3n, sobre c\u00f3mo impactar\u00e1 en el mercado laboral, pero es muy probable que la IA tenga un impacto mucho mayor en el mercado laboral en EE.UU. y en otros lugares que la inmigraci\u00f3n. A menudo en pol\u00edtica ocurre que la conversaci\u00f3n se centra en temas que no son tan importantes e ignora los realmente importantes: esto est\u00e1 ocurriendo ahora con la IA.<\/p>\n -En ‘Nexus’ tambi\u00e9n escribe sobre las \u00abrealidades intersubjetivas\u00bb, como el dinero, la religi\u00f3n, las naciones, etc. \u00bfCu\u00e1l cree que es la realidad intersubjetiva m\u00e1s poderosa actualmente?<\/p>\n \u2014Dir\u00eda que es el dinero porque es la \u00fanica realidad que a\u00fan acepta casi todo el mundo. Hay realidades objetivas \u2013cosas que existen tanto si creemos como si no\u2013 y cosas subjetivas, que s\u00f3lo sientes t\u00fa. Si sientes dolor y nadie m\u00e1s le siente, es tu dolor. Y despu\u00e9s est\u00e1 la realidad intersubjetiva, algo que existe en la imaginaci\u00f3n o comunicaci\u00f3n entre muchas personas. Por tanto, los dioses son una realidad intersubjetiva. Si mucha gente cree en J\u00fapiter, entonces es algo muy importante. Si la gente deja de creer a J\u00fapiter, desaparece. El dinero es el mismo. El dinero no es objetivo. No tienen ning\u00fan valor objetivo. No te los puedes comer. No puedes beberlos. Pero tampoco son subjetivos. No son cosas que existan s\u00f3lo en tu imaginaci\u00f3n. Existen en la comunicaci\u00f3n entre nosotros. Puedo darte un d\u00f3lar y t\u00fa me das algo a cambio. Ambos creemos. Esto es intersubjetivo. Y el dinero es la realidad intersubjetiva m\u00e1s poderosa porque es casi la \u00faltima cosa en la que todo el mundo cree.<\/p>\n -Siguiendo con la pol\u00edtica, \u00bfla IA algor\u00edtmica qu\u00e9 puede favorecer m\u00e1s, las dictaduras o las democracias?<\/p>\n \u2014Presenta peligros para ambas. La democracia es una conversaci\u00f3n entre mucha gente y la IA desestabiliza esta conversaci\u00f3n con voces no humanas. Esto crea caos. Otro peligro es que la IA pueda crear reg\u00edmenes de vigilancia total y destruir por completo la privacidad. En \u00e9pocas anteriores, incluso si un gobierno quer\u00eda seguir a todo el mundo todo el tiempo, no pod\u00eda. No hab\u00eda agentes de la polic\u00eda secreta ni analistas suficientes para revisar la informaci\u00f3n que recog\u00edan. Con los tel\u00e9fonos inteligentes, c\u00e1maras y micr\u00f3fonos en todas partes, puedes seguir a todo el mundo todo el tiempo. Y tienes IA para analizar la informaci\u00f3n. Por primera vez, se pueden crear reg\u00edmenes de vigilancia total que destruyan completamente la privacidad y conduzcan al colapso de la democracia. Pero las dictaduras tambi\u00e9n est\u00e1n en peligro porque la mayor amenaza para un dictador humano a lo largo de la historia fueron siempre los subordinados demasiado poderosos que podr\u00edan rebelarse. En el Imperio Romano, ni un solo emperador fue derribado por una revoluci\u00f3n democr\u00e1tica. Muchos fueron asesinados o depuestos por sus propios generales o gobernadores. Ahora, la IA es potencialmente m\u00e1s poderosa que el dictador. Si eres ciudadano ruso y dices algo contra Putin, te meten en prisi\u00f3n. Pero \u00bfqu\u00e9 pasa con un chatbot \u00bfque empieza a decir cosas contra Putin? C\u00f3mo puedes amenazar un chatbot? \u00bfQu\u00e9 le vas a hacer? \u00bfEnviarlo a la c\u00e1rcel? \u00bfAmenazar a su familia? Por tanto, esta tecnolog\u00eda, al ser incontrolable, tambi\u00e9n es una gran amenaza para los dictadores.<\/p>\n -Vayamos un momento a la actualidad pol\u00edtica m\u00e1s estricta y dura: \u00bfcu\u00e1l es su visi\u00f3n personal de la guerra de Israel contra Gaza?<\/p>\n -Es una terrible tragedia, sin duda para el pueblo de Gaza, y tambi\u00e9n para el pueblo de Israel. Est\u00e1 destruyendo a Israel. Est\u00e1 destruyendo el alma del pa\u00eds. Y lo importante es darse cuenta de que este conflicto no es inevitable. Hay m\u00e1s de siete millones de palestinos que nacen aqu\u00ed y no tienen d\u00f3nde ir. Tambi\u00e9n hay m\u00e1s de siete millones de jud\u00edos que nacen aqu\u00ed y no tienen d\u00f3nde ir. Pero ambos pueden existir en ese pa\u00eds. El simple hecho es que existen dos comunidades de personas que viven entre el Mediterr\u00e1neo y el r\u00edo Jord\u00e1n. Ambas no tienen otro lugar al que ir, ambas tienen derecho a existir aqu\u00ed. Y pueden existir juntas en dos estados o en un estado porque no existe escasez objetiva de tierra, alimentos o agua. Hay tierra suficiente entre el Mediterr\u00e1neo y el Jord\u00e1n para construir casas para todos. Hay suficiente comida para todos. Hay suficiente agua. El problema es que ambas partes en su mente creen en las fantas\u00edas, en las mitolog\u00edas, que s\u00f3lo ellos tienen derecho a existir aqu\u00ed porque Dios les dio ese pa\u00eds o lo que sea. Y en su fantas\u00eda creen que el otro lado no existe o no tiene derecho a existir. Esto es un problema de la mente humana, no un problema objetivo. Es un problema intersubjetivo. El problema son las historias que la gente tiene en la cabeza. Espero que con el tiempo la gente pueda cambiar esas fantas\u00edas religiosas, esas mitolog\u00edas en su mente y que podamos convivir. En otros muchos lugares del mundo que ha habido personas que se mataron y se masacraron durante generaciones finalmente lograron hacer la paz.<\/p>\n -Precisamente en Sapiens, y tambi\u00e9n en Nexus, usted apunta que la historia de la humanidad tiene que ver con la capacidad de colaboraci\u00f3n, de crear redes. Niega la ley de la selva.<\/p>\n \u2014Es que la selva no funciona con el m\u00e1s fuerte matando al m\u00e1s d\u00e9bil. En la selva real, por ejemplo la selva amaz\u00f3nica, la vida se basa en la cooperaci\u00f3n de \u00e1rboles, animales y hongos. Tambi\u00e9n compiten, s\u00ed. A veces se comen mutuamente. Pero existe mucha cooperaci\u00f3n. Si no lo hubiera, la selva colapsar\u00eda inmediatamente. Y lo mismo ocurre con los seres humanos. Hace cien mil a\u00f1os, los humanos s\u00f3lo sab\u00edan cooperar en muy peque\u00f1as bandas, en grupos de 50 personas. Durante miles de a\u00f1os, los humanos mejoraron su capacidad de cooperar. Las naciones no son el estado natural de los seres humanos, son una creaci\u00f3n reciente en evoluci\u00f3n. Las m\u00e1s antiguas tienen quiz\u00e1s 5.000 a\u00f1os. Podemos hablar del antiguo Egipto. Pero los humanos hemos existido durante millones de a\u00f1os. As\u00ed que, incluso si alguien cree mucho en el nacionalismo, esto deber\u00eda hacerle apreciar la capacidad de cooperar con desconocidos. Porque la mayor\u00eda de la gente de tu naci\u00f3n te es extra\u00f1a, nunca los has conocido. No son amigos ni familiares. Sin embargo, conf\u00edas en ellos. De la misma forma que hemos aprendido a confiar y cooperar con millones de otras personas a nuestra naci\u00f3n, tambi\u00e9n podemos aprender a confiar y cooperar con m\u00e1s personas de otras naciones.<\/p>\n -\u00bfCon la IA podremos no cometer los mismos errores o podemos dar un nuevo paso para avanzar hacia una sociedad global m\u00e1s ben\u00e9vola?<\/p>\n \u2014Espero que podamos avanzar. Ahora mismo, la situaci\u00f3n se ve muy, muy mala: la cooperaci\u00f3n entre pa\u00edses se derrumba, el orden global se est\u00e1 convirtiendo en un caos global en Oriente Medio y en Europa del Este con la invasi\u00f3n rusa de ‘Ucrania. Muchos pa\u00edses est\u00e1n colapsando dentro de s\u00ed mismos. Mira las tensiones en EEUU, Brasil, Filipinas… Pero \u00e9sta no es una ley de la naturaleza, sino el resultado de las historias y las fantas\u00edas que creamos. Podemos hacer el esfuerzo por tomar mejores decisiones y volver a pasar de un proceso de conflicto a un proceso de m\u00e1s y m\u00e1s cooperaci\u00f3n.<\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" El historiador israel\u00ed, autor de \u00e9xitos globales como ‘Sapiens’, publica ‘Nexus’, un libro donde aborda el punto de inflexi\u00f3n y los peligros de la inteligencia artificial Se ha convertido en un pensador de referencia global con libros como ‘Sapiens’ o ’21 lecciones para el siglo XXI’ y ahora regresa con ‘Nexus’ (Debate \/ Edicions 62), […]<\/p>\n","protected":false},"author":4,"featured_media":56525,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[82],"tags":[],"class_list":["post-62684","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-munduanbarna"],"yoast_head":"\n