<\/p>\n
<\/p>\n
El autor del best-seller de los ensayos, ‘S\u00e0piens’, publica ahora ‘Nexus’ (Edicions 62) para advertir de los peligros de la inteligencia artificial. El historiador y fil\u00f3sofo israel\u00ed Yuval Noah Harari analiza la historia de las redes de informaci\u00f3n que han utilizado los humanos en la historia (y han dado lugar a totalitarismos o democracias) y explica por qu\u00e9 la IA es m\u00e1s peligrosa que cualquier arma nuclear.<\/p>\n
Yuval Noah Harari presenta un ensayo leedor y divulgativo con una tesis bien defendida contra lo que llama las teor\u00edas ingenuas sobre la informaci\u00f3n que se utilizan para alimentar sin freno \u2014y sin control suficiente\u2014 la inteligencia artificial (IA).<\/p>\n
La explicaci\u00f3n m\u00e1s breve y sencilla de su teor\u00eda, tal y como la resum\u00eda Harari en una reciente rueda de prensa, es que \u00abla informaci\u00f3n no es verdad ni es conocimiento\u00bb. Y esto implica que es falsa la teor\u00eda de quienes defienden a capa y espada la IA. No es cierto, dice Harari, que \u00abm\u00e1s informaci\u00f3n nos acerque m\u00e1s a la verdad, sino todo lo contrario\u00bb. Por tanto, tampoco es cierto el mantra que repite el propietario de X (antes Twitter) Elon Musk que la gente necesite m\u00e1s y m\u00e1s informaci\u00f3n. Musk lo dice una y otra vez porque la IA aportar\u00e1 un alud de datos y son muchos los que creen que m\u00e1s informaci\u00f3n significar\u00e1 directamente progreso, conocimiento y beneficios universales.<\/p>\n
Harari dedica m\u00e1s de 500 p\u00e1ginas a explicar por qu\u00e9 son falsos estos apriorismos sobre la informaci\u00f3n y lo hace repasando la historia cultural, religiosa y comunicativa de los humanos desde que los sapiens convivieron con los neandertales. Con mucho estilo, el autor llena su historia de personajes muy conocidos (Jesucristo, Stalin, Hitler, etc.) y otros que nunca esperar\u00edamos encontrar en un libro como \u00e9ste, como Cher Ami, una paloma mensajera (el p\u00e1jaro de la cubierta) que, en una batalla de la Primera Guerra Mundial, tuvo un papel protagonista al llevar un mensaje que deb\u00eda salvar a todo un batall\u00f3n del ej\u00e9rcito estadounidense.<\/p>\n
La informaci\u00f3n es una selva<\/p>\n
En el ep\u00edlogo de ‘Nexus’, Harari explica que sus obras anteriores le facilitaron un acceso inesperado a empresas, instituciones y cient\u00edficos que ten\u00edan o pod\u00edan desempe\u00f1ar un papel clave en el desarrollo o control de la IA. Pero muchos de ellos, escribe, \u201cargumentaban que m\u00e1s informaci\u00f3n siempre ha significado m\u00e1s conocimiento y que, al aumentar nuestro conocimiento, cada revoluci\u00f3n de la informaci\u00f3n anterior ha beneficiado mucho a la humanidad. La revoluci\u00f3n de la imprenta, \u00bfno condujo a la revoluci\u00f3n cient\u00edfica? \u00bfNo provocaron los peri\u00f3dicos y la radio el ascenso de la democracia moderna? Lo mismo, dec\u00edan, ocurrir\u00e1 con la IA\u201d.<\/p>\n
Harari recuerda que cada uno de estos avances ha tra\u00eddo cosas buenas y malas, seg\u00fan qui\u00e9n y c\u00f3mo lo haya utilizado: \u201cLos resultados inmediatos de la revoluci\u00f3n de la imprenta incluyeron cazas de brujas y guerras religiosas junto con descubrimientos cient\u00edficos, mientras que los peri\u00f3dicos y la radio fueron explotados tanto por los reg\u00edmenes totalitarios como por las democracias\u201d.<\/p>\n
En la rueda de prensa internacional que realiz\u00f3 por videoconferencia el 16 de septiembre, Harari fue m\u00e1s contundente: \u201c\u00bfPor qu\u00e9 la IA nos pone en peligro m\u00e1s que otros inventos humanos a\u00fan m\u00e1s diab\u00f3licos (explosivos, bombas at\u00f3micas, etc.)? Porque la IA es diferente: es un agente independiente. Las anteriores, las armas nucleares, ten\u00edan un ingente poder de destrucci\u00f3n, pero la decisi\u00f3n estaba en manos de los humanos\u201d. Seg\u00fan este historiador y fil\u00f3sofo israel\u00ed que ahora investiga en la Universidad de Cambridge, \u201cuna bomba at\u00f3mica no pod\u00eda crear la bomba de hidr\u00f3geno, pero la IA s\u00ed puede inventar una IA m\u00e1s inteligente. Y esto lo hace diferente a cualquier crisis previa\u201d.<\/p>\n
Harari hace una reflexi\u00f3n igual de inquietante sobre el momento en el que nos encontramos, sobre la inteligencia artificial actual m\u00e1s conocida (ChatGPT) y sobre el futuro inmediato. \u201cEsto est\u00e1 empezando. Si lo comparamos con la evoluci\u00f3n biol\u00f3gica, ChatGPT s\u00f3lo representar\u00eda una ameba, pero entonces \u00bfqu\u00e9 pasar\u00e1 cuando lleguen los dinosaurios de la IA?\u201d.<\/p>\n
Algoritmos culpables<\/p>\n
La primera peque\u00f1a muestra del funcionamiento de la IA -en este caso, en beneficio de las empresas que la aplican- ya se puede encontrar en las redes sociales. Harari alerta de que las muestras p\u00fablicas de odio o las ‘fake news’ en las redes sociales acaban siendo fomentadas por los algoritmos (la IA) de estas grandes empresas. Por tanto, deber\u00edan ser responsables las empresas, no los individuos. \u201cSi alguna persona publica un contenido cargado de odio o se inventa una historia est\u00fapida \u2013dice Harari\u2013, es su problema. Quiz\u00e1s hay que vigilar, pero en democracia tambi\u00e9n debemos tener mucho cuidado a la hora de censurar. La gente tiene derecho a la estupidez\u201d. En cambio, \u00ablas grandes corporaciones deber\u00edan ser responsables de las decisiones de los algoritmos que dan mayor visibilidad a aquellas informaciones falsas o a aquellos contenidos de odio\u00bb. Los algoritmos, la IA de estas empresas, quieren priorizar la permanencia de los usuarios en sus redes sociales y, por tanto, acaba premiando los contenidos m\u00e1s est\u00fapidos porque provocan m\u00e1s respuestas, comentarios, etc. \u201cLos algoritmos han descubierto que la mejor forma de captar la atenci\u00f3n es pulsar el bot\u00f3n del odio, el miedo o la rabia. Diseminan mensajes de \u00e9stos porque hacen que la gente se implique y est\u00e9 m\u00e1s tiempo enganchada a las redes sociales. Esto no es libertad de prensa\u201d, dice Harari. No puede ser que las empresas act\u00faen de esta manera y salgan adelante por una pretendida libertad de opini\u00f3n. La libertad de opini\u00f3n ser\u00eda un derecho del individuo que ha hecho ese mensaje, pero las empresas que alimentan y alargan su vida \u2014con los algoritmos que la difunden m\u00e1s y m\u00e1s\u2014 deben pagar su irresponsabilidad.<\/p>\n
Harari compara este caso con el de un editor de peri\u00f3dico que pone en portada, conscientemente, una ‘fake new’ o un contenido cargado de odio. \u201cSi alguien inventa una historia est\u00fapida, es su problema, pero si el editor lo pone en primera p\u00e1gina, el responsable es el editor. Esto es lo que est\u00e1 pasando con las grandes redes sociales\u201d. Y podr\u00eda perdonarse la estupidez individual, pero no la codicia empresarial y la mala praxis profesional que s\u00f3lo quieren obtener m\u00e1s beneficios.<\/p>\n
La IA y los totalitarismos<\/p>\n
Harari va m\u00e1s all\u00e1 y se pregunta por qu\u00e9 somos tan autodestructivos. \u00bfSi \u00absomos tan inteligentes que podemos producir misiles nucleares y algoritmos superinteligentes\u00bb como es que \u00absomos tan est\u00fapidos\u00bb que \u00abseguimos produciendo estas cosas aunque no estemos seguros de poder controlarlas\u00bb?<\/p>\n
A lo largo del libro el autor intenta demostrar, como \u00e9l mismo reconoce en el ep\u00edlogo, \u00abque la culpa no es de nuestra naturaleza sino de nuestras redes de informaci\u00f3n\u00bb.<\/p>\n
Para demostrarlo, compara las redes de informaci\u00f3n que han creado los estados totalitarios y las que han formado las democracias y concluye que, a veces, \u201cpor favorecer el orden por encima de la verdad, las redes de informaci\u00f3n humana a menudo han producido mucho poder, pero poca sabidur\u00eda\u201d. Y pone el ejemplo de la Alemania nazi, que \u201ccre\u00f3 una m\u00e1quina militar altamente eficiente y la puso al servicio de una mitolog\u00eda demencial\u201d.<\/p>\n
Harari analiza la historia de la dictadura y la democracia desde un punto de vista nuevo, \u00abcomo tipos opuestos de redes de informaci\u00f3n\u00bb. La diferencia principal: las redes de informaci\u00f3n \u201cdictatoriales est\u00e1n muy centralizadas\u201d, lo que significa que \u201cel centro goza de una autoridad ilimitada; por tanto, la informaci\u00f3n tiende a fluir hacia el n\u00facleo central, donde se toman las decisiones m\u00e1s importantes\u201d. Este sistema es m\u00e1s efectivo en un Estado del siglo XX, con el potencial de controlar \u00abla totalidad de la vida de las personas\u00bb que en la antigua Roma, donde \u00abNer\u00f3n, por ejemplo, no dispon\u00eda de los medios para fiscalizar la vida de millones de campesinos en los pueblos remotos de las provincias\u201d.<\/p>\n
Sin embargo, la IA puede hacer a\u00fan m\u00e1s asfixiando ese control de los totalitarismos. \u201cHitler o Stalin tampoco pod\u00edan seguir a todo el mundo siempre y hasta el \u00faltimo rinc\u00f3n de sus estados. Incluso en la URSS, la mayor parte del tiempo, la persona no estaba perseguida todo el d\u00eda en todas partes. En cambio, la IA permite una vigilancia total que acabe con cualquier libertad porque existen tel\u00e9fonos, ordenadores, reconocimiento de cara, de voz, etc. Antes era imposible aniquilar la privacidad\u201d, pero ahora est\u00e1 pasando.<\/p>\n
Harari pone el ejemplo de Ir\u00e1n: \u201cEn los \u00faltimos dos o tres a\u00f1os, Ir\u00e1n ha terminado lleno de c\u00e1maras de vigilancia con software de reconocimiento facial capaz de identificar a las mujeres que no llevan velo. Basta con leer los informes de Amnist\u00eda Internacional. Una mujer conduce sin velo su coche, las c\u00e1maras la identifican (su nombre y su tel\u00e9fono) y recibe un SMS que le dice que ha cometido un delito, que debe detener el veh\u00edculo -que ser\u00e1 requisado- y esperar a la polic\u00eda. Esto ya est\u00e1 pasando\u201d.<\/p>\n
Al contrario que los totalitarismos, la democracia \u00abes una red de informaci\u00f3n distribuida, con fuertes mecanismos de correcci\u00f3n\u00bb. Hay un nodo central, el ejecutivo, y \u00ablas agencias gubernamentales que recogen y almacenan grandes cantidades de informaci\u00f3n\u00bb, pero tambi\u00e9n hay \u00abmuchos canales de informaci\u00f3n adicionales que conectan nodos independientes\u00bb: la diversidad abarca desde los \u00ab\u00f3rganos legislativos, los partidos pol\u00edticos, los tribunales, la prensa, las empresas, las comunidades locales y las ONG\u201d hasta los \u201cciudadanos individuales\u201d que \u201cse comunican libre y directamente entre ellos\u201d.<\/p>\n
En la presentaci\u00f3n del libro Harari destacaba el papel de la prensa: \u201cLos periodistas y prensa tienen un papel clave. La democracia es una conversaci\u00f3n. La gente habla e intenta llegar a una decisi\u00f3n com\u00fan. Hay gente que confunde democracia con elecciones, pero no es lo mismo. En Venezuela y en Corea del Norte hacen elecciones, pero no hay democracia. Democracia significa conversaci\u00f3n y corregir errores (tambi\u00e9n del Gobierno)\u201d.<\/p>\n
En la revisi\u00f3n hist\u00f3rica de este sistema pol\u00edtico donde la conversaci\u00f3n y la discusi\u00f3n son fundamentales, Harari destaca el papel del periodismo: \u201cLos diarios empezaron los siglos XVII y XVIII en los Pa\u00edses Bajos y el Reino Unido, y all\u00ed llegaron las primeras democracias. Hasta que no lleg\u00f3 la prensa, no existe ning\u00fan ejemplo de democracia a gran escala. Se pod\u00eda dar en ciudades estado o en tribus porque las dimensiones permit\u00edan que la gente hablara entre ellos, pero esto no puede hacerse a gran escala sin medios\u201d.<\/p>\n
Harari tambi\u00e9n reconoce el potencial positivo de la IA, pero su trabajo insiste en \u201cabandonar tanto la visi\u00f3n ingenua como la visi\u00f3n populista de la informaci\u00f3n, dejar de lado nuestras fantas\u00edas de infalibilidad y comprometernos con el trabajo arduo y m\u00e1s bien mundano construir instituciones con fuertes mecanismos de correcci\u00f3n\u201d. Una IA muy controlada.<\/p>\n
O esto o el caos. \u00abSi lo gestionamos mal, la IA podr\u00eda hacer que se extinguiera no s\u00f3lo el dominio de los humanos en la Tierra, sino tambi\u00e9n la luz misma de la conciencia\u00bb, cualquier rastro de vida animal.<\/p>\n
Publicado el 23 de septiembre de 2024<\/p>\n
N\u00ba. 2102<\/p>\n
EL TEMPS<\/p>\n
https:\/\/www.eltemps.cat\/article\/61127\/les-receptes-de-yuval-noah-harari-contra-la-fi-del-mon?id_butlleti_enviar=365&utm_source=butlleti_article&utm_medium=butlleti&utm_campaign=les-receptes-de-yuval-noah-harari-contra-la-fi-del-mon<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
El autor del best-seller de los ensayos, ‘S\u00e0piens’, publica ahora ‘Nexus’ (Edicions 62) para advertir de los peligros de la inteligencia artificial. El historiador y fil\u00f3sofo israel\u00ed Yuval Noah Harari analiza la historia de las redes de informaci\u00f3n que han utilizado los humanos en la historia (y han dado lugar a totalitarismos o […]<\/p>\n","protected":false},"author":4,"featured_media":56970,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[82],"tags":[],"class_list":["post-62984","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-munduanbarna"],"yoast_head":"\n