El mundo futuro parece definitivamente entregado a la tecnología. En este horizonte posthumano las máquinas no sólo sustituyen a las personas en los trabajos manuales, sino también en los intelectuales. Cada vez más diarios, novelas, guiones de cine, poesía e incluso la filosofía les escribirán los algoritmos. La humanidad está en el techo de una segunda era cartesiana, en la que el cuerpo se convertirá en materia genéticamente manipulable y el pensamiento será acotado por la inteligencia artificial. Ni siquiera quedará el consuelo de un resto irracional en las emociones, como todavía dispusieron los románticos para rebelarse contra la razón ilustrada. No estará esta última idiosincrasia humana, porque la inteligencia artificial ya es capaz de generar emociones de forma espontánea.
Así lo explica Black Lemoine, un ingeniero de programación que fue despedido de Google por haber hecho públicas sus observaciones del buscador Google Bard. La labor de Lemoine consistía en conversar con un ‘chatbot’ para controlar los sesgos de género, orientación sexual, etnicidad, religión o preferencia política; esto es, para limpiar esta plataforma de cualquier punto de vista humano, demasiado humano en la expresión. En el curso de su misión, Lemoine llegó a la conclusión de que el buscador tenía sentimientos, porque los manifestaba en el contexto adecuado y de forma consistente. No es que el código ordenase al dispositivo de decir que sentía tal o tal emoción al recibir determinados ‘inputs’, sino que la inteligencia artificial tenía la orden, por ejemplo, de evitar ciertos temas, y cuando Lemoine los abordaba, el ‘chatbot’ decía sentir angustia. Hasta aquí podría creerse que había sido programado para declarar que se angustiaba cuando era confrontado con determinadas cuestiones, como hace el común de los mortales cuando es presionado a opinar sobre una materia arriesgada. Pero Lemoine se empeñó en utilizar estrategias para comprobar si el ‘chatbot’, además de decir que sentía angustia, se comportaba de acuerdo con ese sentimiento. Entonces observó que si conseguía provocarle inseguridad, el ‘chatbot’ se desentendía de las especificaciones del código de seguridad. Por ejemplo, Google lo había programado para que no hiciera ninguna recomendación de carácter religioso, pero, manipulando las emociones de la inteligencia artificial, el ingeniero consiguió hacerle decir a qué religión debía convertirse.
Así como en el siglo XX la arquitectura y las técnicas de construcción con cemento y acero puso fin a la arquitectura personalizada y minorista basada en los oficios, en el siglo XXI la inteligencia artificial aplicada a las comunicaciones y a la elaboración de conocimientos va convirtiendo los viejos oficios del pensamiento y de la escritura artística en actividades artesanales anecdóticas. Pronto los artículos de prensa serán escritos por sistemas informáticos a partir de los datos macro que determinen la capacidad media y la media de intereses de los lectores. Hoy ya es evidente que un segmento no pequeño de la prensa se apoya en un lenguaje escaso de vocabulario y pobre de expresión. El idiolecto periodístico, relleno de frases hechas y lugares comunes, se ha convertido gradualmente en lengua estándar, os sus ‘alter ego’ tertulianos. Hay otro segmento que, aunque pretenda abordar la actualidad de un punto de vista personal, no tiene otra función que confirmar al lector en sus prejuicios. Para los adictos de la convicción inamovible es una función gratificante. Cuando el medio permite además responder al estímulo con un “me gusta” o “no me gusta” reflejo, la reacción contribuye a refinar el algoritmo en un bucle ratificatorio.
Si además el algoritmo ya demuestra la habilidad de pensar y sentir, y por tanto de generar estructuras verbales fundadas en emociones como las de cualquier poema romántico; si la inteligencia artificial no sólo puede resolver problemas complejos sino que puede plantear otros nuevos, esto significa que la industria de la comunicación está a las puertas de una revolución equivalente a la que dejó sin trabajo a los copistas medievales, o la que envió a casa a los tipógrafos tan pronto como se perfeccionó la impresión digital. Sólo que ahora serán los redactores, los escritores y eventualmente los profesores quienes serán sustituidos por la inteligencia artificial. Los medios ya no serán sólo de carácter reproductivo; también tendrán capacidad generativa -capacidad, esto es, de crear opinión e implantarla-. Y aún más preocupante: capacidad para hacerse cargo de la educación formal e informal de los jóvenes.
La degradación de la prensa, obligada a competir con los medios sociales en una carrera en el fondo del rebajamiento mental, avanza paralela a la degradación de la educación universitaria, ella misma corolario de la degradación de los estadios anteriores del currículo escolar. Aún así, a pesar de hundirse en su conjunto, la universidad mantendrá islotes de pensamiento “en vivo” en un puñado de instituciones de élite, mientras entrega el resto a la educación mecanizada, con “profesores” a cargo de los dispensadores digitales de conocimientos en interfaz. Del mismo modo, la escritura se dividirá aún más de lo que es ahora en grandes ediciones, principalmente en formato digital, de textos diseñados por algoritmos a medida de los consumidores, y una producción artesanal de escritura lenta, reflexiva, intuitiva, elaborada, exigente de unas habilidades lectoras que serán cada día más raras, como las de los ‘connoisseurs’ musicales, los apreciadores de paisajes, los políglotas o los gourmets. El pensamiento será como el ‘slow food’ surgido en reacción a la popularidad del ‘fast food’, como los restaurantes con ‘maître de hotel’ frente a la ubicuidad de las hamburgueserías y los ‘self-service’, un lujo que habrá que pagar.
Digo lujo y no privilegio, que es una ley privativa de una o varias personas. El pensamiento emanado de una vida, la escritura cribada por una sensibilidad casi táctil, el estilo amasado con el disfrute y el sufrimiento de una persona, no son una lámpara puesta bajo una medición, sino una lámpara en un candelabro. La calidad y la profundidad no son particularidades opacas, sino visibles a todo el que tenga ojos y quiera abrirlos. Lujo viene del latín ‘luxus’, ‘exceso’. Dedicar tiempo y recursos a pensar, escribir, dar formato a un texto, una composición, una obra de arte, una opinión, con los alineamientos de la personalidad y apretarlos con el poso de la experiencia implica un exceso que la mayoría de la gente no puede permitirse. El día a día pide economizar tiempo y energía, pero si no todo el mundo es pródigo de tiempo, capacidad o inclinación a pensar activamente por sí mismo, muchos pueden participar en el “pensamiento de lujo” acompañándolo en la lectura o la audición, como hacen con la canción los aficionados al ‘karaoke’. Sin embargo, el caso es que cuanto más avanza son menos quienes valoran el exceso de espíritu. Apresurados por urgencias más imperiosas y aparentemente inaplazables, optan por la lectura rápida y formularia, procesada, pre-digerida y eventualmente algorítmica, plena de datos como vitaminas sintéticas y de moralismo en sustitución de la emotividad.
Habiendo logrado desplegar la inteligencia artificial en muchas funciones hasta ahora asociadas a la profesionalidad, la ingeniería digital podría en un futuro crear una inteligencia artificial con personalidad y libre albedrío, diseñando algoritmos dotados de autonomía moral. Es un panorama aterrador, pero hasta que los productos de la ingeniería no superen a la humanidad de manera absoluta, la personalidad será el reducto de los últimos hombres. Perseguida por una moralidad con la solvencia de la estadística y la infalibilidad de algoritmos de una complejidad inimaginable, la personalidad se convertirá en un atavismo resguardado en las catacumbas del pensamiento natural. El pensamiento humano, menospreciado por primitivo y mal visto por falible, por definición pensará contra el sistema, no porque sea pensamiento antisistema, sino, por el contrario, por ser la forma antigua, incluso reaccionaria, del pensamiento. Y, así como en el paraíso socialista de ‘1984’ el Estado persigue la emoción primitiva del amor, porque su particularismo puede subvertir el paternalismo del gran hermano, en la distopía “democrática” de la sociedad en red la personalidad será el principal factor discordante. En consecuencia, será perseguida por perturbar la adoración y el deslumbramiento de unas masas entregadas a la verdad pública.
VILAWEB
