La carta abierta del ‘Future of Life Institute’ que exige una pausa preventiva de seis meses en el desarrollo de la inteligencia artificial ya ha sido firmada por miles de figuras de alto perfil, incluido Elon Musk. A los signatarios les preocupa que los laboratorios de IA est\u00e9n \u00abencerrados en una carrera fuera de control\u00bb para desarrollar e implementar sistemas cada vez m\u00e1s potentes que nadie, incluidos sus creadores, pueden comprender, predecir o controlar.<\/p>\n
\u00bfQu\u00e9 explica este estallido de p\u00e1nico entre cierta cohorte de \u00e9lites? El control y la regulaci\u00f3n est\u00e1n obviamente en el centro de la historia, pero \u00bfde qui\u00e9n? Durante la pausa de medio a\u00f1o propuesta cuando la humanidad pueda hacer un balance de los riesgos, \u00bfqui\u00e9n representar\u00e1 a la humanidad? Dado que los laboratorios de IA en China, India y Rusia continuar\u00e1n con su trabajo (quiz\u00e1s en secreto), es inconcebible un debate p\u00fablico mundial sobre el tema.<\/p>\n
A\u00fan as\u00ed, debemos considerar lo que est\u00e1 en juego aqu\u00ed. En su libro de 2015, ‘Homo Deus’, el historiador Yuval Harari predijo que el resultado m\u00e1s probable de la IA ser\u00eda una divisi\u00f3n radical, mucho m\u00e1s fuerte que la divisi\u00f3n de clases, dentro de la sociedad humana. Muy pronto, la biotecnolog\u00eda y los algoritmos inform\u00e1ticos unir\u00e1n sus poderes para producir \u00abcuerpos, cerebros y mentes\u00bb, lo que dar\u00e1 como resultado una brecha cada vez mayor \u00abentre quienes saben c\u00f3mo dise\u00f1ar cuerpos y cerebros y quienes no\u00bb. En un mundo as\u00ed, \u201caquellos que viajen en el tren del progreso adquirir\u00e1n habilidades divinas de creaci\u00f3n y destrucci\u00f3n, mientras que los que se queden atr\u00e1s enfrentar\u00e1n la extinci\u00f3n\u201d.<\/p>\n
El p\u00e1nico reflejado en la carta de IA surge del temor de que incluso aquellos que est\u00e1n en el \u201ctren del progreso\u201d no puedan conducirlo. Nuestros amos feudales digitales actuales est\u00e1n asustados. Sin embargo, lo que quieren no es un debate p\u00fablico, sino un acuerdo entre los gobiernos y las corporaciones tecnol\u00f3gicas para mantener el poder en donde pertenece.<\/p>\n
Una expansi\u00f3n masiva de las capacidades de la IA es una seria amenaza para quienes est\u00e1n en el poder, incluidos aquellos que desarrollan, poseen y controlan la IA. Se\u00f1ala nada menos que el fin del capitalismo tal como lo conocemos, manifestado en la perspectiva de un sistema de IA autorreproductivo que necesitar\u00e1 cada vez menos aportes de agentes humanos (el comercio de mercado algor\u00edtmico es simplemente el primer paso en esta direcci\u00f3n). La elecci\u00f3n que nos queda ser\u00e1 entre una nueva forma de comunismo y un caos incontrolable.<\/p>\n
Los nuevos chatbots ofrecer\u00e1n a muchas personas solitarias (o no tan solas) veladas interminables de di\u00e1logo amistoso sobre pel\u00edculas, libros, cocina o pol\u00edtica. Por reutilizar una vieja met\u00e1fora m\u00eda, lo que la gente obtendr\u00e1 es la versi\u00f3n IA del caf\u00e9 descafeinado o la gaseosa sin az\u00facar: un vecino amigable sin esqueletos en su armario, un Otro que simplemente se adaptar\u00e1 a tus propias necesidades. Aqu\u00ed hay una estructura de negaci\u00f3n fetichista: \u201cS\u00e9 muy bien que no estoy hablando con una persona real, pero se siente como si lo estuviera, \u00a1y sin ninguno de los riesgos que lo acompa\u00f1an!\u201d.<\/p>\n
En cualquier caso, un examen minucioso de la carta de IA muestra que se trata de otro intento de prohibir lo imposible. Esta es una vieja paradoja: es imposible para nosotros, como humanos, participar en un futuro post-humano, por lo que debemos prohibir su desarrollo. Para orientarnos en torno a estas tecnolog\u00edas, debemos hacernos la vieja pregunta de Lenin: \u00bfLibertad para qui\u00e9n para hacer qu\u00e9? \u00bfEn qu\u00e9 sentido \u00e9ramos libres antes? \u00bfNo est\u00e1bamos ya mucho m\u00e1s controlados de lo que cre\u00edamos? En lugar de quejarnos de la amenaza a nuestra libertad y dignidad en el futuro, tal vez deber\u00edamos primero considerar qu\u00e9 significa la libertad ahora. Hasta que hagamos esto, actuaremos como hist\u00e9ricos que, seg\u00fan el psicoanalista franc\u00e9s Jacques Lacan, est\u00e1n desesperados por un amo, pero solo uno al que podamos dominar.<\/p>\n
El futurista Ray Kurzweil predice que, debido a la naturaleza exponencial del progreso tecnol\u00f3gico, pronto nos enfrentaremos a m\u00e1quinas \u201cespirituales\u201d que no solo mostrar\u00e1n todos los signos de la autoconciencia sino que tambi\u00e9n superar\u00e1n con creces la inteligencia humana. Pero no se debe confundir esta postura \u201cposthumana\u201d con la preocupaci\u00f3n paradigm\u00e1ticamente moderna por lograr el dominio tecnol\u00f3gico total sobre la naturaleza. Lo que estamos presenciando, en cambio, es una inversi\u00f3n dial\u00e9ctica de este proceso.<\/p>\n
Las ciencias \u201cposhumanas\u201d de hoy ya no se tratan de dominaci\u00f3n. Su credo es la sorpresa: \u00bfqu\u00e9 tipo de propiedades emergentes contingentes y no planificadas podr\u00edan adquirir los modelos de IA de \u00abcaja negra\u00bb por s\u00ed mismos? Nadie lo sabe, y ah\u00ed radica la emoci\u00f3n, o, de hecho, la banalidad, de toda la empresa.<\/p>\n
Por lo tanto, a principios de este siglo, el fil\u00f3sofo e ingeniero franc\u00e9s Jean-Pierre Dupuy percibi\u00f3 en la nueva rob\u00f3tica, la gen\u00e9tica, la nanotecnolog\u00eda, la vida artificial y la IA una extra\u00f1a inversi\u00f3n de la arrogancia antropoc\u00e9ntrica tradicional que permite la tecnolog\u00eda:<\/p>\n
\u201c\u00bfC\u00f3mo vamos a explicar que la ciencia se convirti\u00f3 en una actividad tan \u201carriesgada\u201d que, seg\u00fan algunos cient\u00edficos de renombre, representa hoy en d\u00eda la principal amenaza para la supervivencia de la humanidad? Algunos fil\u00f3sofos responden a esta pregunta diciendo que el sue\u00f1o de Descartes \u2013\u201cconvertirse en due\u00f1o y poseedor de la naturaleza\u201d\u2013 se ha torcido, y que debemos volver urgentemente al \u201cdominio del dominio\u201d. No han entendido nada. No ven que la tecnolog\u00eda que se perfila en nuestro horizonte a trav\u00e9s de la \u00abconvergencia\u00bb de todas las disciplinas apunta precisamente a la no maestr\u00eda. El ingeniero del ma\u00f1ana no ser\u00e1 aprendiz de brujo por negligencia o ignorancia, sino por elecci\u00f3n\u201d.<\/p>\n
La humanidad est\u00e1 creando su propio dios o demonio. Si bien el resultado no se puede predecir, una cosa es segura. Si algo parecido a la \u201cposhumanidad\u201d emerge como un hecho colectivo, nuestra visi\u00f3n del mundo perder\u00e1 sus tres temas definitorios y superpuestos: la humanidad, la naturaleza y la divinidad. Nuestra identidad como seres humanos solo puede existir en el contexto de una naturaleza impenetrable, pero si la vida se convierte en algo que la tecnolog\u00eda puede manipular por completo, perder\u00e1 su car\u00e1cter \u00abnatural\u00bb. Una existencia totalmente controlada es una desprovista de significado, sin mencionar la casualidad y la maravilla.<\/p>\n
Lo mismo, por supuesto, vale para cualquier sentido de lo divino. La experiencia humana de \u00abdios\u00bb s\u00f3lo tiene sentido desde el punto de vista de la finitud y la mortalidad humanas. Una vez que nos convertimos en ‘homo deus’ y creamos propiedades que parecen \u00absobrenaturales\u00bb desde nuestro antiguo punto de vista humano, los \u00abdioses\u00bb como los conoc\u00edamos desaparecer\u00e1n. La pregunta es qu\u00e9 quedar\u00e1, si es que queda algo. \u00bfAdoraremos las IA que creemos?<\/p>\n
Hay muchas razones para preocuparse de que las visiones tecnogn\u00f3sticas de un mundo poshumano sean fantas\u00edas ideol\u00f3gicas que oscurecen el abismo que nos espera. No hace falta decir que se necesitar\u00eda m\u00e1s de una pausa de seis meses para garantizar que los humanos no se vuelvan irrelevantes y que sus vidas no tengan sentido en un futuro no muy lejano.<\/p>\n
*Profesor de Filosof\u00eda en la Escuela Europea de Graduados, es director internacional del Instituto Birkbeck de Humanidades de la Universidad de Londres y autor, m\u00e1s recientemente, de ‘Heaven in Disorder’ (OR Books, 2021).<\/p>\n
PROJECT-SYNDICATE<\/p>\n","protected":false},"excerpt":{"rendered":"
La carta abierta del ‘Future of Life Institute’ que exige una pausa preventiva de seis meses en el desarrollo de la inteligencia artificial ya ha sido firmada por miles de figuras de alto perfil, incluido Elon Musk. A los signatarios les preocupa que los laboratorios de IA est\u00e9n \u00abencerrados en una carrera fuera de control\u00bb […]<\/p>\n","protected":false},"author":4,"featured_media":55239,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-57642","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized-eu"],"yoast_head":"\n