C.J. Polychroniou (Sin Permiso, 10-5-23)<\/p>\n
<\/p>\n
Para qu\u00e9 sirve y por qu\u00e9 no es capaz de replicar el pensamiento humano<\/p>\n<\/div>\n
La inteligencia artificial (IA) est\u00e1 arrasando en el mundo. Est\u00e1 transformando todos los \u00e1mbitos de la vida y planteando importantes problemas \u00e9ticos para la sociedad y el futuro de la humanidad. ChatGPT, que est\u00e1 dominando las redes sociales, es un chatbot basado en IA desarrollado por OpenAI. Es un subconjunto del aprendizaje autom\u00e1tico y se basa en lo que se denomina Large Language Models (grandes modelos ling\u00fc\u00edsticos), capaces de generar respuestas similares a las humanas. El potencial de aplicaci\u00f3n de esta tecnolog\u00eda es enorme, por lo que ya se est\u00e1 pidiendo que se regule la IA como ChatGPT.<\/p>\n
\u00bfPuede la IA ser m\u00e1s inteligente que los humanos? \u00bfConstituye una amenaza p\u00fablica? De hecho, \u00bfpuede convertirse en una amenaza existencial? Noam Chomsky, el ling\u00fcista m\u00e1s eminente del mundo y uno de los intelectuales p\u00fablicos m\u00e1s estimados de todos los tiempos, cuya estatura intelectual se ha comparado con la de Galileo, Newton y Descartes, aborda estas inquietantes cuestiones en la entrevista que sigue.<\/p>\n
C. J. Polychroniou: Como disciplina cient\u00edfica, la inteligencia artificial (IA) se remonta a los a\u00f1os 50, pero en las dos \u00faltimas d\u00e9cadas se ha ido abriendo paso en todo tipo de campos, como la banca, los seguros, la fabricaci\u00f3n de autom\u00f3viles, la m\u00fasica y la defensa. De hecho, el uso de t\u00e9cnicas de IA ha demostrado en algunos casos superar las capacidades humanas, como en una partida de ajedrez. \u00bfEs probable que las m\u00e1quinas lleguen a ser m\u00e1s inteligentes que los humanos?<\/strong><\/p>\n Noam Chomsky<\/strong>: Para aclarar la terminolog\u00eda, el t\u00e9rmino \u00abm\u00e1quina\u00bb significa aqu\u00ed programa, b\u00e1sicamente una teor\u00eda escrita en una notaci\u00f3n que puede ser ejecutada por un ordenador, y un tipo de teor\u00eda inusual en aspectos interesantes que podemos dejar de lado aqu\u00ed.<\/p>\n Podemos hacer una distinci\u00f3n aproximada entre ingenier\u00eda pura y ciencia. No hay un l\u00edmite claro, pero es una primera aproximaci\u00f3n \u00fatil. La ingenier\u00eda pura busca producir un producto que pueda ser de alguna utilidad. La ciencia busca la comprensi\u00f3n. Si el tema es la inteligencia humana o las capacidades cognitivas de otros organismos, la ciencia busca comprender estos sistemas biol\u00f3gicos.<\/p>\n Tal y como yo los entiendo, los fundadores de la IA -Alan Turing, Herbert Simon, Marvin Minsky y otros- la consideraban ciencia, parte de las entonces incipientes ciencias cognitivas, que utilizaban las nuevas tecnolog\u00edas y los descubrimientos en la teor\u00eda matem\u00e1tica de la computaci\u00f3n para avanzar en la comprensi\u00f3n. Con el paso de los a\u00f1os, estas preocupaciones se han desvanecido y se han visto desplazadas en gran medida por una orientaci\u00f3n ingenieril. En la actualidad, las primeras preocupaciones se suelen tachar, a veces con condescendencia, de \u2018IA a la antigua usanza\u2019 [en ingl\u00e9s \u2018good old-fashioned AI\u2019 o su acr\u00f3nimo \u2018GOFAI\u2019].<\/p>\n Siguiendo con la pregunta, \u00bfes probable que se conciban programas que superen las capacidades humanas? Hay que tener cuidado con la palabra \u00abcapacidades\u00bb, por razones a las que volver\u00e9. Pero si consideramos que el t\u00e9rmino se refiere a la ejecuci\u00f3n1<\/sup><\/a>\u00a0humana, entonces la respuesta es: definitivamente s\u00ed. De hecho, existen desde hace mucho tiempo: la calculadora de un ordenador, por ejemplo. Puede superar con creces lo que hacen los humanos, aunque s\u00f3lo sea por falta de tiempo y memoria. En el caso de sistemas cerrados como el ajedrez, en los a\u00f1os 50 se comprendi\u00f3 perfectamente que tarde o temprano, con el avance de gigantescas capacidades computacionales y un largo periodo de preparaci\u00f3n, se podr\u00eda idear un programa capaz de derrotar a un gran maestro que juega con un l\u00edmite de memoria y tiempo. El alcance de ese logro, a\u00f1os m\u00e1s tarde, fue m\u00e1s que nada un reclamo publicitario para IBM. Muchos organismos biol\u00f3gicos superan las capacidades cognitivas humanas en aspectos mucho m\u00e1s profundos. Las hormigas del desierto de mi patio trasero tienen cerebros min\u00fasculos, pero superan con creces las capacidades humanas de navegaci\u00f3n, en los principios que subyacen, no s\u00f3lo en ejecuci\u00f3n. No existe tal cosa como una Gran Cadena del Ser en cuya c\u00faspide est\u00e9 el ser humano.<\/p>\n Los productos de la ingenier\u00eda de IA se utilizan en muchos campos, para bien o para mal. Incluso los m\u00e1s sencillos y conocidos pueden ser bastante \u00fatiles: en el \u00e1rea ling\u00fc\u00edstica, programas como el autocompletado, la transcripci\u00f3n en directo, el traductor de google, entre otros. Con una potencia de c\u00e1lculo mucho mayor y una programaci\u00f3n m\u00e1s sofisticada, tambi\u00e9n deber\u00edan surgir otras aplicaciones \u00fatiles en las ciencias. Ya ha habido algunas: c\u00f3mo ha asistido en el estudio del plegamiento de prote\u00ednas es un caso reciente en el que la tecnolog\u00eda de b\u00fasqueda masiva y r\u00e1pida ha ayudado a los cient\u00edficos a abordar un problema cr\u00edtico y dif\u00edcil.<\/p>\n Los proyectos de ingenier\u00eda pueden ser \u00fatiles, o perjudiciales. Ambas cuestiones se plantean en el caso de la ingenier\u00eda de la IA. El trabajo actual con grandes modelos ling\u00fc\u00edsticos (LLM por sus siglas en ingl\u00e9s), incluidos los chatbots, proporciona herramientas para desinformar, difamar y enga\u00f1ar a los no informados. Las amenazas aumentan cuando se combinan con im\u00e1genes artificiales y r\u00e9plicas de voz. Con diferentes preocupaciones en mente, decenas de miles de investigadores de IA han\u00a0pedido<\/a>\u00a0recientemente una moratoria en el desarrollo debido a los peligros potenciales que perciben.<\/p>\n Como siempre, hay que sopesar los posibles beneficios de la tecnolog\u00eda frente a los costes potenciales.<\/p>\n Se plantean cuestiones muy distintas cuando nos referimos a la IA y la ciencia. Aqu\u00ed se impone la cautela debido a las afirmaciones exorbitantes e imprudentes, a menudo amplificadas en los medios de comunicaci\u00f3n. Para aclarar las cuestiones, consideremos casos, algunos hipot\u00e9ticos, otros reales.<\/p>\n He mencionado la navegaci\u00f3n de los insectos, que es un logro asombroso. Los cient\u00edficos especializados en insectos han avanzado mucho en el estudio acerca de c\u00f3mo este logro se ha alcanzado, si bien la neurofisiolog\u00eda -una materia muy complicada- sigue sin aclararse del todo, al igual que sucede con la evoluci\u00f3n de los sistemas. Lo mismo ocurre con las asombrosas proezas de aves y tortugas marinas que recorren miles de kil\u00f3metros y regresan infaliblemente al lugar de origen.<\/p>\n Supongamos que Tom Jones, un partidario de la ingenier\u00eda de la IA, viene y dice: \u00abTodo tu trabajo ha sido refutado. El problema est\u00e1 resuelto. Los pilotos de l\u00edneas a\u00e9reas comerciales consiguen siempre los mismos resultados, o incluso mejores\u00bb.<\/p>\n Si acaso tom\u00e1ramos la molestia de responder, nos reir\u00edamos.<\/p>\n Tomemos el caso de las haza\u00f1as n\u00e1uticas de los polinesios, que todav\u00eda perviven entre las tribus ind\u00edgenas, que por medio de las estrellas, el viento y las corrientes pueden desembarcar sus canoas en un punto designado a cientos de millas de distancia. Tambi\u00e9n este caso ha sido objeto de muchas investigaciones para averiguar c\u00f3mo lo hacen. Tom Jones tiene la respuesta: \u00abDeja de perder el tiempo; los buques de guerra lo hacen todo el tiempo\u00bb.<\/p>\n La misma respuesta.<\/p>\n Pasemos ahora a un caso real: la adquisici\u00f3n del lenguaje. En los \u00faltimos a\u00f1os se han llevado a cabo investigaciones exhaustivas y muy esclarecedoras que han demostrado que los beb\u00e9s tienen un conocimiento muy rico de la lengua (o lenguas) de su entorno, muy superior al que exhiben cuando act\u00faan con ella[s]. Se consigue con pocas pruebas y, en algunos casos cruciales, sin ninguna. En el mejor de los casos, como han demostrado cuidadosos estudios estad\u00edsticos, los datos de los que disponen son escasos, sobre todo si se tiene en cuenta la rango-frecuencia (\u00abley de Zipf<\/a>\u00ab).<\/p>\n Entra Tom Jones: \u00abHas sido refutado. Sin prestar atenci\u00f3n a tus hallazgos, los LLM que escanean cantidades astron\u00f3micas de datos pueden encontrar regularidades estad\u00edsticas que permiten simular los datos en los que han sido entrenados, produciendo algo que se parece bastante al comportamiento humano normal. Chatbots\u00bb.<\/p>\n Este caso difiere de los dem\u00e1s. En primer lugar, es real. Segundo, la gente no se r\u00ede; de hecho, muchos se asombran. Tercero, a diferencia de los casos hipot\u00e9ticos, los resultados reales distan mucho de lo que se afirma.<\/p>\n Estas consideraciones sacan a relucir un problema menor con respecto al entusiasmo actual por los LLM: su total absurdidad, como en los casos hipot\u00e9ticos en los que lo hemos reconocido de inmediato. Pero hay problemas mucho m\u00e1s graves que la absurdidad.<\/p>\n Una es que los sistemas LLM est\u00e1n dise\u00f1ados de tal manera que no pueden decirnos nada sobre el lenguaje, el aprendizaje u otros aspectos de la cognici\u00f3n, una cuesti\u00f3n de principio, irremediable. Duplique los terabytes de datos escaneados, a\u00f1ada otro bill\u00f3n de par\u00e1metros, utilice todav\u00eda m\u00e1s energ\u00eda de California, y la simulaci\u00f3n del comportamiento mejorar\u00e1, al tiempo que revelar\u00e1 m\u00e1s claramente el fracaso de principio en el planteamiento sobre c\u00f3mo producir cualquier forma de comprensi\u00f3n. La raz\u00f3n es elemental: los sistemas funcionan igual de bien con lenguas imposibles, tales que los beb\u00e9s no pueden adquirir, como con aquellas que estos adquieren r\u00e1pidamente y casi por reflejo.<\/p>\n Es como si un bi\u00f3logo dijera: \u00abTengo una nueva gran teor\u00eda de los organismos. Esta teor\u00eda enumera muchos que existen y muchos que es imposible que existan, y no puedo decirles nada sobre la distinci\u00f3n\u00bb.<\/p>\n De nuevo, nos reir\u00edamos. O deber\u00edamos.<\/p>\n No r\u00ede Tom Jones, quien ahora se referir\u00e1 a casos reales. Persistiendo en su radical alejamiento de la ciencia, Tom Jones responde: \u00ab\u00bfC\u00f3mo puedes saber nada de esto hasta que no hayas investigado todas las lenguas?\u00bb. En este punto, el abandono de la ciencia normal resulta a\u00fan m\u00e1s claro. Por un argumento an\u00e1logo podemos desechar la gen\u00e9tica y la biolog\u00eda molecular, la teor\u00eda de la evoluci\u00f3n y el resto de las ciencias biol\u00f3gicas, que no han estudiado m\u00e1s que las muestras de una \u00ednfima fracci\u00f3n de organismos. Y por si fuera poco, podemos desechar toda la f\u00edsica. \u00bfPor qu\u00e9 creer en las leyes del movimiento? \u00bfCu\u00e1ntos objetos se han observado realmente en movimiento?<\/p>\n Existe, adem\u00e1s, la peque\u00f1a cuesti\u00f3n de la carga de la prueba. Quienes proponen una teor\u00eda tienen la responsabilidad de demostrar que tiene alg\u00fan sentido, en este caso, demostrando que falla para las lenguas imposibles. No es responsabilidad de otros refutar la propuesta, aunque para el caso parece bastante f\u00e1cil hacerlo.<\/p>\n Pasemos a la ciencia normal, donde las cosas se ponen interesantes. Incluso un solo ejemplo de adquisici\u00f3n del lenguaje puede aportar una rica visi\u00f3n de la distinci\u00f3n entre lenguas posibles e imposibles.<\/p>\n Las razones son claras y conocidas. Todo crecimiento y desarrollo, incluido lo que se denomina \u00abaprendizaje\u00bb, es un proceso que parte de un estado del organismo y lo transforma paso a paso hacia etapas posteriores.<\/p>\n La adquisici\u00f3n del lenguaje es un proceso de este tipo. El estado inicial es la dotaci\u00f3n biol\u00f3gica de la facultad del lenguaje, que obviamente existe, incluso aunque pueda ser, como algunos creen, una combinaci\u00f3n particular de otras capacidades. Eso es muy improbable por razones que se comprenden desde hace tiempo, pero no es relevante para lo que nos ocupa aqu\u00ed, as\u00ed que podemos dejarlo de lado. Es evidente que existe una dotaci\u00f3n biol\u00f3gica para la facultad humana del lenguaje. Una mera obviedad.<\/p>\n La transici\u00f3n avanza hacia un estado relativamente estable, que no cambiar\u00e1 m\u00e1s que superficialmente: el conocimiento ling\u00fc\u00edstico. Los datos externos desencadenan y configuran parcialmente el proceso. Estudiando el estado alcanzado (conocimiento ling\u00fc\u00edstico) y los datos externos, podemos sacar conclusiones de gran alcance sobre el estado inicial, la dotaci\u00f3n biol\u00f3gica que hace posible la adquisici\u00f3n del lenguaje. Las conclusiones sobre el estado inicial imponen una distinci\u00f3n entre lenguas posibles e imposibles. La distinci\u00f3n es v\u00e1lida para todos los que comparten el estado inicial: todos los humanos, hasta donde sabemos; no parece haber diferencias en la capacidad de adquirir el lenguaje entre los grupos humanos existentes.<\/p>\n Todo esto es ciencia normal, y ha conseguido muchos resultados.<\/p>\n La experimentaci\u00f3n ha demostrado que el estado estable se obtiene sustancialmente muy pronto, hacia los tres o cuatro a\u00f1os de edad. Tambi\u00e9n est\u00e1 bien establecido que la facultad del lenguaje tiene propiedades b\u00e1sicas espec\u00edficas de los humanos, de ah\u00ed que sea una verdadera propiedad de especie: com\u00fan a los grupos humanos y, en aspectos fundamentales, un atributo humano \u00fanico.<\/p>\n En este relato esquem\u00e1tico se dejan muchas cosas fuera, sobre todo el papel de leyes de la naturaleza en el crecimiento y el desarrollo: en el caso de un sistema computacional como el lenguaje, los principios de eficiencia computacional. Pero \u00e9sta es la esencia de la cuesti\u00f3n. De nuevo, ciencia normal.<\/p>\n Es importante tener clara la distinci\u00f3n de Arist\u00f3teles entre posesi\u00f3n de conocimiento y uso del conocimiento (en terminolog\u00eda contempor\u00e1nea, competencia y actuaci\u00f3n). En el caso del lenguaje, el estado estable obtenido es la posesi\u00f3n de conocimientos, codificados en el cerebro. El sistema interno determina una serie ilimitada de expresiones estructuradas, cada una de las cuales podemos considerar que formula un pensamiento, cada una externalizable en alg\u00fan sistema sensomotor, normalmente el sonido, aunque podr\u00eda ser el signo o incluso (con dificultad) el tacto.<\/p>\n En el uso del conocimiento (\u00abactuaci\u00f3n\u00bb) se accede al sistema codificado internamente. La actuaci\u00f3n incluye el uso interno del lenguaje en el pensamiento: reflexi\u00f3n, planificaci\u00f3n, recuerdo y mucho m\u00e1s. Desde el punto de vista estad\u00edstico, \u00e9ste es, con mucho, el uso abrumador del lenguaje. Es inaccesible a la introspecci\u00f3n, aunque podemos aprender mucho sobre \u00e9l con los m\u00e9todos normales de la ciencia, desde \u00abfuera\u00bb, metaf\u00f3ricamente hablando. Lo que se denomina \u00abhabla interior\u00bb son, de hecho, fragmentos de lenguaje exteriorizado con el aparato articulatorio silenciado. Es s\u00f3lo un reflejo remoto del uso interno del lenguaje; cuestiones importantes que no puedo tratar aqu\u00ed.<\/p>\n Otras formas de uso del lenguaje son la percepci\u00f3n (an\u00e1lisis sint\u00e1ctico) y la producci\u00f3n, esta \u00faltima entra\u00f1a propiedades que siguen siendo tan misteriosas como cuando Galileo y sus contempor\u00e1neos las contemplaban con asombro en los albores de la ciencia moderna.<\/p>\n El principal objetivo de la ciencia es descubrir el sistema interno, tanto en su estado inicial de la facultad humana del lenguaje como en las formas particulares que adopta en la adquisici\u00f3n. En la medida en que se comprenda este sistema interno, podremos proceder a investigar c\u00f3mo entra en funcionamiento, interactuando con muchos otros factores que intervienen en el uso del lenguaje.<\/p>\n La obtenci\u00f3n de datos acerca de la actuaci\u00f3n ofrece evidencias sobre la naturaleza del sistema interno, en especial cuando se refina experimentalmente, algo habitual en los trabajos de campo. Pero incluso la recopilaci\u00f3n m\u00e1s masiva de datos es necesariamente enga\u00f1osa en aspectos cruciales. Se ci\u00f1e a lo que se produce normalmente, no al conocimiento del lenguaje codificado en el cerebro, el objeto primario que investigan quienes quieren comprender la naturaleza del lenguaje y su uso. Ese objeto interno determina una clase infinita de posibilidades que no se utilizar\u00e1n en el comportamiento normal debido a factores irrelevantes para el lenguaje, como las limitaciones de la memoria a corto plazo; temas estudiados hace 60 a\u00f1os. Los datos observados tambi\u00e9n incluir\u00e1n buena parte de lo que queda fuera del sistema codificado en el cerebro, a menudo el uso consciente del lenguaje de formas que violan las reglas con fines ret\u00f3ricos. Son obviedades conocidas por todos los investigadores de campo, que recurren a t\u00e9cnicas de recolecci\u00f3n directa de datos con sujetos informantes, b\u00e1sicamente experimentos, para obtener un corpus refinado que excluya las restricciones irrelevantes y las expresiones desviadas. Lo mismo ocurre cuando los ling\u00fcistas se utilizan a s\u00ed mismos como fuentes de informaci\u00f3n, un procedimiento perfectamente razonable y normal, habitual en la historia de la psicolog\u00eda hasta la actualidad.<\/p>\n Si seguimos avanzando con la ciencia normal, descubrimos que los procesos y elementos internos de la lengua no pueden detectarse mediante la inspecci\u00f3n de los fen\u00f3menos observados. A menudo, estos elementos ni siquiera aparecen en el habla (o la escritura), aunque sus efectos, a menudo sutiles, pueden detectarse. Esa es otra raz\u00f3n por la que restringirse a los fen\u00f3menos observados, como en los enfoques LLM, limita marcadamente la comprensi\u00f3n de los procesos internos que son objeto central de la investigaci\u00f3n sobre la naturaleza del lenguaje, su adquisici\u00f3n y su uso. Pero eso no es relevante si se ha abandonado la preocupaci\u00f3n por la ciencia y la comprensi\u00f3n en favor de otros objetivos.<\/p>\n M\u00e1s en general, en las ciencias, durante milenios se ha llegado a conclusiones mediante experimentos -a menudo experimentos mentales-, siendo cada uno de ellos una abstracci\u00f3n radical de los fen\u00f3menos. Los experimentos se basan en la teor\u00eda y tratan de descartar los innumerables factores irrelevantes que intervienen en los fen\u00f3menos observados, como en la actuaci\u00f3n ling\u00fc\u00edstica. Todo esto es tan elemental que rara vez se discute. Y familiar. Como se ha se\u00f1alado, la distinci\u00f3n b\u00e1sica se remonta a la distinci\u00f3n de Arist\u00f3teles entre posesi\u00f3n del conocimiento y uso del conocimiento. El primero es el objeto central de estudio. Los estudios secundarios (y bastante serios) investigan c\u00f3mo sirve a la actuaci\u00f3n el sistema de conocimiento almacenado internamente, junto con los muchos factores no ling\u00fc\u00edsticos que entran en lo que se observa directamente.<\/p>\n Tambi\u00e9n podemos recordar una observaci\u00f3n del bi\u00f3logo evolutivo Theodosius Dobzhansky, famoso sobre todo por su trabajo con la\u00a0Drosophila<\/em>: cada especie es \u00fanica, y los humanos son los m\u00e1s \u00fanicos de todos. Si nos interesa comprender qu\u00e9 clase de criaturas somos -siguiendo el mandato del Or\u00e1culo de Delfos de hace 2.500 a\u00f1os-, nos ocuparemos sobre todo de lo que hace que los humanos seamos los m\u00e1s \u00fanicos de todos, principalmente el lenguaje y el pensamiento, estrechamente entrelazados, como reconoce una rica tradici\u00f3n que se remonta a la Grecia cl\u00e1sica y la India. La mayor parte del comportamiento es bastante rutinario y, por tanto, hasta cierto punto predecible. Lo que realmente nos hace \u00fanicos es lo que no es rutinario, y lo encontramos, a veces mediante experimentos, a veces mediante la observaci\u00f3n, desde los ni\u00f1os en condiciones normales hasta los grandes artistas y cient\u00edficos.<\/p>\n Un \u00faltimo comentario al respecto. La sociedad lleva un siglo plagada de campa\u00f1as masivas por parte de empresas para fomentar el desprecio por la ciencia, temas bien estudiados por Naomi Oreskes entre otros. Comenz\u00f3 con compa\u00f1\u00edas cuyos productos eran letales: el plomo, el tabaco, el amianto y, m\u00e1s tarde, los combustibles f\u00f3siles. Sus motivos son entendibles. El objetivo de una empresa en una sociedad capitalista es el beneficio, no el bienestar humano. Es un hecho institucional: si no sigues el juego, te echan y te sustituye otro que s\u00ed lo haga.<\/p>\n Los departamentos de marketing de las empresas reconocieron muy pronto que ser\u00eda un error negar las crecientes pruebas cient\u00edficas de los efectos letales de sus productos. Eso ser\u00eda f\u00e1cilmente refutable. Mejor sembrar la duda, fomentar la incertidumbre, el desprecio por esos superexpertos de traje y corbata que nunca han pintado una casa, pero vienen de Washington a decirme que no use pintura con plomo, destruyendo mi negocio (un caso real, f\u00e1cilmente multiplicable). Eso ha funcionado demasiado bien. Ahora mismo nos est\u00e1 llevando por el camino de la destrucci\u00f3n de la vida humana organizada en la Tierra.<\/p>\n En ambientes intelectuales, la cr\u00edtica posmoderna de la ciencia, desmontada por Jean Bricmont y Alan Sokal, pero a\u00fan muy viva en algunos c\u00edrculos, ha producido efectos similares.<\/p>\n Puede que sea una sugerencia poco amable, pero creo que es justo preguntarse si los Tom Jones y aquellos que repiten acr\u00edticamente e incluso amplifican sus descuidadas proclamas est\u00e1n contribuyendo a las mismas tendencias nefastas.<\/p>\n