Los sistemas de IA generativa actuales, como ChatGPT y Gemini, se describen habitualmente como presagios de la inminente llegada de una inteligencia artificial “sobrehumana”. Lejos de ser una simple estrategia de marketing, los titulares y las citas que pregonan nuestro triunfo o nuestra ruina en una era de IA sobrehumana son el estribillo de una ideología en rápido crecimiento, peligrosa y poderosa. Ya sea para que abracemos la IA con un entusiasmo incondicional o para presentarla como un espectro aterrador ante el cual debemos temblar, la ideología subyacente de la IA “sobrehumana” fomenta la creciente devaluación de la agencia y la autonomía humanas y desdibuja la distinción entre nuestras mentes conscientes y las herramientas mecánicas que hemos construido para reflejarlas.

Los potentes sistemas de IA actuales carecen incluso de las características más básicas de la mente humana; no comparten con los humanos lo que llamamos consciencia o sensibilidad, la capacidad relacionada con sentir cosas como el dolor, la alegría, el miedo y el amor. Tampoco tienen la más mínima idea de su lugar y rol en este mundo, y mucho menos la capacidad de experimentarlo. Pueden responder a las preguntas que elegimos hacer, pintarnos imágenes atractivas, generar videos deepfake y mucho más. Pero una herramienta de IA es oscura por dentro.

Por eso, en una conferencia sobre aprendizaje automático en septiembre de 2023, le pregunté a Yoshua Bengio, ganador del Premio Turing, por qué seguíamos oyendo hablar de IA “sobrehumana” cuando los productos disponibles distan tanto de lo que es un humano, y mucho menos de lo superhumano . Mi discurso inaugural previo al suyo había cuestionado abiertamente este tipo de retórica, que tuvo una gran presencia en la presentación posterior de Bengio, al igual que en su sitio web y en sus advertencias a legisladores y otras audiencias de que los humanos corren el riesgo de “perder el control ante las IA sobrehumanas” en los próximos años .

Bengio fue en su día una de las voces más sobrias y sensatas en el ámbito de la investigación en IA, por lo que su repentina adopción de esta retórica me dejó perplejo. Ciertamente, no discrepo con él sobre los peligros de integrar sistemas de IA potentes, pero impredecibles y poco fiables, en infraestructuras críticas y sistemas de defensa, ni sobre la urgente necesidad de gobernar estos sistemas con mayor eficacia. Pero calificar a la IA de “sobrehumana” no es necesariamente parte de esos argumentos.

Así que le pregunté: ¿no resulta esta retórica, en última instancia, inútil y engañosa, dado que los sistemas de IA que tanto necesitamos controlar carecen de las capacidades y características más fundamentales de la mente humana? ¿Cómo, pregunté, un sistema de IA sin la capacidad humana de autorreflexión consciente, empatía o inteligencia moral se vuelve sobrehumano simplemente por ser más rápido en la resolución de problemas? ¿No somos nosotros más que eso? ¿Y acaso otorgar la etiqueta de “sobrehumanos” a máquinas que carecen de las dimensiones más vitales de la humanidad no termina oscureciendo de nuestra vista precisamente las cosas que nos importan de ser humanos?

Intentaba que Bengio reconociera la enorme diferencia entre una velocidad o precisión computacional sobrehumana y ser sobrehumano, es decir, más que humano. El ser humano más común hace muchísimo más que el sistema de IA más potente, que solo puede calcular rutas óptimamente eficientes a través de un espacio vectorial de alta dimensión y devolver los símbolos, tokens de palabras o píxeles correspondientes. Jugar con tu hijo o crear una obra de arte es un comportamiento humano inteligente, pero si consideras cualquiera de las dos cosas como un proceso para encontrar la solución más eficiente a un problema o generar tokens predecibles, lo estás haciendo mal .

Bengio se negó a aceptar la premisa. Antes de que pudiera terminar la pregunta, exigió: “¿No crees que tu cerebro es una máquina?”. Luego preguntó: “¿Por qué una máquina que funciona con silicio no podría realizar ninguno de los cálculos que hace nuestro cerebro?”.

La idea de que las computadoras funcionan con los mismos principios subyacentes que nuestro cerebro no es nueva. Las teorías computacionales de la mente han estado circulando desde los orígenes de la informática en el siglo XX. Hay muchos científicos cognitivos, neurocientíficos y filósofos que consideran las teorías computacionales de la mente como una explicación errónea o incompleta del funcionamiento del cerebro físico (yo entre ellos), pero ciertamente no es una visión extraña ni pseudocientífica. Es al menos concebible que el cerebro humano, en su nivel más básico, se describa mejor como si realizara algún tipo de computación biológica.

Así que lo que me sorprendió y me perturbó de la respuesta de Bengio no fue su suposición de que los cerebros biológicos son una especie de máquina o computadora. Lo que me sorprendió fue su negativa a admitir, al menos inicialmente, que la inteligencia humana —ya sea computacional en esencia o no— implica un amplio conjunto de capacidades que van mucho más allá de las que incluso las herramientas de IA más avanzadas pueden ofrecer. Somos más que optimizadores matemáticos eficientes y probables futuros generadores de tokens.

Había pensado que era una observación bastante obvia, incluso trivial, que la inteligencia humana no puede reducirse a estas tareas, las cuales pueden ser ejecutadas por herramientas que incluso Bengio admite que son tan inconscientes, tan insensibles al mundo de la vida y los sentimientos, como una tostadora. Pero parecía insistir en que la inteligencia humana podía reducirse a estas operaciones, en que nosotros mismos no somos más que máquinas de optimización de tareas.

Me di cuenta entonces, conmocionado, de que nuestro desacuerdo no giraba en torno a las capacidades de los modelos de aprendizaje automático, sino a las capacidades de los seres humanos y a qué descripciones de esas capacidades podemos y debemos autorizar.

¿Qué es la IA sobrehumana?

En su sitio web, Bengio define la “IA superhumana” como un sistema de IA que “supera a los humanos en una amplia gama de tareas”. Es un término bastante impreciso. ¿Qué se entiende por tarea? ¿Es una tarea todo lo que hace un ser humano?

Durante décadas, el santo grial de la comunidad investigadora de IA, la inteligencia artificial general (IAG), se definió por su equivalencia con las mentes humanas , no solo por las tareas que realizan. IBM aún se hace eco de esta noción tradicional en su definición del programa de investigación centrado en la IA, Strong AI:

[La IA general] requeriría una inteligencia igual a la humana; tendría una conciencia consciente de sí misma con la capacidad de resolver problemas, aprender y planificar el futuro. … La IA fuerte tiene como objetivo crear máquinas inteligentes que sean indistinguibles de la mente humana.

Pero OpenAI e investigadores como Geoffrey Hinton y Yoshua Bengio nos cuentan ahora una historia diferente. Una máquina autoconsciente, indistinguible de la mente humana, ya no es la ambición fundamental de la IAG. Una máquina que nos iguale o supere en una amplia gama de tareas económicamente valiosas es el objetivo más reciente. OpenAI, pionero en la transformación de los objetivos de la IAG, la define en sus estatutos como «sistemas altamente autónomos que superan a los humanos en las tareas económicamente más valiosas».

El engaño de la IAG de OpenAI elimina de la definición de inteligencia todo lo que no se considere trabajo económicamente valioso. Esto supone una pérdida masiva de nuestra capacidad humana y una reducción de nosotros mismos que debemos resistir. ¿Eres solo el trabajo que completaste hoy? ¿Eres menos humano o menos inteligente si pasas tus horas de vigilia haciendo cosas sin “soluciones” bien definidas, que no son tareas que se puedan marcar en una lista y que no tienen precio de mercado?

Una vez que se reduce el concepto de inteligencia humana a lo que el mercado ofrece , de repente, todo lo que se necesita para construir una máquina inteligente, incluso una superhumana, es crear algo que genere resultados económicamente valiosos a un ritmo y una calidad promedio que superen la propia producción económica. Cualquier otra cosa es irrelevante.

A medida que la ideología detrás de este engaño se filtra en la cultura general, corroe lentamente nuestra propia autocomprensión. Si intentas señalar, en una gran conferencia o foro en línea sobre IA, que ChatGPT no experimenta ni puede pensar en las cosas que corresponden a las palabras y oraciones que produce —que solo es un generador matemático de patrones lingüísticos esperados—, es probable que alguien responda, con total seriedad: «Pero nosotros también».

Según esta perspectiva, caracterizar a los seres humanos como seres que actúan con sabiduría, alegría, inventiva, perspicacia, meditación, valentía, compasión o justicia no son más que una licencia poética. Según esta perspectiva, estas descripciones humanísticas de nuestras acciones más valiosas no aportan ninguna verdad adicional. No apuntan a realidades más ricas de lo que es la inteligencia humana. No corresponden a nada real más allá del cálculo opaco y mecánico de las frecuencias y asociaciones de palabras. Son simplemente palabras floridas e imprecisas para esa misma tarea estéril.

Todavía no estoy seguro de si el propio Bengio realmente lo cree. Más tarde, en la sesión de preguntas y respuestas posterior a su charla, me pidió que retomara mi pregunta, y pareció que quería adoptar un tono más conciliador y buscar puntos en común. Pero cuando se negó a admitir que los humanos somos más que máquinas de tareas que ejecutan scripts computacionales y emiten los tokens estadísticamente esperados, le creí al pie de la letra. Si ganarnos en ese juego es todo lo que se necesita para ser superhumano, se podría pensar que los “superhumanos” de silicio han estado entre nosotros desde la Segunda Guerra Mundial, cuando el Colossus del Reino Unido se convirtió en el primer ordenador en descifrar un código más rápido que los humanos.

Sin embargo, Colossus solo nos superó en una tarea; según Bengio, una IA “sobrehumana” nos superará en una “amplia gama de tareas”. Pero eso supone que ser humano no es más que una máquina de tareas particularmente versátil . Una vez que se acepta esa devastadora reducción del alcance de nuestra humanidad, la producción de una máquina de tareas igualmente versátil con un rendimiento “sobrehumano” no parece tan descabellada; la idea es casi mundana.

Entonces ¿qué daño hay en hablar de esta manera?

Ser sobrehumano

La palabra “sobrehumano” significa “humano, pero más”. Ser sobrehumano es tener los mismos poderes que los humanos, además de otros de los que carecemos, o tener poderes humanos en un grado que no tenemos. No es una palabra que usemos para algo radicalmente diferente a nosotros, algo que carece de cualidades y poderes humanos fundamentales, pero que se desempeña mejor que nosotros en algunos parámetros. No hablamos de “aviones sobrehumanos” ni de “guepardos sobrehumanos”, aunque tanto los aviones como los guepardos viajan más rápido que cualquier humano jamás haya corrido.

Usamos y entendemos el término superhumano para significar algo muy parecido a nosotros, pero mejor . El ficticio Superman es quizás la articulación más conocida en inglés de la idea superhumana. Superman no nació en la Tierra, pero encarna y supera con creces nuestros ideales humanos más elevados de fuerza física, intelectual y moral. No es superhumano solo porque vuela; un cohete lo hace. No es superhumano porque pueda mover cosas pesadas; para esto, una carretilla elevadora servirá. Tampoco es superhumano porque destaque en una “amplia gama” de tales tareas. En cambio, es una magnificación aspiracional de lo que consideramos más verdaderamente humano.

No faltan dimensiones fundamentales de la personalidad humana en Superman. Es una respuesta imaginaria a la pregunta: “¿Y si fuéramos nosotros, solo que más?”. Desea, sufre, ama, se lamenta, espera, se preocupa y duda; experimenta todo esto con mayor intensidad y profundidad que nosotros. Está tan lejos como se puede estar de un productor descerebrado de eficiencias. Su encarnación como Superman es una expresión directa de cada uno de los aspectos de la humanidad que más valoramos, aquello de nuestra especie que solemos considerar universalmente compartido.

Al describir como superhumano algo completamente insensible e irreflexivo, un objeto sin deseos ni esperanzas, pero incansablemente productivo y adaptable a las tareas económicamente valiosas que se le asignan, implícitamente borramos o devaluamos el concepto de “humano” y todo lo que un ser humano puede hacer y aspirar a ser. Por supuesto, los intentos de borrar y devaluar los aspectos más humanos de nuestra existencia no son nuevos; la IA es solo una nueva excusa para hacerlo.

De hecho, durante toda la Era Industrial, quienes se dedicaron a la extracción máximamente eficiente de resultados productivos de los cuerpos humanos han estado tratando de hacernos ver a nosotros mismos —y más importante aún, a los demás— como máquinas defectuosas, ineficientes y fungibles, destinadas a ser desechadas tan pronto como nuestra tasa de producción caiga por debajo de un pico esperado o en el momento en que se pueda encontrar una máquina más productiva para intervenir.

La lucha contra esta ideología reduccionista y cínica se ha librado durante cientos de años gracias a la vigorosa resistencia de los movimientos laborales y de derechos humanos que han articulado y defendido estándares humanos, no mecánicos y no económicos para el tratamiento y la valoración de los seres humanos: estándares como la dignidad, la justicia, la autonomía y el respeto.

Sin embargo, para convencernos finalmente de que los humanos no somos más que generadores mecánicos de resultados económicamente valiosos, parece que solo se han necesitado máquinas-herramientas que generen dichos resultados en nuestras principales monedas de significado humano: el lenguaje y la visión. Ahora que se puede obtener una multitud infinita de estas monedas desde una aplicación en el teléfono inteligente, aceptamos la llegada de la “IA superhumana” como algo inevitable, algo que ya está literalmente al alcance de la mano.

Recuperando nuestra humanidad

Sin embargo, la batalla no está perdida. Como escribió el filósofo Albert Borgmann en su libro de 1984 « Tecnología y el carácter de la vida contemporánea », es precisamente cuando una tecnología casi ha suplantado un ámbito vital del significado humano que podemos sentir y lamentar lo que nos han arrebatado. Es en ese momento cuando a menudo empezamos a resistir, a reclamar y a dedicarnos de nuevo a su valor.

Sus ejemplos podrían parecer triviales hoy. Escribió sobre el resurgimiento del arte de cocinar tras el uso del microondas como una apreciada práctica creativa y social, irremplazable incluso por las máquinas de cocina más eficientes. De hecho, la práctica culinaria, hábil y visionaria, ahora tiene un valor y estatus cultural mucho mayor que a finales del siglo XX. De igual manera, la cinta de correr no eliminó el irremplazable arte de correr y caminar al aire libre simplemente por ofrecer un medio más conveniente y eficiente para el mismo fin aeróbico. De hecho, Borgmann pensaba que la pobreza sensorial y social de la experiencia de usar una cinta de correr o un microondas podría revitalizar nuestra atención cultural hacia lo que estos disminuyeron: actividades que involucran a la persona en su totalidad, que nos recuerdan continuamente nuestro lugar en el mundo físico y nuestra pertenencia a él con las otras vidas que lo comparten. Y tenía razón.

Quizás la ideología de la IA “sobrehumana”, en la que los humanos aparecen simplemente como lentos e ineficientes buscadores de patrones, podría impulsar un resurgimiento aún más amplio y políticamente significativo del significado y los valores humanos. Quizás la pobreza moral y experiencial de la IA vuelva a centrar nuestra atención en las dimensiones humanas más vitales de nuestra inteligencia innata y fomente una recuperación cultural y la restauración de su valor, largamente depreciado.

¿Cómo se vería eso? Imaginemos cualquier sector de la sociedad donde la ideología de las máquinas domina actualmente y pensemos en cómo se vería si el objetivo de la optimización mecánica pasara a un segundo plano frente a la habilitación de capacidades humanas.

Empecemos por la educación. En muchos países, el antiguo ideal de un proceso humano de formación moral e intelectual se ha reducido a rutinas optimizadas que capacitan a los jóvenes para generar automáticamente las respuestas esperadas de los exámenes a partir de preguntas. Las herramientas de IA generativa —algunas de las cuales se anuncian como “el tutor superhumano de su hijo”— prometen optimizar incluso la curva de aprendizaje de un niño de kínder. Sin embargo, en Estados Unidos, probablemente el país con mayor dominio tecnológico del mundo, el amor por la lectura de los jóvenes se encuentra en su nivel más bajo en décadas , mientras que la confianza de los padres en los sistemas educativos se encuentra en un mínimo histórico .  

¿Cómo sería recuperar y revivir la experiencia humana del aprendizaje? ¿Qué mundo podrían construir nuestros hijos para sí mismos y para las generaciones futuras si les permitiéramos volver a amar el aprendizaje, si les enseñáramos a redescubrir y abrazar su potencial humano? ¿Cómo se compararía ese mundo con uno construido por niños que solo saben ser máquinas de bajo rendimiento?

O pensemos en la economía. ¿Cómo se vería el estado cada vez más lamentable de nuestros océanos, aire, suelo, red alimentaria, infraestructuras y democracias si dejáramos de recompensar el crecimiento descontrolado y metastásico de “productos nacionales” que fabricamos máquinas (humanas o de silicio, lo que sea más barato) en cualquier forma tóxica para el medio ambiente o la sociedad que se pueda vender? ¿Cómo cambiaría el futuro al que nos dirigimos si impusiéramos nuevos incentivos y medidas económicas vinculadas a indicadores a medio y largo plazo de salud, sostenibilidad, desarrollo humano, confianza y resiliencia social?

¿Qué pasaría si las desgravaciones fiscales para las corporaciones e inversores adinerados dependieran completamente de cómo sus actividades permitieran mejorar esos indicadores humanitarios? ¿Cómo cambiarían nuestros empleos y cómo se podría impulsar el entusiasmo de los jóvenes por invertir sus energías en la fuerza laboral si la medida del éxito de una empresa no fuera simplemente la optimización mecánica del precio de sus acciones, sino una evaluación más completa y a largo plazo de su contribución a la calidad de vida de todos?

¿Qué hay de la cultura? ¿Qué tan diferente sería el futuro si los esfuerzos actuales por usar la IA para reemplazar la producción cultural humana se vieran frenados por un renovado interés por nuestra propia capacidad de crear significado, de contar historias del mundo, de inventar nuevas formas de belleza y expresión, de elevar y adornar la cruda experiencia animal de la vida? ¿Qué pasaría si, en lugar de reemplazar estas vocaciones humanas en los medios, el diseño y las artes con mezcladores mecánicos y regurgitadores de cultura como ChatGPT, pidiéramos a los desarrolladores de IA que nos ayudaran con las tareas más insignificantes de nuestras vidas, aquellas que nos quitan la energía para todo lo demás que importa? ¿Qué pasaría si nunca más tuvieras que presentar la declaración de la renta?

¿Qué pasaría si diseñáramos tecnologías como la IA con y para el beneficio de los más vulnerables a la corrupción, la explotación y la injusticia? ¿Qué pasaría si usáramos nuestras mejores herramientas de IA para descubrir evidencia de prácticas corruptas de forma más rápida y fiable, aumentar su coste político y marginar de forma más sistemática la corrupción y la explotación de la vida pública? ¿Qué pasaría si las poblaciones se comprometieran colectivamente a recompensar solo a aquellos políticos, policías y jueces dispuestos a asumir los riesgos de demostrar mayor transparencia, rendición de cuentas e integridad en el gobierno?

Incluso en estos futuros más humanos, estaríamos lejos de la utopía. Pero esos futuros posibles siguen siendo mucho más prometedores que cualquier futuro dominado por la ideología de la IA sobrehumana.

Eso no significa que la IA no tenga cabida en un mundo más humano. Necesitamos que la IA se encargue de tareas inherentemente inseguras o perjudiciales para los humanos, como la limpieza ambiental y la exploración espacial; la necesitamos para reducir drásticamente los costes, las redundancias y la carga de tiempo de los procesos administrativos rutinarios; la necesitamos para ampliar el mantenimiento y la reparación de infraestructuras; la necesitamos para el análisis computacional de sistemas complejos como el clima, la genética, la agricultura y las cadenas de suministro. No corremos el riesgo de quedarnos sin tareas importantes para nuestras máquinas.

Corremos el peligro de caminar sonámbulos hacia un futuro donde solo fracasaremos estrepitosamente en ser esas máquinas. ¿Estaremos listos para despertar? En una era que premia y reconoce únicamente el pensamiento mecánico, ¿podemos los humanos aún recordar y reclamar lo que somos? No creo que sea demasiado tarde. Creo que ahora podría ser el momento.