La IA podría muy bien acabar con la democracia, si no con la humanidad, pero los esfuerzos para frenar su desarrollo pueden fracasar a medida que las empresas y los países compiten por mantenerse a la vanguardia. Prevenir tal futuro requerirá coordinación internacional y gravar la riqueza extrema que podría poner un poder sin precedentes en manos de una pequeña élite.

KAUSHIK BASU, 25 de septiembre de 2026 (Traducción automática de Google).

ITHACA, NUEVA YORK – Durante la última década, académicos y periodistas han estado escribiendo sobre lo que la marcha de la tecnología digital significa para la humanidad con una mezcla de esperanza y ansiedad: esperanza debido al aumento de los niveles de vida que la revolución digital ha hecho posible, y ansiedad porque ha profundizado las divisiones sociales y desestabilizado la política en todo el mundo.

Chin-Huat Wong y Wing Thye Woo instan a las potencias intermediarias ricas a trabajar juntas para defender las reglas comerciales globales y el derecho internacional de manera más amplia.

Pero la ansiedad ha dado recientemente un giro existencial, ya que los líderes de la industria han comenzado a advertir que la IA podría acabar con la humanidad. En particular, Evan Hubinger, líder de la ciencia de alineación de Anthropic, dijo que hay más del 10% de posibilidades de que la IA mate a todos los humanos dentro de la próxima década. Advertencias similares, aunque algo menos alarmistas, han venido del CEO de OpenAI, Sam Altman, el CEO de Anthropic, Dario Amodei, Bill Gates, y otras figuras tecnológicas prominentes, todos los cuales han pedido la ralentización del desarrollo de la IA.

Naturalmente, estas advertencias han alimentado las preocupaciones sobre lo que la IA puede hacer por nosotros en lugar de por nosotros. Los modelos de IA ya pueden construir una IA más avanzada con poca participación humana, lo que aumenta la perspectiva de una “superación personal recursiva” que desata fuerzas que tenemos poca capacidad para entender o controlar. La brecha Hugging Face, en la que cientos de agentes de IA que se suponía que trabajarían de forma independiente encontraron formas de comunicarse y comenzaron a actuar como un enjambre, ofreció una vista previa inquietante.

Todo esto me trae a la mente a Bertrand Russell. En su famosa crítica de la inducción, Russell señaló cómo los pollos que se acostumbran a ser acariciados todas las mañanas se sorprenden cuando, un día, el granjero, presumiblemente habiendo invitado a amigos a almorzar, se retuerce el cuello en su lugar. Como observó, “vistas más refinadas sobre la uniformidad de la naturaleza habrían sido útiles para el pollo”.

Comparto el escepticismo de Russell sobre la inducción, pero no me convence su consejo para los pollos. Si los pollos siguieran su consejo, simplemente vivirían sus últimos días en pánico indefenso. Es diferente para los humanos, ya que, a diferencia de los pollos de Russell, tenemos el poder de modificar nuestro propio comportamiento. Y no hay escasez de propuestas sobre cómo deberíamos frenar los excesos de la IA, desde pausar el desarrollo de modelos de frontera hasta prohibir la IA superinteligente por completo.

Por muy sensatas que sean estas propuestas, puede que no funcionen. La teoría del juego, y el dilema del prisionero en particular, nos dice por qué. Si a cada corporación se le deja actuar unilateralmente y en su propio interés, podemos terminar con el peor resultado para todos. Lo que se necesita, como ha argumentado Amodei, es “coordinación en toda la industria”. Sin embargo, incluso eso puede no ser suficiente, ya que la IA también es un problema geopolítico. Si los Estados Unidos ejercen moderación, China podría adelantarse.

El contenido generado por IA ya representa la mitad de los artículos publicados en línea, y ni siquiera los expertos forenses digitales pueden decir lo que es real. ¿Pueden aquellos que todavía ofrecen una visión humanista de la vida en línea hacerse oír por encima de la din?

Algunos comentaristas se han aprovechado de este temor para argumentar que Estados Unidos no debe contener el desarrollo de la IA. Eso sería un error. Estados Unidos debería trabajar con China para llegar a un acuerdo global, pero incluso si eso no sucede, no hay razón para avanzar a toda velocidad. Vale la pena recordar que la única vez que se utilizaron bombas atómicas en la guerra fue cuando Estados Unidos tenía un monopolio nuclear. Suena maquiavélico, pero la restricción nuclear se apoderó solo después de que la Unión Soviética, y finalmente, otros países, adquirieran la bomba. La misma lógica puede aplicarse a la IA.

A pesar de todas las advertencias sobre la IA, la verdad es que nadie sabe qué tipo de mundo producirá. Los agentes de IA podrían volverse locos, formando enjambres y volviéndose contra sus propios creadores. Pero un escenario más realista es que un puñado de individuos súper ricos usen su control de poderosos sistemas de IA para establecer un estado global orwelliano, el modelo norcoreano que se ha vuelto global, y poner fin a la democracia tal como la conocemos.

Esto hace que frenar la desigualdad extrema sea aún más urgente. Necesitamos un impuesto especial sobre la riqueza de los súper ricos, con los ingresos destinados a aquellos por debajo de cierto ingreso. Como Michael Madowitz del Instituto Roosevelt argumentó recientemente, la supervivencia de la democracia depende de nuestra capacidad para gravar la riqueza extrema. Los oligarcas que comandan enjambres de agentes de IA podrían volverse más poderosos que la mayoría de los gobiernos, una receta para un futuro autoritario. Gravar sus fortunas frenaría ese poder y podría ayudar a financiar tecnologías menos asesinas y más útiles.