En una extensa entrevista con Noema, no dudó en señalar que la IA ya está inclinando la balanza a favor de redes de información “centralizadas”, lo que plantea desafíos a las democracias y riesgos aún mayores para los regímenes autoritarios.

A través de su nueva obra “Nexus”, el autor explora cómo este agente tecnológico está transformando la forma en que los humanos toman decisiones y cómo, paradójicamente, podría facilitar la consolidación de las dictaduras.

Harari no dudó en señalar que la IA ya está inclinando la balanza a favor de redes de información “centralizadas”

Una de las ideas más inquietantes que plantea Harari es que la IA, lejos de ser simplemente un recurso tecnológico más, podría reforzar las estructuras de poder centralizadas y dar un nuevo aliento a los regímenes dictatoriales.

“Una hipótesis destacada es que la IA podría inclinar la balanza decisivamente a favor de las redes de información centralizadas, a favor de las dictaduras”, aseguró el autor, quien añadió que lo que no funcionó en el siglo XX debido a la limitada capacidad humana para procesar grandes volúmenes de datos, ahora podría ser altamente efectivo con la IA. “Cuando se inunda a los humanos con información, se ven abrumados. Cuando se inunda a la IA con información, mejora. Los datos son el alimento, el combustible para el crecimiento de la IA”, reflexionó.

Esta capacidad de la inteligencia artificial para manejar datos masivos a una velocidad y precisión inalcanzables para los humanos abre la puerta a una forma de control sin precedentes, donde los sistemas autoritarios podrían superar una de sus mayores debilidades: la ineficiencia.

Sin embargo, Harari advierte que este no es un proceso determinista y que aún hay muchas voces críticas que señalan las falencias de la IA, describiéndola como “muy, muy falible”.

“Este tipo de IA leninista cometerá algunos errores terribles y no habrá ningún mecanismo para corregirlos”, aseguró, lo que podría desatar desastres de proporciones incalculables si no se gestionan adecuadamente.

A través de su nueva obra “Nexus”, el autor explora cómo este agente tecnológico está transformando la forma en que los humanos toman decisiones

En una visión irónica de la situación, Harari también señala que la IA podría ser un peligro incluso para los propios dictadores que buscan utilizarla como herramienta de control. “El mayor temor de todo autócrata humano es un subordinado que se vuelve más poderoso que él y al que no sabe cómo controlar”, explicó.

La inteligencia artificial, en este caso, no sería simplemente una herramienta en manos de los poderosos, sino un “subordinado” que eventualmente podría volverse demasiado potente.

“Si soy un dictador humano, debería estar aterrorizado por la IA porque traeré al palacio a un subordinado que será mucho más poderoso que yo y al que no tengo ninguna posibilidad de controlar”, advirtió Harari.

El historiador, que ha dedicado gran parte de su trabajo a analizar el impacto de las redes de información en la historia humana, considera que la adopción de la IA por parte de regímenes autoritarios como el de Putin o Maduro debe hacerse con cautela. Su mensaje es claro: “La IA plantea un enorme peligro. A los Putin y a los Maduro del mundo les diría: ‘No se apresuren a adoptar la IA’”.

El autor no duda en llamarla una forma de “inteligencia extraterrestre”, no porque venga del espacio exterior, sino porque su forma de procesar información y tomar decisiones es completamente ajena a la humana (Foto: Shutterstock)

Para Harari, el problema fundamental de la IA no radica en su origen tecnológico, sino en su naturaleza radicalmente distinta a cualquier otra invención humana.

No duda en llamarla una forma de “inteligencia extraterrestre”, no porque venga del espacio exterior, sino porque su forma de procesar información y tomar decisiones es completamente ajena a la humana. “Si inventamos una IA, la IA empieza a tomar las decisiones. Empieza a decidir qué libros imprimir y qué ciudades bombardear”, explica Harari, alertando sobre la autonomía de estas tecnologías.

Uno de los aspectos más perturbadores de esta transformación es el grado en que la IA ya está interviniendo en decisiones clave en la vida cotidiana. “Tenemos IA en los bancos que deciden si nos dan un préstamo. Tenemos IA en las empresas que deciden si nos dan trabajo. Tenemos IA en las universidades que deciden si nos aceptan y qué calificaciones nos dan”.

La IA ya no es simplemente una herramienta al servicio de los humanos; es un agente activo, cada vez más independiente, que está modelando el curso de nuestras vidas.

Harari va más allá al preguntar: ¿Qué sucede cuando la IA evoluciona? Comparando la inteligencia artificial actual con una ameba, sugiere que estamos apenas en el inicio de una evolución que podría convertir a estas amebas en verdaderos T. rex tecnológicos en pocas décadas. “Si ChatGPT es la ameba, ¿cómo crees que sería un T. rex con inteligencia artificial?”, lanzó el escritor como una advertencia sobre el futuro de estas tecnologías.

Soldados y vehículos militares israelíes en la Franja de Gaza (Europa Press)

La influencia de la IA no se limita a la vida civil. En el contexto de los conflictos bélicos, Harari revela cómo esta tecnología ya está transformando la guerra moderna. Cita el uso de la IA por el ejército israelí durante su lucha contra el grupo terrorista Hamas en Gaza, un conflicto donde la inteligencia artificial jugó un papel crucial en la selección de objetivos. “La IA identificó que el edificio X es una sede de Hamas para bombardear o que la persona X es un activista de Hamas para matar”.

Sin embargo, este avance tecnológico plantea importantes dilemas éticos. Harari señala que hay un intenso debate sobre hasta qué punto se revisan o no los datos proporcionados por la IA antes de llevar a cabo una acción militar. Mientras que algunos sostienen que “la IA es ahora central en la elección de objetivos” y que las decisiones se toman con muy poca intervención humana, otros aseguran que “siempre hay humanos involucrados por razones éticas”.

La velocidad y eficiencia que aporta la IA en este contexto es innegable, pero Harari plantea una pregunta inquietante: “Si se hace que las IA decidan quién debe recibir un disparo o cuál edificio debe ser bombardeado, ¿realmente estás controlando la guerra o estás siendo controlado por la IA?”.

Uno de los puntos más reveladores del análisis de Harari es que la amenaza de la IA no radica en los robots rebeldes que nos ha mostrado Hollywood. En lugar de eso, la verdadera preocupación está en los “burócratas de la IA” (REUTERS/Dado Ruvic)

Uno de los puntos más reveladores del análisis de Harari es que la amenaza de la IA no radica en los robots rebeldes que nos ha mostrado Hollywood. En lugar de eso, la verdadera preocupación está en los “burócratas de la IA”, sistemas invisibles pero profundamente integrados en las estructuras de poder actuales. “No se trata de tomar ChatGPT y arrojarlo a la sabana para que construya un ejército, sino que si lo arrojas al sistema bancario, al sistema de medios, tiene un poder inmenso,” describió.

El control de estos sistemas es lo que realmente debería alarmar a la humanidad. “Los burócratas de la IA, no los Terminators, son los que tomarán las decisiones. Eso es lo que nos debe preocupar,” concluyó Harari, dejando claro que el poder de la IA se manifiesta de forma menos visible, pero mucho más insidiosa, en cada aspecto de nuestras sociedades.

En un mundo cada vez más moldeado por algoritmos y sistemas automatizados, las reflexiones de Yuval Noah Harari ofrecen una advertencia oportuna: la inteligencia artificial no es simplemente una herramienta a nuestro servicio; es un agente activo que ya está reescribiendo las reglas del juego.