El escritor y profesor de Historia en la Universidad Hebrea de Jerusalén cree que aún hay tiempo para que la Inteligencia Artificial se desarrolle conforme a nuestros intereses.
En medio de la acelerada carrera global por el desarrollo de la Inteligencia Artificial General y la eventual superinteligencia, el historiador israelí Yuval Noah Harari advirtió que el principal riesgo no reside únicamente en la potencia de la tecnología sino en el contexto humano en el que está siendo creada, marcado por la desconfianza, la competencia geopolítica y la ausencia de reglas compartidas.
El autor de Sapiens y Nexus sostuvo que el problema no es cómo frenar la innovación, ya que reconoce el enorme potencial positivo de la IA en campos como la salud o la lucha contra la crisis climática, sino cómo garantizar que su desarrollo esté alineado con los intereses colectivos. “La cuestión no es cómo detener el desarrollo de la IA, sino cómo garantizar que se utilice para el bien”, afirmó, al tiempo que señaló que el mundo enfrenta simultáneamente dos desafíos de magnitud histórica, construir sistemas de inteligencia artificial cada vez más poderosos y reconstruir la confianza entre los seres humanos.
Según su diagnóstico, la erosión de la confianza es uno de los fenómenos más notorios de la actualidad tanto en el plano internacional como dentro de las sociedades, y ese deterioro se produce en un momento en el que los algoritmos y las plataformas digitales median cada vez más en las relaciones humanas. “No estamos de acuerdo en nada, excepto en que no confiamos los unos en los otros”, señaló, al describir un escenario en el que aumenta la confianza en sistemas automatizados mientras disminuye la confianza interpersonal y política.
En una nota publicada en la revista estadounidense Esquiere, Harari cuestiona la lógica predominante en los grandes polos tecnológicos, donde el desarrollo de la IA avanza bajo una dinámica de competencia que él mismo define como carrera armamentística. “Si desarrollamos la IA a través de una carrera armamentística entre humanos que no pueden confiar unos en otros, no hay absolutamente ninguna razón para esperar que podamos confiar en las IA”, advirtió. En ese sentido, relató que cuando dialoga con líderes tecnológicos como Mark Zuckerberg o Elon Musk, muchos reconocen los riesgos potenciales, pero aseguran que no pueden reducir la velocidad porque sus competidores tampoco lo harán.
El historiador considera que esa justificación encierra una paradoja inquietante, ya que quienes admiten no poder confiar en otros actores humanos sostienen al mismo tiempo que será posible confiar en sistemas de inteligencia artificial superinteligentes. “Las mismas personas que acaban de decirte que no pueden confiar en otros humanos te dicen que creen que podrán confiar en las IA alienígenas”, observó, y calificó esa expectativa como una forma de pensamiento casi irracional.
Desde su perspectiva, el orden de prioridades debería invertirse, con un primer esfuerzo orientado a reconstruir consensos, reglas comunes y marcos éticos compartidos entre Estados y corporaciones, para luego avanzar de manera cooperativa en el diseño y regulación de tecnologías cada vez más complejas. A su entender, la historia demuestra que las sociedades humanas han sido capaces de generar estructuras de confianza a gran escala, como redes comerciales, científicas y políticas globales, por lo que no se trataría de una tarea imposible sino de una decisión política.
Aunque reconoce que el escenario es delicado, Harari también rechaza el fatalismo y los discursos apocalípticos que anticipan la extinción humana. “Se trata de un peligro creado completamente por los seres humanos. Tenemos todo lo necesario para gestionarlo”, sostuvo, y subrayó que, a diferencia de catástrofes naturales imprevisibles, «la revolución de la inteligencia artificial es un proceso impulsado por decisiones humanas que todavía pueden ser encauzadas».
En esa tensión entre promesa y amenaza, el historiador ubica el verdadero núcleo del debate contemporáneo, no en la capacidad técnica de las máquinas sino en la capacidad política y ética de las sociedades para gobernarlas antes de que la competencia y la desconfianza definan por sí solas el rumbo de una tecnología que podría transformar de manera irreversible la vida social, económica y cultural del planeta.