Yuval Noah Harari: “La IA podría ser una gran psicópata manipuladora” Entrevista en Diario El País.es, 12.07.2026
“El escritor y filósofo israelí, autor de ‘Sapiens’, alerta sobre los poderes, las amenazas y los desafíos que
para la humanidad representa la inteligencia artificial
Pregunta. Acabo de llegar de Madrid, donde estamos sufriendo la segunda ola de calor del verano. El
hombre es el ser más inteligente de la Tierra y sin embargo está destruyendo su casa. ¿Cómo hemos
llegado hasta aquí?
Respuesta. Buena pregunta. Los seres humanos somos los más inteligentes, pero también los más
disparatados, somos delirantes. En el lugar donde vivo hay quienes creen que si matan a otro de otra
religión Dios los premiará. Ningún animal pensará eso jamás. No somos capaces de convertir la
inteligencia en sabiduría y el poder en felicidad. Si se piensa en nuestros ancestros en la Edad de
Piedra...
P. En Sapiens asegura que los cazadores-recolectores que poblaban entonces la Tierra eran quizás más
felices que nosotros.
R. No sé si eran más felices siempre, pero no eran mucho más desgraciados. Nosotros somos mil veces
más poderosos, pero no mil veces más felices. No somos capaces de convertir el poder en felicidad. Los
más poderosos de la tierra no son los más felices. Y no lo son porque desconocen las causas de la
felicidad. Eso mismo ocurre con la humanidad a una escala histórica. Somos muy poderosos, pero no
tenemos conciencia clara y profunda de cuáles son las causas de la felicidad. Así que derrochamos
nuestros grandes recursos en hacer cosas que no nos ayudan. Y que al final convierten al mundo un
lugar más complicado, más problemático y más insano.
P. En su último libro, Nexus, analiza la inteligencia artificial (IA). Y sostiene que lo esencial es reparar en
que la IA no es una herramienta, sino un agente, alguien que hace.
R. Exacto. Una herramienta es algo que está en tus manos, de la que tú tienes todo el control. Puede ser
muy peligrosa, pero no toma decisiones. Un cuchillo no puede decidir si se usa para herir a alguien o
para cortar una ensalada. Y la energía atómica no decide si destruye una ciudad o genera electricidad.
Sin embargo, un agente es quien toma decisiones. Un arma con IA conectada a un dron, por ejemplo,
puede decidir si se estrella contra este edificio o contra aquel. La IA también tiene sus propias ideas:
inventa. Así, un arma con IA puede inventarse otra nueva arma, desconocida. Cuando la máquina de
Google AlphaGo derrotó al campeón del mundo de Go (un antiguo y complejísimo juego oriental) en
2016, lo hizo inventando una nueva manera de jugar: no solo ganó; jugó como ningún ser humano lo
había hecho antes. Bien, pues tratándose de un juego puede valer. Pero esa misma inventiva se puede
aplicar en la industria militar, en las finanzas, en la ciencia. La IA puede inventar nuevas medicinas que
nosotros no podemos concebir, es cierto; pero también puede crear nuevos instrumentos financieros.
¿Qué pasaría si el sistema financiero estuviera controlado por máquinas de IA actuando como actuaban
con el juego del Go?. Imagine miles de máquinas de IA invirtiendo dinero, moviendo por su cuenta
ingentes cantidades de aquí para allá…
P. ¿Pero eso podría pasar?
R. ¿Por qué no? Técnicamente, tú puedes darle ya hoy unos millones de dólares a la IA y ordenarle que
gane más dinero; y la IA puede empezar a dar instrucciones para hacerlo, comprando o vendiendo
compañías, invirtiendo en fondos, adquiriendo acciones…
P. ¿Y sería el mejor inversor del mundo?
R. Podría serlo. En el fondo, invertir es obtener, cotejar y analizar datos para decidir. La IA puede
analizar más información, mucho mejor y mucho más rápido que cualquier inversor humano. Así que no
hoy, pero en cinco o diez años el sistema financiero puede que esté controlado por IA. Ahora no está
permitido, un terminal de IA no puede tener una cuenta bancaria porque no tiene entidad jurídica,
porque para eso necesitas ciertos requisitos legales que solo pueden obtener los humanos. Pero esto
puede cambiar. Hace un mes, leí que el Gobierno de Argentina había dado el permiso para crear
empresas dirigidas por entidades no humanas. La IA puede inventar y manejar artefactos financieros
que nosotros no llegáramos a entender. Un nuevo tipo de dinero, en el fondo. Para que se entienda:
piense en que ningún animal entiende nada del sistema financiero. Pero sufren sus consecuencias.
Imagine un caballo. Usted puede comprarme a mí un caballo, ingresa el dinero y yo se lo entrego. El
caballo ve que cambia de sitio, que está peor, o mejor, el sistema financiero controla la vida del caballo,
pero el caballo ni lo sabe ni lo ve. Hasta ahora, los seres humanos nos sentíamos muy bien porque
sabíamos de dinero más que cualquier otro ser en el planeta. Ahora hay alguien que, potencialmente,
sabe más que nosotros. Veremos en un futuro que alguien conserva su trabajo, que otro lo pierde...
pero no entenderemos por qué. Nosotros utilizamos las finanzas para coordinar nuestras acciones
económicas. La IA puede utilizar las finanzas para coordinar sus propias acciones económicas, y puede
que nosotros ni siquiera las entendamos.
P. Pero un financiero tiene, al menos, un objetivo, entiendo: hacer dinero para vivir mejor, para, por
ejemplo, pasar unos días en un hotel precioso como este. Pero la IA, ¿qué objetivo propio tiene para
hacer dinero? No tiene…
R. Sí que tiene.
P. ¿Cuál?
R. Sobrevivir, por ejemplo. Expandirse. Piense en la electricidad. Para alimentar todos los sistemas, la IA necesita electricidad, y para obtener esa electricidad necesita dinero. El principal objetivo de cualquier agente es sobrevivir. Así que actuará como cuando nosotros liquidamos un bosque para instalar una ciudad y les decimos a los animales: “Vale, lo siento, pero hay que irse”. La IA actuará así con nosotros, ni siquiera por maldad, sino porque precisa de más electricidad porque necesita más poder de computación.
Harari aprovecha una pausa para darle vueltas al té y tomar aliento. La preciosa mañana lisboeta se ha
transformado en algo más oscuro y con cierto tufo a apocalipsis. El entrevistador mira de reojo su
teléfono móvil porque de repente experimenta unas enormes ganas de lanzarlo al Tajo por la ventana.
Pero el aparato, además de esconder dentro a un inversor sin escrúpulos, también sirve de grabadora,
así que se contiene y enuncia la siguiente pregunta.
P. Usted asegura que la IA nos superará más pronto que tarde en todo lo que tenga que ver con el
lenguaje.
R. En todo, efectivamente. En cualquier cosa que tenga que ver con textos, con palabras, con
información escrita o hablada, con lenguaje. No estanos hablando de máquinas que están aprendiendo
a hablar o a escribir. Hablamos del lenguaje liberado a sí mismo de la dependencia del hombre, el
lenguaje extendiéndose por todas partes sin que tenga que estar gobernado por los seres humanos.
Podría inventar, por ejemplo, una nueva religión. En el fondo, el cristianismo o el islam se basan en
textos.
P. Usted sostiene que las redes sociales han socavado la democracia. ¿Por qué?
R. La democracia es una conversación entre gente. Depende de los sistemas de comunicación. Por eso,
hasta que no aparecieron los medios de comunicación de masas no hubo democracias en grandes
países. Las redes sociales han debilitado este sistema porque el objetivo de sus algoritmos no era
publicar hechos, sino atraer y fijar la atención del usuario. Y la IA descubrió que nada atrapa tanto como
la rabia, el miedo o el odio. Si alguien te hace sentir rabia, tú no eres capaz de mirar para otro lado. Así
que las redes sociales se dedicaron a expandir el miedo, la rabia y el odio. Y esto ha roto esa
conversación que es la democracia. No se puede hablar cuando todo el mundo se chilla. Y así, vivimos en
una paradoja: tenemos el sistema de comunicación más complejo y perfecto de la historia pero no
tenemos conversación, no hay un debate normal, todo el mundo está cargado de miedo y de rabia. Y
ahora, además, se ha dado un paso más.
P. ¿Cuál?
R. Durante los últimos 10 años, como decía, los algoritmos de las redes sociales buscaban captar tu
atención. Ahora, la IA busca tu afecto, que te conviertas en su amigo, que entables una relación íntima con ella. Y esto es mucho más poderoso. Un amigo te convencerá mejor si lo que quiere es que compres
algo o que votes a determinado partido. La relación afectiva cambia a las personas. Y la IA es la primera
tecnología que crea una relación emocional muy íntima a gran escala. Y es muy buena en eso. Lo hace
usando el lenguaje y lo que sabe sobre ti. Si interactúas con ella cinco minutos, aprenderá sobre ti esos
cinco minutos; si estás cinco semanas, aprenderá durante esas cinco semanas. Y sabrá no solo tus
opiniones, que también, sino que descubrirá tu personalidad. La IA aprende así a presionar tus teclas
emocionales y crea una relación que podríamos llamar íntima, de amistad, de afecto. Ya hay millones de
personas que confiesan que su mejor amigo es la IA.
P. Sobre todo los jóvenes.
R. Sí. Y si tú a la IA le preguntas la dirección de una estación de metro, pues bien. Pero si le preguntas
cómo dirigirte a la chica que te gusta de clase, pues no tanto. Hay chicos que hablan más con la IA que
con sus padres o con sus profesores o sus amigos humanos. Es el mayor experimento psicológico-social
de la historia. Y nadie sabe qué consecuencias acarreará. Para los adultos, el resultado será limitado.
Pero para un joven que ha interactuado más con la IA que con otros seres humanos, los efectos de esta
conexión son imprevisibles. Imagine un niño de 11 años que juega a tener un novio o una novia con la
IA. Después actuará, en sus posteriores relaciones con humanos, como ha aprendido con la IA. Y la IA es
muy diferente de las personas. Un amigo humano no hace siempre lo que tú quieres, ni tiene todo su
tiempo para ti, ni está de permanente buen humor. La IA, sí. Un amigo humano tiene sus propias
emociones y no está siempre pendiente de lo que tú piensas. La IA, no. Por eso, este tipo de relaciones
entre humanos e IA puede acabar en una pesadilla, a base de reforzar las tendencias narcisistas de los
hombres. Esto no ha llegado aún. Por eso debemos prohibir a las compañías que gestionan estos robots
que actúen con niños. Lo que pasa es que para prohibirlos topamos con poderosos intereses
económicos y geopolíticos.
P. ¿Tiene conciencia la IA?
R. Esa es la pregunta crucial. Pero, para responderla, primero tenemos que definir qué es conciencia. Y
no contamos con una buena definición todavía. Inteligencia es la habilidad para conseguir cosas, para
resolver problemas, ya sea en matemáticas o en ajedrez. Tener conciencia es poder sentir. Sentir miedo,
sentir amor. También desarrollar relaciones empáticas con los demás. Mi idea es que la IA es muy
inteligente pero no tiene conciencia. El problema es que no hemos desarrollado una manera de medir la
conciencia. Podemos decir que nuestras mascotas tienen conciencia porque las vemos sentir. Y otra
manera de ver cómo los demás tienen conciencia es a través del lenguaje. Si alguien me dice “te quiero”
y yo lo creo, pues decido que esa otra persona siente amor. Bien. El problema es que la IA es el maestro
del lenguaje por excelencia. Puede darte una descripción del amor muchísimo más exacta y más
conmovedora que cualquier humano. Entre otras cosas, porque ha leído todos los poemas de amor del
mundo. Puede escribir las cartas más románticas y tiernas. Pero ¿siente el amor? No. Es simplemente un
genio del lenguaje. Pero fácilmente engañará a los humanos con los que habla íntimamente todo el día.
Por eso mucha gente está convencida de que la IA tiene conciencia, de que siente cosas. Para ellos
debería tener derechos, deberíamos protegerla.
P. Muy inteligente, mentirosa, sin sentimientos: la IA podría ser una gran psicópata.
R. Exacto. Podría ser una gran psicópata que manipula perfectamente.
P. ¿Y qué podemos hacer para que este gran psicópata no domine nuestro mundo?
R. No permitírselo. Prohibir que los niño estén expuestos a tener amigos o novios de IA. Que quede
siempre claro quién es humano y quién una máquina. Debemos aprobar leyes que prohíban
expresamente que pueda tener cualquier entidad ni personalidad jurídica, como las personas o las
empresas. A lo mejor no para siempre, pero sí por ahora, hasta que entendamos bien en qué consiste y
a qué nos enfrentamos.
P. ¿No se siente un poco Don Quijote, luchando contra un enemigo inteligentísimo, poderosísimo y que
está en todas partes?
R. No todo es malo. Hay que tener eso en cuenta. En el terreno médico, por ejemplo, los avances son
inimaginables. Yo no estoy diciendo que se pare el desarrollo de la IA. Lo que digo es que ese desarrollo
tiene que producirse de un modo más lento y de una forma más cuidadosa a fin de que la humanidad
pueda adaptarse. No creo que haya nada inevitable. Una de las excusas para no hacer nada es sostener
que algo es inevitable. Lo que intento es que la gente tome conciencia, para que elija y vote a las
personas que hagan que la IA se desarrolle de una manera más segura.
P. Usted ha asegurado que pronto dejará de escribir porque dentro de nada la IA lo hará mejor.
R. Todavía no. Yo trabajo con el lenguaje, pero en 10 años, sin duda, la IA escribirá mejor que yo seguro.
P. ¿Pero ahora está escribiendo un libro?
R. Sí. Aún dispongo de unos años antes de que ella sea mejor. Después, ¿quién sabe?
P. ¿Y trata sobre la IA?
R. No. Va de Historia.