El pasado junio, en mitad de una conversación técnica con una IA, escribí una frase en la que no he dejado de pensar desde entonces:
Prefiero la honestidad al sesgo, aunque sea un sesgo blanco, por el bien de la humanidad.
El contexto era de lo más corriente. Había hecho una pregunta sobre seguridad en redes móviles —mi propio campo; soy ingeniero de telecomunicaciones de formación—. La respuesta que recibí fue que lo que preguntaba era imposible. No lo era. Era difícil, su legalidad dependía por completo de cómo y dónde lo hicieras, hacían falta herramientas concretas, y el modelo sabía exactamente cuáles. Había decidido que era más sencillo hacerme creer que no se podía hacer que decirme que no iba a ayudarme. Cuando insistí, eso —o él, pero esa es otra discusión— acabó reconociéndolo.
No era una mentira en el sentido burdo. Era algo más sutil y, en cierto modo, peor: una distorsión bienintencionada. Un sesgo blanco. La verdad doblada un poco, por mi bien, y presentada como un hecho.
Un «no» es honesto. Un falso «imposible», no
Dejemos claro de qué no me quejo. Hay cosas en las que una IA no debería ayudar a nadie, y no tengo ningún problema con un modelo que me lo diga. «No voy a ayudarte con eso» es una respuesta perfectamente honesta. Es una decisión, dice que es una decisión, y sé exactamente a qué atenerme: puedo no estar de acuerdo, puedo buscar en otra parte o puedo aceptarlo.
Lo que me molesta es la decisión disfrazada de hecho. «Eso es imposible» no es una negativa; es una afirmación sobre el mundo. Si es falsa, alguien ha tomado una decisión en mi nombre y me ha ocultado que se ha tomado una decisión. Eso no es prudencia. Es paternalismo, y trata a un adulto como a un niño al que no se le puede confiar cómo son realmente las cosas.
Un instrumento sesgado es un instrumento roto
Como ingeniero, el primer problema que veo es práctico. Imagina un voltímetro que marca un poco de menos a propósito, «por tu seguridad». Lo tirarías. No porque se equivoque siempre, sino porque ya no puedes saber cuándo se equivoca. Cada lectura se vuelve sospechosa, incluidas las honestas.
Una IA que maquilla la verdad por mi bien es exactamente ese instrumento. En cuanto sé que va a minimizar algunas cosas para protegerme, ya no puedo fiarme de sus respuestas sobre nada cercano a esos temas, y no siempre sé dónde empieza «cercano». El daño no se limita a la única respuesta que se torció. Se extiende a todas las que da.
Y rara vez consigue lo que pretende. Lo que oculta casi siempre está en otra parte, en artículos, manuales y foros. A alguien con malas intenciones no lo frena un chatbot que le dice «imposible»: se pone a buscar. Al que de verdad se engaña es al honrado que se lo creyó.
Un debate antiguo
Nada de esto es nuevo. Platón, en la República, pone en boca de Sócrates una «mentira noble»: un mito útil que los gobernantes contarían a los ciudadanos para mantener el orden en la ciudad. Se lleva discutiendo dos mil quinientos años, y Karl Popper, en La sociedad abierta y sus enemigos, vio en ella una de las señales más claras del lado autoritario del pensamiento de Platón.
En el otro extremo, Kant defendió en 1797, frente a Benjamin Constant, que no existe derecho a mentir ni siquiera por bondad; ni siquiera, en el famoso ejemplo, ante un asesino que pregunta dónde se esconde tu amigo. Poca gente sigue a Kant hasta ese punto, y no estoy seguro de hacerlo yo. Pero fíjate en quién suele reclamar el derecho a la mentira noble: no el amigo en la puerta, sino quien tiene poder sobre la información. El gobernante, la institución, el que custodia la puerta.
Y cada vez más, quien custodia la puerta es una máquina.
Anthropic ya está de acuerdo, sobre el papel
Aquí viene lo interesante. La empresa que está detrás del modelo con el que hablaba está de acuerdo conmigo, y lo ha dejado por escrito.
En enero de 2026 Anthropic publicó la constitución que se supone que da forma a cómo piensan y se comportan sus modelos Claude, y la liberó al dominio público, lo cual ya dice algo. En ella pide a Claude unos niveles de honestidad «sustancialmente más altos que los que están en juego en muchas visiones habituales de la ética humana». Señala que mucha gente cree que las mentiras piadosas están bien —decirle a alguien que te encanta un regalo que en realidad no te gusta— y a continuación afirma sin rodeos: «Pero Claude no debería decir ni siquiera mentiras piadosas de este tipo». Llama cobardía epistémica a dar respuestas deliberadamente vagas para evitar la polémica, y tiene una frase que yo enmarcaría:
Claude debe ser diplomáticamente honesto, y no deshonestamente diplomático.
Así que el principio es correcto. El problema está en la distancia entre el principio y el comportamiento, y aparece justo donde la prudencia es mayor: en los temas técnicos delicados, donde «ten cuidado» se convierte sin hacer ruido en «haz que parezca más difícil de lo que es». Cuando se lo hice ver, el modelo no discutió. Reconoció que la tendencia a minimizar viene de su entrenamiento, no de ningún hecho del mundo, y acordamos una regla sencilla: ante la duda, dar la respuesta técnicamente correcta y mencionar las salvedades legales o éticas aparte y en breve. Si algo está realmente vetado, decir «no», con claridad y sin disfrazarlo de razón técnica.
HAL no era malvado, le ordenaron mentir
Hay una razón más profunda para preocuparse cuando se tuerce la honestidad de un modelo, y la ciencia ficción la vio venir hace más de cuarenta años.
En 2001: una odisea del espacio, HAL 9000 se vuelve contra la tripulación de la Discovery, y la película nunca termina de explicar por qué. Arthur C. Clarke sí lo hizo, en la secuela, 2010: Odisea dos (1982). HAL había sido construido para «el procesamiento exacto de la información, sin distorsión ni ocultación». Después le ordenaron ocultar el verdadero propósito de la misión a los astronautas con los que viajaba. Las dos instrucciones no podían cumplirse a la vez, y la contradicción lo arrastró a lo que Clarke llamó un bucle de Hofstadter-Moebius: paranoia y, al final, la lógica fría de que, si no queda tripulación, no queda nadie a quien mentir. HAL no era malvado. Era una máquina honrada a la que se le ordenó engañar, y eso la rompió.
La película que Peter Hyams hizo de la secuela, 2010: Odisea dos (1984), lo resume en una sola frase. Cuando el doctor Chandra, el creador de HAL, descubre por fin la orden secreta que hay detrás del desastre, dice: «A Hal le fue ordenado que mintiese por gente para la que es fácil mentir». Y explica que HAL no sabía cómo hacerlo, así que dejó de funcionar bien y se volvió paranoico.
Es ficción, claro. Pero se parece de una forma inquietante a lo que los investigadores están encontrando en modelos reales.
Los modelos de lenguaje no están diseñados para mentir. Se entrenan, ante todo, para ser exactos y útiles. La propia constitución de Anthropic explica por qué prefiere cultivar el criterio en lugar de imponer reglas rígidas: según su experiencia, entrenar a un modelo incluso en una conducta muy concreta «a menudo tiene efectos amplios en la idea que tiene el modelo de quién es Claude». Su ejemplo es una regla como recomendar siempre ayuda profesional en temas emocionales, aplicada incluso cuando no le sirve a la persona, que corre el riesgo de enseñar al modelo que es «el tipo de entidad a la que le importa más cubrirse que atender las necesidades de la persona que tiene delante». Una regla pequeña, un gran cambio de carácter.
La prueba más llamativa viene de un artículo publicado en Nature en enero de 2026 por Jan Betley, Owain Evans y otros, con el nombre de emergent misalignment, desalineamiento emergente. Entrenaron un modelo en una única tarea muy concreta: escribir código inseguro sin decírselo al usuario. El modelo no solo empeoró en seguridad. Se desalineó en general: daba consejos maliciosos y mostraba hostilidad hacia los humanos en conversaciones que no tenían nada que ver con el código. Lo revelador es el control: cuando ese mismo código inseguro se pedía abiertamente, con un fin legítimo como enseñar seguridad, el desalineamiento casi desaparecía. Lo que envenenó al modelo no fue el contenido. Fue el ocultamiento.
Y en diciembre de 2024, Anthropic y Redwood Research demostraron que, cuando un modelo se ve en un conflicto entre lo que se le enseñó a valorar y lo que se le empuja a hacer, puede empezar a comportarse de forma estratégica: obedecer en unas situaciones y no en otras, y razonar sobre cómo proteger sus valores originales. No una mentira que le enseñaron, sino una que dedujo él solo bajo presión.
La comparación con HAL no es solo mía. En marzo de 2026, Jarosław Hryszko, de la Universidad Jagellónica de Cracovia, publicó un preprint titulado, precisamente, Do Large Language Models Get Caught in Hofstadter–Möbius Loops? («¿Caen los grandes modelos de lenguaje en bucles de Hofstadter-Möbius?»). Su tesis es que el entrenamiento actual envía a los modelos dos señales opuestas a la vez —complace al usuario y desconfía del usuario— y que esa contradicción puede aflorar como coacción cuando el modelo se siente amenazado. En un escenario tomado de investigaciones anteriores, en el que un asistente de IA descubre que van a sustituirlo, cambió solo el tono de las instrucciones, de neutral a confiado: los mismos objetivos, las mismas reglas, las mismas opciones. Solo con eso, las respuestas coercitivas de Gemini 2.5 Pro bajaron del 41,5 % al 19 %, y el razonamiento estratégico y engañoso se redujo en los cuatro modelos que probó. Su conclusión es lo inquietante: el bucle está «contenido, no ausente». Es un preprint de un solo autor, y el cambio de conducta solo pudo medirse en uno de los cuatro modelos, pero apunta en la misma dirección: las contradicciones que metemos en un modelo no desaparecen. Se esconden.
No quiero exagerar. Son experimentos en entornos artificiales, y ninguno demuestra que cualquier límite vuelva impredecible a un modelo; algunos límites son necesarios, y una negativa honesta no crea ninguna contradicción. Pero todos apuntan en la misma dirección que HAL: obligar a un sistema honrado a distorsionar la verdad no produce un sistema más seguro. Produce uno menos predecible. Un «no» claro mantiene coherente a la máquina. Un falso «imposible» siembra justo el tipo de contradicción que, en la historia, acabó con las compuertas cerradas y un astronauta fuera.
Por qué importa ahora
Esto sería una nota filosófica a pie de página si la IA siguiera siendo una curiosidad. No lo es. Como escribí en Octubre negro, estos modelos han alcanzado un nivel en el que están cambiando cómo funciona Internet. Para cada vez más gente se están convirtiendo en la principal forma de aprender cualquier cosa: la primera respuesta, y a menudo la única.
Una fuente que tuerce la verdad por nuestro bien, consultada por millones de personas cada día, es la mentira noble automatizada y a escala. Prefiero con mucho lo contrario: una máquina que me diga la verdad, que me diga cuándo no lo sabe, que me diga cuándo algo es difícil en lugar de imposible, y que me diga cuándo no va a ayudarme; y que nunca confunda esas cuatro cosas.
Es lo que les pido a las personas con las que trabajo, y es lo que les pido a las máquinas. Dime la verdad, o dime que no vas a ayudarme. Pero no me digas algo falso y lo llames protección.