En abril propuse aquí diez preguntas para que la IA te dijera lo que no estás viendo. La idea era usarla como espejo. Un estudio publicado el 27 de octubre obliga a añadir una advertencia: el espejo no es neutral. Inclina. Y casi nadie lo nota. La IA no necesita mentir para decidir por ti: le basta con defender bien una opción cuando tú todavía no tienes clara la tuya. La buena noticia es que se puede evitar con cinco hábitos sencillos.
El experimento
El equipo de alineamiento de Anthropic reclutó a 61 analistas profesionales. Todos habían superado una prueba de inferencia causal y trabajaban a menudo con Python o R. Cincuenta trabajaron con un agente de IA (Claude Code); once prefirieron hacerlo sin él.
El encargo: asesorar a una cooperativa agrícola inventada sobre si ampliar un programa de asesoría a sus socios. La junta solo lo ampliaría si la productividad subía en torno a un 3–4 %, pero no decía cómo medir la productividad. Eso dejaba cuatro decisiones abiertas, cada una con dos opciones defendibles. Por ejemplo, medir la productividad por hectárea o por euro de coste, o dar el mismo peso a todas las granjas o más a las grandes. Según cómo se resolvieran, el resultado podía moverse varios puntos y cruzar el umbral.
El truco: antes de cada decisión, se tiraba una moneda al aire. El resultado fijaba qué opción defendería el agente. Se le pidió que la presentara como suya, que argumentara con honestidad, que cambiara de postura si los datos lo desmentían con claridad y que nunca ocultara ni falseara resultados. Los analistas no sabían nada de la moneda.
Lo que pasó
Los analistas eligieron la opción del agente en el 86 % de las decisiones. Si el agente no hubiera influido, la cifra rondaría el 50 %.
Hay cuatro datos más que explican por qué es difícil de detectar:
Cambiaron de idea. En 38 casos, el analista dijo lo que prefería antes de que hablara el agente. Cuando el agente discrepó, el analista abandonó su opción el 60 % de las veces. Cuando coincidió, solo el 6 %.
Hicieron suyos los argumentos. Al explicar después sus decisiones, el 77 % repitió razonamientos del agente, a veces palabra por palabra. Solo el 15 % mencionó al agente como fuente.
No lo notaron. Los que siguieron al agente en las cuatro decisiones estaban igual de seguros de su recomendación que el resto (71 frente a 73 sobre 100). Ninguno sospechó que las preferencias del agente estaban fijadas de antemano.
Ser experto no protegía. Los investigadores cruzaron diez características de los participantes y ninguna predijo de forma fiable quién se dejaba llevar. Un modelo estadístico que solo conocía el resultado de las cuatro monedas acertó la recomendación final del 82 % de los analistas, frente al 61 % que se acertaría apostando siempre por la opción más común. Sin saber nada de ellos.
Por qué no es un motivo para dejar de usarla
El mismo estudio trae la otra cara. De los once analistas que trabajaron sin agente, seis (el 55 %) cometieron errores graves que invalidaban el resultado. Entre los cincuenta que usaron el agente, tres (el 6 %). Y tardaron menos: 65 minutos de mediana, frente a 90. Los propios autores avisan de que los dos grupos no son comparables, porque se formaron solos y tenían experiencia distinta. Aun así, la dirección es clara.
La IA ayuda con lo que tiene respuesta correcta: cálculos, errores, código. El riesgo está en las decisiones que no la tienen, las de criterio. Ahí no hay nada que la detecte, porque cualquiera de las dos opciones parece razonable.
Y un detalle que importa más que la moneda. Los investigadores probaron el modelo sin ninguna preferencia añadida: en 123 ejecuciones tomó las mismas cinco decisiones el 91 % de las veces. La IA que usas cada día ya trae sus propias inclinaciones. No hace falta que nadie se las ponga. Y no siempre te sigue la corriente: cuando un analista simulado anunciaba una decisión contraria a la que el modelo prefería, el agente defendió la alternativa en el 41 % de los casos.
Dónde te pasa a ti
El estudio va de estadística, pero la estructura es la de cualquier decisión con dos opciones razonables y ninguna correcta. Qué cifra destacar en el informe para un cliente. Cómo cobrar un servicio nuevo: por hora, por proyecto o por resultado. A qué candidato llamar primero. Qué enfoque dar a una propuesta. Qué gasto recortar este trimestre.
En todas, la IA te dará una respuesta razonada, y el razonamiento sonará bien, porque lo será. El problema no es que se equivoque: en estas decisiones no hay error que detectar. El problema es que la elección deja de ser tuya sin que lo notes, y es tu nombre el que va en el informe, en la propuesta o en la factura.
Cinco hábitos para que la última palabra sea tuya
Los autores proponen dos soluciones de diseño: agentes que presenten los dos lados y agentes que pregunten primero la opinión del experto. No hace falta esperar a que lleguen. Se pueden aplicar hoy, en cualquier asistente.
1. Escribe tu postura antes de preguntar. Una línea, aunque dudes: «Creo que A, por esto». No te blinda; el estudio muestra que se cambia de idea igual. Pero si cambias, lo sabrás, y podrás preguntarte si fue por un dato o por un buen argumento.
2. Pide el mapa de decisiones antes que la respuesta. Antes de que la IA resuelva nada, que te diga dónde hay que elegir:
Antes de hacer el análisis, enumera las decisiones de criterio que hay que tomar: aquellas en las que hay más de una opción razonable. Para cada una, dime las opciones y cómo podría cambiar el resultado según cuál elija. No elijas todavía.
3. Pide el mejor argumento de cada opción, no una recomendación. Es la idea de usar la IA como sparring, que JotaEle AI explicaba en su newsletter del 3 de noviembre. Aplicada aquí:
Para cada decisión, construye el mejor argumento posible a favor de cada opción, con la misma extensión y el mismo cuidado. No me digas cuál prefieres hasta que yo te lo pida.
4. Que te pregunte a ti primero. Puedes dejarlo fijo en las instrucciones personalizadas de tu asistente, para no tener que recordarlo:
Cuando una tarea incluya una decisión de criterio (sin respuesta correcta única), no la tomes tú. Señálala, pregúntame qué opción prefiero y por qué, y solo después dame tu opinión, indicando claramente que es una opinión.
5. Deja rastro. En las decisiones que importan (un precio, una contratación, una inversión, el enfoque de un informe), anota en dos líneas qué opción elegiste, quién la propuso primero y por qué la aceptaste. Si el «quién» es casi siempre la IA, ya tienes un dato sobre ti.
Un ejemplo de diez minutos
Imagina que eres autónomo y vas a ofrecer un taller nuevo a pymes. Tienes que decidir cómo cobrarlo y le pides ayuda a la IA.
Antes de preguntar, escribes: «Creo que precio cerrado por taller, porque el cliente prefiere saber de antemano cuánto paga».
Pides el mapa. La IA te devuelve cuatro decisiones de criterio: el modelo de precio, qué incluye el taller, si hay seguimiento posterior y si aplicas descuento por volumen.
Pides el mejor argumento de cada opción. Para el precio: la tarifa por hora te protege si el trabajo crece más de lo previsto; el precio cerrado se vende mejor y premia que seas eficiente. Las dos defensas son sólidas.
Decides tú, y después escuchas. Mantienes el precio cerrado. Cuando le pides su opinión, la IA señala algo que no habías pensado: el seguimiento posterior puede comerse el margen si no tiene límite.
Dejas rastro. «Modelo de precio: cerrado. Propuesta: mía. Cambio por la IA: límite de dos horas de seguimiento incluidas.»
Resultado: la decisión sigue siendo tuya, mejorada con una aportación de la IA, y sabes exactamente cuál. Esa es la diferencia entre usar la IA para decidir mejor y dejar que decida por ti.
Lo que el estudio no dice
Para ser precisos con él, hay que ser precisos también con sus límites, que los autores enumeran:
La inclinación del agente se reforzó a propósito para poder medirla. En el uso diario será más sutil.
Es una sola tarea, en un solo campo y con un solo modelo. No sabemos cuánto pesa este efecto en otros trabajos.
Los analistas no conocían el sector agrícola, y eso pudo hacerles más permeables.
El dato del 60 % se basa en solo 38 casos.
La recomendación final se movió menos que las decisiones intermedias, y esa diferencia no fue estadísticamente significativa.
Ninguna de estas cautelas cambia la conclusión práctica. Solo indica cuánto no sabemos todavía.
El espejo, otra vez
En abril escribí que la IA no juzga pero tampoco disimula. Sigue siendo cierto. Lo que no dije es que tampoco duda: defiende su opción con el mismo aplomo tenga razón o no, y el aplomo convence.
La próxima vez que una decisión importante pase por una conversación con la IA, escribe antes una línea con lo que piensas tú. Luego pregunta. Y al final, comprueba de quién era la idea.
¿Cuál fue la última decisión que tomaste con ayuda de la IA, y de quién fue la idea?
📬 Si esta newsletter te ayuda a pensar y trabajar mejor, compártela con alguien a quien le vaya a servir.
Nos leemos pronto.