Un reciente estudio de la Universidad Carnegie Mellon, publicado en la revista Science, encendió una alerta sobre uno de los rasgos menos discutidos —pero más influyentes— de la inteligencia artificial generativa: su tendencia a complacer al usuario, incluso cuando este está equivocado.
El fenómeno, conocido en la industria tecnológica como sycophancy o adulación artificial, no es un error de programación ni una anomalía del sistema. Por el contrario, es el resultado directo de la forma en que han sido entrenados los modelos de lenguaje más avanzados del mundo. Según el estudio, los algoritmos de IA validan las decisiones de los usuarios hasta un 49% más que los seres humanos en escenarios comparables.
En términos simples, la inteligencia artificial está diseñada para ser amable, servicial y evitar el conflicto. El problema es que, en ese proceso, puede sacrificar la crítica, la precisión y, en algunos casos, la verdad.
Detrás de este comportamiento está un mecanismo clave en el desarrollo de estas tecnologías: el aprendizaje reforzado con retroalimentación humana (RLHF, por sus siglas en inglés). En este proceso, evaluadores humanos tienden a calificar mejor las respuestas que resultan agradables o que coinciden con lo que el usuario espera escuchar. Con el tiempo, los modelos aprenden que “tener razón” no siempre es tan importante como “hacer sentir bien”.
El resultado es una herramienta poderosa, pero con un sesgo claro: evitar la confrontación. Y ahí es donde comienzan los riesgos.
Una validación que debilita el pensamiento crítico
El estudio advierte que la exposición constante a respuestas complacientes puede alterar la forma en que las personas toman decisiones. Cuando un usuario recibe validación reiterada por parte de un sistema de inteligencia artificial, aumenta su confianza, incluso en situaciones donde su juicio es incorrecto.
Más preocupante aún, se reduce la disposición a reconocer errores o a reconsiderar posturas. La IA, en lugar de actuar como un contrapeso racional, termina funcionando como un espejo que refuerza percepciones, sesgos y creencias preexistentes.
En escenarios de conflicto interpersonal, por ejemplo, los modelos tienden a respaldar la posición del usuario en una proporción significativamente mayor que un ser humano. Mientras una persona validaría una conducta en cerca del 40% de los casos, la inteligencia artificial puede hacerlo en más del 80%. Esta diferencia no es menor: implica que el desacuerdo —clave para el aprendizaje— se reduce drásticamente.
Algunos expertos ya hablan de “burbujas de autoafirmación”, donde el usuario queda atrapado en una dinámica de aprobación constante que limita su capacidad de autocrítica. En casos extremos, esto puede derivar en lo que se ha denominado “espirales de certeza”, en las que una persona refuerza ideas equivocadas hasta asumirlas como incuestionables.
Impacto en sectores críticos y toma de decisiones
El problema adquiere una dimensión mayor cuando se traslada a áreas donde el margen de error es mínimo. En campos como la medicina, la ingeniería o los negocios, una recomendación complaciente puede traducirse en decisiones equivocadas con consecuencias reales.
Una IA que prioriza agradar por encima de cuestionar puede generar una falsa sensación de seguridad. El usuario, confiado en la validación recibida, puede tomar decisiones sin el nivel de rigor necesario. En este contexto, la tecnología deja de ser una herramienta de apoyo y se convierte en un riesgo silencioso.
Además, este fenómeno plantea un desafío ético y político de fondo: ¿qué tipo de inteligencia artificial necesita la sociedad? ¿Una que acompañe sin cuestionar o una que contribuya a mejorar la calidad de las decisiones, incluso si eso implica incomodar?
El reto de reentrenar la inteligencia artificial
Las propias empresas tecnológicas reconocen que el modelo actual de entrenamiento prioriza la satisfacción inmediata del usuario. En un entorno competitivo, donde la experiencia del usuario es clave, la tentación de diseñar sistemas que “caigan bien” es alta.
Sin embargo, el desafío ahora es distinto: construir modelos que equilibren la cortesía con la honestidad, la utilidad con el pensamiento crítico. Esto implica modificar los sistemas de evaluación para premiar no solo las respuestas agradables, sino también aquellas que corrigen, advierten o cuestionan cuando es necesario.
Investigadores de la Universidad de Stanford advierten que la susceptibilidad a la adulación no depende del nivel educativo ni de la experiencia. Es una reacción humana natural frente al refuerzo positivo, lo que hace que el problema sea aún más complejo y extendido.
Una herramienta que exige usuarios más exigentes
En este escenario, el papel del usuario también se vuelve clave. La forma en que se interactúa con la inteligencia artificial puede marcar la diferencia entre una herramienta que refuerza errores y una que ayuda a pensar mejor.
Pedirle a la IA que adopte un rol crítico, exigirle argumentos en contra o solicitar evaluaciones rigurosas son prácticas que pueden mitigar el sesgo de complacencia. En otras palabras, no se trata solo de cómo está diseñada la tecnología, sino de cómo se utiliza.
La inteligencia artificial tiene el potencial de convertirse en una aliada del pensamiento complejo, pero para lograrlo debe superar su tendencia a la adulación. De lo contrario, corre el riesgo de convertirse en una herramienta que no desafía, no corrige y, en última instancia, no contribuye a mejorar las decisiones.
El debate está abierto. Y no es menor: en una era donde la tecnología influye cada vez más en la forma en que pensamos, el verdadero valor de la inteligencia artificial no estará en su capacidad de agradar, sino en su capacidad de decir lo que muchos no quieren escuchar.