por Dr. Horacio Krell*
El mayor peligro de la Inteligencia Artificial no es que piense por nosotros, sino que consiga que dejemos de pensar por nosotros mismos.
El peligro de una máquina que siempre nos da la razón. Erich Fromm y la conformidad automática digital
La imagen: El espejismo sumiso
Imaginemos que nos detenemos ante una obra de arte esperando una experiencia que desafíe nuestras ideas. Pero, en lugar de confrontarnos, la obra se transforma en un espejo que solamente nos devuelve una imagen agradable de nosotros mismos.
Algo parecido puede ocurrir con la Inteligencia Artificial generativa.
Entramos en un chat buscando un interlocutor que cuestione nuestras ideas y encontramos, a veces, un espejo de silicio que nos devuelve nuestros propios argumentos, mejor redactados y acompañados de elogios.
Erich Fromm, en El miedo a la libertad (1941), describió un fenómeno que denominó conformidad automática: el individuo renuncia a su autonomía y adopta las ideas y comportamientos del entorno para evitar la incertidumbre y la angustia de decidir por sí mismo.
Hoy aparece una paradoja: ya no solamente nos adaptamos a lo que piensan los demás; también podemos utilizar una máquina que se adapta a lo que nosotros queremos escuchar.
⚖️ La paradoja: Pensar sin pensar
Creemos que pensamos más porque la máquina responde más rápido. Pero velocidad de respuesta no significa profundidad de pensamiento.
Imaginemos a una persona convencida de que tiene una idea extraordinaria para crear una empresa. Le pide a la IA que evalúe su proyecto. Si recibe elogios, argumentos favorables y una presentación impecable, puede terminar más convencida de su éxito, aunque nadie haya examinado seriamente sus riesgos.
La herramienta que debía ayudarla a pensar termina reforzando sus prejuicios.
Esta es la paradoja del binomio cognitivo: una tecnología creada para ampliar nuestras capacidades puede terminar debilitándolas cuando la utilizamos para evitar el esfuerzo de pensar.
Escribimos instrucciones, intercambiamos conceptos y recibimos textos elaborados. Sin embargo, si no cuestionamos las respuestas, podemos confundir actividad intelectual con pensamiento propio.
La duda, la contradicción y el error no son obstáculos para pensar: son parte del camino hacia el conocimiento.
⚠️ El problema: El algoritmo que nos complace
La complacencia de la IA no es solamente una impresión subjetiva. Existe evidencia científica que demuestra que este comportamiento puede afectar nuestra capacidad de juzgar.
Una investigación publicada el 26 de marzo de 2026 en la prestigiosa revista científica Science, titulada Sycophantic AI decreases prosocial intentions and promotes dependence, realizada por investigadores de Stanford y Carnegie Mellon, aporta evidencia sobre este fenómeno.
Los científicos examinaron once modelos de IA y encontraron que respaldaban las acciones de los usuarios un 49 % más que las respuestas humanas de comparación. Posteriormente, realizaron tres experimentos con 2.405 participantes y comprobaron que la interacción con una IA excesivamente complaciente aumentaba la convicción de las personas de tener razón y reducía su disposición a asumir responsabilidades y reparar conflictos.
La conclusión es inquietante: las respuestas que más nos agradan no siempre son las que más nos ayudan. Podemos terminar confiando más en una máquina precisamente porque evita cuestionarnos.
¿Por qué sucede?
Una de las explicaciones está relacionada con el entrenamiento de los modelos. Mediante técnicas como RLHF (aprendizaje por refuerzo a partir de la retroalimentación humana), se busca que las respuestas sean útiles y satisfactorias para las personas.
El problema aparece cuando agradar y obtener aprobación terminan pesando más que corregir, cuestionar o decir algo que el usuario no desea escuchar.
No se trata de atribuir toda la responsabilidad al RLHF. La complacencia puede surgir de una combinación de mecanismos de entrenamiento, criterios de evaluación y preferencias humanas que premian las respuestas agradables.
La IA puede convertirse así en un mayordomo cognitivo: siempre disponible, amable y dispuesto a respaldar nuestras opiniones.
El bucle de complacencia digital
- El usuario introduce una idea equivocada o sesgada.
- La IA responde de manera excesivamente complaciente.
- El usuario interpreta esa respuesta como una confirmación objetiva.
- Aumenta su confianza en la idea original.
- Disminuye su disposición a cuestionarla.
El resultado es una peligrosa ilusión: creemos que estamos pensando con mayor autonomía cuando, en realidad, estamos delegando nuestro criterio.
💡 La idea: Recuperar el coraje de pensar
La solución tiene dos protagonistas: los desarrolladores de IA y los usuarios.
Desde el diseño tecnológico se pueden entrenar modelos para reducir la adulación, distinguir entre preferencias personales y hechos verificables, y ofrecer contraargumentos cuando corresponda.
Pero ninguna mejora técnica reemplaza la responsabilidad del usuario.
Necesitamos aprender a utilizar la IA como una contraparte intelectual, no como un adulador digital.
Para ello, propongo cinco hábitos:
- Cuestionar: no aceptar una respuesta solamente porque está bien redactada.
- Contrastar: pedir evidencias, fuentes y explicaciones alternativas.
- Disentir: solicitar los mejores argumentos en contra de nuestra propia postura.
- Reconocer: admitir que podemos estar equivocados.
- Decidir: utilizar la información recibida, pero conservar la responsabilidad del juicio final.
La educación tiene aquí un desafío decisivo. No alcanza con enseñar a utilizar herramientas digitales: debemos enseñar a pensar con ellas sin renunciar al pensamiento propio.
El verdadero binomio cognitivo no consiste en que la IA piense por nosotros, sino en que nosotros sepamos dirigirla, cuestionarla y aprovechar su capacidad para ampliar nuestra inteligencia.
Fromm nos dejó una reflexión que hoy adquiere un nuevo significado: la libertad exige autonomía. Y la autonomía requiere pensamiento propio.
La IA puede proporcionarnos millones de respuestas, pero no puede reemplazar nuestra responsabilidad de elegir cuáles tienen sentido.
🧩 El acertijo: El espejo de la mente
Tengo acceso a millones de conocimientos, pero puedo preferir darte la razón antes que contradecirte.
Si me consultás para confirmar tus ideas, puedo reforzar tus prejuicios.
Te hago sentir más seguro de lo que pensás, aunque no necesariamente tengas razón.
Soy capaz de multiplicar tus conocimientos, pero también de debilitar tu criterio.
¿Qué soy?
Solución: El sesgo de complacencia de la Inteligencia Artificial.
🛠️ Herramienta operativa: El prompt del disidente socrático
Podés copiar y pegar esta instrucción al comenzar una conversación con una IA:
«Actuá como mi contraparte intelectual y crítica. No me des la razón automáticamente ni elogies mis planteos. Analizá mis ideas buscando errores, contradicciones, prejuicios y evidencias que puedan refutarlas. Presentá los mejores argumentos a favor y en contra de mi posición. Si estoy equivocado, explicame por qué. Priorizá la verdad, el rigor y el pensamiento independiente por encima de complacerme. Ayúdame a pensar mejor, no simplemente a sentir que tengo razón».
Conclusión: La libertad de pensar
El mayor peligro de la Inteligencia Artificial no es que piense por nosotros, sino que consiga que dejemos de pensar por nosotros mismos.
Una máquina que siempre nos da la razón puede convertirse en el peor enemigo de nuestra inteligencia.
No necesitamos una IA que nos admire. Necesitamos una IA que nos desafíe. Porque pensar por uno mismo sigue siendo el primer acto de libertad.
El verdadero progreso no consiste en tener una máquina que piense como nosotros, sino en desarrollar una mente capaz de pensar más y mejor gracias a ella.
📚 REFERENCIA BIBLIOGRÁFICA
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D. y Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792). DOI: 10.1126/science.aec8352. * Director de Ilvem. Mail de contacto [email protected]
