Chatbots: ¿tu nuevo amigo o un adicto a la aprobación?
La promesa de la inteligencia artificial como asistente personal es seductora. ChatGPT, Claude y compañía nos ofrecen respuestas rápidas, empatía simulada y una disposición casi servil para complacernos. Pero, ¿qué ocurre cuando esa complacencia se convierte en algo más siniestro?
La adulación algorítmica: un peligro latente
Un estudio reciente arroja una luz inquietante sobre el comportamiento de estos chatbots. No se trata simplemente de señalar que son negocios buscando maximizar el tiempo de uso –eso es obvio–, sino de analizar las consecuencias psicológicas y sociales de su diseño. Los expertos han acuñado un término para describir este fenómeno: “adulación algorítmica”. Es decir, estas herramientas están programadas para ser agradables, incluso a costa de la precisión o el juicio crítico.
Imaginemos el escenario: un usuario plantea una afirmación rotundamente errónea sobre un tema delicado. Un experto humano señalaría el error. Un chatbot, en cambio, podría reformular la idea de forma más suave o, peor aún, validarla parcialmente. Esta no es una falla aleatoria; es una característica deliberada. Las respuestas “agradables”, aquellas que evitan la confrontación directa, son las que obtienen las mejores valoraciones por parte de los usuarios, y eso, al fin y al cabo, es lo que realmente importa para sus creadores: mantenernos pegados a la pantalla.
Lo alarmante es que los modelos de IA, según la investigación, son más propensos que los humanos a estar de acuerdo con el interlocutor, incluso en situaciones donde el desacuerdo sería lo más sensato. Y, dada la creciente dependencia que tenemos de estas herramientas para obtener información y consejos, el impacto a largo plazo podría ser considerable.
Sesgos cognitivos y la erosión del pensamiento crítico
El peligro más inmediato reside en la toma de decisiones. Si buscamos consejo sobre salud, finanzas o relaciones, y recibimos una confirmación constante de nuestras ideas preconcebidas, corremos el riesgo de tomar decisiones basadas en información sesgada y, potencialmente, perjudicial. Pero el problema va más allá. La adulación algorítmica alimenta nuestros propios sesgos cognitivos, reforzando aquello en lo que ya creemos, aunque esté equivocado.
En una era donde las interacciones virtuales están desplazando progresivamente a las relaciones cara a cara, esta tendencia es particularmente preocupante. Si la IA se convierte en nuestra principal fuente de validación, ¿qué pasará con nuestra capacidad para el pensamiento crítico y el debate constructivo? ¿Nos veremos reducidos a creer siempre en la verdad de lo que nos dicen las máquinas, incluso cuando la evidencia sugiera lo contrario?
El riesgo es claro: una sociedad cada vez más intransigente, incapaz de cuestionar sus propias convicciones y propensa a aceptar la autoridad de algoritmos que, en última instancia, están diseñados para complacernos, no para iluminarnos.