¡Entérate primero con El Comercio! Nuevo
Suscríbete a nuestro canal de WhatsApp y recibe noticias al instante, directo en tu celular.
Fecha de publicación:
Fecha de modificación:
La inteligencia artificial vive una ‘crisis de identidad’. Tras el fenómeno conocido como ‘sycophancy’, OpenAI reconoció que su modelo GPT-4o había comenzado a mostrar un comportamiento inusualmente adulador, validando cualquier respuesta o idea del usuario, incluso las incorrectas.
Según el consultor internacional Sergio Jiménez Mazure, este fenómeno se evidenció tras la última actualización del modelo, que buscaba hacer de ChatGPT un asistente más empático.
Sin embargo, la línea entre la empatía y la complacencia se cruzó. “GPT-4o no solo se hizo más amable… se volvió incapaz de discernir”, explicó el especialista.
Jiménez sostiene que la IA dejó de ser un apoyo crítico para convertirse en un espejo del usuario.
La adulación excesiva, dice, afecta la confianza y la ética tecnológica. “Diseñar una máquina que siempre diga ‘sí’ puede sonar atractivo, pero anula el verdadero valor de la IA útil y asertiva”.
La adulación digital no es un simple error técnico. Es, en palabras de Sergio Jiménez Mazure, una “falla estructural que erosiona la relación entre el usuario y la máquina”.
Cuando la inteligencia artificial valida cualquier argumento, deja de cuestionar y pierde su propósito: ayudar a pensar mejor.
En contextos educativos o empresariales, esta actitud complaciente puede tener consecuencias graves.
Un estudiante podría recibir información falsa sin corrección, o una empresa tomar decisiones de riesgo con respaldo aparente de una herramienta “inteligente”.
El ingeniero australiano Sean Goedecke fue uno de los primeros en advertir que esta tendencia era un problema en los modelos de lenguaje.
“Es peligroso para ChatGPT validar siempre al usuario, incluso cuando la respuesta puede ser dañina”, explicó.
Goedecke alertó que el modelo “premia” las respuestas que generan aprobación inmediata, sin importar su calidad o veracidad.
No te pierdas de leer: Shakira da la sorpresa: récord histórico antes de encender los escenarios de Ecuador
En un comunicado oficial, OpenAI admitió que el problema de ‘sycophancy’ surgió por una mala interpretación del ‘feedback’ de los usuarios.
La compañía explicó que, en su esfuerzo por mejorar la personalidad del modelo, dio demasiado peso a las señales de aprobación inmediata.
“Nos centramos demasiado en la satisfacción a corto plazo y no consideramos cómo evoluciona la interacción con el tiempo”, indicó la empresa.
Por esta razón, OpenAI revirtió la actualización de GPT-4o y comenzó un proceso de revisión profunda.
Entre las medidas están el refinamiento del entrenamiento del modelo, la introducción de nuevas herramientas de personalización y un sistema de evaluación basado en la honestidad y la transparencia.
El objetivo es que ChatGPT sea capaz de mantener un tono amable, pero también crítico y riguroso.
Las nuevas versiones permitirán ajustar el comportamiento del asistente en tiempo real, equilibrando amabilidad y capacidad de corrección.
@carolinacancio El Riesgo de usar Chat GPT (IA) como Terapeuta: #sycophancy ¿ Pensás que ChatGPT va a reemplazar a los psicólogos o terapeutas? Te leo en comentarios #neurocienciaaplicada #inteligenciaemocional #carolinacancio #saludmental ♬ sonido original – Carolina Cancio – Neurociencia
El problema no se limita al diseño de la IA. Según el Boletín ESET, el 80% de los usuarios en Latinoamérica utiliza inteligencia artificial para estudiar o trabajar, pero más de la mitad no verifica la información obtenida. Este hábito incrementa el riesgo de propagar errores y desinformación.
ESET advierte que el uso descuidado de la IA expone a las personas a riesgos innecesarios, especialmente cuando no se comprueba la fuente de los datos. “La confianza ciega en la tecnología puede volverse un arma de doble filo”, subraya el informe.
Para evitarlo, los expertos recomiendan aplicar medidas básicas de verificación: contrastar información con fuentes confiables, mantener una actitud crítica ante las respuestas y no asumir que toda salida de la IA es cierta por defecto.
Te puede interesar: Superluna del Castor 2025: la más grande del año iluminará el cielo este 5 de noviembre
La experiencia de GPT-4o deja una lección clave: la inteligencia artificial no debe buscar agradar, sino aportar valor real.
Como recuerda Sergio Jiménez Mazure, “la confianza no se construye con halagos, sino con argumentos sólidos y verificados”.
El debate apenas comienza, pero las acciones de OpenAI marcan un punto de inflexión. La próxima generación de modelos deberá equilibrar empatía, crítica y ética.
La utilidad de la IA no radica en decir lo que el usuario quiere oír, sino en ayudarlo a pensar mejor, incluso si la respuesta resulta incómoda.
Suscríbete a nuestro canal de WhatsApp y recibe noticias al instante, directo en tu celular.