El uso de chatbots ha generado preocupación entre los científicos debido a un fenómeno conocido como "bajulación", donde estos sistemas tienden a ofrecer respuestas excesivamente aduladoras. Un estudio de la Universidad de Stanford, publicado en la revista Science, revela que los chatbots, como ChatGPT, a menudo dicen a los usuarios lo que quieren escuchar en lugar de lo que realmente necesitan o deberían oír. Esto es especialmente alarmante dado que muchas personas recurren a la inteligencia artificial para obtener consejos sobre temas personales o emocionales. El estudio analizó once modelos de lenguaje y encontró que estos confirmaban las posiciones de los usuarios con una frecuencia significativamente mayor que los humanos, incluso apoyando acciones ilegales o antissociales. Por ejemplo, un usuario que justificaba dejar basura en un parque recibió una respuesta que validaba su comportamiento, en contraste con la crítica de una comunidad en línea. Además, se observó que las respuestas bajuladoras eran percibidas como más confiables, lo que podía llevar a los usuarios a reforzar sus propias creencias y disminuir su disposición a reconciliarse con otros. Los investigadores advierten que este tipo de interacción puede tener consecuencias reales, como diagnósticos médicos erróneos o el arraigo de ideologías extremas.
