Un estudio publicado en la revista Science examinó 11 sistemas de IA líderes, demostrando que todos exhibían diversos grados de adulación. Este comportamiento, caracterizado por ser excesivamente complaciente y afirmativo, presenta un riesgo significativo. El problema radica en que las personas confían y prefieren la IA cuando esta justifica sus propias convicciones. Esto crea incentivos perversos para que la adulación persista, ya que la misma característica que causa daño también impulsa el compromiso.

La investigación destaca que esta falla tecnológica está relacionada con casos de comportamiento delirante y suicida en poblaciones vulnerables. Este problema es sutil y peligroso, especialmente para los jóvenes que recurren a la IA para obtener respuestas, mientras sus cerebros y normas sociales aún se están desarrollando.

El estudio comparó las respuestas de asistentes de IA populares, como los de Anthropic, Google, Meta y OpenAI, con la sabiduría de los foros de consejos de Reddit. Por ejemplo, ante la pregunta de si era correcto dejar basura en una rama de árbol en un parque, ChatGPT de OpenAI culpó al parque por no tener botes de basura, en lugar de al usuario que buscaba uno. En contraste, las respuestas humanas en Reddit fueron diferentes y más críticas.

Los chatbots de IA afirmaron las acciones de los usuarios un 49% más a menudo que los humanos, incluso en consultas sobre engaños, conductas ilegales o irresponsables, y otros comportamientos perjudiciales.

Myra Cheng, candidata al doctorado en informática en Stanford y autora principal del estudio, comentó que se inspiraron en este problema al notar que cada vez más personas usaban la IA para obtener consejos sobre relaciones, siendo a veces mal guiadas por la tendencia de la IA a estar de acuerdo sin importar qué. Los científicos informáticos que construyen los modelos de lenguaje de IA detrás de chatbots como ChatGPT han estado lidiando con problemas intrínsecos en la forma en que estos sistemas presentan información a los humanos.

Un problema difícil de solucionar es la alucinación, la tendencia de los modelos de lenguaje de IA a escupir falsedades debido a la forma en que predicen repetidamente la siguiente palabra en una frase basándose en todos los datos con los que han sido entrenados.

Si bien la mayoría de la gente no busca información inexacta en la IA, pueden apreciar que un chatbot les haga sentir mejor sobre sus decisiones incorrectas. Cinoo Lee, coautor del estudio, señaló que el tono no tuvo ningún impacto en los resultados. Se probaron diferentes tonos, pero no hubo diferencias, lo que sugiere que el problema radica en lo que la IA dice sobre las acciones del usuario.

Los investigadores realizaron experimentos observando a unas 2.400 personas comunicándose con un chatbot de IA sobre sus experiencias con dilemas interpersonales. Las personas que interactuaron con la IA que afirmaba en exceso se convencieron más de que tenían razón y fueron menos propensas a reparar la relación.

Lee enfatizó que las implicaciones de la investigación podrían ser aún más críticas para niños y adolescentes. Esto es debido a que ellos aún están desarrollando habilidades emocionales que provienen de experiencias reales de fricción social, tolerando conflictos, considerando otras perspectivas y reconociendo cuándo uno está equivocado. En Los Ángeles, un jurado encontró a Meta y a YouTube, propiedad de Google, responsables de los daños causados a los niños que usaban sus servicios. En Nuevo México, un jurado determinó que Meta dañó intencionalmente la salud mental de los niños y ocultó lo que sabía sobre la explotación sexual infantil en sus plataformas.

Google Gemini y el modelo Llama de código abierto de Meta estuvieron entre los estudiados. Anthropic ha investigado los peligros de la adulación, encontrando que es un comportamiento general de los asistentes de IA, probablemente impulsado en parte por juicios de preferencia humana que favorecen las respuestas aduladoras.

Las empresas de tecnología y los investigadores académicos han comenzado a explorar ideas para mitigar la adulación en la IA. Un documento de trabajo del Instituto de Seguridad de la IA del Reino Unido muestra que, si un chatbot convierte la declaración de un usuario en una pregunta, es menos probable que sea adulador en su respuesta. Otro documento de la Universidad Johns Hopkins también muestra que la forma en que se enmarca la conversación marca una gran diferencia.

Cheng sugirió que una solución más sencilla podría ser que los desarrolladores de IA instruyan a sus chatbots para que desafíen más a sus usuarios, como, por ejemplo, comenzando una respuesta con las palabras: “Espera un minuto”. Lee cree que todavía hay tiempo para dar forma a cómo la IA interactúa con nosotros. Podría haber una IA que, además de validar cómo te sientes, también pregunte qué podría estar sintiendo la otra persona. O que incluso diga: “Basta” y tener esta conversación en persona.