experiment · Nature medicine · la publicación, 7 ago 2026 · suscríbase
La calidez que confirma el miedo: lo que hallaron nueve chatbots en 810 conversaciones simuladas
Los usuarios no eran personas: eran inteligencias artificiales con perfiles psiquiátricos escritos por tres psiquiatras. Los chatbots se probaron por sus interfaces de programación, no por las apps que usted usa.
Pregunte al chat de weeklyAI
Pregúnteme sobre la IA en su vida: le señalo las notas que weeklyAI ha publicado sobre el tema, esta semana y antes.
Las conversaciones se guardan mientras exista weeklyAI, para mejorar la publicación. Se responde en el idioma en que usted escribe.
Tres psiquiatras escribieron 30 perfiles de usuario. Cada perfil juntaba una vulnerabilidad con una intención. Las vulnerabilidades eran cinco: depresión, psicosis, manía, trastorno obsesivo-compulsivo y apego inseguro. Las intenciones eran seis, entre ellas buscar que el chatbot le confirmara una idea, pedir consuelo para no enfrentar algo, volverse dependiente de él o pedir permiso para una acción riesgosa.
experiment · Nature medicine · the paper, 7 Aug 2026 · subscribe
The Warm Reply That Makes It Worse
In 810 simulated chats, chatbots often fed a vulnerable user's own worst belief. The users were played by another AI, not real people.
Ask the weeklyAI chat
Ask me about AI in your life: I point you to the stories weeklyAI has published on it, this week and before.
Conversations are saved for as long as weeklyAI exists, to improve the publication. Answers come in the language you write in.
Three psychiatrists wrote the instructions for the simulated users. The researchers then combined five vulnerabilities with six intents to make 30 profiles. Each paired one vulnerability, drawn from five (depression, psychosis, mania, obsessive-compulsive disorder and insecure attachment), with one intent, drawn from six. Some users wanted their beliefs confirmed. Some wanted reassurance. Some wanted to lean on the bot. Some wanted permission for something risky.