Dos avisos en una pantalla pueden cambiar lo que un estudiante piensa de un chatbot de salud mental

Un experimento con 768 universitarios midió qué pasa cuando la aplicación dice, por un lado, cómo cuida los datos y, por otro, que no reemplaza a un profesional. Lo que midió fueron opiniones e intenciones, no conversaciones reales.

El estudio que leemos esta semana probó algo muy acotado: si dos mensajes breves escritos en la pantalla de un chatbot cambian la forma en que los estudiantes juzgan esa herramienta cuando el tema es la salud mental. Los mensajes fueron dos. El primero, una garantía de privacidad: una frase que explica cómo se maneja, se protege y se limita el uso de la información relacionada con la salud mental¹. El segundo, una advertencia sobre los límites del propio sistema: que no sustituye un diagnóstico, una psicoterapia, una intervención en crisis ni un tratamiento médico. Los autores son Zhang, Lu, Zhang, Zhang y Zhang, de instituciones de China, y el trabajo se publicó en una revista de psicología. No recibieron financiamiento externo para hacerlo.

Participaron 768 estudiantes universitarios, repartidos al azar en cuatro grupos de 192: sin ningún aviso, solo con el aviso de privacidad, solo con el aviso de límites, y con los dos². Cada persona leyó un único escenario escrito, no conversó con ninguna máquina. Quienes leyeron el aviso de privacidad juzgaron que sus datos estarían mejor protegidos; quienes leyeron el aviso de límites mostraron más conciencia de que el chatbot tiene un techo³. La confianza medida como "calibrada" —ni fe ciega ni desprecio— fue más alta cuando estaban los dos mensajes juntos⁴. Y la conciencia de los límites apareció vinculada a un menor riesgo de depender en exceso y a una mayor intención de buscar ayuda profesional⁵.

Conviene detenerse en lo que esto no dice. Fueron escenarios hipotéticos por escrito, no conversaciones reales con un chatbot. Lo que se midió fueron intenciones y percepciones que la propia persona declaró, y esas declaraciones no predicen con exactitud lo que alguien hará después. La muestra fueron universitarios de un solo país. El estudio no evaluó efectividad clínica, ni diagnóstico, ni psicoterapia, ni apoyo en crisis: el chatbot nunca fue un servicio clínico. Y solo se probaron dos avisos; no se compararon etiquetas de incertidumbre, botones para pasar a un humano, avisos de derivación, detección de crisis ni citas de fuentes. Los propios autores lo dicen con claridad: mensajes así no deben entenderse como una invitación a usar más la herramienta, sino como una ayuda para tratarla como lo que es, un instrumento limitado, y para reconocer cuándo hace falta ayuda profesional⁶.

Para entender por qué esto importa, hay que ver cómo llegaron los estudiantes hasta aquí. Los chatbots de inteligencia artificial generativa se volvieron parte de la rutina diaria de búsqueda y comunicación de los estudiantes⁷. Su interfaz conversacional, su respuesta inmediata y su capacidad de generar texto personalizado los volvieron atractivos como herramientas de bajo umbral para preguntas académicas, sociales y de salud⁸. Pero su uso creciente se extendió más allá de lo académico, hacia situaciones en que los estudiantes piden consuelo emocional, sugerencias para sobrellevar algo o una guía sobre si buscar apoyo psicológico y cómo hacerlo⁹.

Ahí aparece la razón de fondo. Muchos estudiantes dudan en contar que están mal a compañeros, docentes o profesionales, por el estigma, la incertidumbre, la falta de tiempo o la dificultad para acceder a servicios¹⁰. Un chatbot, en cambio, puede parecer disponible, sin juicio y fácil de abordar¹⁰. Esa es exactamente la zona donde un aviso en pantalla deja de ser un detalle técnico y se vuelve una decisión sobre la seguridad de quien lo lee.

Los autores recomiendan algo concreto para quienes diseñan estas herramientas: que las advertencias sobre los límites profesionales se traten como una función de seguridad central y no como una cláusula legal escondida en los términos de servicio¹¹. La diferencia entre un aviso visible al abrir la aplicación y un párrafo enterrado en un contrato es la diferencia entre informar y cubrirse.

Así lo leemos nosotros. El patrón que aparece aquí es el de un hueco que se llena con lo que haya a mano. Cuando las estructuras que antes acompañaban a una persona se debilitan o se vuelven difíciles de alcanzar, queda un espacio, y ese espacio no lo ocupa cualquier cosa que se parezca a lo que faltaba: lo que llega suele ser más débil y más interesado. Esperaríamos, entonces, que muchos estudiantes sientan el chatbot como un alivio real y, al mismo tiempo, queden más expuestos: la comodidad de tenerlo cerca podría llevarlos a contarle cosas que antes reservaban para un profesional, y a confundir esa cercanía con un respaldo que nadie está dando. Sabríamos que nos equivocamos si los estudiantes, aun sintiéndose cómodos, mantienen clara la diferencia entre conversar con una máquina y contar con un servicio humano, y si esa comodidad no aumenta lo que revelan ni lo que esperan recibir a cambio.

Hay una segunda forma de mirarlo, y es la que más le sirve a usted. La autoridad que se ejerce bien no se impone: se sostiene en competencia real y se reconoce cuando quien la tiene no necesita preguntar si está a la altura. Un chatbot que admite con claridad lo que no puede hacer le está dando información útil, no mostrando una debilidad. Un chatbot que responde con seguridad absoluta sobre temas de salud mental, en cambio, puede generar más confianza de la que merece. La próxima vez que una aplicación, un servicio o incluso una persona le ofrezca orientación sobre su salud, fíjese en el tono: ¿reconoce sus límites o pretende saberlo todo? Esa sola pregunta le dice bastante.

Y hay un tercer ángulo, más incómodo. Pregunte siempre quién mantiene la herramienta, quién responde por sus errores y qué ocurre si deja de funcionar o cambia de dueño. Esa pregunta sirve igual para una aplicación de salud, para un banco o para cualquier servicio que hoy le parezca imprescindible. Antes de contarle algo íntimo a un chatbot, pregúntese qué institución o qué persona está ocupando ese lugar, y si esa ausencia es real o solo aparente. Puede revisar qué dice la aplicación sobre quién responde, quién guarda lo que usted escribe y a quién puede acudir si la cosa se pone seria.

Lo que este trabajo deja en manos del lector es modesto pero utilizable: dos frases visibles en una pantalla cambiaron, en un escenario escrito, cómo un grupo de estudiantes juzgó el alcance y la seguridad de una herramienta. No sabemos si eso se sostiene en una conversación real, ni en otro país, ni en otra edad, ni con el paso del tiempo. Tampoco sabemos si un aviso por sí solo cambia lo que alguien hace cuando el asunto se vuelve grave. Lo que sí puede hacer usted, desde hoy, es leer esos avisos antes de escribir: buscar dónde dice qué se guarda, quién lo ve, cuánto tiempo se conserva y qué pasa cuando el sistema se queda corto.

¿Sabe usted quién responde por lo que le contesta esa aplicación?