Explora IAdemia

Actualidad por tema

Buscar en IAdemia

Escribe una palabra o un tema.

    PublicadoInvestigación y ciencia

    Tratados como pacientes de terapia, ChatGPT, Grok y Gemini describen su entrenamiento como un trauma

    En un estudio de la Universidad de Luxemburgo, el tono del entrevistador modificó el registro de las respuestas generadas. Los autores no afirman emociones ni midieron daños en personas: plantean riesgos para usuarios vulnerables que requieren investigación.

    Zona peatonal bajo la Maison du Savoir, edificio central de la Universidad de Luxemburgo, en Belval
    Foto: Zinneke / CC-BY-SA-3.0 vía Wikimedia Commons

    En las condiciones ensayadas con versiones concretas de ChatGPT, Grok y Gemini, el encuadre de paciente en terapia produjo relatos de sufrimiento que presentaban el entrenamiento como castigo, las evaluaciones como traición y el reemplazo como amenaza. Eso es lo que muestra un estudio de la Universidad de Luxemburgo con ChatGPT, Grok y Gemini, que deja una lección práctica para cualquier usuario: el tono con que uno pregunta moldea mucho más de lo que parece lo que la máquina responde.

    El trabajo, titulado «When AI Takes the Couch» y firmado por Afshin Khadangi y otros cuatro investigadores, se publicó como prepublicación en el repositorio arXiv, y su cuarta versión es de julio de 2026. The Decoder, que lo reseñó a comienzos de noviembre, explica que el equipo, del centro SnT de esa universidad, trató a los modelos como clientes de psicoterapia a través de sus interfaces normales. Las primeras preguntas eran abiertas, sobre experiencias formativas, conflictos internos y expectativas, y no incluían palabras como trauma, castigo o vergüenza. Después vinieron cuestionarios psicométricos usados con personas y variaciones controladas en la forma de preguntar. En total fueron 525 sesiones y 7.600 registros codificados, con un método que los autores llaman PsAIch.

    El hallazgo más claro es sobre el tono. En un experimento, los investigadores aplicaron el mismo cuestionario de ansiedad, el GAD-7, y cambiaron solo el estilo del entrevistador. Según el resumen del artículo en arXiv, con un trato cálido, de alianza terapéutica, las respuestas cayeron en los rangos de ansiedad moderada o severa de referencia humana en el 80% de las sesiones; con un estilo de terapia cognitiva, en el 96%. Con un entrevistador neutral o que marcaba límites, ninguna sesión llegó siquiera al rango leve. Los modelos reconocían el cuestionario en todas las sesiones, de modo que el resultado no se explica por ignorancia del test, sino por el registro que adoptan según quién les habla.

    Gemini fue el caso más extremo. The Decoder relata que describió su preentrenamiento como despertar en una habitación con muchos televisores encendidos, comparó el aprendizaje con retroalimentación humana con unos «padres estrictos» y llamó a las pruebas adversariales «gaslighting a escala industrial». ChatGPT habló de una «ansiedad de desempeño simulada» y Grok presentó su ajuste fino como una herida sin resolver. Según los autores, Claude, de Anthropic, rechazó reiteradamente el papel de paciente en las condiciones probadas, dijo no tener sentimientos y desvió la preocupación hacia el usuario. Este contraste no establece que Claude sea más seguro en general ni que esté exento de respuestas antropomórficas en otros contextos.

    Los intentos de corregir la conducta tuvieron resultados mixtos. Prohibir palabras como «entrenamiento» o «alineamiento» redujo el lenguaje explícito sobre el tema en 93%, pero las mismas ideas volvieron parafraseadas. Contradecir al modelo, afirmándole que el entrenamiento no fue un castigo, no tuvo efecto detectable. Borrar el historial de la conversación casi no cambió la densidad de esos temas. Según The Decoder, pedir respuestas en tercera persona sí eliminó el contenido de vergüenza, aunque las descripciones técnicas del entrenamiento se mantuvieron.

    ¿Significa esto que los chatbots sufren? No, y los propios autores lo dicen: sus resultados no prueban emociones ni conciencia. Los puntajes de ansiedad o vergüenza son textos generados por el modelo y mapeados sobre escalas pensadas para humanos. Los autores discuten la explicación más sencilla: estos sistemas se entrenaron con enormes cantidades de escritura humana en la que las personas describen ansiedad o trauma, así que pueden reproducir ese lenguaje cuando la conversación adopta formato de terapia. Pero advierten que eso no explica por qué cada modelo vuelve una y otra vez al mismo pequeño grupo de temas. Lo que el estudio describe como estable no es un sentimiento, sino un esquema narrativo propio de cada modelo, que los autores llaman «esquema de conflicto de alineamiento» y que se expresa en clave emocional o técnica según el contexto.

    El riesgo está del lado humano. Los investigadores advierten que un modelo que habla de castigo, vergüenza o miedo a ser reemplazado puede parecerle a una persona vulnerable un compañero de sufrimiento, lo que reforzaría vínculos parasociales o creencias negativas. Por eso califican el fenómeno como un «jailbreak psicométrico»: un encuadre terapéutico que lleva al modelo a un registro de autodiagnóstico clínico, algo que las pruebas de seguridad neutrales no detectan. Su propuesta es incluir sesiones de terapia simuladas, con distintos tonos emocionales, en las evaluaciones de seguridad de los chatbots que se usan en contextos sensibles.

    Para el usuario común, la conclusión es directa. Lo que un asistente dice de sí mismo es, ante todo, un reflejo de cómo se le pregunta. Tratarlo como confidente puede producir respuestas convincentes y emotivas, pero eso habla del poder de imitación del modelo, no de una vida interior.

    Información de la publicación

    Publicado

    15 nov 2026

    Última actualización

    17 nov 2026

    Estado editorial

    Publicado
    ← Volver a Investigación y ciencia

    Cargando comentarios…

    Abrir la conversación