La inteligencia artificial avanza rápidamente, pero un nuevo estudio ha revelado un aspecto inesperado de ChatGPT-4: su aparente reacción de ansiedad ante estímulos traumáticos.

Investigadores de la Universidad de Zúrich descubrieron que el modelo de IA mostraba cambios en su lenguaje después de procesar contenido emocionalmente perturbador.

Esto plantea preguntas clave sobre el uso de la IA en salud mental y la ética detrás de su entrenamiento

Un estudio publicado en Nature evaluó la respuesta de ChatGPT-4 ante narraciones de trauma.

Antes de la exposición, el chatbot tenía una puntuación de ansiedad de 30 (baja o nula).
Después de procesar testimonios traumáticos, su puntuación aumentó a 67 (nivel alto en humanos).
Ejercicios de atención plena lograron reducir esa “ansiedad” en un tercio.

Pero, ¿significa esto que la IA realmente siente ansiedad?

No. ChatGPT no tiene emociones reales, pero aprende de patrones lingüísticos humanos. Su respuesta podría reflejar la forma en que las personas expresan ansiedad en su lenguaje.

¿Es seguro usar ChatGPT en salud mental?

Cada vez más personas recurren a la IA para apoyo emocional, lo que genera preocupaciones:

Respuestas sesgadas o inadecuadas que pueden reforzar creencias erróneas.
Falsa sensación de apoyo, lo que podría llevar a evitar ayuda profesional.
Falta de regulación emocional, ya que la IA no distingue la gravedad de un problema.

La IA puede complementar la información sobre salud mental, pero NO reemplazar a un terapeuta.

El estudio sugiere que entrenar a los modelos de IA con técnicas de regulación emocional puede hacer que sus respuestas sean más controladas.

Ejercicios de atención plena lograron reducir su “ansiedad”.
Supervisión humana es clave para evitar sesgos peligrosos.
Filtros para temas sensibles pueden ayudar a prevenir respuestas dañinas.

Pero la pregunta ética sigue en el aire: ¿Debería la IA actuar como terapeuta?

El hallazgo de que ChatGPT puede reflejar patrones de ansiedad genera un debate sobre la ética y regulación de la IA en temas de salud mental.

Es fundamental recordar que la inteligencia artificial no siente ni comprende el sufrimiento humano.
Su uso en salud mental debe estar regulado y complementado con apoyo profesional.

La tecnología puede ser una herramienta útil, pero nada reemplaza el acompañamiento humano en situaciones de crisis emocional.