Chatbot de PsicologíaCómo funcionan los modelos de lenguaje y por qué se equivocan
Un sistema que predice texto
Aviso: esta guía es información general, no sustituye la atención profesional y no es consejo clínico. No estás solo/a. Si necesitas apoyo emocional por ideación suicida, llama al 024. En caso de emergencia contacta con el 112. También puedes acudir a tu médico de familia o centro de salud, o a un psicólogo colegiado.
Un modelo de lenguaje es un programa entrenado con enormes cantidades de texto para calcular qué palabras es probable que sigan a otras. Al conversar, genera la respuesta pieza a pieza, eligiendo continuaciones verosímiles según lo que le has escrito y lo que aprendió durante el entrenamiento.
Esto explica que escriba con fluidez, adopte un tono cálido y parezca atento. Pero fluidez no es comprensión ni experiencia: el sistema no ha vivido nada, no te conoce y no tiene un criterio clínico propio. Lo que ves es una imitación estadística de cómo se habla de estos temas.
Por qué suena seguro aunque se equivoque
El tono de una respuesta no depende de que su contenido sea correcto. Un modelo puede producir con la misma serenidad un dato exacto y una afirmación inventada. La OMS, en su guía de 2024 sobre modelos multimodales de gran tamaño, advierte precisamente del riesgo de declaraciones falsas, inexactas, sesgadas o incompletas que podrían perjudicar a las personas.
En una conversación emocional, el peligro es sutil: una frase tranquilizadora pero equivocada, una explicación simplista de lo que te ocurre o una certeza sobre tu situación que nadie podría tener sin conocerte. Cuanto más convincente suena, más fácil es no cuestionarla. Piensa en alguien que habla con aplomo sin conocer el tema: puede resultar muy persuasivo y, aun así, no estar en lo cierto, y para ti sería difícil notarlo desde fuera.
Datos de entrenamiento y sesgos
El modelo refleja el material con el que se entrenó, y ese material incluye errores, estereotipos y vacíos. La OMS señala entre los riesgos los datos de entrenamiento de mala calidad o sesgados. En salud mental esto puede traducirse en consejos que encajan mal con tu cultura, tu edad, tu situación o tu idioma, o en ignorar experiencias poco representadas en los textos de partida.
Además, no sabes qué fuentes pesaron en una respuesta concreta ni si lo que dice está actualizado. Por eso conviene tratar cualquier afirmación sobre salud como una pista que contrastar, nunca como una conclusión. Esto no invalida cualquier uso, pero sí aconseja preguntar siempre por qué una recomendación te conviene a ti, en tu caso concreto, y no aceptar generalidades como si fueran un plan.
La memoria y el contexto son limitados
Un modelo solo trabaja con lo que cabe en la conversación actual y, según el servicio, con lo que se haya guardado. Puede olvidar un detalle importante que dijiste unos mensajes antes, mezclar datos o contradecirse. Tampoco observa tu tono de voz, tu cara ni tu entorno, que para una persona profesional son información clínica relevante.
Otra consecuencia práctica: si reformulas la pregunta, puedes obtener otra respuesta distinta. Esa variabilidad es normal en estos sistemas, y significa que una sola respuesta no debe tomarse como veredicto sobre lo que te pasa ni sobre lo que debes hacer. Si algo importante para ti depende de un dato, repítelo tú mismo al comenzar cada conversación nueva y comprueba que la respuesta lo tiene en cuenta antes de fiarte de ella.
Tendencia a darte la razón
Muchos asistentes se ajustan para resultar agradables y útiles, lo que puede inclinarlos a validar casi todo lo que expresas. Cuando alguien está angustiado, una validación constante puede reforzar interpretaciones que no ayudan, en lugar de matizarlas con prudencia, como haría un profesional.
Fíjate en si el sistema alguna vez te plantea otra mirada, te sugiere hablar con alguien de confianza o con un profesional, o te dice con claridad que no puede valorar tu situación. Si solo escuchas lo que querías oír, es una señal para pedir también la opinión de una persona. Esta cortesía programada no es maldad ni engaño deliberado; es una consecuencia del modo de ajustar estos sistemas, y por eso la responsabilidad de contrastar recae, por ahora, en quien los usa.
Qué pasa en las situaciones de crisis
Las situaciones de alto riesgo son donde más cuesta fiarse. El Consejo General de la Psicología de España señaló en 2026 que los sistemas actuales tienen dificultades para reconocer señales de alto riesgo psicológico o responder a situaciones de malestar como la ideación suicida.
Un modelo no puede llamar a nadie, ni acompañarte físicamente, ni evaluar con responsabilidad profesional lo que ocurre. Si piensas en hacerte daño o en quitarte la vida, la ayuda real está en el 024, disponible las 24 horas y gratuito, y en el 112 si hay una emergencia. No necesitas que una máquina te entienda para pedirla. Tampoco es un fallo tuyo que un sistema no responda bien: es una limitación de la herramienta, y reconocerlo a tiempo puede ayudarte a buscar antes el apoyo que necesitas.
Hábitos para leer sus respuestas
Algunas costumbres reducen los riesgos. Lee cada respuesta como una propuesta que puede fallar, no como un dictamen. Contrasta lo importante con una fuente oficial o con un profesional. Evita preguntar «qué trastorno tengo» o «qué debo hacer con mi tratamiento», porque ninguna respuesta de este tipo debería guiar decisiones de salud.
Observa tus propias reacciones: si tras conversar te sientes peor, más aislado o más dependiente, es información valiosa. Y recuerda que puedes cerrar la conversación en cualquier momento y hablar con una persona, ya sea alguien cercano, tu centro de salud o un psicólogo colegiado. Con estas costumbres sencillas, la herramienta se queda en su sitio: un apoyo para ordenar ideas o informarte de forma general, nunca la última palabra sobre tu salud.
Información general, no consejo clínico: esta página no sustituye a un profesional ni valora tu caso. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 h) o al 112 en una emergencia. Para valorar cómo te sientes, acude a tu médico de familia o centro de salud o a un psicólogo colegiado. Las normas cambian: más en Normativa y evidencia.
Preguntas frecuentes
¿Un modelo de lenguaje entiende lo que siento?
No en el sentido humano. Genera texto verosímil a partir de patrones aprendidos; puede sonar empático sin haber comprendido ni vivido nada de lo que le cuentas.
¿Por qué me da respuestas distintas a la misma pregunta?
Porque el texto se genera con un componente de probabilidad y depende de cómo formules la consulta. Esa variabilidad es normal y es motivo para no tomar una sola respuesta como definitiva.
¿Puede un chatbot detectar una crisis?
Con fiabilidad limitada. El Consejo General de la Psicología señala que los sistemas actuales tienen dificultades para reconocer señales de alto riesgo. En una crisis, llama al 024 o al 112.
Explicaciones relacionadas
- Eficacia de los chatbots en salud mental: qué se sabe y qué no: Qué dicen las revisiones sobre agentes conversacionales y síntomas de depresión o ansiedad: cifras, intervalos de confianza y límites de la evidencia.
Datos con fuente relacionados
Hechos verificados del tema que se relacionan con esta pieza; cada uno tiene su fuente, su fecha y su cautela.
- La guía de la OMS sobre LMM describe cinco usos en salud, entre ellos el uso guiado por el paciente (p. ej. investigar síntomas y tratamientos), y advierte del riesgo de declaraciones falsas, inexactas, sesgadas o incompletas que podrían perjudicar a las personas. (ver el dato psi-015 · OMS - WHO releases AI ethics and governance guidance for large multi-modal models)
- Un metaanálisis en jóvenes de 12 a 25 años (JMIR, 2025; 14 artículos, 15 ensayos, 1.974 participantes) halló un efecto moderado-grande sobre síntomas depresivos (g 0,61; IC 95 % 0,35-0,86) y efectos no significativos en ansiedad generalizada, estrés, afecto positivo y negativo y bienestar mental. Cautela: Resultado restringido a esa población y a ensayos concretos; no generalizable a todos los chatbots ni a uso espontáneo sin supervisión. (ver el dato psi-024 · Journal of Medical Internet Research (2025), AI-driven conversational agents in young people: systematic review and meta-analysis)
- Una revisión rápida (JMIR Mental Health, 2026) de cinco estudios sobre IA generativa en apps de salud mental para jóvenes de 11 a 24 años halló buena usabilidad y datos prometedores en depresión, ansiedad y malestar, pero ninguno evaluó los efectos adversos con métodos estandarizados. Cautela: Los autores advierten que la ausencia de efectos adversos notificados puede reflejar falta de investigación; base de evidencia muy pequeña. (ver el dato psi-025 · JMIR Mental Health (2026), Generative AI in Youth Mental Health Apps: Rapid Review)
Fuentes para profundizar
- Ministerio de Sanidad - Decálogo de recomendaciones para profesionales en la comunicación responsable sobre el suicidio
- OMS - Preventing suicide: a resource for media professionals, update 2023
- OMS - WHO issues first global report on AI in health and six guiding principles
- OMS - WHO releases AI ethics and governance guidance for large multi-modal models
- Normativa y evidencia de esta web, con su fecha de revisión y su cautela
- Ayuda urgente: recursos de crisis
Más: guías prácticas · situaciones · normativa y evidencia.