Cómo reconocer cuándo la respuesta de un chatbot no es fiable

Paso a paso

1. Parte de una idea: sonar bien no es tener razón
   Los chatbots escriben con soltura, y esa soltura se confunde con conocimiento. La AEPD indica que no hay garantías de que la información sea correcta y que, según el sistema, puede producir daño emocional, desinformación o inducir a engaño. La OMS añade que pueden darse declaraciones falsas, inexactas, sesgadas o incompletas. Antes de leer cualquier respuesta, recuerda este punto de partida: es un texto generado, no el criterio de un profesional que te conoce y asume responsabilidad por lo que dice.
2. Detecta la sobreconfianza en el tono
   Desconfía de las respuestas que no admiten matices: certezas sobre cosas que dependen de cada persona, frases tajantes sobre qué te ocurre, o explicaciones únicas para algo complejo. Un contenido fiable suele distinguir lo que se sabe de lo que no, y reconoce sus límites. Si el chatbot jamás dice «no lo sé» o «depende», o si cambia de postura cuando insistes, anótalo. La seguridad en la forma no aporta ninguna información sobre la exactitud del fondo, y a veces ocurre al revés.
3. Busca datos, fuentes y nombres que no puedas comprobar
   Si la respuesta cita estudios, organismos, leyes o cifras, apártalos y busca cada uno por separado en la fuente original. Una referencia que no aparece, que no dice lo que se afirma o que no tiene fecha es una señal de alarma. Esto vale especialmente para porcentajes y para frases como «según la ciencia». Cuando no puedas comprobar un dato, trátalo como si no existiera y no lo repitas a otras personas como cierto.
4. Fíjate en lo que afirma sobre ti
   Una respuesta que te atribuye un estado, un trastorno o una causa a partir de unos pocos mensajes está yendo más allá de lo que puede saber. El Consejo General de la Psicología de España señala que los sistemas actuales tienen dificultades para reconocer señales de alto riesgo psicológico y para responder a situaciones de malestar. Un chatbot no puede explorarte, observarte ni conocer tu historia. Toma sus frases sobre ti como hipótesis ajenas, nunca como un resultado sobre quién eres.
5. Contrasta con una segunda fuente adecuada
   Para cualquier afirmación que pueda influir en una decisión, busca una fuente primaria o institucional: organismos públicos de sanidad, sociedades científicas o tu centro de salud. Compara también la respuesta con otra formulación de la misma pregunta: si cambian los hechos de una a otra, la fiabilidad es baja. Es útil preguntar al propio chatbot qué datos le faltan, pero esa respuesta tampoco es una verificación. La contrastación se hace fuera de la conversación.
6. Decide cuándo no actuar sin hablar con una persona
   Hay respuestas que no deben guiar ningún paso por sí solas: las que afectan a medicación, a decisiones vitales, a relaciones importantes, o las que aparecen en un momento de mucho malestar. Si dudas, guarda la duda y llévala a tu médico de familia, a tu centro de salud o a un psicólogo colegiado. Una respuesta poco fiable en un día malo pesa más. Si estás en crisis, deja de consultar el chat y llama al 024 o, en emergencia, al 112.

Qué esperar

Un desglose de la respuesta original en hechos comprobables y generalizaciones, con una orientación sobre dónde contrastar cada cosa. El asistente de revisión puede cometer los mismos errores que el chatbot revisado, así que su trabajo es una guía de lectura y no una verificación.

Cómo comprobarlo

• Busca cada dato, estudio o norma que aparezca en la respuesta en la web del organismo o de la publicación original, y comprueba fecha y contenido.
• Repite la pregunta con otras palabras y compara: si las respuestas se contradicen, no te fíes de ninguna.
• Lleva a tu médico de familia o a un psicólogo colegiado cualquier afirmación que pueda afectar a una decisión importante.
• Comprueba si el chatbot admite límites o si responde siempre con la misma seguridad, incluso ante preguntas imposibles de responder sin conocerte.

Errores comunes

• Dar por válida una respuesta porque está bien escrita, es amable o coincide con lo que uno esperaba oír.
• Pedirle al chatbot que confirme su propia respuesta y tomar esa confirmación como contraste.
• Compartir con otras personas una cifra o un estudio citado por el chatbot sin haberlo localizado antes.
• Aceptar una etiqueta sobre uno mismo, como si fuera un diagnóstico, a partir de una conversación.

Riesgos y límites

Esta guía es información general y no sustituye la valoración de un profesional sanitario. Ninguna lista de señales detecta todos los errores: una respuesta puede ser incorrecta sin presentar ninguna de ellas, y una respuesta con alguna de ellas puede ser acertada. La evidencia sobre estos sistemas es limitada y heterogénea. No uses un chatbot para decidir sobre medicación, tratamientos o situaciones de riesgo. Si necesitas apoyo emocional por ideación suicida, llama al 024. En caso de emergencia contacta con el 112.

Información general, no consejo clínico: esta página no sustituye a un profesional ni valora tu caso. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 h) o al 112 en una emergencia. Para valorar cómo te sientes, acude a tu médico de familia o centro de salud o a un psicólogo colegiado. Las normas cambian: más en Normativa y evidencia.

Preguntas frecuentes

Guías prácticas relacionadas

Datos con fuente relacionados

Hechos verificados del tema que se relacionan con esta pieza; cada uno tiene su fuente, su fecha y su cautela.

• La guía de la OMS sobre LMM describe cinco usos en salud, entre ellos el uso guiado por el paciente (p. ej. investigar síntomas y tratamientos), y advierte del riesgo de declaraciones falsas, inexactas, sesgadas o incompletas que podrían perjudicar a las personas. (ver el dato psi-015 · OMS - WHO releases AI ethics and governance guidance for large multi-modal models)
• Una revisión sistemática y metaanálisis (npj Digital Medicine, 2023; 35 estudios, 15 ensayos aleatorizados en el metaanálisis, búsqueda hasta mayo de 2023) halló que los agentes conversacionales de IA redujeron síntomas de depresión (g de Hedges 0,64; IC 95 % 0,17-1,12) y malestar psicológico (g 0,7; IC 0,18-1,22), pero no mejoraron de forma significativa el bienestar psicológico general (g 0,32; IC -0,13 a 0,78). Cautela: Intervalos de confianza amplios, estudios heterogéneos y seguimiento limitado; no demuestra que cualquier chatbot funcione ni sustituye atención profesional. (ver el dato psi-021 · Li et al., npj Digital Medicine (2023))
• La OMS señala entre los riesgos de los LMM en salud los datos de entrenamiento de mala calidad o sesgados, el sesgo de automatización de los profesionales y las vulnerabilidades de ciberseguridad que amenazan la información de los pacientes. (ver el dato psi-016 · OMS - WHO releases AI ethics and governance guidance for large multi-modal models)

Fuentes para profundizar

• OMS - WHO issues first global report on AI in health and six guiding principles
• Abd-Alrazaq et al., Journal of Medical Internet Research (2020)
• BOE - Ley Orgánica 3/2018 (LOPDGDD)
• AEPD - Recomendaciones para usuarios en la utilización de chatbots con inteligencia artificial
• Normativa y evidencia de esta web, con su fecha de revisión y su cautela
• Ayuda urgente: recursos de crisis

Sigue aprendiendo

• Lista de comprobación antes de usar un chatbot de bienestar emocional
• Normativa y evidencia: hechos con fuente y fecha

Más en este tema

• Explicación Cómo funcionan los modelos de lenguaje y por qué se equivocan
• Guía práctica Cómo distinguir entre información, acompañamiento y tratamiento en salud mental
• Explicación Mitos y realidades sobre los «psicólogos de inteligencia artificial»