Chatbot de PsicologíaQué debe cumplir una herramienta de IA que usen profesionales de la salud mental
Aviso: Información general y divulgativa: no sustituye la atención de un profesional sanitario ni es consejo clínico, diagnóstico o tratamiento. Ante dudas sobre tu salud o la de otra persona, consulta con tu médico de familia o con un psicólogo colegiado.
| Para quién | Para psicólogos, psiquiatras, médicos, trabajadores sociales y responsables de centros que estudian usar un asistente de IA con pacientes o en su gestión y quieren una lista de comprobaciones antes de decidir. |
|---|---|
| Tiempo estimado | Unas dos o tres horas para la revisión inicial, más el tiempo de consulta con el delegado de protección de datos o asesoría jurídica |
| Tema | Profesionales y educación |
| Categoría | Profesionales, periodismo y salud |
Paso a paso
- Define con precisión para qué la usarías
Escribe el uso previsto en una frase: tareas administrativas, redacción de materiales, apoyo entre sesiones o algo que toque información clínica. De esa finalidad dependen las obligaciones. Según la guía MDCG 2019-11, el software es producto sanitario si procesa, analiza o crea información con una finalidad médica prevista, y el riesgo de daño no es criterio para decidirlo. Un uso meramente administrativo no entra en ese ámbito, pero uno que informe decisiones diagnósticas o terapéuticas puede hacerlo y requerir marcado y evaluación específicos. - Identifica si se tratarán datos de salud
El artículo 9.1 del RGPD prohíbe el tratamiento de datos relativos a la salud salvo que se cumpla alguna excepción del 9.2, por ejemplo el consentimiento explícito del interesado. Si introduces información de pacientes en la herramienta, aunque sea parcialmente, necesitas base legal, contrato con el proveedor, información clara al paciente y medidas de seguridad. Pregunta si los textos se usan para entrenar el modelo, dónde se almacenan y quién es el responsable. La OMS advierte además de vulnerabilidades de ciberseguridad que amenazan la información de los pacientes. - Valora si procede una evaluación de impacto
El artículo 35 del RGPD obliga a realizar, antes del tratamiento, una evaluación de impacto cuando haya probablemente un alto riesgo, y la exige en particular para el tratamiento a gran escala de categorías especiales de datos. No cualquier consulta lo supone, pero un centro que adopte una herramienta para muchos pacientes debería plantearlo con su delegado de protección de datos. Documenta tu razonamiento aunque concluyas que no hace falta: es una prueba de diligencia que podrás mostrar a la AEPD si te lo piden. - Comprueba la transparencia hacia las personas usuarias
El artículo 50.1 del Reglamento (UE) 2024/1689 dispone que los sistemas de IA diseñados para interactuar directamente con personas las informen de que interactúan con una IA, salvo que sea evidente. Exige además que el contenido sintético esté marcado de forma legible por máquina (art. 50.2), aunque el calendario de esa obligación puede cambiar por el Digital Omnibus. Verifica que la herramienta lo informa y que tú se lo dices a tus pacientes. Si el sistema pudiera manipular o explotar vulnerabilidades por edad o situación, los artículos 5.1.a y 5.1.b lo prohíben. - Verifica menores, evidencia y límites declarados
Si atiendes a menores, recuerda que en España el consentimiento propio de un menor para el tratamiento de datos requiere más de catorce años (LOPDGDD, art. 7) y que la AEPD pide supervisión de los menores ante chatbots. Pide al proveedor evidencia de eficacia y seguridad: las revisiones disponibles señalan resultados heterogéneos, intervalos amplios y falta de evaluación estandarizada de efectos adversos. El Consejo General de la Psicología advierte de dificultades de estos sistemas para reconocer señales de alto riesgo, así que nunca dependas de ellos para detectar una crisis. - Documenta, forma al equipo y revisa
Deja por escrito la decisión: finalidad, base legal, proveedor, medidas de seguridad, información dada a los pacientes y quién supervisa. El artículo 4 del Reglamento de IA pide medidas de alfabetización en IA para el personal que opera estos sistemas, también un buen criterio profesional ante el sesgo de automatización que menciona la OMS. Programa una revisión periódica, porque el Reglamento de IA es aplicable en general desde agosto de 2026 y el acuerdo del Digital Omnibus de mayo de 2026 podría modificar fechas. Consulta a tu colegio profesional.
Qué esperar
Un buen resultado es un expediente de evaluación breve que muestre que has hecho las preguntas adecuadas y que podrás enseñar a un paciente, a tu colegio o a la autoridad de protección de datos. No garantiza que la herramienta cumpla todo, pero ordena la decisión y detecta pronto lo que falta. A veces la conclusión razonable será no usarla.
Cómo comprobarlo
- Contrasta cada obligación citada con el texto oficial del RGPD, de la LOPDGDD y del Reglamento (UE) 2024/1689.
- Pide al proveedor sus respuestas por escrito y comprueba que coinciden con su política de privacidad publicada.
- Consulta al delegado de protección de datos o a asesoría jurídica antes de introducir cualquier dato de pacientes.
- Revisa en fuentes oficiales si el calendario del Reglamento de IA ha cambiado desde la fecha de esta guía.
Errores comunes
- Pegar datos de pacientes en una herramienta pública sin base legal ni contrato.
- Confundir una herramienta de uso general con un producto sanitario evaluado.
- No informar a los pacientes de que interviene un sistema de IA.
- Fiarse de la IA para detectar riesgo de suicidio en lugar de la valoración profesional.
Riesgos y límites
Esta pieza no es asesoramiento jurídico ni deontológico. Aplicar el RGPD, el Reglamento de IA o la normativa de productos sanitarios a una herramienta concreta exige análisis caso por caso y fuentes actualizadas. El acuerdo del Digital Omnibus de mayo de 2026 es provisional y no se ha verificado su publicación final. La responsabilidad clínica sigue siendo del profesional y ninguna herramienta la sustituye. Si tú o alguien de tu entorno atraviesa un momento de crisis: «No estás solo/a. Si necesitas apoyo emocional por ideación suicida, llama al 024. En caso de emergencia contacta con el 112».
Información general, no consejo clínico: esta página no sustituye a un profesional ni valora tu caso. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 h) o al 112 en una emergencia. Para valorar cómo te sientes, acude a tu médico de familia o centro de salud o a un psicólogo colegiado. Las normas cambian: más en Normativa y evidencia.
Preguntas frecuentes
¿Una herramienta de IA para psicólogos es siempre producto sanitario?
No. Según la guía MDCG 2019-11, depende de la finalidad médica prevista que declare el fabricante. El software con fines no médicos queda fuera de los reglamentos de productos sanitarios. Conviene pedir al proveedor su declaración de finalidad por escrito.
¿Puedo introducir datos de mis pacientes si anonimizo el nombre?
No basta con quitar el nombre si la persona sigue siendo identificable por el contexto. Los datos de salud son categoría especial del RGPD. Consulta a tu delegado de protección de datos antes de usar cualquier herramienta con información clínica.
¿Debo avisar a mis pacientes de que uso una herramienta de IA?
Por transparencia y por la normativa de protección de datos, sí conviene informarles del uso, su finalidad y sus límites. El Reglamento de IA, en su artículo 50, prevé informar de que se interactúa con una IA cuando el sistema habla directamente con personas.
Guías prácticas relacionadas
Datos con fuente relacionados
Hechos verificados del tema que se relacionan con esta pieza; cada uno tiene su fuente, su fecha y su cautela.
- La OMS señala entre los riesgos de los LMM en salud los datos de entrenamiento de mala calidad o sesgados, el sesgo de automatización de los profesionales y las vulnerabilidades de ciberseguridad que amenazan la información de los pacientes. (ver el dato psi-016 · OMS - WHO releases AI ethics and governance guidance for large multi-modal models)
- Art. 5.1.f: prohíbe los sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, salvo que estén destinados a ser instalados o introducidos en el mercado por motivos médicos o de seguridad. (ver el dato psi-030 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
- Consejo General de la Psicología de España (nota de 29 de junio de 2026): la ciencia psicológica debe integrarse en el desarrollo de la IA conversacional desde las primeras fases de diseño; señala que los sistemas actuales tienen dificultades para reconocer señales de alto riesgo psicológico o responder a situaciones de malestar como la ideación suicida. Cautela: Leído en el canal informativo Infocop del Consejo General; resumen del contenido, no el posicionamiento íntegro. (ver el dato psi-048 · Infocop (Consejo General de la Psicología de España) - Urge integrar la ciencia psicológica en el desarrollo de la IA conversacional)
Fuentes para profundizar
- OMS - Over a billion people living with mental health conditions
- JMIR Mental Health (2026), Generative AI in Youth Mental Health Apps: Rapid Review
- OMS - WHO releases AI ethics and governance guidance for large multi-modal models
- FDA - DHAC Meeting Brief Summary, Generative AI-Enabled Digital Mental Health Medical Devices
- Normativa y evidencia de esta web, con su fecha de revisión y su cautela
- Ayuda urgente: recursos de crisis
Sigue aprendiendo
- Lista de comprobación antes de usar un chatbot de bienestar emocional
- Normativa y evidencia: hechos con fuente y fecha