Chatbot de PsicologíaNormativa y derechos
Los chatbots que hablan de salud mental se mueven entre varias normas: el Reglamento europeo de inteligencia artificial, que exige informar a la persona de que habla con un sistema automático y prohíbe ciertas prácticas, la normativa de protección de datos y la de productos sanitarios, que depende de la finalidad médica que declare el fabricante. Este tema agrupa las guías y explicaciones que resumen ese marco en lenguaje sencillo, y enlaza cada afirmación con su hecho verificado.
La normativa cambia, y también sus calendarios de aplicación; por eso cada dato indica la fecha de la fuente, la fecha de nuestra revisión y una cautela cuando procede. Lo que aquí se resume es información general, no asesoramiento jurídico: para saber qué obliga a una herramienta concreta, hay que acudir a la fuente oficial o a un profesional del derecho.
Saber qué dice la norma puede ayudarte a hacer mejores preguntas a una aplicación, pero no convierte a ningún chatbot en un tratamiento ni en un servicio de ayuda en crisis. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 horas) o al 112 en una emergencia, y para valorar cómo te sientes acude a tu médico de familia o a un psicólogo colegiado.
Por dónde empezar
Orden de lectura recomendado: cada pieza termina con un enlace a la siguiente.
- Guía práctica Qué dice la normativa sobre IA y salud mental
Mapa sencillo de la normativa europea y española que afecta a los chatbots de salud mental: Reglamento de IA, RGPD y productos sanitarios, con… - Explicación El Reglamento europeo de IA y los chatbots que hablan contigo
Qué exigen el artículo 50 y las prácticas prohibidas del Reglamento (UE) 2024/1689 a un chatbot, y por qué el calendario exige cautela con el Omnibus. - Explicación Los seis principios de la OMS sobre inteligencia artificial y salud
Explicación de los seis principios éticos de la OMS para la IA en salud y cómo usarlos como preguntas al evaluar un chatbot emocional.
Guías prácticas
Qué hacer y qué comprobar, paso a paso.
Explicaciones
Qué dicen la evidencia y la norma, con sus fuentes.
Datos con fuente relacionados
Hechos verificados de la sección de datos, cada uno con su fuente, su fecha de revisión y su cautela.
- Reglamento (UE) 2024/1689, art. 50.1: los proveedores garantizarán que los sistemas de IA destinados a interactuar directamente con personas físicas se diseñen de modo que estas estén informadas de que interactúan con un sistema de IA, salvo que resulte evidente para una persona razonablemente informada, atenta y perspicaz. (ver el dato psi-026 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
- Art. 5.1.a: prohíbe sistemas de IA que usen técnicas subliminales o deliberadamente manipuladoras o engañosas que alteren sustancialmente el comportamiento de una persona, mermando su capacidad de decisión informada y provocando o siendo razonablemente probable que provoquen perjuicios considerables. (ver el dato psi-028 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
- Art. 5.1.b: prohíbe sistemas de IA que exploten vulnerabilidades de una persona o colectivo derivadas de su edad, discapacidad o situación social o económica específica, para alterar sustancialmente su comportamiento de un modo que provoque o sea razonablemente probable que provoque perjuicios considerables. Cautela: Su aplicación a un chatbot concreto exige un análisis jurídico caso por caso. (ver el dato psi-029 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
- Art. 113: el Reglamento (UE) 2024/1689 es aplicable con carácter general desde el 2 de agosto de 2026; los capítulos I y II (incluidos los arts. 4 y 5) desde el 2 de febrero de 2025; y el art. 6.1 y sus obligaciones desde el 2 de agosto de 2027. Cautela: Texto original de 2024; puede haber sido modificado por el Digital Omnibus. (ver el dato psi-032 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
- El 7 de mayo de 2026 la Comisión Europea comunicó el acuerdo sobre el Digital Omnibus de IA: las reglas de alto riesgo se aplicarían desde el 2 de diciembre de 2027 (sistemas autónomos en ámbitos como biometría, educación o empleo) y el 2 de agosto de 2028 (sistemas integrados en productos). Cautela: Acuerdo provisional según la Comisión; no se pudo verificar la publicación final en el DOUE ni su efecto sobre arts. 4 y 50. Fuentes secundarias mencionan un aplazamiento del art. 50.2 hasta el 2-12-2026, no verificado en fuente oficial. Revisar antes de publicar. (ver el dato psi-033 · Comisión Europea - EU agrees to simplify AI rules (Digital Omnibus))
- La OMS publicó el 28 de junio de 2021 la guía «Ethics and governance of artificial intelligence for health» con seis principios: proteger la autonomía humana; promover el bienestar, la seguridad y el interés público; garantizar transparencia, explicabilidad e inteligibilidad; fomentar la responsabilidad y la rendición de cuentas; garantizar inclusión y equidad; promover una IA receptiva y sostenible. (ver el dato psi-013 · OMS - WHO issues first global report on AI in health and six guiding principles)
- Reglamento (UE) 2017/745, anexo VIII, regla 11: el software destinado a proporcionar información para tomar decisiones con fines terapéuticos o de diagnóstico se clasifica en clase IIa (o superior si las decisiones pueden causar deterioro grave o muerte); el resto del software, en clase I. (ver el dato psi-039 · Reglamento (UE) 2017/745 (texto oficial en español))
- Según la guía MDCG 2019-11, no todo el software usado en el ámbito sanitario es producto sanitario: lo es el que procesa, analiza o crea información con una finalidad médica prevista; el software con fines no médicos no entra en el ámbito de los reglamentos de productos sanitarios. Cautela: La cualificación depende de la finalidad prevista declarada por el fabricante; la guía fue revisada en 2025 y aquí se leyó la versión de octubre de 2019. (ver el dato psi-040 · MDCG 2019-11 (Comisión Europea))
- La guía MDCG 2019-11 indica que el riesgo de daño asociado al uso del software no es un criterio para decidir si es o no producto sanitario. (ver el dato psi-041 · MDCG 2019-11 (Comisión Europea))
Términos del glosario
Reglamento de IA Sistema de IA Producto sanitario Transparencia Manipulación Inferencia de emociones RGPD Evaluación de impacto
Información general, no consejo clínico: esta página no sustituye a un profesional ni valora tu caso. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 h) o al 112 en una emergencia. Para valorar cómo te sientes, acude a tu médico de familia o centro de salud o a un psicólogo colegiado. Las normas cambian: más en Normativa y evidencia.
Preguntas frecuentes
¿Tiene que avisarme un chatbot de que no es una persona?
El Reglamento europeo de IA establece que los sistemas destinados a interactuar con personas deben informar de que se trata de un sistema de IA, salvo excepciones. El hecho correspondiente indica el artículo y su calendario de aplicación.
¿Es un chatbot de bienestar emocional un producto sanitario?
Depende de la finalidad médica prevista que declare el fabricante, no del riesgo que suponga. Las guías explican el criterio y cómo comprobarlo, sin dar por sentado el caso de una aplicación concreta.
¿Dónde compruebo si una norma ha cambiado?
En la fuente oficial. Esta web anota en Novedades los cambios que detecta y marca con una cautela los datos que remiten a desarrollos posteriores, pero no sustituye al texto vigente.