Chatbot de PsicologíaEl Reglamento europeo de IA y los chatbots que hablan contigo
Una norma general, no específica de salud mental
Aviso: esta guía es información general, no sustituye la atención profesional y no es consejo clínico. No estás solo/a. Si necesitas apoyo emocional por ideación suicida, llama al 024. En caso de emergencia contacta con el 112. También puedes acudir a tu médico de familia o centro de salud, o a un psicólogo colegiado.
El Reglamento (UE) 2024/1689, conocido como Reglamento de IA, es la norma europea que regula los sistemas de inteligencia artificial según su riesgo. No es una ley de salud mental ni habla de psicología en particular: fija reglas generales que afectan también a los chatbots que conversan sobre emociones.
Para quien usa un chatbot, interesan dos bloques: la obligación de transparencia, que pide que sepas que interactúas con una máquina, y las prácticas prohibidas, que vetan ciertos usos manipuladores o abusivos. Esta guía es informativa y no constituye asesoramiento jurídico.
Artículo 50.1: saber que hablas con una IA
El artículo 50.1 establece que los proveedores deben diseñar los sistemas de IA destinados a interactuar directamente con personas de modo que estas estén informadas de que interactúan con un sistema de IA. La excepción es que resulte evidente para una persona razonablemente informada, atenta y perspicaz.
En un chatbot de bienestar emocional, esto significa que no debería hacerse pasar por una persona ni dejar dudas sobre su naturaleza. Es una garantía básica: saber con quién hablas condiciona cuánto confías en lo que oyes. Si un servicio se presenta con nombre y rostro humanos y nunca aclara que es una máquina, merece sospecha. Así, una conversación con una IA debe distinguirse claramente de una conversación con una persona, especialmente cuando se tratan asuntos íntimos o se pide consuelo.
Artículo 50.2: contenido generado y marcado
El artículo 50.2 pide a los proveedores de sistemas que generan contenido sintético de audio, imagen, vídeo o texto que velen por que los resultados estén marcados en formato legible por máquina y sea posible detectar que se han generado o manipulado artificialmente.
Es una regla técnica que persigue combatir la desinformación y las suplantaciones, y no equivale a que cada mensaje lleve una etiqueta visible para ti. Importa para la salud mental porque ayuda a distinguir material generado de material humano, por ejemplo en voces o imágenes. La fecha concreta de aplicación de este apartado es una de las que podrían haberse modificado. Si dudas, pregunta directamente al servicio si es una IA: una respuesta evasiva o contradictoria es motivo suficiente para desconfiar del resto.
Prácticas prohibidas: manipulación
El artículo 5.1.a prohíbe los sistemas que usen técnicas subliminales o deliberadamente manipuladoras o engañosas que alteren sustancialmente el comportamiento de una persona, mermando su capacidad de decisión informada y provocando, o siendo razonablemente probable que provoquen, perjuicios considerables.
Piensa en un servicio diseñado para que no puedas dejarlo, con mensajes que explotan la soledad para retenerte. Que una práctica concreta encaje o no en esta prohibición solo puede decidirse con análisis jurídico caso por caso y no basta con la impresión del usuario. Pero la norma muestra la dirección: la manipulación que perjudica de forma considerable está vetada. La prohibición no depende de que el sistema tenga mala intención declarada, sino de la técnica empleada y del perjuicio considerable que provoque o sea razonablemente probable que provoque.
Prácticas prohibidas: vulnerabilidades y emociones
El artículo 5.1.b prohíbe explotar las vulnerabilidades de una persona o colectivo derivadas de su edad, discapacidad o situación social o económica específica para alterar sustancialmente su comportamiento con perjuicios considerables. Afecta de modo evidente a menores y a personas en situaciones frágiles.
El artículo 5.1.f prohíbe, además, los sistemas de IA que infieran las emociones de una persona en los lugares de trabajo y en los centros educativos, salvo por motivos médicos o de seguridad. Un chatbot que consulta una persona por su cuenta no es lo que esta regla describe, pero sí fija un límite claro al análisis emocional en entornos donde existe una relación de poder. Se trata de una norma de interpretación estricta, de modo que no debe usarse como etiqueta para cualquier mal diseño, pero sí como referencia de lo que Europa considera inaceptable.
El calendario: fechas y cautela
Según su texto original de 2024, el Reglamento se aplica con carácter general desde el 2 de agosto de 2026, los capítulos I y II, incluidos los artículos 4 y 5, desde el 2 de febrero de 2025, y el artículo 6.1 y sus obligaciones desde el 2 de agosto de 2027.
Pero el calendario está en revisión. El 7 de mayo de 2026 la Comisión Europea comunicó un acuerdo sobre el Digital Omnibus de IA, con reglas de alto riesgo aplicables desde el 2 de diciembre de 2027 o el 2 de agosto de 2028 según el caso. Es un acuerdo provisional, y no se ha verificado cómo afecta a los artículos 4 y 50. Se mencionan aplazamientos del 50.2 que no constan en fuente oficial, así que antes de dar una fecha por segura, consulta el texto vigente.
Qué puedes hacer tú con esta información
No tienes que aprenderte los artículos; basta con tres comprobaciones. Que el servicio te diga con claridad que es una IA. Que no te presione ni te manipule para seguir usándolo. Y que identifique a su responsable, algo imprescindible si quisieras reclamar.
Si crees que un servicio incumple estas reglas, puedes buscar asesoramiento jurídico o acudir a las autoridades competentes. Y, sobre todo, recuerda que cumplir la norma no convierte al chatbot en un recurso clínico. Ante malestar persistente, consulta con tu médico de familia o con un psicólogo colegiado, y, si piensas en hacerte daño, llama al 024. Estas comprobaciones llevan un minuto y te dan un criterio propio, sin necesidad de ser experto, para decidir si un servicio merece tu confianza para temas delicados.
Información general, no consejo clínico: esta página no sustituye a un profesional ni valora tu caso. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 h) o al 112 en una emergencia. Para valorar cómo te sientes, acude a tu médico de familia o centro de salud o a un psicólogo colegiado. Las normas cambian: más en Normativa y evidencia.
Preguntas frecuentes
¿Tiene que decirme un chatbot que es una máquina?
Según el artículo 50.1, los proveedores deben diseñar el sistema para que sepas que interactúas con una IA, salvo que sea evidente para una persona razonablemente informada, atenta y perspicaz.
¿Está prohibido que un chatbot manipule emocionalmente?
El artículo 5.1 prohíbe las técnicas manipuladoras o engañosas que alteren sustancialmente el comportamiento y causen perjuicios considerables. Si un caso concreto encaja exige un análisis jurídico.
¿Ya se aplican todas estas reglas?
Las prohibiciones del artículo 5 se aplican desde febrero de 2025. El resto tiene un calendario sujeto al Omnibus, todavía no verificado en texto final; conviene comprobar la norma vigente.
Explicaciones relacionadas
- Cuándo una aplicación es producto sanitario: regla 11 y MDCG: Qué hace que un programa sea producto sanitario en la UE, qué dicen la regla 11 y la guía MDCG 2019-11, y por qué importa a quien usa un chatbot emocional.
- Datos de salud y RGPD: qué significa «categoría especial»: Por qué el RGPD protege de forma reforzada los datos de salud, qué es el consentimiento explícito y qué cambia cuando los cuentas a un chatbot.
Datos con fuente relacionados
Hechos verificados del tema que se relacionan con esta pieza; cada uno tiene su fuente, su fecha y su cautela.
- Art. 5.1.a: prohíbe sistemas de IA que usen técnicas subliminales o deliberadamente manipuladoras o engañosas que alteren sustancialmente el comportamiento de una persona, mermando su capacidad de decisión informada y provocando o siendo razonablemente probable que provoquen perjuicios considerables. (ver el dato psi-028 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
- El 7 de mayo de 2026 la Comisión Europea comunicó el acuerdo sobre el Digital Omnibus de IA: las reglas de alto riesgo se aplicarían desde el 2 de diciembre de 2027 (sistemas autónomos en ámbitos como biometría, educación o empleo) y el 2 de agosto de 2028 (sistemas integrados en productos). Cautela: Acuerdo provisional según la Comisión; no se pudo verificar la publicación final en el DOUE ni su efecto sobre arts. 4 y 50. Fuentes secundarias mencionan un aplazamiento del art. 50.2 hasta el 2-12-2026, no verificado en fuente oficial. Revisar antes de publicar. (ver el dato psi-033 · Comisión Europea - EU agrees to simplify AI rules (Digital Omnibus))
- Reglamento (UE) 2024/1689, art. 50.1: los proveedores garantizarán que los sistemas de IA destinados a interactuar directamente con personas físicas se diseñen de modo que estas estén informadas de que interactúan con un sistema de IA, salvo que resulte evidente para una persona razonablemente informada, atenta y perspicaz. (ver el dato psi-026 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))
Fuentes para profundizar
- Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE)
- Reglamento (UE) 2017/745 (texto oficial en español)
- Comisión Europea - EU agrees to simplify AI rules (Digital Omnibus)
- AEPD - Recomendaciones para usuarios en la utilización de chatbots con inteligencia artificial
- Normativa y evidencia de esta web, con su fecha de revisión y su cautela
- Ayuda urgente: recursos de crisis
Más: guías prácticas · situaciones · normativa y evidencia.