Centro educativo que quiere ofrecer una herramienta de bienestar al alumnado

Para quién: Equipos directivos, orientadores, docentes, responsables de convivencia y delegados de protección de datos de colegios e institutos que estudian incorporar o regular una herramienta digital de bienestar emocional para su alumnado.

Qué conviene saber en esta situación

Una empresa os ofrece un chatbot de bienestar gratuito

Antes de aceptar, pregunta quién es el responsable del tratamiento, qué datos recoge, dónde se conservan y si se reutilizan para entrenar modelos. Piden consentimiento de las familias y del alumnado según la edad. La Comisión Europea recomienda salvaguardas en los chatbots integrados en plataformas dirigidas a menores. La gratuidad no exime de evaluar riesgos; conviene documentar la decisión y pedir informe a quien asesora en protección de datos.

Queréis detectar el estado de ánimo del alumnado

Inferir emociones de las personas en centros educativos está prohibido por el Reglamento de IA, salvo motivos médicos o de seguridad (art. 5.1.f). Eso afecta a herramientas que analicen voz, rostro o escritura para deducir emociones del alumnado. Antes de adoptar nada con esa función, consulta a asesoría jurídica. Una herramienta de uso voluntario que no infiere emociones es otro supuesto, y requiere igualmente análisis.

Se plantea que el chatbot sustituya al orientador

Un chatbot no puede reemplazar a un orientador, a un psicólogo colegiado ni a la atención sanitaria. El Consejo General de la Psicología advierte de que los sistemas actuales tienen dificultades con las señales de alto riesgo. Cualquier herramienta debería quedar como complemento opcional, con protocolo humano claro, y nunca ser la única vía para que el alumnado exprese su malestar en el centro.

Alumnado de distintas edades usando la misma herramienta

El consentimiento no es igual para todos. Según la LOPDGDD (art. 7), el menor puede consentir el tratamiento de sus datos desde los catorce años; por debajo, lo hace quien ejerce la patria potestad o tutela. Distingue por tramos de edad, informa con lenguaje comprensible y recuerda que la AEPD indica que un chatbot no es un juguete y no debe usarse por menores sin supervisión.

Una familia pregunta qué datos se recogen

Tener preparada una respuesta clara genera confianza. Explica qué herramienta es, qué hace y qué no, qué datos recoge, quién los ve, durante cuánto tiempo y cómo ejercer derechos. Informa también de que es una IA y de que no sustituye a ningún profesional. Ofrece un canal humano, como el tutor o el orientador, para dudas y para retirar la participación sin consecuencias.

El alumnado escribe algo que indica riesgo

Prevé qué ocurre si una conversación sugiere autolesión o ideación suicida. El centro debe contar con un protocolo humano que no dependa de la herramienta, conocido por el profesorado, con derivación a las familias y al sistema sanitario. Recuerda el 024 para apoyo ante conducta suicida y el 112 para emergencias. Hablar del tema con cuidado no incita a ello, según el Ministerio de Sanidad.

Primeros pasos

1. Aclara la necesidad antes de elegir herramienta: qué problema de bienestar se quiere atender y si hay alternativas humanas o de menor riesgo, como tutorías, programas de convivencia o refuerzo de la orientación. Una herramienta digital debería responder a una necesidad documentada.
2. Implica desde el principio al delegado de protección de datos, a la dirección y al consejo escolar. Valora una evaluación de impacto (RGPD, art. 35) si hay tratamiento de datos de salud a gran escala, y revisa contratos, ubicación de los datos y reutilización de conversaciones.
3. Informa a las familias y al alumnado con lenguaje claro: qué es, qué no es, quién lo ve y cómo se retira la participación. Diferencia por edades según la LOPDGDD y asegura que participar sea voluntario y no tenga consecuencias académicas.
4. Redacta un protocolo humano de actuación ante señales de riesgo, con responsables, pasos y derivación al sistema sanitario, que funcione aunque la herramienta falle. Incluye el 024, el 112 y el contacto del centro de salud de referencia.
5. Forma al profesorado y revisa periódicamente. El Reglamento de IA (art. 4) pide alfabetización en IA al personal que opera estos sistemas. Evalúa con cierta periodicidad, escucha al alumnado y estate dispuesto a retirar la herramienta si los riesgos superan los beneficios.

Riesgos y errores a evitar

• Recoger datos íntimos de menores multiplica la responsabilidad del centro. Los datos de salud son categoría especial del RGPD y un fallo de seguridad o una reutilización indebida pueden tener consecuencias serias para el alumnado y para el centro.
• Una herramienta que infiera emociones del alumnado puede incurrir en una práctica prohibida en centros educativos por el Reglamento de IA, salvo motivos médicos o de seguridad. Verifica con asesoría jurídica qué hace exactamente cada función antes de contratarla o ofrecerla.
• Delegar el bienestar en una herramienta puede ocultar necesidades que requieren personas. La evidencia sobre estos sistemas en jóvenes es limitada, con base pequeña y sin evaluar bien los efectos adversos. Nunca debe sustituir a orientación, familias ni atención sanitaria.
• Actuad con rapidez ante señales de riesgo: avisad a la familia, al equipo de orientación y al sistema sanitario. Ante ideas de hacerse daño, el 024 ofrece apoyo las 24 horas; ante peligro inmediato, el 112. Documentad lo ocurrido respetando la confidencialidad.

Normativa y recursos a tener en cuenta

Aplican el RGPD (art. 8 sobre consentimiento de menores, art. 9 sobre datos de salud y art. 35 sobre evaluación de impacto) y la LOPDGDD (art. 7, catorce años). El Reglamento de IA prohíbe inferir emociones en centros educativos salvo motivos médicos o de seguridad (art. 5.1.f) y exige transparencia (art. 50) y alfabetización (art. 4). Las directrices de la Comisión sobre menores y la AEPD aportan criterios. Información general, no asesoramiento jurídico.

Resumen general en Normativa y evidencia.

Información general, no consejo clínico: esta página no sustituye a un profesional ni valora tu caso. Si estás en crisis o piensas en hacerte daño, llama al 024 (gratuito, 24 h) o al 112 en una emergencia. Para valorar cómo te sientes, acude a tu médico de familia o centro de salud o a un psicólogo colegiado. Las normas cambian: más en Normativa y evidencia.

Preguntas frecuentes

Guías prácticas relacionadas

Datos con fuente relacionados

Hechos verificados del tema que se relacionan con esta pieza; cada uno tiene su fuente, su fecha y su cautela.

• Consejo General de la Psicología de España (nota de 29 de junio de 2026): la ciencia psicológica debe integrarse en el desarrollo de la IA conversacional desde las primeras fases de diseño; señala que los sistemas actuales tienen dificultades para reconocer señales de alto riesgo psicológico o responder a situaciones de malestar como la ideación suicida. Cautela: Leído en el canal informativo Infocop del Consejo General; resumen del contenido, no el posicionamiento íntegro. (ver el dato psi-048 · Infocop (Consejo General de la Psicología de España) - Urge integrar la ciencia psicológica en el desarrollo de la IA conversacional)
• La OMS señala entre los riesgos de los LMM en salud los datos de entrenamiento de mala calidad o sesgados, el sesgo de automatización de los profesionales y las vulnerabilidades de ciberseguridad que amenazan la información de los pacientes. (ver el dato psi-016 · OMS - WHO releases AI ethics and governance guidance for large multi-modal models)
• Art. 5.1.f: prohíbe los sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, salvo que estén destinados a ser instalados o introducidos en el mercado por motivos médicos o de seguridad. (ver el dato psi-030 · Reglamento (UE) 2024/1689 (texto oficial en español, Oficina de Publicaciones de la UE))

Fuentes para profundizar

• BOE - Ley Orgánica 3/2018 (LOPDGDD)
• Comisión Europea - Guidelines on protection of minors (DSA art. 28)
• AEPD - Recomendaciones para usuarios en la utilización de chatbots con inteligencia artificial
• OMS - WHO issues first global report on AI in health and six guiding principles
• Normativa y evidencia de esta web, con su fecha de revisión y su cautela
• Ayuda urgente: recursos de crisis

Más en este tema

• Guía práctica Qué pueden hacer docentes y orientadores ante el uso de chatbots por parte del alumnado
• Guía práctica Qué debe cumplir una herramienta de IA que usen profesionales de la salud mental
• Explicación La postura de los colegios de psicología ante la inteligencia artificial