IA y diagnóstico precoz

La inteligencia artificial aplicada al TOC promete detectar patrones que la atención clínica suele ver tarde: lenguaje de duda, búsqueda de certeza, rituales digitales, evitación, cambios de sueño, señales de recaída y perfiles de riesgo. La promesa es atractiva porque muchas personas demoran años en recibir diagnóstico y tratamiento especializado. Sin embargo, el diagnóstico precoz no se logra solo con algoritmos; requiere que el sistema sepa qué hacer después de detectar una señal.

Revisiones recientes describen crecimiento de modelos de aprendizaje automático, aprendizaje profundo, procesamiento de lenguaje natural, neuroimagen computacional y fenotipado digital en TOC (Aardema, 2025); (Zhang et al., 2025). La mayoría de estos modelos sigue siendo exploratoria: funcionan en datos seleccionados, pero necesitan validación externa, evaluación de sesgos, pruebas prospectivas y comparación con evaluación humana.

En salud mental, la IA tiene una dificultad adicional: las etiquetas clínicas son imperfectas. Si un modelo aprende de historiales donde el TOC fue mal diagnosticado como ansiedad generalizada, depresión o personalidad obsesiva, puede reproducir errores. Si aprende de personas que llegaron a clínicas especializadas, puede no detectar a quienes no consultan por vergüenza, idioma, religión o pobreza. La calidad del modelo depende de la calidad y justicia de los datos.

El diagnóstico precoz tampoco debe confundirse con autoetiquetado automático. Un adolescente que busca compulsivamente síntomas en internet puede recibir un resultado de riesgo y convertirlo en otra fuente de duda. Una herramienta responsable debería decir "esto sugiere consultar" y ofrecer rutas de ayuda, no entregar certezas absolutas ni sustituir entrevista clínica. En TOC, la búsqueda de certeza es parte del problema; una IA mal diseñada puede convertirse en compulsión.

Las guías éticas de la OMS para IA en salud enfatizan autonomía, bienestar, transparencia, responsabilidad, inclusión y sostenibilidad (World Health Organization, 2021). En TOC, estos principios son concretos: consentimiento para datos sensibles, explicación de límites, protección de contenidos sexuales o agresivos, revisión humana, derivación segura y prohibición de usar modelos como vigilancia punitiva en escuela, trabajo o familia.

La utilidad clínica real puede estar menos en "diagnosticar TOC" y más en apoyar decisiones específicas: priorizar una derivación, alertar sobre recaída, sugerir preguntas de evaluación, detectar rituales mentales omitidos, resumir autorregistros, o ayudar a terapeutas a monitorear exposición entre sesiones. Estas funciones son modestas, pero potencialmente valiosas si reducen demora y mejoran continuidad.

Un ejemplo ilustra el equilibrio. Una aplicación escolar podría detectar que un estudiante tarda horas en entregar tareas, borra y reescribe compulsivamente, pide confirmación repetida y evita baños. Si el sistema solo etiqueta "alto riesgo", puede estigmatizar. Si ofrece una guía de conversación al orientador, informa a la familia con cuidado y deriva a evaluación, puede acortar años de sufrimiento. El diseño del flujo importa más que el puntaje.

Esta entrada revisa IA para lenguaje y detección temprana, modelos multimodales, sesgos y privacidad, y uso clínico responsable. El criterio es exigente: una herramienta de IA en TOC debe demostrar que mejora acceso, precisión o seguimiento sin aumentar compulsiones, vigilancia o inequidad.

Detección temprana, lenguaje y señales cotidianas

El lenguaje es una fuente obvia para IA en TOC porque muchas obsesiones se expresan como preguntas repetidas, búsqueda de certeza, confesiones, dudas morales, revisión de escenarios y necesidad de garantías. Procesamiento de lenguaje natural podría detectar patrones como "¿y si...?", "necesito estar seguro", "no puedo dejar de revisar" o "sé que es irracional, pero". Estos indicios no diagnostican por sí solos, pero pueden sugerir evaluación cuando aparecen con frecuencia, malestar y deterioro.

La detección temprana tiene valor porque el TOC suele ocultarse. Niños y adolescentes pueden no tener palabras para describir obsesiones sexuales, agresivas o religiosas; adultos pueden consultar por depresión secundaria, insomnio o problemas laborales sin mencionar rituales. Una herramienta que ayude a preguntar por compulsiones mentales, evitación y reaseguramiento puede reducir subdiagnóstico. El beneficio no es automatizar juicio, sino recordar preguntas que la entrevista puede omitir.

Los modelos de lenguaje también podrían analizar autorregistros entre sesiones. Un paciente puede escribir "me tranquilicé buscando en Google durante una hora" y el sistema marcarlo como reaseguramiento, no como afrontamiento. Puede detectar exposición evitativa, como tocar algo "contaminado" pero lavarse mentalmente con frases de seguridad. Esta ayuda sería útil para terapeutas si se presenta como hipótesis revisable, no como veredicicto algorítmico.

Sin embargo, el lenguaje es ambiguo. Una persona sin TOC puede preguntar muchas veces por un riesgo real; una persona con TOC puede escribir de forma escueta por vergüenza; otra puede usar metáforas culturales o religiosas que el modelo no entiende. Los modelos entrenados en inglés pueden fallar en español chileno, modismos familiares o vocabulario religioso. La detección lingüística necesita validación local y humana.

El riesgo de falsos positivos es especialmente importante en contenidos sensibles. Si un adolescente escribe "tengo miedo de hacer daño", un sistema mal diseñado podría interpretar riesgo violento real, cuando en TOC suele tratarse de intrusiones egodistónicas. A la inversa, una amenaza real no debe desestimarse como obsesión. La IA no puede saltarse evaluación de riesgo; debe activar rutas clínicas diferenciadas que distingan intrusión, intención, plan, historial y control.

El diagnóstico precoz también puede apoyarse en conducta digital: tiempo excesivo revisando cerraduras inteligentes, búsquedas repetidas de síntomas, relectura de mensajes, edición compulsiva de tareas, patrones de evitación o uso nocturno por rituales. Estas señales requieren consentimiento y contexto. Sin consentimiento, se vuelven vigilancia; sin contexto, se vuelven ruido. La ética no es una capa posterior, sino parte del diseño.

En escuelas y atención primaria, la IA podría funcionar como apoyo de cribado, no como diagnóstico. Por ejemplo, un cuestionario adaptativo puede identificar síntomas de TOC, diferenciar preocupaciones normales de compulsiones y sugerir derivación. Para ser responsable, debe explicar que el resultado no es definitivo, incluir recursos de crisis cuando hay riesgo, y evitar mensajes que aumenten culpa o certeza compulsiva.

La implicación clínica es clara: IA para lenguaje será útil si mejora la conversación humana. Debe ayudar a preguntar mejor, detectar antes y derivar con menos demora. Si se convierte en una herramienta de autoanálisis infinito, puede alimentar el TOC. La frontera entre apoyo y compulsión depende de límites, diseño y supervisión.

Modelos multimodales: síntomas, cerebro, conducta y contexto

Los modelos multimodales intentan combinar datos de distintas fuentes: escalas clínicas, texto, neuroimagen, EEG, genética, sueño, actividad, historia familiar, edad de inicio y respuesta previa. La lógica es razonable: el TOC no se expresa en un solo nivel, por lo que un modelo que integre varios podría predecir mejor que una variable aislada. Revisiones de aprendizaje profundo en TOC describen este movimiento hacia integración de imágenes, señales y datos clínicos (Zhang et al., 2025).

En neuroimagen, el aprendizaje automático se ha usado para clasificar pacientes y controles, identificar patrones de conectividad o predecir respuesta. Pero los resultados deben leerse con cuidado. Un megaanálisis de conectividad funcional encontró que la clasificación por machine learning no alcanzaba un rendimiento clínico suficiente para diagnóstico individual (Thorsen et al., 2023). Esta evidencia no niega la investigación; evita su uso prematuro.

En EEG, los modelos pueden ser más escalables por costo y portabilidad. Una revisión sistemática de clasificaciones basadas en EEG mostró interés creciente, pero también limitaciones de tamaño, heterogeneidad y replicación (Chen et al., 2025). Para clínica, un modelo debe funcionar no solo en el conjunto donde se entrenó, sino en pacientes nuevos, con equipos distintos y síntomas comórbidos.

Los datos digitales pueden aportar continuidad. Una revisión sistemática transdiagnóstica describió el uso de sensores de teléfonos, interacción con teclado, voz y autorregistros para caracterizar cambios individuales y anticipar exacerbaciones; sus estudios se concentraron en esquizofrenia, trastornos del ánimo, ansiedad y consumo de sustancias, de modo que no demuestra validez específica para TOC (Bufano et al., 2023). Un modelo que incorpore autorregistros, exposición realizada, sueño y movilidad podría alertar cambios antes de que el paciente llegue a sesión, pero también puede sobreactuar ante variaciones normales. Una semana de menos sueño puede deberse a exámenes, duelo, trabajo o recaída. La multimodalidad no elimina la necesidad de interpretación; solo amplía el conjunto de señales.

Una aplicación prometedora es la predicción de abandono. Si un sistema detecta que un paciente no completa tareas de exposición, cancela sesiones, aumenta reaseguramiento y reporta vergüenza, podría sugerir intervención temprana: revisar jerarquía, involucrar familia o reducir dificultad. Esto sería más útil que un diagnóstico automático, porque modifica una decisión concreta y tiene consecuencias inmediatas.

La IA generativa añade otra capa. Puede ayudar a resumir sesiones, convertir objetivos en tareas, explicar EPR con lenguaje accesible o traducir psicoeducación. Pero no debe generar exposiciones sin evaluación de riesgo, ni responder a compulsiones de reaseguramiento con garantías. En TOC, un chatbot que contesta infinitas dudas puede convertirse en ritual disponible 24/7. Los modelos deben entrenarse para no dar certeza compulsiva.

Los modelos multimodales también requieren gobernanza. ¿Quién ve los datos? ¿Qué pasa si el modelo predice recaída? ¿Se avisa al paciente, al terapeuta, a la familia? ¿Puede usarse por aseguradoras? ¿Cómo se corrige un error? La OMS y otros marcos de IA en salud enfatizan transparencia, responsabilidad y control humano significativo (World Health Organization, 2021). Sin estas reglas, la precisión técnica no basta.

La mejor expectativa es incremental. Un modelo multimodal puede ayudar a priorizar, monitorear y personalizar, pero no debe prometer certeza. En TOC, la incertidumbre es el terreno clínico central; una herramienta que simula certeza absoluta puede ser psicológicamente dañina. La IA responsable debe decir "esto aumenta o disminuye probabilidad" y mantener la decisión en una relación clínica informada.

Sesgos, privacidad y validación externa

La IA en salud mental puede fallar de manera desigual. Si los datos provienen de clínicas privadas, plataformas en inglés o personas que aceptan compartir información digital, el modelo aprenderá un TOC visible para esos contextos. Puede no detectar síntomas en personas mayores, rurales, indígenas, migrantes, con baja alfabetización digital o que expresan obsesiones mediante lenguaje religioso local. La falta de diversidad no es un problema estadístico menor; es una falla clínica.

Los sesgos también aparecen en el diagnóstico base. El TOC puede confundirse con ansiedad generalizada, trastorno de personalidad obsesivo-compulsiva, psicosis, autismo, depresión, riesgo violento o simple perfeccionismo. Si los historiales contienen esos errores, la IA los reproduce. Por eso, los conjuntos de entrenamiento necesitan etiquetas revisadas, criterios explícitos y, cuando sea posible, entrevistas estructuradas o escalas validadas. Aprender de datos desordenados produce automatización de desorden.

La validación externa es imprescindible. Un modelo entrenado en un hospital debe probarse en otro; uno entrenado en adultos debe probarse antes de usarse en adolescentes; uno desarrollado en inglés debe validarse en español; uno basado en neuroimagen debe probarse con equipos distintos. Sin validación externa, los resultados pueden ser sobreajuste: excelente rendimiento en el conjunto conocido y pobre utilidad en pacientes nuevos.

La privacidad en TOC tiene capas particulares. Las obsesiones pueden involucrar violencia, sexualidad, religión, identidad, relaciones, contaminación, culpa o temas legalmente sensibles. Aunque sean egodistónicas, el registro textual puede ser malinterpretado si se filtra. Además, datos de ubicación, sueño o uso digital pueden revelar rutinas íntimas. Consentir "datos de salud" no siempre equivale a comprender esta profundidad.

La minimización de datos es una regla práctica: recolectar solo lo necesario para la pregunta clínica, por el menor tiempo posible y con controles de acceso. Si un modelo solo necesita respuestas a cinco preguntas, no debería recolectar geolocalización. Si el objetivo es seguimiento entre sesiones, no debería guardar contenido completo de obsesiones salvo que sea clínicamente necesario y seguro. Más datos pueden mejorar modelos, pero también aumentan daño potencial.

La explicabilidad es relevante, pero no resuelve todo. Decir que un modelo marcó riesgo por "uso nocturno" o "lenguaje de duda" ayuda, pero la explicación puede seguir siendo errónea. Además, algunos modelos complejos son difíciles de interpretar. En contextos clínicos, una herramienta opaca debe tener umbral de uso más alto, revisión humana y vías de apelación. Ningún paciente debería quedar etiquetado por un sistema que no puede discutir.

También hay riesgo de vigilancia familiar o institucional. Padres, parejas, escuelas o empleadores podrían querer usar herramientas para controlar rituales, revisar búsquedas o monitorear cumplimiento. Eso puede dañar autonomía y aumentar vergüenza. La IA clínica debe diferenciar apoyo consentido de control coercitivo. En adolescentes, el equilibrio entre participación familiar y privacidad es especialmente delicado.

Finalmente, la evaluación de daño debe incluir compulsiones nuevas. Si una aplicación aumenta chequeos, comparaciones, búsqueda de puntuaciones perfectas o dependencia de feedback, el modelo puede tener buen rendimiento técnico y mal resultado clínico. La validación en TOC debe medir no solo precisión, sino seguridad conductual: ¿reduce demora y deterioro o aumenta ritualización digital?

Uso clínico responsable: apoyo, no sustitución

Un uso responsable de IA en TOC empieza definiendo la tarea. "Diagnosticar TOC" es demasiado amplio; "ayudar a atención primaria a decidir si derivar a evaluación especializada" es más concreto. "Predecir recaída" es amplio; "alertar al terapeuta si durante dos semanas aumentan rituales reportados y disminuyen exposiciones" es accionable. Cuanto más precisa la tarea, más fácil evaluar si la herramienta mejora decisiones.

La IA puede apoyar cribado inicial. Un cuestionario adaptativo podría preguntar por obsesiones y compulsiones de forma no estigmatizante, diferenciar preocupaciones normales de rituales, y sugerir consulta. En población pediátrica, puede ofrecer preguntas separadas para niño y cuidadores, porque algunos síntomas se ocultan. Pero el resultado debe ser probabilístico y orientado a ayuda, nunca una etiqueta definitiva.

También puede apoyar al terapeuta. Sistemas de resumen podrían organizar autorregistros, detectar patrones de reaseguramiento, identificar tareas de exposición no realizadas y generar gráficos de interferencia. Esto ahorra tiempo y mejora seguimiento si el clínico revisa, corrige y contextualiza. La IA no debe decidir sola si una exposición es adecuada, porque necesita entender riesgo real, valores, trauma, comorbilidad y entorno.

En prevención de recaídas, una herramienta puede recordar señales tempranas acordadas: más comprobaciones, aumento de evitación, búsqueda de certeza online, reducción de sueño o abandono de prácticas. La respuesta no debería ser "todo está mal", sino activar el plan: retomar exposición de mantenimiento, reducir reaseguramiento, contactar terapeuta o revisar medicación. El valor está en conectar señal con acción.

La IA generativa puede ofrecer psicoeducación, pero debe evitar tranquilizaciones absolutas. Ante "¿seguro que no dañé a nadie?", un chatbot responsable no debería responder "sí, seguro", porque refuerza compulsión. Podría validar malestar, recordar el plan de tolerar incertidumbre y sugerir usar habilidades acordadas. Diseñar respuestas anti-reaseguramiento es específico del TOC y requiere supervisión experta.

En contextos de bajo acceso, la IA puede ampliar alfabetización, traducir materiales y guiar derivación. Pero no debe convertirse en sustituto barato de atención humana. Si una herramienta detecta riesgo y no existe red de derivación, puede aumentar angustia. La implementación responsable exige rutas de atención, recursos locales, escalamiento y criterios de crisis. Detectar sin poder responder es éticamente insuficiente.

Los profesionales necesitan formación para usar IA sin delegar juicio. Deben saber leer métricas, sesgos, límites, consentimiento y protección de datos. También deben saber cuándo apagar la herramienta: si el paciente la usa compulsivamente, si genera dependencia, si aumenta conflicto familiar o si no añade información. La tecnología clínica no es buena por estar disponible; es buena si mejora decisiones y reduce daño.

La conclusión es sobria: IA puede ayudar al diagnóstico precoz del TOC si se integra como apoyo de cribado, seguimiento y educación, con validación externa y supervisión humana. No debe presentarse como oráculo. En un trastorno marcado por la búsqueda de certeza, la IA responsable debe enseñar a vivir con incertidumbre clínica suficiente para actuar, no fabricar certezas nuevas.

Implementación clínica, gobernanza y prevención de daños

Una herramienta de IA para TOC debe implementarse como parte de un flujo clínico, no como producto aislado. Si un cribado detecta riesgo, debe existir una ruta: entrevista, evaluación diferencial, orientación familiar, derivación y seguimiento. Detectar sin responder puede aumentar ansiedad. En salud mental, el valor de la tecnología depende tanto del sistema que la recibe como del algoritmo que la produce.

La gobernanza empieza antes del despliegue. Se necesita definir población objetivo, datos usados, responsables, métricas, umbrales, manejo de falsos positivos y falsos negativos, y procedimientos ante crisis. Una app pública para adolescentes no requiere las mismas reglas que un sistema de apoyo para terapeutas. La ausencia de una pregunta clínica específica suele ser señal de mala implementación.

La auditoría debe ser continua. Un modelo puede funcionar al inicio y degradarse cuando cambia la población, el lenguaje, la plataforma o las prácticas clínicas. También puede mostrar peor rendimiento en subgrupos: género, edad, nivel educativo, idioma, ruralidad o comorbilidad. Auditar no es desconfianza abstracta; es reconocer que los sistemas vivos cambian. La OMS enfatiza responsabilidad y monitoreo como principios de IA en salud (World Health Organization, 2021).

En TOC hay que auditar daño compulsivo. Una herramienta puede aumentar chequeo de síntomas, dependencia de puntajes, búsqueda de certeza o reaseguramiento digital. Si un paciente abre la app veinte veces al día para confirmar que no recayó, el sistema se volvió parte del trastorno. Las métricas de seguridad deben incluir uso excesivo, angustia inducida, conflicto familiar y abandono de exposición, no solo precisión.

Los mensajes automáticos deben estar diseñados para no tranquilizar compulsivamente. Ante una pregunta de certeza, la respuesta no debería confirmar seguridad absoluta. Debe validar malestar, recordar el plan terapéutico y promover tolerancia a incertidumbre. Este diseño requiere expertos en TOC, no solo ingenieros de lenguaje. Un chatbot general puede ser competente en conversación y clínicamente dañino en reaseguramiento.

La implementación en escuelas necesita límites estrictos. Un sistema que sugiera riesgo no debe etiquetar a estudiantes frente a docentes ni activar sanciones. Debe guiar conversaciones privadas, consentimiento familiar cuando corresponde y derivación. También debe distinguir problemas reales de seguridad de intrusiones obsesivas. En adolescentes, la privacidad no es lujo; es condición para que consulten sin miedo.

En atención primaria, la IA puede ser más útil como lista inteligente de preguntas que como clasificador. Puede recordar indagar compulsiones mentales, tiempo consumido, evitación, insight, depresión y riesgo. Esto reduce omisiones sin reemplazar criterio. Si el profesional no entiende TOC, un puntaje alto puede no traducirse en buena derivación; por eso, capacitación humana sigue siendo parte del dispositivo.

La protección de datos debe considerar el contenido específico del TOC. Obsesiones sexuales, agresivas o religiosas pueden ser profundamente privadas y malinterpretables. Los sistemas deben minimizar texto libre cuando no sea necesario, cifrar, limitar acceso, permitir eliminación y explicar usos secundarios. "Mejorar el modelo" no justifica recolectar indefinidamente datos sensibles sin consentimiento granular.

Los modelos comerciales deben declarar evidencia. ¿Se validaron en TOC diagnosticado? ¿En qué idioma? ¿Con qué edad? ¿Comparados con qué estándar? ¿Qué ocurre ante crisis? ¿Quién supervisa? Sin respuestas, una herramienta puede ser bienestar digital, pero no clínica. La transparencia protege a usuarios y también a profesionales que podrían incorporar tecnología sin comprender límites.

La IA puede ayudar mucho en regiones con pocos especialistas si se usa para educación, triage y apoyo a terapeutas. Pero si se despliega sin red asistencial, solo desplaza la carga al paciente. Un sistema justo debe incluir materiales accesibles, opciones no digitales, derivaciones locales y rutas de urgencia. La innovación no debe aumentar la brecha entre quienes pueden pagar atención humana y quienes reciben solo automatización.

El estándar final debería ser clínico: demostrar que la herramienta reduce tiempo hasta diagnóstico, aumenta acceso a EPR, mejora adherencia, detecta recaídas antes o disminuye deterioro, sin aumentar compulsiones ni inequidad. Hasta entonces, la IA en TOC debe presentarse como apoyo experimental o complementario. Su mejor versión no promete certeza; organiza mejor la incertidumbre para actuar antes y con menos daño.

La evaluación económica también importa. Un modelo puede ser preciso, pero si exige licencias costosas, integración técnica compleja o revisión constante de especialistas escasos, quizá no mejore acceso. En sistemas con recursos limitados, una herramienta más simple, como cribado bien diseñado y capacitación de atención primaria, puede tener mayor impacto. La IA debe compararse con alternativas reales, no con la ausencia idealizada de intervención.

La interoperabilidad clínica es otra condición. Si una herramienta produce alertas que no entran en la ficha, no se revisan en sesión o no se traducen en tareas, se vuelve ruido. Si genera demasiadas alertas, los profesionales dejan de confiar. Si genera pocas, puede omitir riesgo. La implementación responsable debe calibrar frecuencia, prioridad y formato de alerta, y permitir que el clínico ajuste según caso.

Los pacientes deberían poder saber qué datos se usaron y corregir errores. Si un sistema interpreta búsquedas religiosas como compulsiones, la persona puede explicar contexto. Si registra sueño bajo por trabajo nocturno, eso debe corregirse. La IA clínica debe tener mecanismos de contestación. Sin ellos, el paciente queda atrapado en una lectura externa de su vida, algo especialmente sensible en un trastorno ya marcado por duda e inseguridad.

En investigación, los modelos deberían reportar falsos positivos y falsos negativos con ejemplos clínicos. Un falso positivo puede generar miedo y estigma; un falso negativo puede retrasar ayuda. Saber en qué situaciones falla el modelo es tan importante como saber su promedio de precisión. Para TOC, fallar en síntomas tabú, compulsiones mentales o poblaciones no inglesas sería una limitación grave.

La formación de profesionales debe incluir cuándo no usar IA. Si un paciente empieza a consultar compulsivamente el sistema, si el equipo no puede revisar datos, si no hay consentimiento claro o si el modelo no fue validado en esa población, apagar la herramienta puede ser la decisión correcta. La tecnología clínica necesita criterios de suspensión igual que cualquier medicamento o intervención.

También se debe definir responsabilidad legal y clínica. Si un modelo no detecta riesgo suicida, si interpreta mal una obsesión agresiva, o si una familia usa la herramienta para controlar al paciente, ¿quién responde? Estas preguntas no deben resolverse después de un daño. La gobernanza responsable anticipa escenarios, asigna roles y limita usos no autorizados.

El potencial de la IA en TOC sigue siendo importante. Puede reducir demoras, mejorar preguntas, apoyar terapeutas y hacer seguimiento entre sesiones. Pero la implementación madura será menos espectacular que el marketing: consentimientos claros, auditorías, rutas de derivación, límites anti-reaseguramiento y evidencia prospectiva. La utilidad real se verá cuando ayude a personas concretas a recibir tratamiento correcto antes y sostenerlo mejor.

En síntesis, IA y diagnóstico precoz deben evaluarse con la misma exigencia que cualquier intervención clínica: beneficio, daño, equidad, costo y supervisión. Si cumple esos criterios, puede ser una herramienta valiosa. Si no, puede convertirse en una máquina de etiquetar, vigilar o tranquilizar compulsivamente. La diferencia depende de diseño, evidencia y responsabilidad institucional. El estándar debería incluir estudios prospectivos en contextos reales, revisión por comités éticos, participación de usuarios, métricas de seguridad y publicación de errores. También debería incluir una pregunta final sencilla: después de usar la herramienta, ¿la persona llegó antes a una ayuda competente o quedó más sola con un puntaje? Si la respuesta no mejora el recorrido asistencial, la precisión algorítmica es insuficiente. Además, la IA debe diseñarse para retirarse cuando ya no aporta. Una herramienta que fue útil en cribado puede ser innecesaria durante terapia; una alerta de recaída puede apagarse cuando el paciente recupera autonomía; un chatbot psicoeducativo puede limitarse si aumenta consultas compulsivas. Esta capacidad de limitar uso es parte de la seguridad. En salud mental, más tecnología no siempre significa más cuidado; a veces cuidar es reducir estímulos, simplificar decisiones y fortalecer vínculos humanos.

• Uso aceptable: apoyar cribado, sugerir preguntas de evaluación, resumir autorregistros, detectar abandono temprano y facilitar derivación, siempre con revisión humana. En estos usos la herramienta no decide identidad clínica; ayuda a no perder señales y a responder antes.
• Uso riesgoso: entregar garantías, clasificar peligrosidad a partir de intrusiones, monitorear sin consentimiento, reemplazar evaluación diferencial o permitir consultas ilimitadas de certeza. Estos usos pueden aumentar estigma, compulsiones digitales y vigilancia familiar.
• Condición mínima: toda herramienta debería declarar población de validación, idioma, tasa de error, ruta de ayuda, manejo de crisis, política de datos y forma de desactivar o limitar uso. Sin esa información, el producto puede ser tecnológico, pero no clínicamente responsable.
• Indicador de éxito: la herramienta debe demostrar que reduce demora y mejora continuidad, no solo que clasifica textos o imágenes. En TOC, llegar antes a EPR competente es más valioso que recibir una etiqueta algorítmica sin acceso posterior.
• Supervisión humana: cualquier recomendación debe poder ser revisada, corregida y descartada por un profesional responsable y por el propio usuario cuando los datos no reflejan su contexto real.
• Lenguaje clínico: los resultados deberían hablar de probabilidad y necesidad de evaluación, nunca de certeza absoluta.
• Seguimiento: toda alerta debería terminar en una acción posible, con responsable, plazo y alternativa si el recurso principal no está disponible. Una alerta sin camino de ayuda puede aumentar vigilancia, preocupación familiar y consultas repetidas sin acercar al paciente a tratamiento competente.