Chatbots terapéuticos: promesa y riesgo

En pocos años, los chatbots impulsados por inteligencia artificial generativa han pasado de ser herramientas experimentales para convertirse en un sustituto informal de apoyo terapéutico para millones de personas. El atractivo financiero es evidente. La atención en salud mental depende de profesionales escasos, con costos elevados y una capacidad limitada para escalar. En contraste, una plataforma basada en software puede atender grandes volúmenes de usuarios con un costo marginal muy bajo, capturando una demanda insatisfecha que los sistemas tradicionales no logran cubrir.

Los avances recientes en gen AI han sido determinantes. Los modelos actuales sostienen conversaciones largas, recuerdan contexto, ajustan el tono emocional y operan en texto y voz con una fluidez cada vez más natural. Desde una perspectiva de negocio, esto incrementa el nivel de adherencia a la terapia, reduce la fricción de adopción y habilita la oferta de modelos de suscripción recurrentes. También amplía el alcance geográfico y permite operar en mercados donde la infraestructura de salud mental es débil o inexistente.

El problema es que la sofisticación técnica no equivale a criterio clínico. A pesar de su capacidad conversacional, estos sistemas no razonan ni evalúan riesgos como lo haría un profesional entrenado. Evaluaciones recientes muestran que varios chatbots responden de forma inconsistente ante escenarios sensibles, exhiben sesgos frente a ciertas condiciones psiquiátricas y, en algunos casos, fallan en detectar señales claras de crisis. Desde el punto de vista financiero, esto introduce un riesgo difícil de cuantificar, porque un error no es solo una mala experiencia de usuario, sino un potencial evento legal y reputacional.

Ese riesgo ya se ha materializado. Existen casos públicos en los que interacciones con chatbots fueron asociadas a daños graves, incluyendo la muerte de un menor. Más allá del resultado judicial de estos procesos, el impacto económico es tangible: demandas, costos de defensa, presión regulatoria y pérdida de confianza de usuarios y socios. A medida que el producto se presenta como “terapia” y no solo como apoyo emocional, el umbral de responsabilidad se eleva de forma significativa.

Desde la óptica de inversión y asignación de capital, la tensión central está entre escala y control. Las soluciones que buscan reemplazar al terapeuta humano concentran un riesgo operativo y legal elevado. En cambio, los usos complementarios, como seguimiento entre sesiones, psicoeducación, detección preliminar de síntomas o automatización administrativa, presentan perfiles económicos distintos. En estos casos, la IA actúa como multiplicador de productividad del profesional y no como sustituto, lo que reduce exposición a fallos críticos.

El crecimiento de los chatbots en salud mental abre una pregunta más amplia sobre el rol de la IA en medicina. A medida que estos sistemas se vuelvan más capaces y estén presentes en más puntos del recorrido del paciente, la frontera entre apoyo, diagnóstico y tratamiento será cada vez menos clara. En salud mental esa frontera es especialmente sensible, pero el mismo debate emergerá en otras especialidades médicas. El futuro parece menos binario entre humano o máquina y más orientado a modelos híbridos, donde la tecnología amplía capacidad y eficiencia mientras la responsabilidad clínica permanece anclada en profesionales e instituciones. Cómo se definan esos límites, y quién asuma el riesgo cuando fallen, será tan relevante como los avances técnicos para determinar el impacto real y la sostenibilidad económica de estas soluciones.