La IA como sustituto de terapeutas: California busca regulaciones más estrictas

Es sorprendente cómo la inteligencia artificial (IA) se ha infiltrado en casi todos los aspectos de nuestra vida, y ahora incluso en la psicoterapia. Cada vez más personas recurren a chatbots de IA como ChatGPT en busca de consuelo cuando se sienten emocionalmente afectadas o confían en los consejos algorítmicos en momentos de crisis. Precisamente esta tendencia es lo que California quiere regular ahora. Un nuevo proyecto de ley, que actualmente se debate en el Parlamento del estado estadounidense, busca prohibir que los chatbots de IA utilicen el título de "terapeuta". El objetivo es establecer límites claros antes de que los consejos no calificados o incluso peligrosos causen daño.
Cuando el algoritmo se convierte en un guía espiritual
Según el proyecto de ley, que aún debe ser aprobado por el Senado y luego pasar a la Asamblea, los sistemas de IA ya no podrán ofrecer servicios de asesoramiento psicológico. Detrás de esta medida está la preocupación de que las aplicaciones de IA no reguladas puedan proporcionar recomendaciones falsas o perjudiciales, especialmente problemático porque muchos usuarios acceden a estos servicios sin supervisión profesional. Ya sea por miedo a una terapia tradicional o porque la "consejería digital" es más barata y está disponible las 24 horas del día, muchos recurren a ella.
Pero, ¿una prohibición total es realmente la solución? ¿O necesitamos, más bien, reglas claras que nos permitan aprovechar las oportunidades de esta tecnología sin ignorar sus riesgos?
¿Por qué California está aplicando el freno?
California no es el único estado con esta idea. En otros estados de EE.UU. y en la UE también se discute la regulación de la IA en el ámbito de la salud mental. El proyecto de ley californiano (conocido como Assembly Bill 2231) busca que las plataformas basadas en IA sean clasificadas como servicios médicos o, al menos, que incluyan advertencias claras. Además, se busca garantizar que los usuarios entiendan que están interactuando con una máquina y no con un ser humano.
Un punto clave es la transparencia: la IA debe dejar claro que no es una terapeuta real, sino que solo genera respuestas algorítmicas. Además, se propone implementar mecanismos para detectar y bloquear consejos peligrosos, como los relacionados con autolesiones.
¿Por qué la ley no solo tiene defensores?
En principio, la iniciativa suena como un buen paso, pero también enfrenta críticas. Los opositores advierten que una prohibición demasiado estricta podría bloquear enfoques innovadores. Después de todo, la IA podría convertirse en un valioso complemento para la psicoterapia tradicional: asesoramiento inicial de bajo umbral, disponibilidad 24/7 o alivio de tareas administrativas para los terapeutas. Una prohibición total frenaría estos avances antes de que ganen impulso.
Además, algunos s



eñalan que el proyecto está formulado de manera demasiado vaga. ¿Dónde está el límite entre "apoyo emocional" y "servicio psicológico"? ¿Basta con que una IA ofrezca consuelo o solo se considera un servicio cuando da diagnósticos o recomendaciones de tratamiento? Sin definiciones claras, la ley podría generar inseguridad jurídica.
IA en la salud mental: ¿maldición o bendición?
El debate refleja el clásico dilema: por un lado, existe la esperanza de que la IA pueda democratizar la atención en salud mental. En países con listas de espera interminables para terapia o en regiones con escasez de profesionales, las herramientas de IA podrían servir como un puente. Muchos usuarios valoran estos servicios como un primer punto de contacto para probarse a sí mismos o recibir ayuda rápida en crisis.
Por otro lado, hay preocupaciones legítimas. La IA puede reconocer patrones en los textos y generar respuestas aparentemente coherentes, pero carece de empatía real, experiencia clínica o responsabilidad ética. Una respuesta incorrecta en un momento de vulnerabilidad emocional puede tener consecuencias fatales. Peor aún, las personas podrían confiarse en una seguridad falsa y posponer la ayuda profesional necesaria.
¿Existe un término medio?
En lugar de prohibir la IA por completo, los expertos abogan por un compromiso inteligente: regulación en lugar de una solución radical. Esto incluye:
1. Certificación y aprobación: Los sistemas de IA que ofrecen apoyo psicológico deben demostrar ser seguros y efectivos, similar a los medicamentos o dispositivos médicos.
2. Etiquetado transparente: Los usuarios deben poder distinguir claramente si están interactuando con una IA o con un profesional humano.
3. Directrices éticas: Normas claras sobre lo que la IA puede y no puede hacer en el ámbito de la salud mental, como prohibiciones para ciertos consejos (por ejemplo, sobre la suspensión de medicamentos).
4. Supervisión humana: La IA nunca debería realizar diagnósticos o recomendar tratamientos por sí misma, sino servir como apoyo para los profesionales.
Mi conclusión: Innovación sí, pero con responsabilidad
El paso dado por California es un avance necesario para mitigar los riesgos de la IA en áreas sensibles como la salud mental. Sin embargo, una prohibición total sería el camino equivocado. En su lugar, necesitamos un marco regulatorio que permita la innovación sin poner en peligro a los usuarios.
El mayor desafío será encontrar el equilibrio: la IA puede ser una herramienta poderosa, pero nunca reemplazará el componente humano de la terapia. Siempre que esto se comunique con claridad, los servicios basados en IA pueden ser un complemento útil. Una prohibición total, en cambio, sería un retroceso que bloquearía soluciones urgentes para un número creciente de personas que sufren problemas de salud mental.