IA como substituto de terapeutas: a Califórnia quer regras mais rígidas

É incrível como a IA está infiltrando cada canto das nossas vidas — e agora também a psicoterapia. Cada vez mais pessoas buscam consolo em chatbots de IA como o ChatGPT quando se sentem emocionalmente abaladas ou confiam em conselhos algorítmicos em momentos de crise. Pois é justamente essa tendência que a Califórnia pretende regulamentar. Um novo projeto de lei, atualmente em debate no parlamento do estado norte-americano, quer praticamente proibir que chatbots de IA sejam denominados “terapeutas”. O objetivo? Estabelecer limites claros antes que conselhos não qualificados ou até perigosos causem danos.
Quando o algoritmo se torna um conselheiro espiritual
De acordo com o projeto, que ainda precisa passar pelo Senado e depois pela Assembleia, os sistemas de IA não poderão mais oferecer serviços de aconselhamento psicológico. A preocupação por trás disso é que aplicações desregulamentadas de IA possam fornecer recomendações falsas ou prejudiciais — especialmente problemático porque muitos usuários acessam esses serviços sem supervisão profissional. Isso pode acontecer por medo de uma sessão de terapia tradicional ou simplesmente porque o “aconselhamento digital” é mais barato e está disponível 24 horas por dia.
Mas será que uma proibição total é realmente a solução? Ou precisamos, na verdade, de regras claras que permitam aproveitar os benefícios dessa tecnologia sem ignorar os riscos?
Por que a Califórnia está freando a situação
A Califórnia não está sozinha nessa ideia. Outros estados dos EUA e até a União Europeia também discutem a regulamentação da IA na saúde mental. O projeto de lei da Califórnia (o Assembly Bill 2231, em detalhes) busca garantir que plataformas baseadas em IA sejam classificadas como serviços médicos ou, pelo menos, incluam avisos claros. Além disso, deve ficar evidente para os usuários que estão interagindo com uma máquina, e não com um ser humano.
Um ponto central é a transparência: a IA deve deixar claro que não é uma terapeuta real, mas apenas um sistema que gera textos automaticamente. Além disso, devem ser implementados mecanismos para detectar e bloquear conselhos perigosos, como orientações relacionadas a autolesão.
Por que a lei não tem só apoiadores
Em princípio, a iniciativa soa como um bom passo — mas também há críticas. Os opositores alertam que uma proibição muito rígida poderia sufocar abordagens inovadoras. A IA poderia, afinal, ser uma valiosa complementação à psicoterapia tradicional: suporte inicial de baixo custo, disponibilidade 24/7 ou alívio de tarefas administrativas para os terapeutas. Uma proibição total poderia frear esses avanços antes mesmo de eles decolarem.
Além disso, alguns argumentam



que o projeto é formulado de maneira muito vaga. Onde exatamente está a fronteira entre “apoio emocional” e “serviço psicológico”? Basta uma IA oferecer conforto ou só quando fizer diagnósticos ou recomendar tratamentos? Sem definições claras, a lei poderia gerar insegurança jurídica.
IA no cuidado com a saúde mental: bênção ou maldição?
O debate revela um dilema clássico: de um lado, há a esperança de que a IA possa democratizar o acesso ao cuidado com a saúde mental. Em países com longas filas de espera por terapia ou regiões com escassez de profissionais, ferramentas de IA poderiam ser uma ponte. Muitos usuários valorizam exatamente esses recursos como um primeiro ponto de contato — para testar opções ou obter ajuda rápida em crises.
Por outro lado, há preocupações justificadas. Embora a IA reconheça padrões em textos e gere respostas aparentemente coerentes, ela não possui empatia real, experiência clínica ou responsabilidade ética. Uma resposta errada em um momento de fragilidade emocional pode ter consequências graves. E pior: os usuários podem se sentir falsamente seguros e adiar a busca por ajuda profissional necessária.
Existe um meio-termo?
Em vez de proibir completamente a IA, especialistas defendem um compromisso inteligente: regulação em vez de soluções radicais. Isso incluiria:
1. Certificação e aprovação: sistemas de IA que oferecem suporte psicológico devem ser comprovadamente seguros e eficazes — semelhante a medicamentos ou dispositivos médicos.
2. Rotulagem transparente: os usuários devem poder identificar claramente se estão interagindo com uma IA ou um profissional humano.
3. Diretrizes éticas: regras claras sobre o que a IA pode fazer na saúde mental — por exemplo, proibições de certos conselhos (como interromper medicamentos).
4. Supervisão humana: a IA nunca deve diagnosticar ou recomendar tratamentos por conta própria, mas sempre atuar como suporte para profissionais.
Minha conclusão: Inovação sim — mas com responsabilidade
A iniciativa da Califórnia é um passo necessário para conter os riscos da IA em áreas sensíveis como a saúde mental. No entanto, uma proibição generalizada seria o caminho errado. Em vez disso, precisamos de um quadro regulatório que permita a inovação sem colocar os usuários em perigo.
O maior desafio será encontrar o equilíbrio: a IA pode ser uma ferramenta poderosa — mas nunca substituirá a componente humana da terapia. Desde que isso seja comunicado com clareza, os serviços baseados em IA podem ser um complemento útil. Uma proibição total, por outro lado, seria um retrocesso que poderia bloquear soluções urgentemente necessárias para um número crescente de pessoas com problemas de saúde mental.