L'IA come sostituto degli psicoterapeuti: la California vuole regole più severe

È davvero sorprendente come l’IA stia penetrando in quasi ogni aspetto della nostra vita, e ora anche nella psicoterapia. Sempre più persone si rivolgono a chatbot come ChatGPT in cerca di conforto quando sono emotivamente provate o si affidano a consigli algoritmici nei momenti di crisi. Ed è proprio questa tendenza che la California intende regolamentare. Un nuovo disegno di legge, attualmente in discussione nel parlamento dello stato statunitense, mira a vietare di fatto alle chatbot di IA di utilizzare il titolo di “terapeuta”. L’obiettivo? Stabilire confini chiari prima che consigli non qualificati o addirittura dannosi possano causare danni.
Quando l’algoritmo diventa confessore
Secondo il disegno di legge, che dovrà ancora superare l’esame del Senato per essere poi sottoposto all’Assemblea, i sistemi di IA non potranno più offrire servizi di consulenza psicologica. Dietro questa proposta c’è la preoccupazione che applicazioni di IA non regolamentate possano fornire raccomandazioni scorrette o dannose, soprattutto perché molti utenti vi si rivolgono senza supervisione professionale. Lo fanno o perché temono un vero e proprio colloquio terapeutico, o perché la “cura digitale” è semplicemente più economica e disponibile 24 ore su 24.
Ma un divieto totale è davvero la soluzione? O non sarebbe invece necessario stabilire regole chiare per sfruttare le opportunità di questa tecnologia senza ignorarne i rischi?
Perché la California mette i freni
La California non è l’unico stato a riflettere su questa idea. Anche in altri stati statunitensi e nell’UE si discute di regolamentare l’uso dell’IA nella salute mentale. Il disegno di legge californiano (il cosiddetto Assembly Bill 2231) punta a far sì che le piattaforme basate sull’IA vengano classificate come servizi medici o, in alternativa, rechino chiarimenti sulle avvertenze. Inoltre, dovrà essere garantito che gli utenti comprendano di interagire con una macchina e non con un essere umano.
Un aspetto centrale è la trasparenza: l’IA dovrà dichiarare apertamente di non essere una vera terapeuta, ma di generare risposte puramente algoritmiche. Verranno inoltre introdotti meccanismi per rilevare e bloccare consigli pericolosi, come quelli che potrebbero portare a comportamenti autolesionisti.
Il provvedimento non convince tutti
Anche se l’iniziativa sembra positiva, non manca la critica. I detrattori avvertono che un divieto troppo rigido potrebbe frenare l’innovazione. L’IA, infatti, potrebbe rappresentare un valido complemento alla psicoterapia tradizionale: un primo livello di consulenza a basso costo, disponibile 24 ore su 24, o un supporto per alleggerire gli psicoterapeuti da compiti amministrativi. Un divieto totale bloccherebbe queste possibilità prima che possano davvero decollare.




Inoltre, alcuni sottolineano che il testo del disegno di legge è troppo vago. Dove si colloca il confine tra “sostegno emotivo” e “servizio psicologico”? È sufficiente che una IA offra conforto, o solo quando fornisce diagnosi o consigli terapeutici? Senza definizioni precise, la legge rischia di creare incertezze giuridiche.
L’IA nella salute mentale: flagello o benedizione?
Il dibattito evidenzia un dilemma classico. Da un lato, l’IA potrebbe democratizzare l’accesso alle cure psicologiche: in paesi con lunghe liste d’attesa o carenza di professionisti, questi strumenti potrebbero rappresentare una soluzione temporanea. Molti utenti apprezzano queste soluzioni come primo approccio, per sperimentare o ricevere aiuto rapido in momenti di crisi.
Dall’altro, ci sono timori più che fondati. Le IA analizzano schemi testuali e generano risposte apparentemente sensate, ma non possiedono empatia reale, esperienza clinica o responsabilità etica. Una risposta sbagliata in un momento di fragilità emotiva può avere conseguenze gravi. E ancora più pericoloso: gli utenti potrebbero sentirsi rassicurati in modo ingannevole e ritardare l’accesso a cure professionali necessarie.
Esiste una via di mezzo?
Anziché vietare completamente l’IA, gli esperti propongono un approccio bilanciato: regolamentazione invece che soluzione radicale. Tra le misure suggerite:
1. Certificazione e autorizzazione: i sistemi di IA che offrono supporto psicologico dovrebbero dimostrare di essere sicuri ed efficaci, analogamente ai farmaci o ai dispositivi medici.
2. Etichettatura trasparente: gli utenti devono poter distinguere chiaramente se stanno interagendo con una IA o con un professionista umano.
3. Linee guida etiche: regole precise su ciò che l’IA può o non può fare in ambito mentale, come vietare raccomandazioni pericolose (ad esempio sulla sospensione di farmaci).
4. Supervisione umana: l’IA non dovrebbe mai formulare diagnosi o prescrivere trattamenti in autonomia, ma limitarsi a supportare gli specialisti.
Conclusione: sì all’innovazione, ma con responsabilità
L’iniziativa della California è un passo necessario per contenere i rischi dell’IA in settori delicati come la salute mentale. Tuttavia, un divieto totale sarebbe la soluzione sbagliata. Serve invece un quadro normativo che permetta l’innovazione senza mettere in pericolo gli utenti.
La grande sfida sarà trovare il giusto equilibrio: l’IA può essere uno strumento potente, ma non potrà mai sostituire l’elemento umano della terapia. Finché questa distinzione sarà chiara, le soluzioni basate sull’IA potranno rappresentare un valido supplemento. Un divieto totale, invece, sarebbe un passo indietro che bloccherebbe soluzioni urgentemente necessarie per un numero crescente di persone con problemi di salute mentale.