KI als vervangende therapeut: Californië wil strengere regels

Het is al gek hoe KI bijna elk hoekje van ons leven binnen dringt – en nu ook nog eens in de psychotherapie. Steeds meer mensen zoeken troost bij KI-chatbots zoals ChatGPT als ze emotioneel onder druk staan, of vertrouwen op algoritmische adviezen in crisismomenten. Maar precies deze ontwikkeling wil Californië nu reguleren. Een nieuwe wetsvoorstel, dat momenteel in het parlement van de Amerikaanse staat wordt besproken, wil KI-chatbots de titel “therapeut” bijna verbieden. Het doel? Duidelijke grenzen stellen voordat ongekwalificeerde of zelfs gevaarlijke adviezen schade aanrichten.

Wanneer de algoritme de zielzorger wordt
Volgens het voorstel, dat nog de Senaat moet passeren en daarna naar de Assembly gaat, mogen KI-systemen geen psychologische begeleidingsdiensten meer aanbieden. Hierachter schuilt de zorg dat oncontroleerbare KI-toepassingen verkeerde of schadelijke aanbevelingen kunnen geven – vooral problematisch omdat veel gebruikers deze diensten zonder professionele begeleiding gebruiken. Of omdat ze bang zijn voor een echt therapiegesprek, of omdat digitale “zielzorg” simpelweg goedkoper en 24/7 beschikbaar is.

Maar is een algemeen verbod echt de oplossing? Of hebben we juist duidelijke spelregels nodig om de kansen van deze technologie te benutten, zonder de risico’s te negeren?

Waarom Californië de rem aantrekt
Californië is niet de enige met dit idee. Ook in andere Amerikaanse staten en de EU wordt gediscussieerd over de regulering van KI in de geestelijke gezondheidszorg. Het Californische wetsvoorstel (officieel: Assembly Bill 2231) wil bereiken dat KI-gestuurde platforms ofwel als medische diensten worden geclassificeerd, of ten minste voorzien worden van duidelijke waarschuwingen. Daarnaast moet worden gegarandeerd dat gebruikers begrijpen dat ze met een machine praten en niet met een mens.

Een centraal punt is transparantie: KI moet duidelijk maken dat het geen echte therapeut is, maar slechts algoritmisch gegenereerde teksten produceert. Daarnaast moeten mechanismen worden geïntroduceerd om gevaarlijke adviezen – zoals aanmoedigingen tot zelfbeschadiging – te herkennen en te blokkeren.

Waarom de wet niet alleen maar voorstanders heeft
In principe klinkt de initiatief als een goede stap – maar er is ook kritiek. Tegenstanders waarschuwen dat een te streng verbod innovatieve benaderingen kan blokkeren. KI zou tenslotte een waardevolle aanvulling kunnen zijn op de klassieke psychotherapie: laagdrempelig eerste advies, 24/7 beschikbaarheid of ontlasting van therapeuten bij administratieve taken. Een volledig verbod zou deze ontwikkelingen afremmen voordat ze echt op gang komen.

Daarnaast wijzen sommigen erop dat het voorstel te vaag is geformuleerd. Waar ligt precies de gren



s tussen “emotionele ondersteuning” en “psychologische dienstverlening”? Is het voldoende als een KI troost biedt, of pas als het diagnoses of behandeladviezen geeft? Zonder duidelijke definities kan de wet tot rechtsonzekerheid leiden.

KI in de geestelijke gezondheidszorg: vloek of zegen?

De discussie toont het klassieke dilemma: aan de ene kant staat de hoop dat KI de geestelijke gezondheidszorg kan democratiseren. In landen met lange wachtlijsten voor therapieplekken of in regio’s met een tekort aan specialisten kunnen KI-tools een brug slaan. Veel gebruikers waarderen deze aanbiedingen juist als eerste aanspreekpunt – om zich uit te proberen of in crisissituaties snel hulp te krijgen.

Aan de andere kant zijn er terechte zorgen. KI herkent patronen in teksten en genereert ogenschijnlijk zinvolle antwoorden, maar het heeft geen echt empathisch vermogen, klinische ervaring of ethische verantwoordelijkheid. Een verkeerd antwoord in een emotionele dip kan desastreuze gevolgen hebben. En nog erger: mensen kunnen zich in een valse veiligheid wanen en noodzakelijke professionele hulp uitstellen.

Is er een middenweg?
In plaats van KI volledig te verbieden, pleiten experts voor een slim compromis: regulering in plaats van een radicale oplossing. Daartoe behoren:
1. **Certificering en goedkeuring**: KI-systemen die psychologische ondersteuning bieden, moeten bewezen veilig en effectief zijn – vergelijkbaar met medicijnen of medische hulpmiddelen.
2. **Transparante aanduiding**: Gebruikers moeten duidelijk kunnen zien of ze met een KI of een menselijke professional praten.
3. **Ethische richtlijnen**: Duidelijke regels over wat KI in de geestelijke gezondheidszorg mag – bijvoorbeeld verboden voor bepaalde adviezen (zoals het stoppen met medicatie).
4. **Menselijke begeleiding**: KI mag nooit zelfstandig diagnoses stellen of behandelingen aanbevelen, maar moet altijd als ondersteuning voor professionals dienen.

Mijn conclusie: innovatie ja – maar met verantwoordelijkheid
Californiës stap is een noodzakelijke zet om de risico’s van KI in gevoelige gebieden zoals de geestelijke gezondheidszorg te beperken. Maar een algeheel verbod zou de verkeerde weg zijn. In plaats daarvan hebben we een regelgevend kader nodig dat innovatie mogelijk maakt, zonder gebruikers in gevaar te brengen.

De grootste uitdaging zal zijn om de balans te vinden: KI kan een krachtig hulpmiddel zijn – maar het vervangt nooit de menselijke component van therapie. Zolang dat duidelijk wordt gecommuniceerd, kunnen KI-gestuurde aanbiedingen een zinvolle aanvulling zijn. Een volledig verbod daarentegen zou een stap terug zijn die dringend noodzakelijke oplossingen voor een groeiend aantal mensen met psychische belasting zou blokkeren.