KI som terapisubstitut: Kalifornien vill skärpa reglerna

Det är redan vansinnigt hur KI tränger in i nästan alla hörn av vårt liv – och nu även in psykoterapin. Allt fler människor söker tröst hos KI-chattbotar som ChatGPT när de mår dåligt eller litar på algoritmiska råd i krisögonblick. Men just denna utveckling vill nu Kalifornien reglera. Ett nytt lagförslag som för närvarande debatteras i delstatens parlament vill i praktiken förbjuda KI-chattbotar att kalla sig för "terapeut". Målet? Att sätta tydliga gränser innan okvalificerade eller till och med farliga råd orsakar skada.

När algoritmen blir själavårdare
Enligt förslaget, som ännu måste passera senaten och sedan gå vidare till Assembly, ska KI-system inte längre få erbjuda psykologiska rådgivningstjänster. Bakom detta ligger farhågan att okontrollerade KI-tillämpningar kan ge felaktiga eller skadliga rekommendationer – särskilt problematiskt eftersom många användare utnyttjar dessa tjänster utan professionell tillsyn. Antingen för att de är rädda för ett riktigt terapisamtal eller för att digital "själavård" helt enkelt är billigare och tillgänglig dygnet runt.

Men är ett generellt förbud verkligen lösningen? Eller behöver vi snarare tydliga spelregler för att utnyttja denna teknologis möjligheter utan att ignorera riskerna?

Varför Kalifornien bromsar in
Kalifornien är inte ensamt med denna idé. Även i andra delstater i USA och inom EU diskuteras reglering av KI inom mental hälsa. Det kaliforniska lagförslaget (närmare bestämt Assembly Bill 2231) syftar till att antingen klassificera KI-baserade plattformar som medicinska tjänster eller åtminstone förse dem med tydliga varningstexter. Dessutom ska det säkerställas att användarna förstår att de kommunicerar med en maskin och inte en människa.

En central punkt är transparens: KI måste öppet redovisa att den inte är en riktig terapeut utan endast genererar algoritmiska texter. Dessutom ska mekanismer införas för att upptäcka och blockera farliga råd – till exempel råd som uppmanar till självskada.

Varför lagen inte bara har anhängare
I grunden låter initiativet som ett bra steg – men det finns också kritik. Motståndare varnar för att ett alltför strängt förbud skulle kunna blockera innovativa lösningar. KI skulle trots allt kunna bli ett värdefullt komplement till klassisk psykoterapi: lättillgänglig första rådgivning, tillgänglig dygnet runt eller avlastning för terapeuter i administrativa uppgifter. Ett totalt förbud skulle bromsa dessa utvecklingar innan de hinner komma igång på allvar.

Dessutom påpekar vissa at



t förslaget är alltför vagt formulerat. Var går egentligen gränsen mellan "känslomässig support" och "psykologisk tjänst"? Räcker det att en KI tröstar, eller först när den ger diagnoser eller behandlingsrekommendationer? Utan tydliga definitioner kan lagen leda till rättsosäkerhet.

KI inom mental hälsa: Förbannelse eller välsignelse?

Diskussionen visar det klassiska dilemmat: Å ena sidan finns hoppet om att KI kan demokratisera vården av psykisk hälsa. I länder med långa köer till terapier eller i regioner med brist på specialister skulle KI-verktyg kunna vara en bro. Många användare uppskattar just dessa erbjudanden som första kontaktpunkt – för att prova sig fram eller få snabb hjälp i kriser.

Å andra sidan finns berättigade farhågor. KI kan känna igen mönster i texter och generera till synes meningsfulla svar, men den har varken riktigt empati, klinisk erfarenhet eller etiskt ansvar. Ett felaktigt svar i ett känslomässigt svacka kan få fatala följder. Och ännu värre: drabbade personer kan känna sig falskt trygga och fördröja nödvändig professionell hjälp.

Finns det en gyllene medelväg?
Istället för att förbjuda KI helt, förespråkar experter en klok kompromiss: reglering istället för radikala lösningar. Detta inkluderar:
1. Certifiering och godkännande: KI-system som erbjuder psykologiskt stöd bör vara bevisat säkra och effektiva – likt läkemedel eller medicintekniska produkter.
2. Tydlig märkning: Användarna måste klart kunna se om de kommunicerar med en KI eller en mänsklig specialist.
3. Etiska riktlinjer: Tydliga regler för vad KI får göra inom mental hälsa – till exempel förbud mot vissa råd (såsom att avsluta medicinering).
4. Mänsklig tillsyn: KI bör aldrig självständigt ställa diagnoser eller rekommendera behandlingar, utan endast fungera som stöd för yrkesverksamma.

Mitt slutord: Innovation ja – men med ansvar
Kaliforniens initiativ är ett nödvändigt steg för att begränsa riskerna med KI i känsliga områden som psykisk hälsa. Men ett generellt förbud vore fel väg. Istället behöver vi en reglerande ram som möjliggör innovation utan att äventyra användarnas säkerhet.

Den största utmaningen kommer att vara att hitta balansen: KI kan vara ett kraftfullt verktyg – men den ersätter aldrig den mänskliga komponenten i terapi. Så länge detta kommuniceras tydligt kan KI-baserade erbjudanden vara ett meningsfullt komplement. Ett totalt förbud däremot skulle vara ett steg tillbaka som blockerar lösningar som så många människor med psykiska påfrestningar akut behöver.