KI jako substytut terapeuty: Kalifornia wprowadza ostrzejsze regulacje

To już szaleństwo, jak sztuczna inteligencja wkracza w niemal każdy zakątek naszego życia – a teraz także w psychoterapię. Coraz więcej osób szuka pocieszenia u chatbotów opartych na AI, takich jak ChatGPT, gdy są emocjonalnie wyczerpane, lub ufa algorytmicznym poradom w kryzysowych momentach. Ale właśnie ta tendencja ma zostać uregulowana przez Kalifornię. Nowy projekt ustawy, który obecnie jest dyskutowany w parlamencie tego amerykańskiego stanu, chce zakazać chatbotom AI posługiwania się tytułem „terapeuta”. Celem? Wyznaczenie wyraźnych granic, zanim niekwalifikowane lub nawet niebezpieczne porady wyrządzą szkodę.

**Gdy algorytm staje się duchownym**

Zgodnie z projektem, który musi jeszcze przejść przez Senat, a następnie trafić do Zgromadzenia, systemy AI nie będą mogły oferować usług psychologicznego doradztwa. Za tym pomysłem stoi obawa, że niekontrolowane aplikacje AI mogą udzielać fałszywych lub szkodliwych zaleceń – zwłaszcza problematyczne, ponieważ wielu użytkowników korzysta z tych usług bez profesjonalnego nadzoru. Dzieje się tak albo z obawy przed prawdziwą terapią, albo dlatego, że „cyfrowa opieka duchowa” jest po prostu tańsza i dostępna przez całą dobę.

**Dlaczego Kalifornia hamuje?**

Kalifornia nie jest osamotniona w tej idei. Również w innych stanach USA i w UE dyskutuje się o regulacji AI w obszarze zdrowia psychicznego. Kalifornijski projekt ustawy (konkretnie: *Assembly Bill 2231*) ma na celu klasyfikację platform opartych na AI jako usługi medyczne lub przynajmniej wyposażenie ich w wyraźne ostrzeżenia. Ponadto ma zapewnić, że użytkownicy będą świadomi, iż rozmawiają z maszyną, a nie z człowiekiem.

Kluczowym punktem jest transparentność: AI musi ujawniać, że nie jest prawdziwym terapeutą, lecz jedynie generuje teksty algorytmicznie. Dodatkowo mają zostać wprowadzone mechanizmy wykrywania i blokowania niebezpiecznych porad – na przykład dotyczących zagrożenia dla siebie.

**Dlaczego ustawa nie ma tylko zwolenników?**

Choć inicjatywa brzmi rozsądnie, spotyka się także z krytyką. Przeciwnicy ostrzegają, że zbyt surowe zakazy mogą zahamować innowacyjne podejścia. AI mogłaby bowiem stać się cennym uzupełnieniem klasycznej psychoterapii: oferować niskoprogową pierwszą pomoc, być dostępną przez 24 godziny na dobę lub odciążać terapeutów od zadań administracyjnych. Całkowity zakaz mógłby zatrzymać te rozwiązania, zanim nabiorą rozpędu.

Ponadto niektórzy krytykują projekt za zbyt ogólnikowe sformułowania. Gdzie dokładnie przebiega granica między „wsparciem emocjonalnym” a „usługą psychologiczną”? Czy wyst



arczy, że AI pociesza, czy dopiero wtedy, gdy stawia diagnozy lub zaleca leczenie? Bez jasnych definicji ustawa może prowadzić do niepewności prawnej.

**AI w zdrowiu psychicznym: Przekleństwo czy błogosławieństwo?**

Dyskusja ukazuje klasyczne dylemat: z jednej strony istnieje nadzieja, że AI może demokratyzować opiekę nad zdrowiem psychicznym. W krajach z długimi kolejkami do terapeutów lub regionach z niedoborem specjalistów narzędzia oparte na AI mogłyby stanowić most. Wielu użytkowników ceni te oferty jako pierwszy punkt kontaktowy – aby się sprawdzić lub uzyskać szybką pomoc w kryzysie.

Z drugiej strony pojawiają się uzasadnione obawy. AI wprawdzie rozpoznaje wzorce w tekstach i generuje pozornie sensowne odpowiedzi, ale nie posiada prawdziwej empatii, doświadczenia klinicznego ani odpowiedzialności etycznej. Błędna odpowiedź w głębokim kryzysie emocjonalnym może mieć fatalne konsekwencje. A jeszcze gorzej: osoby potrzebujące mogą poczuć się fałszywie bezpieczne i opóźnić konieczną profesjonalną pomoc.

**Czy istnieje złoty środek?**

Zamiast całkowicie zakazywać AI, eksperci opowiadają się za mądrym kompromisem: regulacją zamiast radykalnego rozwiązania. Wśród propozycji znajdują się:

1. **Certyfikacja i dopuszczenie**: Systemy AI oferujące wsparcie psychologiczne powinny być udowodnione jako bezpieczne i skuteczne – podobnie jak leki lub wyroby medyczne.
2. **Przejrzyste oznakowanie**: Użytkownicy muszą wyraźnie wiedzieć, czy rozmawiają z AI, czy z ludzkim specjalistą.
3. **Wytyczne etyczne**: Jasne zasady dotyczące tego, co AI może w obszarze zdrowia psychicznego – na przykład zakazy dotyczące określonych porad (np. odstawiania leków).
4. **Nadzór ludzki**: AI nigdy nie powinna samodzielnie stawiać diagnoz ani zalecać leczenia, lecz jedynie wspierać pracę specjalistów.

**Moje podsumowanie: Innowacja tak – ale z odpowiedzialnością**

Krok Kalifornii jest koniecznym posunięciem, aby ograniczyć ryzyka związane z AI w wrażliwych obszarach, takich jak zdrowie psychiczne. Ale całkowity zakaz byłby niewłaściwym rozwiązaniem. Potrzebujemy raczej regulacyjnego systemu, który umożliwi innowacje, nie narażając użytkowników na niebezpieczeństwo.

Największym wyzwaniem będzie znalezienie równowagi: AI może być potężnym narzędziem – ale nigdy nie zastąpi ludzkiego komponentu terapii. Dopóki jest to jasno komunikowane, oferty oparte na AI mogą stanowić sensowne uzupełnienie. Całkowity zakaz natomiast byłby krokiem wstecz, blokującym pilnie potrzebne rozwiązania dla rosnącej liczby osób zmagających się z obciążeniami psychicznymi.