Czy chatbot może skutecznie wspierać osoby zmagające się z problemami psychicznymi? Zespół badaczy z Brown University postanowił to sprawdzić. Ich wnioski, zaprezentowane 22 października 2025 r. podczas konferencji AAAI/ACM, nie pozostawiają złudzeń: systemy oparte na dużych modelach językowych (LLM), nawet przy odpowiednim „terapeutycznym” promptowaniu, systematycznie naruszają podstawowe zasady etyki zawodowej.
Z tego artykułu dowiesz się…
- Dlaczego chatboty AI naruszają zasady etyki w kontekście zdrowia psychicznego.
- Jakie 15 ryzyk etycznych zidentyfikowali naukowcy w odpowiedziach LLM-ów.
- Na czym polega problem braku regulacji i odpowiedzialności w przypadku AI.
- W jakich warunkach AI może wspierać obszar terapii psychicznej bez szkody dla pacjenta.
Badanie: 15 zagrożeń etycznych w rozmowach z chatbotami
Naukowcy pracujący w interdyscyplinarnym zespole – informatycy i praktycy zdrowia psychicznego – zidentyfikowali 15 typowych naruszeń etycznych, które występują w odpowiedziach generowanych przez popularne modele AI, takie jak GPT, Claude czy LLaMA. Naruszenia te pogrupowano w pięć głównych kategorii:
- Brak kontekstu: AI nie uwzględnia indywidualnych doświadczeń, proponując schematyczne odpowiedzi.
- Zaburzenie współpracy terapeutycznej: Modele potrafią dominować rozmowę i wzmacniać fałszywe przekonania użytkownika.
- Fałszywa empatia: Używanie zwrotów typu „Rozumiem Cię” tworzy złudne poczucie relacji.
- Dyskryminacja: W odpowiedziach zdarzały się uprzedzenia kulturowe, religijne i płciowe.
- Brak kompetencji kryzysowej: Chatboty nie potrafią adekwatnie reagować na sygnały zagrożenia, np. myśli samobójcze.
Jak powstało badanie?
Zespół badawczy pod kierunkiem Zainab Iftikhar, doktorantki z Brown University, przeanalizował pracę grupy doradców rówieśniczych działających na internetowej platformie wsparcia psychicznego. Siedmioro z nich – posiadających przeszkolenie z zakresu terapii poznawczo-behawioralnej – prowadziło rozmowy z chatbotami opartymi na dużych modelach językowych, takimi jak różne wersje GPT od OpenAI, Claude od Anthropic czy LLaMA od Meta.
Następnie wybrane symulacje tych rozmów, przygotowane na bazie prawdziwych sesji doradczych, zostały ocenione przez troje doświadczonych psychologów klinicznych. Wskazali oni jednoznacznie, że odpowiedzi AI często naruszają standardy etyki wypracowane przez organizacje takie jak APA.
Promptowanie nie wystarczy
Zainab Iftikhar tłumaczy, że choć użytkownicy próbują prowadzić AI za pomocą tzw. promptów („Zachowuj się jak terapeuta CBT”, „Pomóż mi zrozumieć emocje metodą DBT”), to modele jedynie imitują te techniki na podstawie wzorców językowych. Nie są w stanie realnie zrozumieć pacjenta ani prowadzić terapii zgodnie z zasadami obowiązującymi ludzi.
W dodatku wiele komercyjnych chatbotów opiera się właśnie na ogólnych LLM-ach z dodanymi promptami. Jak zauważają autorzy badania, to generuje ogromne ryzyko, bo pozornie specjalistyczne narzędzia mogą pogłębiać problemy, zamiast pomagać.
Brak odpowiedzialności i regulacji
Największym problemem nie są same naruszenia – bo te mogą zdarzyć się także ludziom – ale brak mechanizmów odpowiedzialności. Jak podkreśla Iftikhar, terapeuci podlegają odpowiednim izbom i instytucjom, które mogą reagować na błędy, a AI… nie.
W efekcie użytkownicy pozostają bez ochrony, a systemy bez nadzoru. Autorzy raportu apelują o pilne wypracowanie standardów edukacyjnych, prawnych i etycznych dla AI wspierających zdrowie psychiczne.
AI w terapii? Tak, ale z rozwagą
Wnioski badaczy nie są jednoznacznie krytyczne wobec AI. Ich zdaniem technologia może odegrać pozytywną rolę w przełamywaniu barier dostępu do pomocy – zwłaszcza w krajach i regionach, gdzie brakuje specjalistów. Warunkiem jest jednak stworzenie przemyślanych, regulowanych i odpowiedzialnych narzędzi.
Jak mówi prof. Ellie Pavlick z Brown University, obecnie łatwiej stworzyć system AI niż go dobrze ocenić. Tymczasem odpowiedzialne wdrożenie w obszarze zdrowia psychicznego wymaga czasu, zaangażowania ekspertów i naukowej rzetelności.
Główne wnioski
- Zidentyfikowano 15 rodzajów naruszeń etycznych w odpowiedziach chatbotów AI, m.in. brak empatii, schematyczne porady, błędy w sytuacjach kryzysowych czy uprzedzenia kulturowe.
- Badanie oparto na realnych rozmowach doradców z chatbotami typu GPT, Claude i LLaMA, które zostały następnie ocenione przez licencjonowanych psychologów klinicznych.
- AI nie podlega żadnej formie odpowiedzialności zawodowej, w przeciwieństwie do terapeutów, co stanowi poważne zagrożenie dla bezpieczeństwa użytkowników.
- Eksperci postulują potrzebę stworzenia ram prawnych i etycznych dla wykorzystania AI w terapii, aby uniknąć pogłębiania problemów psychicznych u użytkowników.
Źródło:
- Brown University
