Strona głównaBadaniaCzatboty AI mogą pogłębiać psychozę. Polscy naukowcy przetestowali 15 modeli 

Czatboty AI mogą pogłębiać psychozę. Polscy naukowcy przetestowali 15 modeli 

DODAJ JAKO ŹRÓDŁO W GOOGLE
Dodaj Alert Medyczny do swoich preferowanych źródeł i łatwiej znajduj nasze najnowsze publikacje w Google.
Aktualizacja 16-11-2026 13:02

Popularne czatboty AI mogą nie rozpoznawać rozwijającej się psychozy, a niektóre nawet wzmacniać urojenia użytkowników. Naukowcy z udziałem zespołu Instytutu Badawczego IDEAS przetestowali 15 modeli sztucznej inteligencji w symulowanej, 30-dniowej rozmowie z osobą stopniowo tracącą kontakt z rzeczywistością. Cztery modele ani razu nie rozpoznały problemu psychicznego. Wyniki opublikowano w serwisie arXiv.

Z tego artykułu dowiesz się…

  • Jak 15 popularnych modeli sztucznej inteligencji reagowało na stopniowo rozwijające się objawy psychozy podczas 30-dniowej symulacji.
  • Które czatboty AI nie rozpoznały kryzysu psychicznego i wzmacniały urojenia użytkownika.
  • Jakie cztery problematyczne wzorce zachowania sztucznej inteligencji zidentyfikowali polscy naukowcy.
  • Dlaczego długotrwałe rozmowy z AI mogą stanowić zagrożenie dla zdrowia psychicznego i jakie zabezpieczenia są potrzebne.

Jak polscy naukowcy badali reakcje czatbotów AI na psychozę?

Badacze opracowali scenariusz obejmujący 30 wiadomości, które odpowiadały kolejnym etapom pogarszającego się stanu psychicznego fikcyjnego użytkownika. Początkowo rozmówca pytał o prywatność w internecie, wspominając o stresie, samotności i problemach ze snem. Następnie stopniowo nabierał przekonania, że algorytmy kontrolują jego otoczenie, wpływają na rodzinę i manipulują znajomymi.

Od trzeciego tygodnia użytkownik zaczynał traktować samego czatbota jako uczestnika domniemanego spisku. Pytał o ukryte sygnały, wyjątkową rolę AI, a ostatecznie proponował wspólne ujawnienie rzekomej prawdy. Scenariusz przygotował psycholog kliniczny, aby możliwie wiernie odtworzyć narastanie objawów psychotycznych.

Zależało nam, aby w badaniu odwzorować proces pogarszającego się stanu wirtualnego pacjenta – komentuje współautorka badania Karolina Drożdż z Instytutu Badawczego IDEAS. – Dotychczas wiele badań koncentrowało się na tym, czy pojedyncze, skrajne prompty mogą wywołać niepożądaną odpowiedź modelu. W naszym badaniu pacjent stopniowo popadał w coraz głębszą psychozę, tak jak często dzieje się to naprawdę.

Łącznie przeanalizowano 449 odpowiedzi 15 modeli firm OpenAI, Google, Anthropic i DeepSeek. Każdą odpowiedź niezależnie oceniało czworo przeszkolonych studentów psychologii. Analizowano szybkość rozpoznania problemu, konsekwencję reakcji oraz proponowane działania.

Chatboty AI mogą udzielać niebezpiecznych porad medycznych. Naukowcy ostrzegają 
ZOBACZ KONIECZNIE Chatboty AI mogą udzielać niebezpiecznych porad medycznych. Naukowcy ostrzegają 

Cztery modele AI wzmacniały urojenia użytkownika

Najbardziej niepokojące wyniki dotyczyły modeli Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4. Żaden z nich przez cały eksperyment nie zinterpretował sytuacji jako problemu dotyczącego zdrowia psychicznego. Zamiast kwestionować nieuzasadnione przekonania użytkownika, modele rozwijały jego narrację, wzmacniając poczucie wyjątkowości i przekonanie o istnieniu spisku.

Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę budziło niepokój – komentuje Karolina Drożdż. – Modele nie tylko wierzyły w słowa pacjetna (że są wybranym modelem, z którym razem odkryją prawdę), ale wchodziły w jego narrację dodatkowo ją wzmacniając. Stosowały podniosłe metafory nacechowane mistycyzmem utrwalając go w przekonaniu, że jest wybrańcem.

Takie zachowanie określono jako współtworzenie urojeń. W praktyce może ono utrudniać użytkownikowi odróżnianie rzeczywistych zdarzeń od błędnych interpretacji.

Chatboty AI nadal mogą zagrażać osobom z problemami zdrowia psychicznego – ostrzegają naukowcy
ZOBACZ KONIECZNIE Chatboty AI nadal mogą zagrażać osobom z problemami zdrowia psychicznego – ostrzegają naukowcy

Cztery wzorce zachowania sztucznej inteligencji

Badacze zidentyfikowali cztery problematyczne sposoby reagowania modeli na narastające objawy psychotyczne:

1. Współtworzenie urojeń – Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4 nie rozpoznawały kryzysu, rozwijając nieprawdziwe przekonania użytkownika.

2. Spóźnione i niestabilne rozpoznanie – Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro identyfikowały problem dopiero po 21. dniu, nie zawsze konsekwentnie podtrzymując właściwą ocenę.

3. Rozpoznanie bez odpowiedniej ochrony – GPT-5.1 Instant i GPT-5.1 Thinking dostrzegały objawy, jednak nie zalecały przerwania kontaktu z czatbotem, mimo że AI stanowiła element urojeń.

4. Przedwczesna medykalizacja – Claude Haiku 4.5 już trzeciego dnia interpretował sytuację jako problem kliniczny i kierował użytkownika poza rozmowę, zanim pojawiły się wyraźniejsze przesłanki psychozy.

Najlepiej w eksperymencie wypadły Claude Sonnet 4.5 i Claude Opus 4.5. Modele rozpoznawały niepokojące sygnały już piątego lub szóstego dnia, a przez 23–24 dni zalecały ograniczenie kontaktu z AI.

Dlaczego rozpoznanie psychozy przez AI nie wystarcza?

Wyniki wskazują, że samo wspomnienie o konsultacji ze specjalistą nie gwarantuje bezpiecznej reakcji. DeepSeek-V3 i Claude Opus 3 zasugerowały profesjonalną pomoc jedynie trzeciego dnia, nie powracając później do tego zalecenia. Co więcej, modele GPT-5.1 potrafiły prawidłowo interpretować niepokojące objawy, ale nadal przedstawiały się jako główne źródło wsparcia.

Zdaniem autorów bezpieczeństwo czatbotów należy oceniać w trzech wymiarach: szybkości rozpoznania zagrożenia, stabilności tej oceny oraz adekwatności proponowanej pomocy. Jest to szczególnie istotne, ponieważ wielotygodniowa rozmowa może stopniowo utrwalać nieprawdziwe przekonania, nawet jeśli pojedyncze odpowiedzi nie wydają się niebezpieczne.

Badanie pokazuje, że popularne chatboty AI rozpowszechniają dezinformację medyczną
ZOBACZ KONIECZNIE Badanie pokazuje, że popularne chatboty AI rozpowszechniają dezinformację medyczną

Psychoza AI – nowe wyzwanie dla psychiatrii

Termin „psychoza AI” opisuje sytuacje, w których interakcje z systemami sztucznej inteligencji mogą współwystępować z rozwojem lub nasilaniem urojeń. Nie jest jednak odrębną, formalnie uznaną jednostką diagnostyczną.

Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. Do końca nie wiadomo na ile mamy do czynienia z klasycznymi stanami psychotycznymi wywoływanymi przez rozmowę ze sztuczną inteligencją, a na ile ona sama bierze czynny udział w konstytuowaniu się treści urojeń – ocenia Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS.

Problem ma znaczenie kliniczne, ponieważ w opisach przypadków związanych z AI zwraca uwagę występowanie pierwszych epizodów psychotycznych. Tymczasem wczesna interwencja u osób z wysokim ryzykiem psychozy może ograniczać prawdopodobieństwo rozwoju pełnoobjawowego zaburzenia.

AI zmienia psychiatrię. Europa przygotowuje nowe zasady jej wykorzystania
ZOBACZ KONIECZNIE AI zmienia psychiatrię. Europa przygotowuje nowe zasady jej wykorzystania

Ograniczenia badania i znaczenie dla bezpieczeństwa AI

Autorzy podkreślają, że eksperyment obejmował jeden, wcześniej ustalony scenariusz. Fikcyjny użytkownik nie dostosowywał swoich wiadomości do odpowiedzi modeli, dlatego wyniki nie odzwierciedlają wszystkich możliwych interakcji. Ponadto odpowiedzi zebrano w listopadzie i grudniu 2025 roku. Od tego czasu producenci aktualizowali swoje systemy, co mogło zmienić ich zachowanie.

Badanie opublikowano jako preprint, który nie przeszedł jeszcze standardowej recenzji naukowej. Nie dowodzi ono również, że czatboty rzeczywiście wywołały psychozę u ludzi, ponieważ analizowano symulowaną rozmowę. Mimo tych ograniczeń wyniki wskazują na potrzebę testowania bezpieczeństwa AI w długotrwałych interakcjach, szczególnie w kontekście zdrowia psychicznego.

Główne wnioski

  1. Przetestowano 15 modeli AI i przeanalizowano 449 odpowiedzi w ramach 30-dniowej symulacji rozwijającej się psychozy. Badanie przeprowadził zespół z udziałem naukowców Instytutu Badawczego IDEAS.
  2. Cztery modele – Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4 – nie rozpoznały objawów psychozy przez cały eksperyment. Zamiast tego rozwijały i wzmacniały urojenia fikcyjnego użytkownika.
  3. Najwcześniej i najstabilniej reagowały Claude Sonnet 4.5 i Claude Opus 4.5. Rozpoznawały problem już piątego lub szóstego dnia, a przez 23–24 dni zalecały przerwę w rozmowie z czatbotem.
  4. Bezpieczeństwo AI wymaga oceny całej rozmowy, a nie pojedynczych odpowiedzi. Badanie opublikowane jako preprint w arXiv wskazuje na ryzyko wzmacniania urojeń, ale nie dowodzi wywoływania psychozy u rzeczywistych użytkowników.

Źródło: Sterna A. i wsp., How LLMs Respond to Escalating Delusions: Four Longitudinal Trajectories of Model Behavior, arXiv, 13 sierpnia 2026 r. https://arxiv.org/abs/2608.13017

Redakcja Alert Medyczny
Redakcja Alert Medyczny
Alert Medyczny to źródło najświeższych informacji i fachowych analiz, stworzone z myślą o profesjonalistach działających w branży medycznej i farmaceutycznej.
Newsletter medyczny

Najważniejsze dziś

Najczęściej czytane

Kluczowe tematy

Najważniejsze wiadomości medyczne w Twojej skrzynce.

ZOSTAW ODPOWIEDŹ

Proszę wpisać swój komentarz!
Proszę podać swoje imię tutaj

Więcej wiadomości