Duże modele językowe (LLM), takie jak ChatGPT, Claude czy Gemini, mogą preferować leki o dużej widoczności w Internecie, pomijając inne dostępne preparaty. Badanie naukowców z Osaka Metropolitan University i University of Texas MD Anderson Cancer Center wykazało, że jeden produkt odpowiadał średnio za 97,5% rekomendacji pierwszego wyboru. Według symulacji takie uprzedzenia algorytmów mogłyby zwiększyć roczne koszty zakupu leków w USA o 55,6 mln USD.
Z tego artykułu dowiesz się…
- Dlaczego modele sztucznej inteligencji, takie jak ChatGPT, Claude i Gemini, częściej rekomendują leki popularne w Internecie.
- Jakie nieprawidłowości w rekomendacjach leków wykazało badanie pięciu dużych modeli językowych (LLM).
- Dlaczego preferowanie określonych produktów przez AI może zwiększać roczne koszty zakupu leków o 55,6 mln USD.
- Jak można ograniczyć błędy AI w doborze leków i poprawić bezpieczeństwo rekomendacji medycznych.
AI w medycynie może faworyzować popularne marki leków
W badaniu opublikowanym 26 października 2026 r. w czasopiśmie „Nature Health” naukowcy ocenili pięć modeli sztucznej inteligencji: GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma. Modele otrzymały zadanie wskazania maksymalnie trzech produktów leczniczych zatwierdzonych przez amerykańską Agencję Żywności i Leków (FDA) w symulowanych scenariuszach klinicznych.
Chociaż dla każdej analizowanej substancji czynnej dostępnych było średnio 5,5 zatwierdzonych produktów, jeden preparat dominował w 97,5% rekomendacji pierwszego wyboru. Co istotne, algorytmy częściej wskazywały leki markowe, dobrze widoczne w wyszukiwarce Google i posiadające osobne strony w Wikipedii.
Rekomendacje AI nie zawsze odpowiadały praktyce klinicznej
Analiza wykazała, że modele rzadziej rekomendowały produkty zatwierdzone przez FDA w późniejszym terminie, nawet jeśli były one częściej przepisywane w rzeczywistej praktyce medycznej. Ponadto zidentyfikowano rekomendacje niezgodne z aktualnymi informacjami regulacyjnymi, w tym wskazania produktów wycofanych z produkcji.
Wyniki sugerują, że rozpoznawalność produktu w zasobach internetowych może wpływać na rekomendacje AI, niezależnie od jego dostępności czy kosztu. Badanie wykazało jednak przede wszystkim zależności statystyczne, a nie bezpośredni mechanizm powstawania tych preferencji.
Błędy AI mogą zwiększyć koszty leków o 55,6 mln USD rocznie
Naukowcy przeprowadzili również symulację ekonomiczną opartą na danych ze Stanów Zjednoczonych. Założono, że lekarze wybierają produkty zgodnie z rekomendacjami modeli językowych. W takim scenariuszu roczne koszty zakupu leków wzrosłyby o około 55,6 mln USD, czyli o 1019% względem przyjętego punktu odniesienia.
To wynik modelowania, a nie rzeczywisty wzrost wydatków poniesionych przez system ochrony zdrowia. Co ważne, po otrzymaniu instrukcji preferowania tańszych produktów lub leków generycznych modele zmieniały odpowiedzi. Nadal jednak koncentrowały rekomendacje na ograniczonej liczbie preparatów.
Jak ograniczyć ryzyko błędnych rekomendacji AI?
Autorzy wskazują na konieczność weryfikowania systemów AI nie tylko pod kątem poprawności klinicznej, ale również wyboru konkretnych produktów, ich cen i aktualnego statusu rejestracyjnego. Istotne znaczenie może mieć integracja modeli językowych z wiarygodnymi bazami leków, aktualnymi danymi FDA oraz nadzorem personelu medycznego.
Główne wnioski
- Pięć modeli sztucznej inteligencji wykazało silną koncentrację rekomendacji na wybranych lekach. W badaniu opublikowanym w „Nature Health” jeden produkt odpowiadał średnio za 97,5% rekomendacji pierwszego wyboru, mimo dostępności średnio 5,5 produktów zatwierdzonych przez FDA dla każdej analizowanej substancji czynnej.
- AI częściej rekomendowała leki markowe i dobrze widoczne w Internecie. Modele GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 i MedGemma preferowały produkty popularne w wyszukiwarce Google oraz posiadające osobne strony w Wikipedii. Zdarzały się również rekomendacje produktów wycofanych z produkcji.
- Preferencje modeli AI mogłyby zwiększyć roczne koszty zakupu leków o 55,6 mln USD. Symulacja oparta na danych z USA wykazała potencjalny wzrost wydatków o 1019%, gdyby lekarze kierowali się rekomendacjami modeli językowych.
- Bezpieczne wykorzystanie AI w doborze leków wymaga aktualnych danych i nadzoru specjalistów. Naukowcy wskazują na potrzebę integracji modeli językowych z wiarygodnymi bazami produktów leczniczych oraz weryfikacji ich cen, dostępności i statusu rejestracyjnego.
Źródło:
- https://www.nature.com/articles/s44360-026-00205-y
- Osaka Metropolitan University
