Sztuczna inteligencja coraz szybciej wkracza do podstawowej opieki zdrowotnej – od automatycznego sporządzania dokumentacji medycznej, przez chatboty udzielające porad, po aplikacje wspierające decyzje kliniczne. Najnowsza analiza opublikowana w The Lancet Primary Care pokazuje jednak, że tempo wdrażania AI wyraźnie wyprzedza mechanizmy kontroli bezpieczeństwa i regulacje, co może stwarzać realne zagrożenia dla pacjentów oraz systemów ochrony zdrowia.
Z tego artykułu dowiesz się…
- Jak sztuczna inteligencja jest dziś wykorzystywana w podstawowej opiece zdrowotnej – od cyfrowych skrybów po generatywne modele językowe wspierające lekarzy i pacjentów.
- Dlaczego tempo wdrażania AI wyprzedza regulacje i ocenę bezpieczeństwa oraz jakie ryzyka niesie to dla jakości opieki i bezpieczeństwa pacjentów.
- Jakie luki dowodowe wskazują badania opublikowane w „The Lancet Primary Care”, w tym brak danych z realnej praktyki klinicznej.
- Jakie wyzwania etyczne, środowiskowe i równościowe wiążą się z rozwojem AI w opiece podstawowej i dlaczego wymagają pilnej reakcji decydentów.
AI w podstawowej opiece zdrowotnej – szybka adopcja, ograniczone dowody
Badanie zespołu Uniwersytetu w Sydney objęło dane z wielu regionów świata, w tym Stanów Zjednoczonych, Wielkiej Brytanii, Australii, Irlandii, krajów afrykańskich i Ameryki Łacińskiej. Wyniki wskazują, że narzędzia oparte na sztucznej inteligencji są coraz częściej wykorzystywane w codziennej praktyce lekarzy rodzinnych – często bez formalnej oceny skuteczności i bezpieczeństwa. W Wielkiej Brytanii co piąty lekarz rodzinny deklarował korzystanie z generatywnej AI w 2024 roku. W Australii odsetek ten szacowany jest nawet na około 40%, choć brak oficjalnych danych krajowych.
Podstawowa opieka zdrowotna stanowi kręgosłup systemów opieki zdrowotnej, zapewniając dostępną i ciągłą opiekę – powiedziała prowadząca badanie profesor nadzwyczajna Liliana Laranjo, stypendystka Horizon w Centrum Badań Stosowanych Westmead. Sztuczna inteligencja może odciążyć przeciążone służby zdrowia, ale bez zabezpieczeń ryzykujemy nieprzewidziane konsekwencje dla bezpieczeństwa pacjentów i jakości opieki.
Presja systemowa sprzyja sięganiu po AI
Podstawowa opieka zdrowotna na całym świecie zmaga się z narastającymi problemami: niedoborem kadr, wypaleniem zawodowym lekarzy oraz rosnącą złożonością opieki nad pacjentami wielochorobowymi. Pandemia COVID-19 dodatkowo pogłębiła te wyzwania.
W tym kontekście AI jest postrzegana jako narzędzie oszczędzające czas – automatyzuje dokumentację, podsumowuje wizyty i wspiera podejmowanie decyzji klinicznych. Problem polega na tym, że większość dostępnych badań opiera się na symulacjach, a nie na realnym funkcjonowaniu systemów w praktyce klinicznej.
Sztuczna inteligencja jest już obecna w naszych klinikach, ale bez australijskich danych o liczbie lekarzy rodzinnych, którzy z niej korzystają, oraz bez odpowiedniego nadzoru, działamy w ciemno, jeśli chodzi o bezpieczeństwo – podkreśliła adiunkt Laranjo.
Korzyści kontra nowe zagrożenia kliniczne
Z jednej strony lekarze wskazują, że cyfrowi skrybowie i narzędzia transkrypcji zmniejszają obciążenie poznawcze i poprawiają komfort pracy. Z drugiej – pojawiają się konkretne ryzyka.
Nasze badanie wykazało, że wielu lekarzy rodzinnych korzystających z asystentów AI nie chce wracać do pisania na klawiaturze. Twierdzą, że przyspiesza to konsultacje i pozwala im skupić się na pacjentach, ale narzędzia te mogą pomijać istotne dane osobowe i wprowadzać stronniczość – powiedział adiunkt Laranjo.
Szczególne obawy budzą aplikacje do sprawdzania objawów i modele generatywne, takie jak ChatGPT.
Modele generatywne, takie jak ChatGPT, mogą brzmieć przekonująco, ale pod względem faktycznym są błędne – zaznaczyła adiunkt Laranjo. Często zgadzają się z użytkownikami, nawet jeśli ci się mylą, co jest niebezpieczne dla pacjentów i stanowi wyzwanie dla klinicystów.
Równość w zdrowiu i ryzyko algorytmicznej stronniczości
Autorzy badania zwracają uwagę, że AI może zarówno pogłębiać, jak i zmniejszać nierówności zdrowotne – w zależności od jakości danych i sposobu projektowania algorytmów.
Przykładem problemu są narzędzia dermatologiczne, które gorzej rozpoznają zmiany skórne u osób z ciemniejszym odcieniem skóry, ponieważ takie przypadki są niedostatecznie reprezentowane w zbiorach treningowych. Z kolei w jednym z badań nad zapaleniem stawów zastosowanie algorytmu trenowanego na zróżnicowanych danych podwoiło liczbę czarnoskórych pacjentów kwalifikowanych do endoprotezoplastyki kolana.
Ignorowanie czynników społeczno-ekonomicznych i uniwersalnego projektowania może sprawić, że sztuczna inteligencja w opiece podstawowej przestanie być przełomem i stanie się regresem – ostrzegła adiunkt Laranjo.
Koszty środowiskowe niewidoczne w debacie klinicznej
Raport zwraca również uwagę na znaczący ślad środowiskowy AI. Trening modelu GPT-3 w 2020 roku odpowiadał emisji CO₂ porównywalnej do 188 lotów między Nowym Jorkiem, a San Francisco. Centra danych zużywają dziś około 1% globalnej energii elektrycznej, a w Irlandii odpowiadają za ponad 20% krajowego zużycia prądu.
Ślad środowiskowy sztucznej inteligencji stanowi wyzwanie – podkreśliła profesor nadzwyczajna Laranjo. Potrzebujemy zrównoważonych podejść, które równoważą innowacyjność z równością i zdrowiem planety.
Apel o regulacje i odpowiedzialne wdrażanie
Autorzy publikacji wzywają rządy, środowisko medyczne i twórców technologii do pilnych działań, obejmujących:
- rzetelną ocenę i monitorowanie AI w warunkach rzeczywistych,
- regulacje nadążające za tempem innowacji,
- edukację lekarzy i pacjentów w zakresie AI,
- aktywne ograniczanie stronniczości algorytmów,
- wdrażanie rozwiązań przyjaznych środowisku.
Sztuczna inteligencja daje szansę na zrewolucjonizowanie podstawowej opieki zdrowotnej, ale innowacje nie mogą odbywać się kosztem bezpieczeństwa ani równości – podsumowała profesor nadzwyczajna Laranjo.Potrzebujemy partnerstw międzysektorowych, aby zapewnić korzyści wszystkim – nie tylko tym, którzy znają się na technologii i dysponują odpowiednimi zasobami.
Główne wnioski
- AI jest już szeroko stosowana w opiece podstawowej – w 2024 r. korzystało z niej ok. 20% lekarzy rodzinnych w Wielkiej Brytanii i nawet 40% w Australii, często bez formalnego nadzoru.
- Większość dostępnych dowodów opiera się na symulacjach, a nie na badaniach w warunkach rzeczywistych, co utrudnia ocenę skuteczności i bezpieczeństwa tych narzędzi.
- Modele generatywne mogą wprowadzać błędy i stronniczość, pomijać istotne dane kliniczne oraz pogłębiać nierówności zdrowotne, jeśli są trenowane na niepełnych zbiorach danych.
- Eksperci wzywają do pilnych regulacji i monitorowania AI, aby innowacje w opiece podstawowej nie odbywały się kosztem bezpieczeństwa pacjentów, równości i środowiska.
Źródło:
- University of Sydney
- https://www.thelancet.com/journals/lanprc/article/PIIS3050-5143(25)00078-0/fulltext
