Sztuczna inteligencja coraz mocniej wkracza do badań medycznych, ale dotychczasowe mechanizmy nadzoru etycznego nie zawsze nadążają za rozwojem technologii. Światowa Organizacja Zdrowia (WHO) wskazuje na ryzyka związane m.in. z prywatnością, stronniczością algorytmów, przejrzystością i odpowiedzialnością. Nowy raport ma pomóc badaczom, komisjom etycznym, regulatorom i instytucjom finansującym odpowiedzialnie wykorzystywać AI w badaniach nad zdrowiem.
Z tego artykułu dowiesz się…
- Dlaczego WHO wzywa do wzmocnienia nadzoru etycznego nad badaniami wykorzystującymi sztuczną inteligencję w zdrowiu.
- Jakie są najważniejsze ryzyka związane z AI w badaniach medycznych, w tym problemy dotyczące prywatności, przejrzystości, stronniczości algorytmów, odpowiedzialności i równości.
- Jak powinna zmienić się rola komisji etyki badań (REC) oraz dlaczego potrzebują one dodatkowej wiedzy, szkoleń i zasobów do oceny projektów wykorzystujących AI.
- Dlaczego odpowiedzialność za bezpieczne wykorzystanie AI powinna obejmować cały cykl życia badań oraz angażować badaczy, regulatorów, fundatorów i czasopisma naukowe.
WHO chce silniejszego nadzoru nad AI w badaniach medycznych
Sztuczna inteligencja może przyspieszać analizę ogromnych zbiorów danych, wspierać odkrywanie nowych zależności, rozwój technologii medycznych oraz prowadzenie badań. Wraz z jej możliwościami pojawiają się jednak nowe problemy etyczne. WHO poświęciła im raport „Health research in the context of artificial intelligence: ethical review and oversight”. Dokument został opracowany przez ekspertów zajmujących się m.in. etyką badań, nauką, zdrowiem cyfrowym i AI.
Organizacja zwraca uwagę, że obecne mechanizmy kontroli badań mogą nie być wystarczająco dostosowane do specyfiki sztucznej inteligencji. Dotyczy to szczególnie takich kwestii jak przejrzystość, prywatność, odpowiedzialność, sprawiedliwość, stronniczość algorytmów oraz możliwość wystąpienia szkód. Problemy te wpisują się w szersze stanowisko WHO dotyczące AI w zdrowiu, zgodnie z którym rozwój technologii powinien respektować autonomię człowieka, bezpieczeństwo, transparentność, odpowiedzialność i równość.
AI w badaniach nad zdrowiem wymaga kontroli na każdym etapie
Raport obejmuje różne sposoby wykorzystania sztucznej inteligencji w badaniach nad zdrowiem, od analizowania danych przy użyciu AI po badania samych narzędzi i technologii opartych na sztucznej inteligencji. WHO podkreśla przy tym, że kwestie etyczne powinny być analizowane w całym cyklu życia badania. Nadzór nie powinien więc kończyć się wraz z uzyskaniem zgody komisji etycznej przed rozpoczęciem projektu. Znaczenie mają również późniejsze etapy, w tym prowadzenie badania, publikowanie wyników, regulacja technologii oraz jej ewentualne wdrożenie.
Sztuczna inteligencja stwarza bezprecedensowe możliwości przyspieszenia badań nad zdrowiem i poprawy jakości życia ludzi – powiedziała dr Meg Doherty, Dyrektor Departamentu Nauki o Zdrowiu. Jednocześnie innowacje muszą być oparte na silnych zabezpieczeniach etycznych, które chronią godność, prawa i równość człowieka. Niniejszy raport zawiera praktyczne wskazówki, które pomogą badaczom, komisjom etycznym i decydentom w poruszaniu się po szansach i zagrożeniach związanych z badaniami nad zdrowiem z wykorzystaniem sztucznej inteligencji.
Komisje etyczne potrzebują nowych kompetencji związanych z AI
Szczególna odpowiedzialność spoczywa na komisjach etyki badań (Research Ethics Committees, REC). Nadal mają one odgrywać kluczową rolę w ochronie uczestników, jednak ocena projektów wykorzystujących zaawansowane algorytmy może wymagać dodatkowej wiedzy specjalistycznej, szkoleń i zasobów.
Badacze powinni natomiast identyfikować potencjalne zagrożenia już na etapie projektowania badań. Istotne są m.in. sposób pozyskiwania i wykorzystywania danych, możliwość wystąpienia błędów lub stronniczości algorytmicznej, transparentność działania technologii oraz konsekwencje społeczne jej zastosowania. WHO już wcześniej zwracała uwagę, że systemy AI trenowane głównie na danych pochodzących z państw o wysokich dochodach mogą działać gorzej w innych populacjach.
Odpowiedzialność nie może spoczywać wyłącznie na komisjach etycznych
Nowe wytyczne rozszerzają odpowiedzialność za etyczne wykorzystanie AI na cały ekosystem badań. Obejmuje on nie tylko naukowców i komisje etyczne, ale również instytucje finansujące badania, czasopisma naukowe, organy zarządzające danymi, stowarzyszenia zawodowe oraz regulatorów. Ma to znaczenie, ponieważ część problemów związanych z AI ma charakter systemowy i nie może zostać rozwiązana wyłącznie podczas oceny pojedynczego projektu badawczego.
Skuteczne zarządzanie sztuczną inteligencją w badaniach nad zdrowiem wymaga współpracy między dyscyplinami, sektorami i instytucjami – powiedział dr Alain Labrique, dyrektor Departamentu Danych, Analityki Cyfrowego Zdrowia i Sztucznej Inteligencji. W miarę jak technologie sztucznej inteligencji ewoluują w szybkim tempie, potrzebujemy mechanizmów nadzoru, które będą elastyczne, oparte na dowodach i będą w stanie zapewnić, że innowacje pozostaną bezpieczne, godne zaufania i korzystne dla wszystkich.
WHO zwraca uwagę na ryzyko pogłębiania nierówności
Osobnym wyzwaniem pozostaje wykorzystanie AI w krajach o niskich i średnich dochodach. Technologie te mogą pomóc w rozwiązywaniu części problemów zdrowotnych i zwiększać możliwości badawcze, jednak rozwój AI pozostaje w dużym stopniu skoncentrowany w państwach o wyższych dochodach. Dlatego WHO wskazuje na potrzebę wzmacniania lokalnych kompetencji, infrastruktury i udziału naukowców z tych państw w badaniach. W przeciwnym razie rozwój AI może nie tylko nie zmniejszyć istniejących nierówności, ale również stworzyć nowe formy wykluczenia.
Etyka musi nadążać za rozwojem AI w medycynie
Nowy raport WHO ma być punktem wyjścia do dalszego rozwijania standardów i modeli zarządzania badaniami wykorzystującymi sztuczną inteligencję. Kluczowe staje się stworzenie nadzoru, który będzie jednocześnie skuteczny i wystarczająco elastyczny, aby reagować na szybko zmieniające się technologie. W praktyce rozwój AI w medycynie oznacza więc nie tylko potrzebę oceny skuteczności nowych algorytmów. Równie istotne stają się pytania o dane, odpowiedzialność, prywatność, przejrzystość i równość dostępu do korzyści wynikających z technologii.
Link do raportu: https://www.who.int/publications/i/item/9789240124073
Główne wnioski
- WHO wskazuje, że obecne mechanizmy nadzoru etycznego nie zawsze są wystarczająco dostosowane do badań wykorzystujących sztuczną inteligencję, szczególnie w zakresie prywatności, przejrzystości, odpowiedzialności, stronniczości i potencjalnych szkód.
- Komisje etyki badań (REC) pozostają kluczowym elementem ochrony uczestników, ale ocena coraz bardziej złożonych projektów związanych z AI może wymagać dodatkowych kompetencji, szkoleń i zasobów.
- Według WHO nadzór etyczny powinien obejmować cały cykl życia badania – od jego zaprojektowania i oceny etycznej po publikację wyników, regulację i wdrożenie technologii.
- Odpowiedzialność za etyczne wykorzystanie AI w medycynie powinna obejmować nie tylko badaczy i komisje etyczne, ale także fundatorów, czasopisma naukowe, organy zarządzające danymi, stowarzyszenia zawodowe i regulatorów.
Źródło:
- https://www.who.int/news/item/21-09-2026-new-who-report-calls-for-stronger-ethics-oversight-of-ai-related-health-research
