Szeroko wykorzystywane podsumowania AI w wyszukiwarce Google – AI Overviews – mogą narażać użytkowników na ryzyko zdrowotne poprzez prezentowanie nieprecyzyjnych, a niekiedy niebezpiecznych treści medycznych. Tak wynika z obszernego śledztwa redakcji The Guardian, które przeanalizowało liczne przykłady błędnych rekomendacji pojawiających się w skrótowych odpowiedziach generowanych przez algorytmy Google.
Z tego artykułu dowiesz się…
- Jakie błędne informacje medyczne ujawniło śledztwo The Guardian w Google AI Overviews.
- Jakie zagrożenia mogą wynikać z nieprawidłowych podsumowań AI.
- Dlaczego odpowiedzi Google AI Overviews bywają niespójne i zmieniają się przy kolejnych wyszukiwaniach.
- Jak bezpiecznie korzystać z podsumowań AI.
Błędne zalecenia żywieniowe i ryzyko dla pacjentów onkologicznych
Śledczy The Guardian opisują przypadek, który specjaliści ocenili jako skrajnie groźny: AI Overviews rekomendowało osobom z rakiem trzustki unikanie tłustych posiłków. Eksperci cytowani przez dziennikarzy uznali taką sugestię za odwrotność zaleceń klinicznych – pacjenci z tym nowotworem często wymagają posiłków wysokokalorycznych, a błędna informacja mogłaby prowadzić do niedożywienia i obniżenia tolerancji terapii.
Wyniki analizy obejmowały także wyszukiwane przez użytkowników normy badań wątrobowych. Podsumowania AI prezentowały zestawy liczb bez kontekstu klinicznego, bez uwzględnienia wieku, płci, stanu zdrowia i zróżnicowania populacyjnego. Według ekspertów, na których powołuje się The Guardian, taka prezentacja mogłaby prowadzić część osób do mylnego przekonania, że ich wyniki są prawidłowe, co opóźniłoby diagnostykę chorób często przebiegających bezobjawowo aż do późnych stadiów.
Dziennikarze wykazali również, że wyszukiwarka potrafiła wskazać cytologię (PAP test) jako metodę wykrywania raka pochwy, co jest niezgodne z obowiązującą wiedzą medyczną.
Problematyczne odpowiedzi dotyczące zdrowia psychicznego
W analizie wskazano również nieprawidłowości dotyczące opisów psychotycznych zaburzeń, zaburzeń odżywiania czy zaleceń terapeutycznych. Według organizacji przytaczanych przez The Guardian, część treści mogła zniechęcić użytkowników do kontaktu z profesjonalistami lub kierować ich na niewłaściwe źródła informacji.
Niespójne odpowiedzi i brak stabilności generowanych treści
The Guardian podkreśla również, że testowanie tych samych zapytań w krótkim odstępie czasu skutkowało różnymi podsumowaniami AI. Zmienność źródeł i kontekstu w obrębie tej samej frazy utrudnia budowanie zaufania do narzędzia, zwłaszcza w sytuacjach, w których użytkownicy szukają informacji w stresie lub poczuciu zagrożenia zdrowotnego.
Stanowisko Google i deklaracje dalszych prac
Google, odpowiadając na ustalenia redakcji, zapewniło, że znaczna większość AI Overviews jest dokładna, a firma stale wprowadza usprawnienia jakościowe. Przedstawiciele giganta podkreślili, że funkcja ma porównywalny poziom trafności jak inne elementy wyszukiwarki, a w przypadku błędów interpretacyjnych podejmowane są działania zgodne z obowiązującą polityką serwisu.
Czym jest Google AI Overviews?
Google AI Overviews to funkcja wyszukiwarki, która wykorzystuje modele generatywne do tworzenia krótkich podsumowań tematu nad wynikami wyszukiwania. Jej zadaniem jest szybkie zebranie kluczowych informacji i wskazanie potencjalnych źródeł. W praktyce treści są generowane automatycznie, co – jak wskazuje śledztwo The Guardian – może prowadzić do uproszczeń, błędnych wniosków oraz nieprecyzyjnych interpretacji danych medycznych.
Jak bezpiecznie korzystać z Google AI Overviews?
Podsumowania AI w wyszukiwarce mogą być pomocne na etapie wstępnego orientowania się w temacie, ale nie mogą zastępować profesjonalnej oceny medycznej. Aby korzystać z Google AI Overviews w sposób bezpieczny, warto stosować kilka prostych zasad.
Po pierwsze, traktować wygenerowane odpowiedzi jedynie jako punkt wyjścia i nie opierać na nich decyzji dotyczących leczenia, diagnostyki czy zmiany terapii. Po drugie, każdą informację należy sprawdzić w źródle, do którego odsyła wyszukiwarka – szczególnie gdy dotyczy badań laboratoryjnych, objawów lub sposobów postępowania. Po trzecie, gdy pojawiają się sprzeczne lub zmienne odpowiedzi, najlepiej od razu zweryfikować je u lekarza lub farmaceuty, zamiast próbować samodzielnie oceniać ich poprawność.
Pomocne jest również świadome korzystanie z wyszukiwania: precyzyjne formułowanie pytań, porównywanie odpowiedzi między różnymi wiarygodnymi portalami i unikanie działań podejmowanych wyłącznie na podstawie treści generowanych automatycznie. AI może uprościć przegląd informacji, ale nie zastępuje profesjonalnej oceny zdrowotnej i w przypadku niepokojących objawów koniecznie należy udać się do lekarza.
Główne wnioski
- Śledztwo The Guardian wykazało, że Google AI Overviews potrafi prezentować nieprawidłowe i ryzykowne treści medyczne, m.in. dotyczące raka trzustki, badań wątrobowych czy objawów nowotworów kobiecych.
- Podsumowania AI mylnie interpretowały zakresy badań, sugerowały błędne procedury i pomijały kluczowy kontekst kliniczny, co może prowadzić pacjentów do fałszywego poczucia bezpieczeństwa.
- Odpowiedzi generowane przez Google AI Overviews nie były stabilne – te same zapytania dawały różne wyniki, co utrudnia ocenę wiarygodności informacji.
- Bezpieczne korzystanie z AI wymaga sprawdzania źródeł, traktowania podsumowań wyłącznie jako orientacyjnych oraz weryfikacji informacji z personelem medycznym.
Źródło:
- https://www.theguardian.com/technology/2026/jan/02/google-ai-overviews-risk-harm-misleading-health-information
