Treści generowane masowo przez sztuczną inteligencję coraz częściej trafiają do najmłodszych użytkowników TikToka i YouTube. Pozornie niewinne animacje z owocami i warzywami mogą zawierać przemoc, drastyczne sceny, a nawet odniesienia do ekstremizmu. Analiza Global Network on Extremism and Technology (GNET) zwraca uwagę na zagrożenia związane z tzw. AI slop – niskiej jakości, powtarzalnymi materiałami tworzonymi niemal bez udziału człowieka.
Z tego artykułu dowiesz się…
- Czym jest AI slop i dlaczego masowo generowane przez sztuczną inteligencję treści coraz częściej trafiają do dzieci na platformach takich jak TikTok i YouTube.
- Jakie są ustalenia analizy Global Network on Extremism and Technology (GNET) dotyczące przemocy i przekazów ekstremistycznych ukrywanych w pozornie niewinnych animacjach z owocami i warzywami.
- Dlaczego nie można obecnie stwierdzić, że AI slop bezpośrednio powoduje pogorszenie funkcji poznawczych lub agresję u dzieci i jakie są ograniczenia dostępnych danych.
- Dlaczego szybki rozwój generatorów AI utrudnia moderowanie treści oraz jakie wyzwania stwarza dla rodziców, platform społecznościowych i badaczy.
Czym jest AI slop i dlaczego trafia do dzieci?
AI slop to określenie masowo produkowanych, niskiej jakości i często powtarzalnych treści generowanych przy użyciu sztucznej inteligencji. Ich celem nie musi być przekazanie wartościowej informacji czy stworzenie spójnej historii. Znacznie ważniejsze są wyświetlenia, kliknięcia, zaangażowanie użytkowników i przychody z reklam.
Generatywna AI radykalnie obniżyła koszty takiej produkcji. Za pomocą dostępnych narzędzi jeden twórca może przygotowywać bardzo dużą liczbę krótkich filmów, a następnie publikować je na wielu platformach. Algorytmy promujące regularnie publikowane i angażujące materiały mogą dodatkowo zwiększać ich zasięg. Szczególnie podatną grupą odbiorców są dzieci, które mogą natrafiać na takie filmy podczas oglądania pozornie bezpiecznych animacji.
Kolorowe owoce mogą skrywać brutalne historie
Analiza GNET zwraca uwagę na popularne animacje generowane przez AI, których bohaterami są antropomorficzne owoce i warzywa. Choć ich wygląd może sugerować treści przeznaczone dla najmłodszych, fabuła potrafi dotyczyć konfliktów, zdrady, oszustwa, agresji czy przemocy emocjonalnej.
W bardziej skrajnych przypadkach pojawiają się sceny tortur, okaleczeń, zabójstw czy używania broni. Według autorów analizy materiały mogą również wykorzystywać motywy kojarzone z brutalnym ekstremizmem, zamachami terrorystycznymi lub działalnością organizacji przestępczych. Jednym z opisanych przykładów jest postać określana jako Marchewa Khalifah. W analizowanych materiałach zwraca się ona do armii słowami: „Państwo Marchewki znów powstanie”. Według GNET jest to nawiązanie do ideologii i propagandy Państwa Islamskiego (IS). W ten sposób radykalne przekazy mogą zostać ukryte w formie, która na pierwszy rzut oka wygląda absurdalnie, humorystycznie lub niewinnie.
Czy AI slop powoduje spadek funkcji poznawczych u dzieci?
W tym przypadku potrzebna jest ostrożność w interpretowaniu doniesień. Opisywana analiza wskazuje przede wszystkim na charakter i skalę problematycznych treści oraz możliwość kontaktu dzieci z przemocą i przekazami ekstremistycznymi. Na jej podstawie nie można jednak stwierdzić, że AI slop bezpośrednio powoduje pogorszenie funkcji poznawczych czy agresję u dzieci. W kontekście takich treści pojawia się określenie „brain rot”, czyli „zgnilizna mózgu”. Nie jest to diagnoza medyczna. Termin ten opisuje raczej kulturowe i psychologiczne konsekwencje nadmiernego konsumowania krótkich, intensywnie stymulujących i często pozbawionych większego znaczenia treści internetowych.
Niekończące się przewijanie, szybko zmieniające się obrazy i ciągłe dostarczanie nowych bodźców mogą sprzyjać bardzo intensywnemu korzystaniu z platform. Jednak stwierdzenie związku przyczynowego między konkretnymi filmami generowanymi przez AI, a trwałym pogorszeniem zdolności poznawczych dzieci wymagałoby odpowiednio zaprojektowanych badań. Podobnej ostrożności wymaga teza dotycząca skłonności do przemocy. Kontakt z brutalnymi materiałami jest istotnym problemem z punktu widzenia bezpieczeństwa dzieci, ale sama analiza treści nie dowodzi, że oglądanie AI slop prowadzi bezpośrednio do agresywnych zachowań.
AI pozwala produkować ogromne ilości treści
Skala zjawiska może rosnąć wraz z rozwojem łatwo dostępnych generatorów obrazów i filmów. Narzędzia takie jak PixVerse, VeoE.ai, Media.io czy Sora pozwalają znacząco przyspieszyć tworzenie materiałów audiowizualnych. Problem polega na tym, że systemy moderacji platform muszą analizować coraz większą liczbę automatycznie generowanych filmów. Jednocześnie treści mogą przyjmować formę utrudniającą jednoznaczne zaklasyfikowanie ich jako niebezpiecznych.
Pozornie dziecięca stylistyka dodatkowo komplikuje sytuację. Kolorowa animacja z owocami może bowiem zawierać treści, których rodzic nie spodziewałby się w materiale rekomendowanym dziecku.
Moderacja treści generowanych przez AI staje się wyzwaniem
Platformy społecznościowe posiadają zasady ograniczające publikowanie brutalnych i ekstremistycznych materiałów. Rozwój generatywnej AI powoduje jednak, że tworzenie kolejnych wariantów podobnych filmów jest niezwykle szybkie i tanie. Analiza GNET pokazuje więc szerszy problem: generatywna sztuczna inteligencja może nie tylko zwiększać ilość niskiej jakości treści, ale również ułatwiać ukrywanie niebezpiecznych przekazów w materiałach wyglądających na nieszkodliwą rozrywkę.
Potrzebne są dalsze badania nad wpływem AI slop na dzieci
Masowo generowane filmy mogą stanowić nowe wyzwanie dla rodziców, platform społecznościowych, regulatorów i badaczy zajmujących się wpływem mediów cyfrowych na rozwój dzieci. Szczególnie niepokojące są materiały łączące dziecięcą estetykę z brutalnymi scenami lub odniesieniami do ekstremizmu.
Jednocześnie należy rozdzielić udokumentowaną obecność takich treści od twierdzeń o ich bezpośrednim wpływie na funkcje poznawcze czy agresję. Do określenia rzeczywistych konsekwencji długotrwałego kontaktu dzieci z AI slop potrzebne są dalsze badania, uwzględniające m.in. wiek odbiorców, czas ekspozycji i charakter oglądanych materiałów.
Główne wnioski
- Analiza Global Network on Extremism and Technology (GNET) wskazuje, że generowane przez AI animacje kierowane do dzieci mogą zawierać przemoc, drastyczne sceny oraz odniesienia do brutalnego ekstremizmu.
- AI slop to masowo produkowane, powtarzalne i niskiej jakości treści generowane przez sztuczną inteligencję, których tworzenie wymaga niewielkiego udziału człowieka i może być nastawione przede wszystkim na wyświetlenia, zaangażowanie oraz przychody z reklam.
- Opisywana analiza nie pozwala stwierdzić związku przyczynowego między oglądaniem AI slop a pogorszeniem funkcji poznawczych lub wzrostem agresji u dzieci. Określenie „brain rot” nie jest natomiast diagnozą medyczną.
- Łatwy dostęp do generatorów AI umożliwia szybkie tworzenie ogromnej liczby nowych filmów, co zwiększa wyzwania związane z moderacją i ochroną najmłodszych użytkowników platform społecznościowych.
Źródło:
- https://gnet-research.org/2026/08/10/fruit-vegetable-and-brain-rot-the-use-of-generative-ai-to-produce-violence-based-viral-trends/
