Narzędzia AI weszły do tego środowiska w momencie autentycznej potrzeby. Istnieje ryzyko, że pojawiły się jako rozwiązanie niewłaściwego problemu - organizacje wdrażają je w nadziei na zautomatyzowanie podstawowego zadania redakcyjnego, jakim jest weryfikacja, a potem stwierdzają, że nie spełniają one ich oczekiwań. W niniejszym artykule przedstawiono argumenty przemawiające za innym rodzajem relacji: AI jako infrastruktura służąca do analizy, a nie jako substytut ludzkiej oceny. Dzięki nowatorskiej pracy hiszpańskiej organizacji zajmującej się weryfikacją faktów Maldita.es, pokażemy, że narzędzia te nie tyle mówią nam, co jest prawdą, ile pomagają nam dostrzec to, co się dzieje, w skali i tempie, które w innym przypadku pozostałyby niewidoczne.

Problem, który przerósł ludzkie możliwości

Integralność informacji ma precyzyjnie określone znaczenie: jest to stopień, w jakim informacje są dokładne, możliwe do zweryfikowania i przedstawione w odpowiednim kontekście. Wszystkie dziedziny znalazły się pod systematyczną presją ze strony środowiska cyfrowego, a mechanizmy tej presji są już na tyle dobrze znane, że warto je wymienić z nazwy.

Pierwszym mechanizmem jest ranking platformy, który premiuje emocjonalny oddźwięk i atrakcyjność treści pod kątem udostępniania. Może to nawet przeważyć nad bardziej obiektywnymi wskaźnikami, takimi jak aktualność treści czy przynależność do własnej sieci. W rezultacie powstaje strukturalna stronniczość wpływająca na to, co zyskuje największą liczbę wyświetleń: nie są to treści najbardziej wiarygodne, lecz te, które najbardziej angażują odbiorców.

Drugim mechanizmem jest łatwość, z jaką treść zostaje oddzielona od swojego pierwotnego źródła, daty lub kontekstu, co sprawia, że podanie źródła staje się coraz trudniejsze. Film nakręcony w jednym kraju jest przedstawiany jako pochodzący z innego; wypowiedź wygłoszona wiele lat temu jest ponownie rozpowszechniana tak, jakby była dzisiejszą wiadomością. Problem nie polega na ludzkich błędach ani złej wierze w poszczególnych przypadkach, lecz na formacie, który systematycznie oddziela treść od metadanych niezbędnych do jej oceny.

Trzecim mechanizmem wywierania presji jest skala. Narzędzia generatywne oraz infrastruktury skoordynowanej dystrybucyjne radykalnie obniżyły koszty tworzenia i rozpowszechniania dużych ilości treści. To, co kiedyś wymagało znacznych zasobów finansowych i organizacyjnych (np. skoordynowana operacja informacyjna czy sieć fałszywych kont rozpowszechniających określoną narrację), można obecnie realizować niewielkimi kosztami z wykorzystaniem metody prób i błędów, co utrudnia wykrycie takich działań. Tak jak media społecznościowe obniżyły koszty udostępniania i rozpowszechniania treści, tak sztuczna inteligencja generatywna umożliwia obecnie tanie tworzenie wysokiej jakości spersonalizowanych treści we wszystkich formatach medialnych. Zalewanie informacjami jest łatwiejsze niż kiedykolwiek, a osoby o złych zamiarach stawiają raczej na ilość niż na precyzję.

Dla organizacji zajmujących się monitorowaniem oznacza to, że tempo tworzenia treści przewyższyło możliwości zespołów ludzkich w zakresie śledzenia ich w czasie rzeczywistym. Nawet najbardziej wykwalifikowany zespół analityków nie jest w stanie przetwarzać tysięcy wpisów na godzinę, wykrywać wzorców pojawiających się na różnych platformach ani prowadzić ciągłego monitoringu szybko zmieniającego się środowiska informacyjnego.

Nie jest to kwestia zasobów, którą można by rozwiązać poprzez zatrudnienie większej liczby osób. Jest to niedopasowanie strukturalne, które wymaga zastosowania środków strukturalnych.

Skala tego wyzwania stała się oczywista podczas powodzi, które miały miejsce w Hiszpanii w 2024 r. i w których zginęło 238 osób. Poziom wprowadzających w błąd treści w okresie po wydarzeniu jest niemal bezprecedensowy i wynika z nieumyślnych nieporozumień, partyjnych interesów oraz skoordynowanych kampanii. Podczas tego zdarzenia, serwis Maldita.es otrzymał cztery razy więcej próśb o weryfikację faktów niż zwykle: 13 000 w ciągu 7 dni. Dzięki naszemu narzędziu do monitorowania opartemu na sztucznej inteligencji udało nam się pogrupować te wiadomości według leżących u ich podstaw narracji (np. powodzie były wynikiem planu elit, albo władze ukrywały rzeczywistą liczbę ofiar itp.). Dzięki temu mogliśmy zrozumieć środowisko informacyjne i uzupełnić je danymi empirycznymi, co stanowi kluczowy etap przed sporządzeniem raportów dotyczących polityki w zakresie regulacji platform, takich jak ten.

Co potrafią, a czego nie potrafią narzędzia AI

Najbardziej utrwalonym i szkodliwym nieporozumieniem dotyczącym stosowania narzędzi AI w tej dziedzinie jest to, że potrafią one ustalić, czy coś jest prawdą. Nie potrafią. Nie w sposób niezawodny, nie na dużą skalę i nie w sposób, który mógłby zastąpić ocenę redakcyjną. Przynajmniej na razie. Niezrozumienie tej granicy prowadzi do nieudanych projektów narzędzi, niewłaściwie ulokowanego zaufania, a ostatecznie do generowania wyników, które podważają wiarygodność, zamiast ją wzmacniać.

Istnieje zasadnicza różnica, która w debacie publicznej jest często pomijana: chodzi o rozróżnienie między wykrywaniem treści syntetycznych lub nieautentycznych a wykrywaniem treści nieścisłych. Są to różne problemy techniczne, które wymagają różnych rozwiązań.

  • Wykrywanie syntetycznie wygenerowanych obrazów lub sieci skoordynowanych fałszywych kont jest w istocie problemem rozpoznawania wzorców, do którego można podejść za pomocą narzędzi uczenia maszynowego zaprojektowanych specjalnie do tego celu, takich jak znakowanie wodne, identyfikacja na podstawie „odcisków palców” oraz analiza zachowań.

  • Wykrycie twierdzenia opartego na faktach stanowi problem epistemiczny: wymaga dostępu do dowodów, umiejętności oceny źródeł oraz wyrobienia sobie opinii na temat tego, co można uznać za wiarygodne. Duże modele językowe (LLM) nie zostały stworzone do tego celu, a ich skłonność do płynnego wymyślania informacji sprawia, że stają się one realnym zagrożeniem, gdy wykorzystuje się je do weryfikacji faktów.

Obszarem, w którym LLM i powiązane narzędzia AI rzeczywiście dostarczają wartości, są zadania niewymagające wiedzy zewnętrznej, czyli zadania, które zasadniczo polegają na przekształcaniu, a nie na weryfikacji, takie jak klasyfikacja według zestawu tematów, oznaczanie treści, grupowanie czy tworzenie streszczeń: są to operacje, które porządkują i nadają nowe znaczenie istniejącym informacjom, a nie oceniają ich prawdziwości. Na przykład, Maldita.es uczestniczy w europejskim projekcie Prebunking At Scale wykorzystując duże modele językowe (LLM) do przetwarzania tysięcy twierdzeń zawartych w krótkich filmikach pochodzących z mediów społecznościowych jak TikTok, YouTube i Instagram. Podzielono je na pięć kategorii: zdrowie, konflikty, Unia Europejska, migracja i klimat. Narzędzie AI, które przetwarza strumień dziesięciu tysięcy wpisów z mediów społecznościowych i przypisuje im etykiety, pełni naprawdę użyteczną funkcję: przekształca szum informacyjny w uporządkowany zbiór danych, na którym mogą pracować analitycy. Niczego nie weryfikuje. Jedynie ułatwia weryfikację.

Wniosek praktyczny jest oczywisty: narzędzia AI w tej dziedzinie najlepiej sprawdzają się jako asystenci (nie liderzy) analityczni, którzy przetwarzają i porządkują dane. Wszystko inne należy traktować z rezerwą, niezależnie od tego, czy pojawia się w prezentacji produktu, czy w procesie redakcyjnym.

Tworzenie potoku monitorowania: dane, pamięć i szum

W przypadku monitorowania wspomaganego sztuczną inteligencją praktyczne wyzwanie ma charakter przede wszystkim architektoniczny, a dopiero potem analityczny. Zanim narzędzie będzie mogło wydobywać wzorce lub narracje grupowe, potrzebuje niezawodnego przepływu danych, struktury służącej do przechowywania i łączenia znalezionych informacji oraz strategii radzenia sobie z szumem, który jest nieodłącznym elementem każdego zautomatyzowanego systemu działającego na dużą skalę.

1) Źródła danych wiążą się z istotnymi kompromisami, które mają wpływ na wszystkie kolejne etapy procesu. Interfejsy API platform zapewniają dostęp do ogromnych ilości treści, ale ma to swoją cenę: stosunek sygnału do szumu jest niski, ponieważ nie wszystkie treści są istotne, a ponadto najbardziej wrażliwe treści są często filtrowane przez platformy, zanim dotrą do badaczy, a warunki dostępu zmieniają się w nieprzewidywalny sposób. Dodatkowo, oficjalne interfejsy API są zazwyczaj kosztowne, podczas gdy crowdsourcing użytkowników (kanały zgłoszeniowe, narzędzia do zgłaszania, kanały WhatsApp) zapewnia dane wejściowe o wyższej jakości i lepiej osadzone w kontekście, jednak zasięg tych rozwiązań jest ograniczony i zależy od zaangażowania społeczności. Selekcja przez ekspertów zapewnia najbardziej wiarygodne i bogate w kontekst dane, jednak proces ten wymaga znacznych zasobów i nie da się go skalować tak, aby w czasie rzeczywistym obejmował rozległe środowiska informacyjne. Przykładem bazy danych zawierającej twierdzenia pochodzące od ekspertów, opracowanej przez serwis Maldita.es, jest Iberifier. Skupiając się na perspektywie iberoamerykańskiej, ta infrastruktura cyfrowa umożliwia organizacjom zajmującym się weryfikacją faktów z różnych krajów dzielenie się ustaleniami i łączenie ich. Większość systemów monitorowania wykorzystuje pewną kombinację wszystkich trzech elementów, a wybór ich proporcji decyduje o mocnych stronach i słabych punktach danego narzędzia.

2) Zasoby pamięci to niedoceniane elementy skutecznego monitorowania. Baza danych, w której przechowywane są wcześniej przeanalizowane treści, nie ogranicza się jedynie do ich archiwizacji: sprawia, że analiza ma charakter kumulatywny. Gdy pojawia się nowe twierdzenie, można je porównać z istniejącymi wpisami. Nie tylko po to, by uniknąć powielania pracy, ale także po to, by ocenić częstotliwość powtarzania się danego zjawiska, śledzić jego rozprzestrzenianie się w czasie oraz stworzyć długoterminowy obraz ewolucji konkretnej narracji. Ta koncepcja ma kluczowe znaczenie dla serwisu komunikacyjnego WhatsApp, który stanowi podstawę monitoringu informacyjnego prowadzonego przez Malditę. Materiał wyjściowy do analizy stanowią metadane dołączone do każdego wpisu (na przykład, platforma, z której pochodzi, data, powiązane konta, wcześniejsze wystąpienia). Bez tej pamięci instytucjonalnej monitorowanie ma charakter raczej epizodyczny niż strukturalny: można zobaczyć, co jest obecnie popularne, ale nie widać, jak to się wiąże z trendami sprzed sześciu miesięcy.

3) Należy pamiętać, że żaden system monitorowania nie eliminuje szumu. Jest to cecha strukturalna, a nie błąd, który można naprawić, zwłaszcza gdy źródłem danych są interfejsy API platformy lub gdy niektóre operacje związane z etykietowaniem są zautomatyzowane. Dostępne środki zaradcze mają charakter częściowy, ale są skuteczne: procesy z udziałem człowieka, w ramach których oznaczone treści są kierowane do weryfikacji redakcyjnej, zanim wpłyną na wyniki lub zewnętrzne bazy wiedzy (np. Wikidata), które pomagają systemowi rozróżniać homonimy, rozstrzygać niejednoznaczne odniesienia oraz unikać mylenia różnych podmiotów lub wydarzeń. Celem nie jest stworzenie systemu pozbawionego szumu. Chodzi o system, w którym szum jest na tyle dobrze kontrolowany, że sygnał pozostaje użyteczny.

Od pojedynczych twierdzeń do leżących u ich podstaw narracji

Poszczególne fałszywe lub wprowadzające w błąd twierdzenia są objawami. U podstaw leży narracja. Szersze ramy ideologiczne, w których poszczególne twierdzenia nabierają znaczenia i nadają dezinformacji trwałość oraz siłę perswazji.

Na początku, serwis Maldita.es zauważył pojedyncze doniesienia nawiązujące do artykułu o wzrostu powierzchni lodu na szelfie lodowym Antarktydy w latach 2009–2019. Jednak zagrożenia dla integralności informacji rzadko dotyczą pojedynczych, odrębnych elementów. Najczęściej opierają się one na łańcuchu pozornie opartych na faktach stwierdzeń, które razem tworzą pewien światopogląd: konkretne rozumienie tego, kto ponosi odpowiedzialność za dany problem, kto czerpie korzyści z danej polityki oraz jakie było rzeczywiste znaczenie określonych wydarzeń historycznych. W późniejszej części tego roku nasza redakcja zauważyła, że zaczęły pojawiać się wpisy, w których twierdzono, że Al Gore nie przewidział topnienia czapy lodowej do 2014 roku. Każde z poszczególnych twierdzeń w takim łańcuchu może być kwestionowane, wyolbrzymione lub po prostu wyrwane z kontekstu, ale ich łączny wpływ na przekonania czytelnika może być znaczący. System monitorujący, który przetwarza poszczególne zgłoszenia wyłącznie w oderwaniu od siebie (wykrywając fałszywe oświadczenia w miarę ich pojawiania się) nie rozpoznaje tej głębszej struktury. To leczenie objawów bez dostrzegania choroby.

Połączenie baz danych treści z dużymi modelami językowymi pozwala pracować na poziomie narracji, a nie poszczególnych twierdzeń. Podstawową funkcją jest grupowanie: mając do dyspozycji duży zbiór twierdzeń dotyczących danego tematu, LLM potrafi zidentyfikować te, które odwołują się do tej samej podstawowej struktury, nawet jeżeli różnią się one konkretnym sformułowaniem, podmiotami lub kontekstem. Pozwala to przezwyciężyć zasadnicze ograniczenie analizy przeprowadzanej przez ludzi: żaden zespół analityków nie jest w stanie jednocześnie utrzymać w pamięci roboczej tysięcy twierdzeń, śledzić powiązań między nimi oraz zidentyfikować wzorca łączącego je w czasie i przestrzeni. Klasteryzacja obliczeniowa i etykietowanie wspomagane sztuczną inteligencją poszerzają granice tego, co jest możliwe z poznawczego punktu widzenia. Technologia ta pozwoliła nam wykryć i obalić narrację, która podważała trwający kryzys klimatyczny poprzez twierdzenia dotyczące wielkości czap lodowych.

Wykrywanie powtarzających się narracji pozwala również na rozpoznawanie pewnych wzorców, co ma wartość śledczą wykraczającą poza ramy pojedynczego artykułu: gdy ten sam sposób przedstawiania tematu pojawia się w krótkim odstępie czasu w wielu regionach, często jest to sygnał, który warto zbadać. Narracje nie rozprzestrzeniają się przypadkowo. Często są one rozpowszechniane przez podmioty, które mają powody, by promować konkretny punkt widzenia. Międzynarodowe powtarzanie się zjawisk, gdy jest wykrywane w sposób systematyczny, a nie na podstawie pojedynczych przypadków, staje się nitką, za którą można pociągnąć. Aby śledzić tego typu wątki, Maldita.es prowadzi bazę danych twierdzeń finansowaną przez fundację National Endowment for Democracy , w której organizacje z Ameryki Łacińskiej i Europy Wschodniej przewidują i śledzą rosyjskie operacje informacyjne.

Przekształcenie monitorowania w działanie

Analiza prowadzona wyłącznie w ramach bazy danych niczego nie zmienia. Ostatnim i prawdopodobnie najważniejszym wyzwaniem projektowym w zakresie monitorowania wspomaganego przez sztuczną inteligencję jest powiązanie łańcucha analitycznego z wynikami, które organizacje mogą faktycznie wykorzystać, a to oznacza dokładne przemyślenie, kim są te organizacje i czego potrzebują.

Różni użytkownicy końcowi mają różne wymagania. Badacze często potrzebują surowych danych, które można wyeksportować (zazwyczaj są to pliki CSV z pełnymi metadanymi, z możliwością filtrowania według daty, platformy i tematu), aby móc je wykorzystać we własnych procesach analitycznych. Redakcje zazwyczaj oczekują rozwiązań bardziej wizualnych i łatwych w nawigacji, na przykład pulpitów nawigacyjnych, które wskazują pojawiające się trendy, konfigurowalnych alertów sygnalizujących gwałtowne wzrosty zainteresowania konkretnymi tematami oraz interfejsów, które pozwalają dziennikarzom przeglądać dane bez konieczności pisania zapytań. Organizacje społeczeństwa obywatelskiego zajmujące się komunikacją publiczną mogą potrzebować z kolei czegoś zupełnie innego. Narzędzie monitorujące, które zostało zaprojektowane bez uwzględnienia potrzeb użytkowników, nie będzie wykorzystywane, niezależnie od jakości analizy, na której się opiera.

Narzędzia oparte na aktualizowanych na bieżąco zbiorach danych wymagają również ciągłej konserwacji, czego nie wymagają jednorazowe projekty analityczne. W przeciwieństwie do dochodzenia w sprawie wycieku dokumentów, które obejmuje ustalony zbiór danych i ma określony punkt końcowy, system monitorowania działa na podstawie strumienia danych, który nigdy się nie zamyka. Definicje tematów wymagają aktualizacji w miarę ewolucji środowiska informacyjnego. Procesy przetwarzania oparte na sztucznej inteligencji należy monitorować pod kątem odchyleń i dostosowywać w miarę zmian wzorców językowych. Należy odpowiednio zarządzać zużyciem zasobów, ponieważ ciągła analiza na dużą skalę z wykorzystaniem sztucznej inteligencji wiąże się z rzeczywistymi kosztami. Nie są to problemy, które należy rozwiązać w momencie startu, tylko bieżące obowiązki operacyjne.

Najtrwalszą wartością dobrze zaprojektowanego systemu monitorowania nie jest żaden pojedynczy wynik: konkretne dochodzenie, raport dotyczący trendów, materiał służący do przeciwdziałania niepożądanym komunikatom. Chodzi o pamięć instytucjonalną oraz integrację procesów roboczych, którą ona z czasem umożliwia. Organizacje, które wdrożyły narzędzia monitorujące do swoich procesów redakcyjnych i oparły swoje codzienne procedury pracy na informacjach dostarczanych przez te systemy, szybciej reagują na pojawiające się zagrożenia, dysponując większą ilością dowodów oraz lepszym zrozumieniem tego, jak ewoluowały śledzone przez nie narracje. Wiedza zgromadzona w dobrze utrzymanym systemie staje się z czasem przewagą konkurencyjną w szerszym środowisku informacyjnym.

Twoja opinia ma znaczenie

Co sądzisz o tym tekście? Poświęć 30 sekund, aby podzielić się swoją opinią i pomóc nam tworzyć wartościowe treści dla społeczeństwa obywatelskiego!

Ostatnia aktualizacja artykułu została zrobiona 2 lipca 2026, uwzględniając najnowszy rozwój w sferze AI.

Oświadczenia

Niniejszy materiał powstał przy okazji projektu AI for Social Change realizowanego przez TechSoup w ramach programu Digital Activism Program przy wsparciu Google.org.

Do stworzenia treści autorka wykorzystała sztuczną inteligencję. Jednak cały artykuł został stworzony oraz poddany weryfikacji i przeglądowi przez autorkę i zespół TechSoup.

Narzędzia AI szybko się rozwijają i choć dokładamy wszelkich starań, aby zapewnić rzetelność udostępnianych przez nas treści, czasami niektóre informacje mogą być nieaktualne. Jeżeli zauważysz, że jakaś informacja jest nieaktualna, daj nam o tym znać pod adresem contact@hive-mind.community