W niniejszym artykule przedstawiono wskazówki dotyczące prowadzenia bardziej konstruktywnej konwersacji, uwzględniając zarówno wersję z ostrzeżeniem, jak i wersję z obietnicą. Narzędzia AI stały się już integralną częścią pracy personelu organizacji społeczeństwa obywatelskiego. Pytanie nie brzmi już czy z nich korzystać, ale jak to robić, nie tracąc przy tym krytycznego osądu, który nadaje tej pracy sens.
Narzędzie,z którego już korzystasz, a być może nie w pełni rozumiesz
Pomyśl o ostatnim razie, kiedy czegoś szukałeś. W zależności od tego, z jakiej przeglądarki lub wyszukiwarki korzystałeś, pierwszą rzeczą, jaką zobaczyłeś, mogła nie być lista linków, lecz akapit sformatowany jak odpowiedź i wygenerowany przez model AI. Być może przeczytałeś go i wróciłeś do dalszej pracy, uznając wyszukiwanie za zakończone. Większość ludzi tak robi.
To jeden ze sposobów, w jaki AI po cichu stała się źródłem informacji, a nie tylko narzędziem zwiększającym wydajność. Wyszukiwarki takie jak Google, Bing i inne wyświetlają obecnie odpowiedzi generowane przez AI przed wynikami kontrolowanymi przez człowieka. Takie wprowadzenie sprawia wrażenie wiarygodnego, a odpowiedzi nie zawsze zawierają nazwisko autora, datę czy listę źródeł, które można sprawdzić.
Wykorzystanie modelu AI do wstępnego zgromadzenia informacji podczas pracy nad nowym tematem może być bardziej przemyślane, ale wiąże się z podobnym ryzykiem. Staje się to coraz bardziej powszechne, ponieważ taka praca jest szybka i skuteczna. Ludzie przez lata korzystali z Wikipedii i innych podobnych źródeł w ten sam sposób, nie traktowali ich jako ostatecznego źródła wiedzy, ale jako punkt wyjścia przy zapoznawaniu się z nieznanym tematem. Istnieje tu jednak zasadnicza różnica: Wikipedia podaje źródła swoich informacji, a gdy jakiś fakt lub treść budzą kontrowersje lub są kwestionowane, wyświetlane jest odpowiednie zastrzeżenie, dzięki czemu można dowiedzieć się, na czym polegają wątpliwości lub rozbieżności. Chatbot daje przekonującą narrację, ale bez porównywalnego poziomu przejrzystości.
W bardziej codziennych i banalnych sytuacjach użytkownicy zadają modelowi AI konkretne pytanie, aby rozwiać doraźne wątpliwości. Na przykład: Co oznacza ten akronim?, Kiedy uchwalono ten przepis? lub Kto stoi na czele tej organizacji? Kiedyś odpowiedzi na tego typu pytania znajdowało się przeprowadzając szybkie wyszukiwanie lub zaglądając do sprawdzonego źródła. Teraz zadaje się pytania chatbotom AI, a one odpowiadają płynnie, pewnie… i czasami błędnie.
Żadne z tych zastosowań nie jest samo w sobie złe. Problem polega na tym, że wykorzystuje się AI jako źródło informacji, nie rozumiejąc, jakiego rodzaju jest to źródło.
Jak faktycznie działają te narzędzia i dlaczego ma to znaczenie
Duże modele językowe (technologia stojąca za ChatGPT, Claude, Gemini i podobnymi narzędziami) nie rozumieją świata ani informacji, z których korzystają i które przetwarzają. Uczą się wzorców statystycznych na podstawie ogromnych ilości tekstu: które słowa często występują razem, które frazy następują po innych frazach. Model nie rozumie znaczenia tego, co tworzy. Generuje tekst, który przypomina to, co zazwyczaj mówi się na dany temat
Ma to bezpośrednie praktyczne konsekwencje, o których należy pamiętać za każdym razem, gdy zadajemy tym narzędziom pytanie: model nie wie, czy to, co mówi, jest prawdą; wie jedynie, czy dana treść brzmi zgodnie z powszechnym i ogólnie przyjętym rozumieniem. W przypadku dobrze udokumentowanych faktów, które są szeroko reprezentowane w danych treningowych, to rozróżnienie często nie ma znaczenia, a odpowiedź będzie poprawna. Doskonałym przykładem może być historia powszechnie uznanego odkrycia naukowego, takiego jak odkrycie radu przez Marię i Pierre’a Curie w 1898 roku. Jednak w przypadku świeżych wydarzeń, informacji lokalnych lub wszelkich innych sytuacji, w których dostępne dane są skąpe albo są kwestionowane lub sprzeczne, model może wygenerować błędną odpowiedź z dokładnie taką samą płynnością i pewnością, jak w przypadku prawidłowej odpowiedzi. Weźmy na przykład kwestionowane wyniki niedawnych wyborów samorządowych w kraju, w którym angielski nie jest językiem powszechnie używanym (ponieważ mamy do czynienia z modelami językowymi, język ma znaczenie w ich trenowaniu). To nie jest błąd, lecz cecha charakterystyczna dla sposobu działania tych systemów.
Istnieje jeszcze jeden problem natury strukturalnej: modele te są wrażliwe na sposób, w jaki zadaje się im pytania (czyli, w nomenklaturze technicznej, prompty). Ktoś, kto rozumie, jak one działają, może sformułować pytanie, które skłonią model do sprawdzenia prawdziwości danego twierdzenia. Nie wymaga to zaawansowanej wiedzy technicznej, ponieważ zazwyczaj wystarczy kilka rund prób i błędów. Modele językowe można zrozumieć i wykorzystać na swoją korzyść, podobnie algorytmy mediów społecznościowych.
AI a integralność informacji
Najwięcej uwagi poświęca się tym zagrożeniom związanym z AI, które są najbardziej widoczne: deepfake’om, obrazom syntetycznym oraz filmom generowanym przez AI. To są realne zagrożenia. W pewnym sensie są one też łatwiejsze do wykrycia i omówienia, ponieważ dotyczą rozmyślnie sfabrykowanych treści.
Bardziej subtelnym zagrożeniem jest coś, co można by nazwać „praniem” wprowadzających w błąd narracji. Są to treści, które z technicznego punktu widzenia nie są fałszywe, ale przedstawiają dany temat w sposób, który utrwala jego zmanipulowane lub zniekształcone rozumienie. Model AI, któremu polecono sporządzenie streszczenia kontrowersyjnej kwestii, może stworzyć podsumowanie, które brzmi obiektywnie, ale systematycznie pomija jedną ze stron. Może również przedstawiać poglądy marginalne jako główne nurty, ponieważ takie właśnie ujęcie tematu było nadmiernie reprezentowane w danych treningowych. Nikt niczego nie sfabrykował, bo nie takie było zamierzenie. W tych przypadkach zniekształcenia wynikały z podstaw statystycznych modelu.
Ma to znaczenie dla pracowników organizacji społeczeństwa obywatelskiego nie tylko jako zagrożenie, na które należy zwracać uwagę w treściach zewnętrznych, ale także jako zagrożenie w ich własnych materiałach. Jeżeli korzystasz z modelu AI do gromadzenia informacji na dany temat, przygotowania stanowiska lub sporządzania streszczenia raportu, stronniczość występująca w danych treningowych modelu może ujawnić się w podawanych przez niego wynikach, bez żadnych wyraźnych oznak, że coś jest nie tak. Wytworzona treść będzie pewna i spójna. Właśnie dlatego warto się jej bliżej przyjrzeć.
Gdzie AI rzeczywiście wspiera integralność informacji
Jeżeli wyraźnie pamięta się o tych ograniczeniach, można wykorzystać AI do wsparcia działań na rzecz integralności informacji, nie zastępując ludzkiej oceny sytuacji, ale sprawiając, że wykorzystanie AI będzie bardziej efektywne.
1. Zrozumienie, co znajduje się w obiegu i dlaczego
Gdy ilość treści do monitorowania przekracza możliwości ręcznej obsługi przez zespół, AI może pomóc w klasyfikacji i selekcji. Mając do dyspozycji obszerny zbiór wpisów, artykułów lub wiadomości z mediów społecznościowych, model może pogrupować je według przewijającej się w nich narracji, zaznaczyć te, które odpowiadają znanym wzorcom budzącym obawy, lub wskazać, które tematy zyskują na popularności. Model proponuje te narracje, kategorie i grupy, a zespół ludzi podejmuje decyzje i dokonuje weryfikacji, dzięki czemu monitorowanie staje się bardziej efektywne, a późniejszy proces weryfikacji jest bardziej strategiczny.
Podobnym zastosowaniem jest ekstrakcja i analiza treści narracyjnych, polegająca na tym, że poleca się modelowi zidentyfikowanie dorozumianego ujęcia danej treści, zanim udzieli się odpowiedzi. Jakie założenia dany tekst traktuje jako oczywiste? Do jakich emocji przemawia? Jakie dotychczasowe przekonanie utrwala? Zrozumienie struktury narracyjnej treści wprowadzających w błąd stanowi bardzo przydatne uzupełnienie procesu weryfikacji faktów, ponieważ pozwala zająć się jednocześnie wieloma różnymi treściami, jeżeli opierają się one na tych samych podstawowych narracjach.
2. Przygotowanie do odpowiedzi
Przed wykorzystaniem dokumentu jako źródła lub przed ustosunkowaniem się do stwierdzenia warto ustalić, które informacje w nim zawarte da się faktycznie zweryfikować. Nie każde stwierdzenie zawarte w dokumencie jest oparte na faktach, które można sprawdzić, a nie każde twierdzenie oparte na faktach jest na tyle konkretne, by można je było zweryfikować. Model może pomóc w szybkim ustaleniu, które twierdzenia da się zweryfikować, a które nie, dzięki czemu człowiek może skupić uwagę tam, gdzie jest to przydatne. Powtórzmy: modele przedstawiają propozycje, ale to ludzki osąd je weryfikuje, potwierdza i podejmuje decyzje.
Jeżeli twoja organizacja przygotowuje publiczny komunikat w odpowiedzi na wprowadzającą w błąd narrację, sztuczna inteligencja może okazać się przydatnym sparingpartnerem. Poproś model, aby wskazał słabe punkty twojej argumentacji, zidentyfikował twierdzenia pozbawione uzasadnienia lub zaznaczył fragmenty, które mogą zostać źle zinterpretowane lub wyrwane z kontekstu. Należy przy tym pamiętać o jednym istotnym ograniczeniu: nie chodzi tu o zlecanie komuś innemu oceny redakcyjnej, lecz o poddanie swojej pracy rygorystycznej weryfikacji, zanim trafi ona do odbiorców.
Wreszcie, gdy masz do czynienia ze źródłem lub twierdzeniem, co do którego nie masz pewności, model może pomóc ci uporządkować proces krytycznego myślenia: Co musiałbyś wiedzieć, aby właściwie ocenić dany przypadek? Jakich perspektyw brakuje? Jakie motywy mogą się za tym kryć? Model może nie udzielić wiarygodnych odpowiedzi na te pytania, ale może pomóc w sformułowaniu właściwych pytań.
Nawyki pozwalające korzystać z AI bez utraty zdolności krytycznej oceny sytuacji
Dlatego kluczem do korzystania z AI bez narażania integralności informacji nie jest to, czy z niej korzystać, ale jak to robić. Oto kilka przydatnych wskazówek:
1. Przemyślane i dobrze skonstruowane prompty dają lepsze wyniki. Prompty „Podsumuj ten raport” oraz „Zidentyfikuj trzy główne twierdzenia zawarte w tym raporcie wraz z przytoczonymi na poparcie każdego z nich dowodami, a także wszelkie twierdzenia, które wydają się nieuzasadnione, używając nie więcej niż 200 słów” dają zupełnie odmienne wyniki. Im dokładniej określisz, czego oczekujesz, w jakiej formie i z jakimi ograniczeniami, tym bardziej przydatny i weryfikowalny będzie wynik.
2. Pytaj o uzasadnienie, a nie tylko o wnioski. Jeżeli poprosisz model o ocenę wiarygodności źródła, poproś go też, aby uzasadnił swoją opinię. Model, który otwarcie przedstawia swoje uzasadnienie, daje dokładniejsze wyniki i pozwala je ocenić. Jeżeli według ciebie to uzasadnienie nie ma sensu (pamiętaj: to twoja opinia się liczy), to wniosek również nie ma sensu.
3 . Wykorzystywanie AI do bezpośredniej weryfikacji faktów to nie jest dobry pomysł. Model językowy może wygenerować przekonującą, szczegółową i całkowicie zmyśloną odpowiedź na pytanie o fakty. Wykorzystuj AI do wsparcia i uporządkowania procesu weryfikacji (aby określić, co należy sprawdzić, oraz sformułować pytania, które warto zadać), ale nigdy nie po to, by proces ten zakończyć.
4. Pamiętaj, że wyniki generowane przez AI mogą być obciążone stronniczością. Dane treningowe modelu odzwierciedlają świat w taki sposób, w jaki został on przedstawiony w materiałach wykorzystanych do jego trenowania, co oznacza, że niektóre perspektywy są w nim reprezentowane nadmiernie, a inne niedostatecznie. Może to wpływać na sposób formułowania podsumowań, przykłady, do których odwołuje się model, oraz wnioski, ku którym się skłania.
5. Rozpoznaj, które z przedstawionych przez model przypadków, wniosków i treści mogą być niewiarygodne. Sztuczna inteligencja wykazuje szczególną niedokładność w przypadku najświeższych wydarzeń, informacji lokalnych lub bardzo szczegółowych, a także w każdej sytuacji, w której klucz do ewentualnego wprowadzenia w błąd leży raczej w kontekście niż w treści. Jeżeli zrozumienie, dlaczego coś jest mylące wymaga wiedzy o tym, kim są odbiorcy, w co już wierzą i w jakiej sytuacji się znajdują, to z pewnością konieczna jest tu weryfikacja przez człowieka.
6. Dokumentuj sposób, w jaki korzystasz z AI. Niech to nie będzie wymóg biurokratyczny, ale samodyscyplina. Świadomość, że sposób wykorzystania danego narzędzia zostanie odnotowany, wpływa na to, jak ostrożnie się z tym narzędziem obchodzisz. Taki postępowanie pomaga również w gromadzeniu wiedzy organizacyjnej na temat tego, co się sprawdza, a co nie, a ponadto jest coraz częściej postrzegane jako podstawowy standard przejrzystości.
A zatem: czy sztuczna inteligencja może pomóc organizacjom społeczeństwa obywatelskiego w zapewnieniu integralności informacji?
Tak, ale zaleca się ostrożność. Sztuczna inteligencja może pomóc w zarządzaniu obszernością argumentów, stylem, myśleniem strukturalnym oraz w testowaniu argumentów pod kątem odporności. Nie potrafi jednak ocenić kontekstu, skorygować własną stronniczość ani ustalić, czy coś jest prawdą. Organizacje, które będą z niej dobrze korzystać, to te, które rozumieją tę różnicę na tyle dobrze, by w każdej chwili wiedzieć, czego od niej oczekują i czego potrzebują.
Narzędzia te są przydatne, ale ostateczna decyzja zawsze należy do ciebie.
Twoja opinia ma znaczenie
Co sądzisz o tym tekście? Poświęć 30 sekund, aby podzielić się swoją opinią i pomóc nam tworzyć wartościowe treści dla społeczeństwa obywatelskiego!
Oświadczenia
Niniejszy materiał powstał przy okazji projektu AI for Social Change realizowanego przez TechSoup w ramach programu Digital Activism Program przy wsparciu Google.org.
Do stworzenia treści autor wykorzystał sztuczną inteligencję. Jednak cały artykuł został stworzony oraz poddany weryfikacji i przeglądowi przez autora i zespół TechSoup.
Narzędzia AI szybko się rozwijają i choć dokładamy wszelkich starań, aby zapewnić rzetelność udostępnianych przez nas treści, czasami niektóre informacje mogą być nieaktualne. Jeżeli zauważysz, że jakaś informacja jest nieaktualna, daj nam o tym znać pod adresem content@techsoup.org.