Zanim przejdziesz do tej części, upewnij się, że przeczytałeś artykuł „Jak organizacje społeczeństwa obywatelskiego mogą przewodzić w dziedzinie odpowiedzialnego używania AI”, Wprowadzenie do niniejszego praktycznego przewodnika, Część 1: PATRZ - Przygotowanie gruntu, Część 2: TWÓRZ – Zidentyfikowanie i zdefiniowanie zasad, Część 3: Zastosowanie w praktyce, Część 4: TWÓRZ – Zdefiniowanie własności zarządzania AI w organizacjach społeczeństwa obywatelskiego oraz Część 5: Jak organizacje społeczeństwa obywatelskiego mogą tworzyć skuteczną politykę dotyczącą sztucznej inteligencji

Dwie sceny, jedna kompetencja.

Kierownik programu w organizacji społeczeństwa obywatelskiego staje przed sytuacją „żółtego światła” przewidzianą w nowo opracowanej polityce AI. Chce wykorzystać narzędzie AI do pomocy w klasyfikacji wniosków składanych przez beneficjentów znajdujących się w trudnej sytuacji. Polityka mówi: zatrzymaj się i zapytaj. Ale o co dokładnie zapytać? I kogo?

Tymczasem w Maladze w Hiszpanii kobieta o imieniu Lina zgłasza się na policję z zawiadomieniem o groźbach ze strony swojego byłego partnera. Jej sprawa zostaje zarejestrowana w VioGén, hiszpańskim systemie algorytmicznym służącym do oceny ryzyka przemocy ze względu na płeć. Algorytm zadaje 35 pytań i ocenia poziom zagrożenia jako „średni”. Kobieta składa wniosek o wydanie zakazu zbliżania się. Wniosek zostaje odrzucony. Trzy tygodnie później Lina ginie w pożarze domu rzekomo spowodowanym przez jej byłego partnera, który wciąż miał klucz do jej mieszkania.

Te dwie sceny łączy to samo pytanie: Kto starannie przygląda się temu, jak ten algorytm wpływa na ludzi?

Scenariusze „żółtego światła” przewidziane w twojej polityce AI stanowią punkt wyjścia do oceny ryzyka. Polityka wskazuje kiedy się zatrzymać. Ocena ryzyka wskazuje jak przyjrzeć się sprawie dokładniej. Co sprawia, że ta kompetencja ma wyjątkową moc w kontekście społeczeństwa obywatelskiego? Otóż umiejętności detektywistyczne, które wykorzystujesz do zarządzania własnymi narzędziami AI to te same umiejętności, których potrzebujesz, aby zapewnić odpowiedzialność w sytuacji użycia systemów AI w społeczności, której służysz.

To jest faza BUDUJ, w której wszystko, co stworzyłeś, zaczyna funkcjonować. Ten artykuł dotyczy rozwijania obu tych mięśni.

Dlaczego ryzyko związane z AI jest inne: Rzeczywistość socjotechniczna

Sztuczna inteligencja nie działa w próżni. Działa w ramach skomplikowanych, ludzkich systemów społecznych. Czyni to z niej technologię socjotechniczną, co całkowicie zmienia sposób oceny ryzyka.

Przyjrzyjmy się niderlandzkiemu algorytmowi SyRI wykorzystywanemu do wykrywania oszustw i wyłudzeń zasiłków socjalnych, który porównuje dane osobowe obywateli znajdujące się w różnych rządowych bazach danych. SyRI wdrożono wyłącznie w dzielnicach zamieszkałych przez osoby o niskich dochodach oraz imigrantów. W lutym 2020 r. Sąd Rejonowy w Hadze orzekł, że algorytm narusza art. 8 Europejskiej Konwencji Praw Człowieka. Według sądu użyte zabezpieczenia przed dyskryminacją były niewystarczające. Co umożliwiło wydanie tego orzeczenia? Sprawę wniosła koalicja skupiająca sześć organizacji praw człowieka i największy niderlandzki związek zawodowy posiłkując się analizą sporządzoną przez specjalnego sprawozdawcę ONZ ds. skrajnego ubóstwa. Pracę detektywistyczną, która doprowadziła do zatrzymania szkodliwego systemu wykonało społeczeństwo obywatelskie.

Weźmy inny przykład. Jordański program transferów pieniężnych Takaful finansowany przez Bank Światowy wykorzystuje algorytm oparty na 57 wskaźnikach społeczno-ekonomicznych do klasyfikacji poziomów ubóstwa rodzin i podejmowania decyzji o tym, kto otrzyma wsparcie. Śledztwo przeprowadzone przez organizację Human Rights Watch udokumentowało, że algorytm opierał się na błędnych założeniach dotyczących tego, jak wygląda ubóstwo. Rodziny były karane za posiadanie samochodów, których używały do transportu wody, lub za zużycie energii elektrycznej wynikające ze słabej izolacji, na której naprawę nie było ich stać. Pewna kobieta z jednej z najbiedniejszych wiosek w Jordanii powiedziała śledczym: „Samochód doprowadził nas do ruiny.”

Najważniejszy wniosek: możliwość wyrządzenia szkody zależy od konkretnego przypadku. To samo narzędzie może być bezpieczne w jednym zastosowaniu, a niebezpieczne w innym. Nie ma uniwersalnych rozwiązań, są jedynie pytania zależne od konkretnego kontekstu, a im lepiej organizacje społeczeństwa obywatelskiego rozumieją kwestię oceny ryzyka związanego ze sztuczną inteligencją, tym większą pomoc mogą zapewnić.

Czym właściwie jest ocena ryzyka i kiedy jest ona potrzebna

W tej dziedzinie roi się od deprymujących akronimów: FRIA, AIA, ARIA. Nazwy się zmieniają, ale szkielet pozostaje ten sam. Ocena ryzyka to wykonywanie pracy detektywistycznej wobec własnego systemu AI: zadawanie dociekliwych i inteligentnych pytań, dokumentowanie ustaleń oraz podejmowanie decyzji, jakie działania należy podjąć w związku z nimi.

Struktura badania opiera się na modelu CIDA (kontekst, dane wejściowe, decyzja, działanie - ang. Context, Input, Decision, Action). W jakim środowisku społecznym i politycznym funkcjonuje badany algorytm? Jakie dane są do niego wprowadzane i jaka może się w nich kryć tendencyjność? Jak podejmowane są decyzje? Co dzieje się dalej? To podejście sprawdza się niezależnie od tego, czy algorytm jest twój, czy też należy do agencji rządowej podejmującej decyzje dotyczące osób, którym służysz.

Aby przewidzieć ewentualne szkody, nie trzeba zaczynać od zera. Bazy danych o incydentach związanych z AI, takie jak AI Incident Database, OECD AI Incidents Monitor czy AI Risk Repository dokumentują, co poszło nie tak w prawdziwym świecie. To one są aktami spraw będącymi do twojej dyspozycji zanim rozpoczniesz własne dochodzenie.

A jeśli to wszystko wydaje się skomplikowane, to zapamiętajcie, co mówię na moich warsztatach: gdybym wyjaśniał mojej babci, na czym polegają modele zarządzania ryzykiem, powiedziałaby: „Mówisz mi o tym, jakbyś odkrył coś nowego. My ludzie postępujemy tak od wieków.” Zanim podejmiesz działanie, zastanów się, na kogo może ono wpłynąć. Popytaj tu i tam. Rozważ najgorszy scenariusz. Ocena ryzyka po prostu nadaje temu instynktownemu zachowaniu konkretną strukturę.

Kiedy jest ona potrzebna? To zależy od tego, jaka jest twoja relacja z systemem AI. Jeżeli zamierzasz nabyć narzędzie innej firmy, co jest najczęstszym scenariuszem w przypadku organizacji społeczeństwa obywatelskiego, ocena ryzyka stanowi część procesu due diligence. Jeżeli już korzystasz z narzędzi AI bez przeprowadzania jakiejkolwiek oceny (co dla wielu organizacji społeczeństwa obywatelskiego prawdopodobnie jest najbardziej realistycznym punktem wyjścia) należy pilnie przeprowadzić ocenę retrospektywną. Jeżeli wobec społeczności, w których działasz, wykorzystywane są systemy AI, np. do oceny uprawnień do świadczeń socjalnych czy automatycznego podejmowania decyzji imigracyjnych, musisz posiadać wiedzę z zakresu oceny ryzyka, aby móc je krytycznie analizować i udzielać rekomendacji. To jest działanie właściwe dla pracy organizacji społeczeństwa obywatelskiego. W Unii Europejskiej Akcie w sprawie sztucznej inteligencji nakłada obowiązek przeprowadzania oceny ryzyka w przypadku systemów wysokiego ryzyka.

Dwa podejścia, z których mogą korzystać organizacje społeczeństwa obywatelskiego

Nie są to konkurujące ze sobą metody, lecz uzupełniające się perspektywy, z których każda ukazuje inne aspekty.

Podejście skupione na wartościach wychodzi od twoich zasad. Khan Academy udowodniła to przyjmując dziewięć zasad zawartych w ramach etycznych dotyczących sztucznej inteligencji w edukacji (Ethical Framework for AI in Education), a następnie tworząc wewnętrzne bariery dla swoich zespołów produktowych. Pierwsza zasada – Osiąganie celów edukacyjnych, doprowadziła do powstania bariery nr 1.4: „mechanizmy zapobiegające wykorzystaniu AI w celach innych niż edukacja”. Na tej podstawie mogli ocenić ryzyko i stworzyć konkretne środki ograniczające. Zasada → Bariera → Ocena ryzyka → Ograniczenie ryzyka Twoja organizacja może pójść tą samą drogą i wykorzystać to samo podejście do oceny systemów zewnętrznych.

Tabela 1. Przykład arkusza stworzonego i wykorzystywanego przez Khan Academy. Źródło: Framework for Responsible AI in Education, Khan Academy, 3 kwietnia 2025, Blog Khan Academy. © 2025 Khan Academy. Wszelkie prawa zastrzeżone. Ta treść nie jest objęta licencją CC BY 4.0 International.

Podejście skupione na interesariuszach wychodzi od osób, których dana sprawa dotyczy. Kiedy prowadziłam sesję z udziałem około 70 liderów z 30 organizacji pozarządowych zajmujących się edukacją i współpracujących z Tech To The Rescue, przeanalizowaliśmy system wczesnego ostrzegania przed przedwczesnym kończeniem nauki w stanie Wisconsin (Wisconsin Dropout Early Warning System). Jest to algorytm, który wykorzystywał dane, w tym o pochodzeniu etnicznym i sankcjach dyscyplinarnych, do przewidywania, którzy uczniowie mogą przerwać naukę. Uczestnicy wcielili się w role dyrektora szkoły, rodzica, analityka danych, kuratora oświaty i nauczyciela. W ciągu 30 minut przygotowali kompleksową mapę drogową transformacji systemu.

Na przykład, gdy siedząca przy stole „sceptyczna matka” zapytała, dlaczego rasa jej dziecka jest wykorzystywana do przewidywania niepowodzeń, cała grupa zmieniła podejście: „analityk danych” zaproponował usunięcie rasy i kodów pocztowych jako cech wejściowych, „nauczyciel” zasugerował zastąpienie stygmatyzującej etykiety oznaczającej „wysokie ryzyko” praktycznymi spostrzeżeniami, takimi jak „pomocne może być dodatkowe wsparcie w algebrze”, a „dyrektor” przeformułował całe przeznaczenie systemu z „przewidywania przypadków przerwania nauki” na „wskazywanie ścieżek prowadzących do sukcesu”. Pytanie zadane przez uczestnika odgrywającego jedną z ról zmieniło cały model. Różnorodne perspektywy nie tylko poprawiają ocenę ryzyka, ale wręcz ją zmieniają.

Oba podejścia sprowadzają się do tego samego podstawowego wzoru: Prawdopodobieństwo × Istotność = Poziom ryzyka. To nie jest skomplikowana matematyka. To szczera i uporządkowana rozmowa.

Ocena ryzyka w praktyce

Przejdźmy do konkretów. Organizacja społeczeństwa obywatelskiego zajmująca się świadczeniem usług rozważa wdrożenie chatbota AI do wstępnej weryfikacji osób ubiegających się o pomoc prawną. Spójrzmy na to z perspektywy CIDA:

  • Kontekst: Jaki jest cel? Kto podjął decyzję o wprowadzeniu tego rozwiązania? Jak wygląda otoczenie regulacyjne?

  • Wejście: Z jakich danych korzysta chatbot? Co dzieje się z osobami, które nie potrafią poruszać się po interfejsach cyfrowych?

  • Decyzja: Co zaleca chatbot? Czy odbywa się weryfikacja przez człowieka? Co, jeżeli system błędnie oceni stopień pilności danej sprawy?

  • Działanie: Co dzieje się dalej? Czy ktoś może zostać pozbawiony możliwości uzyskania pomocy w odpowiednim czasie?

Analiza tych pytań pozwala uwidocznić konkretne szkody: stracone szanse, utratę godności, naruszenie prywatności – a twój zespół ocenia je i ustala ich priorytety. Następnie prowadzicie burzę mózgów wokół środków ograniczających ryzyko: ludzkiego nadzoru w kluczowych momentach podejmowania decyzji, ręcznej ścieżki obsługi osób, którym chatbot nie jest w stanie dobrze pomóc, a także protokołów anonimizacji danych.

Jedno wszakże należy uczciwie powiedzieć: ryzyka nie da się całkowicie wyeliminować. Po podjęciu działań ograniczających ryzyko pozostaje pewna jego część: ryzyko resztkowe– i jest to fakt, a nie porażka. W tym miejscu do akcji wkraczają mechanizmy zarządzania sztuczną inteligencją: ciągłe monitorowanie oraz jasno określone warunki uruchamiające ponowną ocenę. Twoje ustalenia są dokumentowane w rejestrze ryzyka– dynamicznym zapisie, który staje się dokumentem roboczym Drzewa oraz podstawą dowodową dla przyszłych aktualizacji polityki.

Cykl życia

Ocena ryzyka nie jest dokumentem sporządzanym jednorazowo. To żywy proces, który łączy wszystkie elementy przedstawione w tej serii. Poczynione przez ciebie ustalenia są uwzględniane w kształtowaniu polityki – scenariusze „żółtego światła” stają się bardziej przejrzyste, pojawiają się nowe „czerwone linie”, a „czerwone światła” zostają potwierdzone. W miarę jak sztuczna inteligencja funkcjonuje w rzeczywistym świecie, pojawiają się nowe zagrożenia, które są dodawane do rejestru.

Kiedy taka mentalność stanie się częścią twojej kultury, przestaniesz działać reaktywnie, a zaczniesz działać proaktywnie: Ethics by Design, czyli uwzględnianie zasad etycznych już na etapie projektowania. Z biegiem czasu myślenie skupione na ryzyku przekształca się w myślenie skupione na oddziaływaniu, w którym podejmowane przez ciebie wybory dotyczące sztucznej inteligencji nie tylko zapobiegają szkodom, ale także aktywnie tworzą pozytywną wartość dla społeczności, którym służysz.

Zaproszenie

Twoje zasady zdefiniowały to, w co wierzysz. Twoje drzewo zdefiniowało, kto prowadzi rozmowę. Twoja polityka zdefiniowała warunki, które uzgodniłeś. Ocena ryzyka definiuje, na co zwracasz uwagę i zamyka cykl poprzez wprowadzenie wszystkich wyciągniętych wniosków z powrotem do systemu.

Wybierz sytuację „żółtego światła”. Zgromadź Drzewo. Zadaj pytania.

I pamiętaj:, że ta kompetencja nie kończy się na progu twojej organizacji. W Niderlandach koalicja NGO doprowadziła do postępowania sądowego, w wyniku którego zablokowano stosowanie dyskryminującego algorytmu w systemie pomocy społecznej. W Hiszpanii organizacja społeczeństwa obywatelskiego Eticas przeprowadziła audyt kontradyktyjny systemu VioGén po tym, jak Ministerstwo Spraw Wewnętrznych odmówiło zgody na przeprowadzenie niezależnej kontroli. We współpracy z Fundacją Ana Bella, w oparciu o publicznie dostępne dane oraz wywiady z osobami, które przeżyły, Eticas odkryła, że policja przyjmowała klasyfikację ryzyka dokonaną przez algorytm w 95% przypadków, faktycznie pozwalając, aby decyzje o życiu i śmierci były kontrolowane przez wzór. W latach 2003–2021, śmierć poniosło 71 zarejestrowanych w systemie kobiet, które wcześniej zgłaszały przypadki przemocy i które zostały zaklasyfikowane jako przypadki o ryzyku „znikomym” lub „średnim”.

Te same pytania, te same ramy, ten sam nacisk na różnorodność głosów – oto narzędzia, których społeczeństwo obywatelskie potrzebuje, aby sprawić, że potężne instytucje będą ponosić odpowiedzialność za swoje działania. Praca detektywistyczna jest ukierunkowana zarówno do wewnątrz, jak i na zewnątrz. To właśnie sprawia, że jej charakter jest specyficzny tylko dla ciebie.

→ Przewodnik towarzyszący zawiera szczegółowy opis procesu oraz szablony, które pomogą w przeprowadzeniu pierwszej zespołowej oceny ryzyka, niezależnie od tego, czy oceniasz własną AI, czy też analizujesz system, który ma wpływ na twoją społeczność.

Twoja opinia ma znaczenie

Co sądzisz o tym tekście? Poświęć 30 sekund, aby podzielić się swoją opinią i pomóc nam tworzyć wartościowe treści dla społeczeństwa obywatelskiego!

Ostatnia aktualizacja artykułu została zrobiona 2 lipca 2026, uwzględniając najnowszy rozwój w sferze AI.

Oświadczenia

Niniejszy materiał powstał przy okazji projektu AI for Social Change realizowanego przez TechSoup w ramach programu Digital Activism Program przy wsparciu Google.org.

Do stworzenia treści autorka wykorzystała sztuczną inteligencję. Jednak cały artykuł został stworzony oraz poddany weryfikacji i przeglądowi przez autorkę i zespół TechSoup.

Narzędzia AI szybko się rozwijają i choć dokładamy wszelkich starań, aby zapewnić rzetelność udostępnianych przez nas treści, czasami niektóre informacje mogą być nieaktualne. Jeżeli zauważysz, że jakaś informacja jest nieaktualna, daj nam o tym znać pod adresem contact@hive-mind.community

O autorce

Ayşegül Güzel jest architektem odpowiedzialnego zarządzania sztuczną inteligencją, który pomaga organizacjom realizującym misję przekształcić lęk przed sztuczną inteligencją w godne zaufania systemy. Jej kariera łączy kierownicze przywództwo społeczne, w tym założenie Zumbara, największej na świecie sieci banków czasu, z prowadzeniem technicznej praktyki AI jako certyfikowany audytor AI i były analityk danych. Prowadzi organizacje przez cały proces transformacji zarządzania AI i przeprowadza techniczne audyty AI. Wykłada na uczelni ELISAVA i prowadzi międzynarodowe odczyty poświęcone podejściu do technologii zorientowanemu na człowieka. Dowiedz się więcej na stronie https://aysegulguzel.info lub zasubskrybuj jej biuletyn AI of Your Choice na stronie https://aysegulguzel.substack.com.