Dane to władza – służą do kontrolowania ludzi

„Chciałam zajmować się tworzeniem kontrnarracji do polityki, która alienuje ludzi w ich relacji z technologią. Interesuje mnie to, jak człowiek jako jednostka i część społeczeństwa, może się przeciwstawiać nadzorowi technologicznemu” – mówi w wywiadzie Katarzyna Szymielewicz, Współzałożycielka i prezeska Fundacji Panoptykon.

Dzień dobry, bardzo dziękujemy za przyjęcie zaproszenia do rozmowy, choć spodziewamy się, że trudno o wolny czas w Pani kalendarzu. Rozpocznijmy od pytania, jak to wszystko się zaczęło. Kiedy pojawiła się u Pani myśl o studiowaniu prawa?

Na pewno nie było to marzenie i plan realizowany od dzieciństwa. Pamiętam, że w klasie maturalnej przygotowywałam się do egzaminu na prawo, więc już wtedy musiałam mieć taki pomysł. Może zainspirowało mnie to, że mój brat poszedł na prawo?

Wydawało mi się, że prawnik to ktoś, kto występuje w ważnych społecznie sprawach, kto broni człowieka, ale też interesu społecznego. Ma do tego narzędzia, może wpływać na kształtowanie prawa i to, jak jest ono stosowane. Kiedy już zdecydowałam się na te studia, to miałam systemowe podejście do tematu.

To był 2000 rok. Na agendzie była wtedy Unia Europejska i myślałam właśnie o prawie europejskim – o regulowaniu rynku, byciu rzecznikiem konsumentów. Wspólny rynek to była szansa na modernizację. Pojawiła się wiara w to, że możemy na nowo poukładać różne sektory w uczciwszy, lepszy sposób.

Po zakończonych studiach prawniczych zdecydowała się Pani na dodatkowy kierunek – Development Studies w Londynie na School of Oriental and African Studies. Skąd taka decyzja i dlaczego akurat taki kierunek?

To wyniknęło z rozczarowania tym, jak wygląda prawo. Na studiach wybrałam ścieżkę „prawo europejskie”. Potem trafiłam do szkoły prawa brytyjskiego, dzięki której wygrałam konkurs sponsorowany przez dużą, międzynarodową kancelarię. Trafiłam do niej na staż. W czasie stażu dowiedziałam się, jak w praktyce wygląda prawo dotyczące konsumentów. I dowiedziałam się, że to jest coś potwornego. Odklejone od rzeczywistości tworzenie papierów, które korporacje sobie wzajemnie wysyłają, żeby mieć podkładkę pod swój biznes. Nikt tam nie rozwiązywał problemów i nie myślał o społeczeństwie. Prawnik komercyjny zajmował się kreatywnym stosowaniem przepisów, tak żeby klientowi było dobrze. A klientem są przecież inne korporacje. Ja obsługiwałam banki i ubezpieczycieli.

Pozytywną stroną pracy w tej kancelarii była możliwość dalszego kształcenia się. Mogłam pracować, by się utrzymać, spłacić kredyt studencki i szukać swojej drogi.

Wybór tych studiów był w dużym stopniu przypadkowy. Nie wiedziałam, co powinnam studiować, by powrócić do wartości, które mnie interesowały. Wpisałam kilka haseł w wyszukiwarkę: prawa człowieka, filozofia, społeczeństwo, ekonomia. Chciałam studiować oparte na prawie nauki społeczne. I tak pojawiło się Development Studies. Okazało się, że to bardzo ciekawa mieszanka nauk o świecie, ekonomii, prawach człowieka.

Dopiero w trakcie okazało się, jak bardzo te studia były zaangażowane i krytyczne wobec mainstreamu. Mogłam się zanurzyć w krytykę systemu, którego doświadczyłam jako prawniczka. Zobaczyłam, jak działa kapitalizm nadzorczy oparty o narrację modernizacyjno-liberalną, bez prawdziwej troski o człowieka.

Jest Pani prawniczką od praw człowieka i technologii, współzałożycielką i prezeską Fundacji Panoptykon, która jako jedna z pierwszych zaczęła poruszać problematykę „społeczeństwa nadzorowanego”. Ciekawi nas, co było głównym powodem założenia fundacji? Czy miał na tę decyzję wpływ staż w organizacji INTERIGHTS?

INTERIGHTS (The International Centre for the Legal Protection of Human Rights) to była organizacja, która prowadziła sprawy przed trybunałami karnymi, między innymi przed Międzynarodowym Trybunałem Karnym w Hadze. Do zgłoszenia zainspirowała mnie Helen Duffy, która prowadziła sprawy związane z „wojną z terroryzmem”. Polska także była w nie „umoczona”. Wiedziałam też, że aby wyjść z korporacji i pracować dla interesu społecznego, muszę bardziej zanurzyć się w pracę, którą chciałabym wykonywać później.

Ale byłam wtedy na etapie pisania pracy dyplomowej na SOAS. Analizowałam w niej, jak dyskurs używający tematu praw człowieka może szkodzić ludziom. Innymi słowy: jak politycy zręcznie używają praw człowieka jako argumentu za zabijaniem ludzi. Porównywałam dyskurs Georga Busha i Wladimira Putina, który był przecież otwarcie autorytarny. Postawiłam hipotezę, że narracja amerykańska była dla demokracji bardziej szkodliwa.

Wtedy zaczęłam czuć, że ta narracja to jest prawdziwa siła, z którą jako ludzie się mierzymy. Stwierdziłam, że jeśli mam z tym pracować, to niekoniecznie w sądzie czy w polityce. Chciałam robić coś, żeby tę narrację powstrzymać, żeby zbudować kontrnarrację.

Ale nie znalazłam miejsca, które umożliwiłoby mi taką pracę. Wróciłam do Warszawy, do korporacji, gdzie zajęłam się rozwijaniem działalności pro bono. W ten sposób zaczęłam wspierać różne sprawy precedensowe. Dalej szukałam punktu zaczepienia, żeby przydać się w sprawach dotyczących wojny z terroryzmem. Okazał się nim Adam Bodnar, który pracował wtedy w Helsińskiej Fundacji Praw Człowieka. Zaczęliśmy rozmawiać i to on wprowadził mnie na trop tego, że nikt nie zastanawiał się nad tym, jak zbierane są dane osobowe i do czego wykorzystywane. A przecież dane to władza – służą do kontrolowania ludzi. Nie było wtedy organizacji, która stawiałaby opór zbieraniu gigantycznej ilości informacji o obywatelach. Te wszystkie doświadczenia prowadziły mnie do otworzenia Fundacji Panoptykon.

Była Pani zaangażowana w prace legislacyjne nad przyjęciem Rozporządzenia o Ochronie Danych Osobowych. Co stanowiło największe wyzwanie w tym procesie? Jak z perspektywy czasu ocenia Pani obecny poziom świadomości przedsiębiorców i konsumentów w temacie RODO?

W czasie prac nad RODO stoczyliśmy jako Panoptykon dużą batalię o profilowanie. Już wtedy dostrzegaliśmy problemy, którymi na szerszą skalę zaczęto się zajmować dopiero niedawno. Wtedy nie było to tak ważne, komu przekażesz dane i czy będzie można wycofać zgodę na ich przetwarzanie.

Tymczasem możliwość obserwowania, profilowania i wnioskowania o ludziach daje znacznie większą władzę. Pozwala wpływać na zachowanie ludzi oraz ich wybory. To jednak wymykało się tradycyjnemu podejściu do ochrony danych.

Aktualnie świadomość tego, co dzieje się z danymi po ich pozyskaniu bardzo wzrosła. Widać to chociażby po tym, jak mówi się dziś o internetowych korporacjach, o budowanym przez nie kapitalizmie nadzoru, o gigantycznej przewadze, jaką daje różnym podmiotom obserwowanie ludzi. Byliśmy na pewno w Polsce pionierami zwracania uwagi na profilowanie i dążenie do uregulowania go w RODO.

Od stycznia tego roku jest Pani aktywną członkinią Rady ds. Cyfryzacji tj. ciała doradczego Ministerstwa Cyfryzacji oraz Komitetu Rady Ministrów do spraw Cyfryzacji.  Podczas inauguracji jej prac zamiast o „twardej cyfryzacji” zwróciła Pani uwagę na kryzys psychiczny wśród dzieci i młodzieży, wynikający z polityki technologicznej i edukacyjnej. Na co jeszcze zwraca Pani uwagę podczas w pracy Radzie?

Widzę swoją rolę w tym, żeby poszerzać pole myślenia o technologii. Powszechne jest entuzjastyczne podejście – „cyfryzacja jest koniecznością, musimy jej robić więcej i szybciej”. Jestem tam od zadawania krytycznych pytań. Czy potrzebujemy więcej technologii? Jeśli potrzebujemy i umiemy wskazać cel, to jakie gwarancje są potrzebne, żeby ochronić ludzi przed gigantycznym ryzykiem, które zawsze się z tym wiąże.

Systemów, które narobiły więcej szkód niż pożytku jest już w Europie trochę. Opisujemy je w raportach. Dlatego pytam o sens wdrażania takich rozwiązań w Polsce, zarządzanie ryzykiem i o człowieka.

Brała Pani również udział w unijnych pracach legislacyjnych nad Digital Services Act, Digital Markets Act i AI Act. Czy według Pani te regulacje są wystarczające dla ochrony praw konsumentów w związku z rozwojem sztucznej inteligencji?

Regulacje nigdy nie są i nigdy nie będą wystarczającą gwarancją dla praw człowieka. Prawo przychodzi zawsze po tym, gdy „mleko się rozleje” – kiedy już problemy się objawią. To naturalna kolej rzeczy w wolnym społeczeństwie – zazwyczaj, jeśli prawo wyprzedza problemy, to jest duża szansa, że jest to prawo cenzurujące i autorytarne.

Kiedy problem jest już widoczny, dostrzegają go politycy i pojawia się pomysł regulacji – zaczyna się ścieranie różnych interesów. Organizacje reprezentujące społeczeństwo mogą mieć silniejsze argumenty, ale też mniejsze zasoby finansowe niż na przykład ogromne firmy technologiczne, co ogranicza możliwość dotarcia z tą argumentacją. Dlatego regulacje często są kompromisem. Tak było też w przypadku tych trzech aktów. Chociaż cały czas uważam, że są potrzebne, a ich cel był dobrze postawiony.

Czy Pani zdaniem powinniśmy się obawiać sztucznej inteligencji? Czy Pani korzysta z jej dobrodziejstw w swojej prawniczej i fundacyjnej pracy? Jeśli tak, to w jaki sposób?

Na szczęście nie korzystam, bo mam zespół złożony z ludzi. Moja praca, szczęśliwie, jest oparta na współpracy z nimi, wymyślaniu narracji i przekazywaniu innym ludziom konceptów. Nie mam w niej zastosowania dla tak odtwórczego narzędzia.

Sama nie obawiam się sztucznej inteligencji jako takiej. Obawiam się ludzi bezkrytycznie jej używających. Technologia zawsze jest narzędziem w czyichś rękach. W kontekście sztucznej inteligencji trzeba to przypominać szczególnie często. Mamy tendencje do mówienia „system działa, sam podejmuje decyzje”. Tak nie jest. O celach zawsze decyduje człowiek. Decyduje, jak skalibrować narzędzie, na jaki cel je optymalizować. Zwracamy na to szczególną uwagę.

Ponadto narracja o dystopijnym świecie, w którym budzimy się i AI przejmuje świat, to temat zastępczy, który świetnie służy firmom technologicznym. Przekierowuje on myślenie nasze i polityków nawet nie na problemy przyszłości, ale takie z gatunku fantasy.

Angażuje się Pani w działalność wielu międzynarodowych organizacji m.in. Ashoki (Ashoka), Internet Society czy Agencji Praw Podstawowych Unii Europejskiej. Przez osiem lat pełniła Pani funkcję wiceprezeski European Digital Rights, która zajmuje się ochroną praw cyfrowych. Skąd u Pani tyle pasji do angażowania się w sprawy ochrony użytkowników Internetu?

W zasadzie to nie jest tak, że ja się interesuję prawami cyfrowymi. Fundacja Panoptykon ma „łatkę” organizacji od ochrony danych, ale to nie jest do końca nasza narracja. Zajmujemy się problemami na styku człowieka i technologii, szukamy do tego odpowiednich narzędzi. Prawa człowieka są takim narzędziem. Ale, jak się okazało, w czasach kapitalizmu nadzorczego wcale nie najlepszym.

Chciałam zajmować się tworzeniem kontrnarracji do polityki, która alienuje ludzi w ich relacji z technologią. Interesuje mnie to, jak człowiek jako jednostka i część społeczeństwa, może się przeciwstawiać nadzorowi technologicznemu, także prowadzonemu przez biznes. Jednym z narzędzi do dyskusji jest używanie kategorii praw cyfrowych.

Pani zaangażowanie i działania na rzecz praw konsumentów są doceniane. Zajęła Pani 14. Miejsce w tegorocznym Rankingu DGP: 25 najbardziej wpływowych prawników w 2023 r. a portal SW+ docenił Panią i Panoptykon w zestawieniu osób szczególnie ważnych dla technologii w 2023 r. „Herosi i antyherosi w świecie technologii roku 2023” – serdecznie gratulujemy. Co znaczą te wyróżnienia dla Pani, ale i dla tematu ochrony praw użytkowników internetowych?

Wyróżnienia są przede wszystkim wyrazem tego, że przebijamy się z tym, co mamy do powiedzenia do mediów głównego nurtu. Ta skuteczność nas cieszy, ale nie jest to cel sam w sobie ani znak zmiany. Nie walczymy o wyróżnienia – pracujemy na zmianę, na którą potrzeba lat, jeśli nie dekad. Taki trudny, długotrwały proces nie jest dość spektakularny, żeby przyznawano za niego nagrody.

Prowadzi Pani podcast Panoptykon 4.0, gdzie „zagląda Pani na zaplecze firm internetowych i rozwijanych przez nie technologii” – jak odnajduje się Pani w takiej roli? Skąd pomysł na tę formę komunikacji i czy sprawdza się ona w docieraniu do szerszego grona odbiorców?

Bardzo lubię interakcję z ludźmi, z którymi łączą mnie podobne wartości albo wspólny problem. Podcast pozwala nam zapraszać gości do pogłębionych rozmów. Sam element spotkania jest unikatowy i cenny.

To zupełnie nie jest to samo, jak spotkanie na panelu dyskusyjnym albo konferencji. Nagranie odcinka jest momentem złapania oddechu i spojrzenia na problem z wielu stron.

Podcast był początkowo moim osobistym projektem, który miał dać mi impuls do rozwoju. Szybko jednak stał się projektem fundacji, który pozwala nam komunikować się w sposób pogłębiony, bez skrótów i uproszczeń, na które musimy godzić się w mediach.

Żyjemy w dynamicznie zmieniającym się świecie – ta dynamika dotyczy też zmian w prawie cyfrowym. Jakie dostrzega Pani trendy w tym obszarze? Czy powinniśmy szykować się na kolejne znaczące regulacje pokroju RODO czy AI Act?

Mam nadzieję, że Unia zrobi kolejny krok w regulacji chroniącej konsumentów, ponieważ obecna ma już swoje lata. Ursula von der Leyen w wytycznych dla nowych komisarzy twierdziła, że czeka nas digital fairness act, czyli w wolnym tłumaczeniu „akt o sprawiedliwym rynku cyfrowym”. Liczę, że powrócimy w nim do spraw podstawowych dla konsumentów, czyli np. do projektowania interfejsów w sposób, który nie jest mylący lub uzależniający. Albo do AI – ze względu na to, jak duże luki zostały jeszcze w akcie o sztucznej inteligencji.

Pani ścieżka kariery jest daleka od utartych schematów. Co poradziłaby Pani młodym adeptom prawa, którzy wahają się pomiędzy standardową drogą, a realizacją prawniczych pasji?

Poleciłabym nie spieszyć się z wyborem specjalizacji i eksperymentować. Doświadczyć różnych kontekstów stosowania prawa. Zobaczyć, jak wyglądają w praktyce. Nikt za nich nie doświadczy rzeczywistości w sądach, korporacjach czy instytucjach unijnych, które, poza spisaną na papierze misją, mają też bieżące cele i wyzwania polityczne.

Jeśli studentów motywuje potrzeba wpływania na świat i naprawiania go, to nie ma dla nich gotowej drogi. Mogą odnaleźć ją w prawie karnym, międzynarodowym, europejskim, publicznym, ale nie dowiedzą się tego z książek.

Zachęcam do próbowania: brania udziału w konkursach, aplikowania na staże, do pracy letniej – jeśli tylko mają taką możliwość. Najgorsze byłoby przywiązanie się do miejsca, które ma fundamentalnie inne wartości – tego nie da się zafałszować.

Prawo to tylko narzędzie – bardzo plastyczne i dające do wyboru wiele ścieżek. Można użyć go w ekstremalnie różnych kontekstach, od trybunałów karnych (za chwilę może do spraw zbrodni w Ukrainie?), po świat reklamy, filmu i rozrywki. Zachęcam do poszukiwań i niepodejmowania ostatecznych decyzji zbyt wcześnie.

Katarzyna Szymielewicz – prawniczka, działaczka społeczna i publicystka. Jest absolwentką Wydziału Prawa i Administracji UW oraz Development Studies w School of Oriental and African Studies. Współzałożycielka i prezeska Fundacji Panoptykon, która – jako jedyna organizacja w Polsce – kompleksowo zajmuje się problematyką praw człowieka i nowych technologii. W latach 2012-2020 była wiceprzewodniczącą europejskiej sieci European Digital Rights. Od 2018 prowadzi podcast Panoptykon 4.0.