Jeden Palantir, by wszystkimi rządzić

Tolkien, CIA i europejska suwerenność: czy Europa powinna uzależniać się od korporacji powiązanej z amerykańskim wywiadem?

fot. CC-BY-SA 2.0 Cory Doctorow za pośrednictwem netzpolitik.org

“Cień [...] może tylko przedrzeźniać, nie stwarzać” – powiedział J.R.R. Tolkien ustami Froda Bagginsa, nie wiedząc wtedy jeszcze, że wiele lat później jego twórczość zostanie instrumentalnie wykorzystana przez twórców amerykańskiej korporacji, specjalizującej się w zastosowaniach AI do celów wojskowych.

Przeciętnemu człowiekowi spoza bańki technologicznej Palantir nie kojarzy się z big techami, a właśnie z uniwersum Władcy Pierścieni. O ile o Marku Zuckerbergu czy Elonie Musku słyszał już chyba każdy, za sprawą Facebooka, Instagrama, Xtwittera i omawianych w mediach kontrowersji, o tyle Peter Thiel i Alex Karp pozostają raczej w cieniu zainteresowania polskiej opinii publicznej.

Założone przez nich w 2003 roku Palantir Technologies nie prowadzi popularnych platform społecznościowych, z których korzystają zwykli zjadacze chleba. Oferuje usługi dla dużych graczy z sektora państwowego i prywatnego. Z usług firmy korzystają m. in. linie lotnicze Airbus, producent sprzętu Fujitsu czy NHS – brytyjska służba zdrowia. Korporacja znana jest z 4 podstawowych usług. Platforma Apollo ułatwia wdrażanie oprogramowania i łączenie ze sobą różnych danych. AIP służy do “integrowania sztucznej inteligencji z procesem podejmowania decyzji”. “Bazujący na ontologii” Foundry umożliwia łączenie i analizę danych w czasie rzeczywistym. Gotham natomiast reklamowany jest hasłem “przewaga bojowa oparta na AI”, jako system do namierzania celów, podejmowania decyzji, “koordynacji siły bojowej” i ogólnie “wspierania żołnierzy na polu walki”. Stosuje go m. in....niemiecka policja.

Firma na swoich stronach przedstawia się w samych superlatywach. Jej rozwiązania mają znacznie ułatwiać i przyspieszać pracę, być konkurencyjne, dbać o prywatność (“nie są brokerem danych”, ale prześwietlenie ich bloga wtyczką Rentgen informuje o wysyłaniu danych do medium.com i google.com...) i zapewniać bezpieczeństwo. Twórcy twierdzą, że stworzyli Palantira, aby “wspierać Zachód”. Wykorzystując Tolkiena mieli nawet określać swoją pracę jako “ratowanie Shire”.

"Ratowanie Shire" przy pomocy CIA

Czy sam Tolkien pobłogosławiłby pomysłowi, by jego twórczość reklamowała amerykańską korporację technologiczną? Śmiem wątpić. Zwłaszcza, że za przedsiębiorstwem “ratującym Shire” stoją nie tylko Peter Thiel i Alex Karp. Chociaż firma deklaruje, że nie angażuje się w inwigilację i szpiegostwo, to jej powiązania z CIA nie są żadną tajemnicą. In-Q-Tel, firma inwestująca w technologie dla amerykańskich służb wywiadowczych, włożyła w Palantir Technologies 2 mln dolarów. Sam Karp podkreślał, że docelowym klientem firmy była właśnie amerykańska agencja wywiadowcza, a współpraca między inżynierami CIA i Palantira pozwoliła udoskonalić produkty korporacji.

To jednak nie jedyne kontrowersje. Firma była powiązana z kampanią przeciwko dziennikarzowi Glennowi Greenwaldowi czy aferą Cambridge Analytica. W USA od lat głośno mówi się o o jej współpracy z amerykańskimi służbami imigracyjnymi. Jeden z najnowszych sukcesów firmy to kontrakt na 30 mln dolarów, w związku z którym Palantir stworzy dla rządu platformę ułatwiającą identyfikację i deportację imigrantów. Krytykuje się też współpracę korporacji z izraelskim wojskiem czy samego Petera Thiela, znanego z konserwatywnych poglądów i poparcia dla Donalda Trumpa.

Na europejskim gruncie

Z naszego punktu widzenia ważniejsza jest jednak rola, jaką Palantir odgrywa w Europie, w której zadomowił się już na dobre. Na problem zwracały uwagę m. in. Euroactiv czy Heise.

Już od 2013 roku firma próbuje przekonać Europejczyków do korzystania z ich usług. Służbom specjalnyn i policyjnym oferuje swój system do analityki śledczej, Gotham, który, napełniony raportami policyjnymi, rejestrami karnymi czy protokołami z przesłuchań świadków, ma pomóc w wyszukiwaniu przestępców. Na ofertę przedsiębiorstwa zgodziły się już Europol, duńska i norweska policja, kilka niemieckich landów, a także siły wywiadowcze Francji, W. Brytanii, Danii i Niderlandów.

Prawdziwe żniwa dla firmy zajmującej się Big Data przyniosła jednak pandemia COVID19. Politycy szukali rozwiązania, które pomogłoby im w zarządzaniu sytuacją kryzysową, a firma Thiela wykorzystała sytuację. Zaoferowała swoje usługi, kusząc europejskie rządy darmowymi lub tanimi wersjami swoich produktów, niczym tolkienowska “szklana kula” przyciągająca swoją tajemniczą siłą ciekawskiego hobbita.

Francji, Niemcom, Austrii i Szwajcarii zaproponowano oprogramowanie Gotham, innym państwo – platformę Foundry. Nie wszystkie rządy się ugięły, ale niektóre – tak.

Grecja, Niderlandy i W. Brytania postawiły na współpracę z korporacją. W zamian za udostępnienie jej danych dot. zdrowia obywateli otrzymali narzędzie do sprawnego zarządzania epidemią, które pozwoliło skrócić kolejki, monitorować na bieżąco obłożenie przychodni czy szpitali i decydować, gdzie najbardziej przyda się specjalistyczny sprzęt.

NHS – brytyjska służba zdrowia była tak zadowolona z pomocy firmy Thiela, że – mimo kontrowersji – zdecydowała się na kontynuowanie współpracy już po zakończeniu pandemii. W 2023 roku podpisała z korporacją siedmioletni kontrakt o wartości 330 milionów funtów.

Wielka Brytania stawia na rozwiązania przedsiębiorstwa nie tylko w kwestiach dotyczących zdrowia – miesiąc temu umowę z firmą podpisało tamtejsze Ministerstwo Obrony.

Palantirowi zaufał także watykański szpital, duński wywiad czy polska administracja. W 2022 roku, po wybuchu pełnoskalowej wojny w Ukrainie, polski rząd skorzystał z usług firmy, tworząc platformę do szukania pracy przez ukraińskich uchodźców. Ostatnio głośno jest o kolejnych już niemieckich landach, które wprowadzają oprogramowanie Gotham do wyposażenia swojej policji.

Gdzie leży problem?

Udostępnianie danych zachodnim korporacjom to dla Europejczyków chleb powszedni. Indywidualni użytkownicy bezrefleksyjnie opowiadają o sobie w socialmediach (a dziś dzielą się swoją prywatnością z chatbotami), a instytucje masowo korzystają z produktów Microsoftu. Korporacje mają środki na lobbing, a użytkownicy przyzwyczaili się już do ich wszechobecności – korzystanie z korporacyjnego i znanego softu jawi się jako po prostu wygodne.

Trudno się więc dziwić, że w sytuacji, w której chodzi nie tylko o wygodę, ale bezpieczeństwo i społeczną panikę, emocje biorą górę i europejscy politycy sięgają po rozwiązania “od sojuszników” równie bezrefleksyjnie, jak Pippin spogląda w Palantir we Władcy Pierścieni.

Tymczasem ryzyk i niebezpieczeństw związanych z firmą Thiela jest tyle, że trudno je wszystkie wymienić.

Nie potrzeba dogłębnej analizy, aby stwierdzić, że udostępnianie danych brytyjskich pacjentów czy ukraińskich uchodźców współfinansowanej przez CIA firmie, prowadzonej przez jawnego zwolennika Donalda Trumpa, jest, delikatnie mówiąc, kontrowersyjnym pomysłem.

Nawet pomijając aspekt powiązań z obcym wywiadem, idea, aby łączyć w jednych rękach kwestię opieki nad chorymi cywilami, przesłuchiwania świadków i sprawców przestępstw oraz zabijanie wrogów na polu bitwy budzi niepokój.

Dokładniejsza analiza zwraca uwagę na więcej szczegółów. Jak słusznie zwróciła uwagę Constanze Kurz w swoim artykule, amerykańska ustawa CLOUD Act z 2018 roku zezwala organom USA za pośrednictwem amerykańskich firm na dostęp do danych– także tych przechowywanych poza jurysdykcją Stanów Zjednoczonych. Innymi słowy: przechowywanie akt medycznych czy policyjnych na serwerach znajdujących się fizycznie w Europie w żaden sposób nie chroni ich przed dostępem obcych służb.

Władze USA i poszczególnych krajów europejskich współpracują ze sobą na mocy oddzielnych przepisów. Zdarza się, że poproszone przez kolegów z za granicy europejskie służby udostępnią dane Europejczyków – wymaga to jednak stosownych procedur i odpowiedniej argumentacji. Mówiąc wprost: europejskie państwo będzie nieraz (słusznie!) bronić swojego obywatela przed zakusami obcych władz, zwłaszcza wiedząc, że ingerencja ma charakter polityczny. CLOUD Act pozwala Amerykanom obejść międzynarodowe umowy i za jego pomocą uzyskać informacje, których w innym wypadku europejskie organy by im nie udzieliły. Palantir może umożliwić obcym służbom wgląd w intymne szczegóły życia nieświadomych tego faktu Europejczyków.

Nietrudno wyobrazić sobie sytuację, w której w niepowołane ręce wpada wiadomość o “wstydliwej” chorobie dziennikarza, który krytykował prezydenta Trumpa, tudzież o aborcji dokonanej przez żonę konserwatywnego polityka, który miał akurat prowadzić negocjacje ze stroną amerykańską.

Katarzyna Szymielewicz w swoim artykule“Dlaczego cyfrowa suwerenność nie jest taka prosta? O problemach z platformami z USA” słusznie zwraca uwagę, że amerykańskich firm technologicznych, lojalnych wobec swojego rządu, nie można w Europie traktować jako godnych zaufania dostawców infrastruktury krytycznej. Dobry przykład to problemy Bundeswehry z oprogramowaniem CISCO, o których pisałamw zeszłym roku.

Z polskiego podwórka pamiętamy wymianę tweetów między Elonem Muskiem a Radosławem Sikorskim w kwestii Starlinków, opłacanych przez polski rząd. Dzięki tej sprawie nawet przeciętni ludzie, nastawieni dotąd bezkrytycznie wobec amerykańskich korporacji, mogli zdać sobie sprawę, jak niebezpieczne może być uzależnienie państwa od zagranicznych dostawców, czyli czasem kaprysów jednego wpływowego człowieka. Szefowie koncernów z USA są lojalni przede wszystkim wobec własnych polityków, a nie europejskich klientów.

Już same bliskie powiązania Petera Thiela z Donaldem Trumpem są dla wielu Europejczyków wystarczającym powodem, by interesów z Palantirem nie prowadzić. Obecności firmy w Europie sprzeciwiają się też obrońcy praw podstawowych czy prywatności.

Specjaliści zajmujący się ochroną danych od lat wskazują, że współpraca z Palantirem może potencjalnie naruszać RODO i uderzać w prywatność obywateli. Europejski Inspektor Ochrony Danych już w 2018 i 2019 roku zwracał uwagę na specyficzną strukturę Gothama, uniemożliwiającą określenie, w jaki sposób wprowadzono dane. W praktyce groziło to ryzykiem przetwarzania danych ofiar i sprawców przestępstw w ten sam sposób. Ostatnio berlińska inspektor ds. ochrony danych, Meike Kamp, podkreślała stosowanych rozwiązań z orzecznictwem Trybunału Konstytucyjnego.

Także poza UE, w Wielkiej Brytanii, współpraca z firmą spotkała się z oporem. Sprzeciw budzi nie tylko kwestia ochrony danych i prywatności. Społeczna kampania “No Palantir in our NHS” porusza mniej uchwytny w przepisach, ale ważny dla przeciętnego obywatela problem zaufania do służby zdrowia. Pacjent, rozmawiając o swoich problemach z lekarzem czy pielęgniarką, woli mieć pewność, że powierzone informacje pozostaną w zaufanych rękach i nie zostaną powierzone podejrzanej firmie.

Obawy budził już sam proces zawierania i podpisywania umów – daleki od demokratycznych standardów. W 2020 r., gdy rząd brytyjski zdecydował się powierzyć Covid-19 Data Store Palantirowi i innym amerykańskim korporacjom, miał to zrobić bez przeprowadzenia przetargu czy konkursu.

Dziennikarze Guardiana zwrócili uwagę, że w 2019 roku, gdy delegacja unijna udała się do Waszyngtonu, spotkała się z amerykańskimi władzami i z tylko jedną amerykańską firmą – Palantirem. Ze spotkania Ursuli von der Leyen i Alexa Karpa nie sporządzono notatki.

Europejskie Centrum ds. Zapobiegania i Kontroli Chorób otrzymało mail od swojego amerykańskiego odpowiednika, CDC, w którym europejskiej instytucji reklamowano firmę Palantir.

W Grecji zwlekano z poinformowaniem opinii publicznej 9 miesięcy. Umowa greckiego rządu z Palantirem nie została zarejestrowana w systemie. Jak zauważył Eleftherios Chelioudakis, prawnik i obrońca praw cyfrowych, z pierwotnego dokumentu usunięto wymóg pseudonimizacji, dając tym samym amerykańskiej firmie dostęp do danych wrażliwych, bez należytej oceny ryzyka.

Brytyjskie instytucje także nie spieszyły się z poinformowaniem społeczeństwa – zrobiły to dopiero w obliczu groźby pozwu sądowego ze strony obrońców danych.

Niemiecka policja stosowała Gotham bez stosownej podstawy prawnej.

Organizacja Gesellschaft für Freiheitsrechte (GFF), broniąca praw podstawowych, złożyła skargi do sądu konstytucyjnego, w związku z “analizowaniem przez policję ogromnej ilości danych osób niepowiązanych z przestępstwami”. Sprawy dotyczą Bawarii i Nadrenii Północnej-WestfaliiWcześniej sąd sprzeciwiał się już automatycznej analizie danych, w związku z działaniami policji w Hesji czy Hamburgu.

Constanze Kurz w swoim artykule dla netzpolitik.org zwraca uwagę na szerszy kontekst. Problem stanowi nie tylko Palantir, ale sama idea i bizes Big Data. Pomysł, by tworzyć tak duże i dokładne bazy danych, by łączyć je na taką skalę, by umożliwić gromadzenie i analizę informacji z wielu różnych zbiorów czy wyśledzenie drobiazgowych powiązań bez wiedzy samych zainteresowanych, budzi wiele etycznych i prawnych wątpliwości. Policyjny system może uderzyć szczególnie w osoby z grup marginalizowanych, ale także w osoby, których praca wiąże się z zachowaniem tajemnicy zawodowej. W praktyce policyjnej analizie mogą zostać poddane rozmowy lekarzy z ich pacjentami, prawników z ich klientami czy dziennikarzy z ich źródłami.

Idea, aby za pomocą jednej bazy znaleźć dowolnego przestępcę wydaje się kusząca. Chyba większość osób zna, jeśli nie z autopsji, to przynajmniej ze słyszenia, sytuację, w której ktoś padł ofiarą oszustwa, pobicia czy kradzieży, a sprawcy nie wykryto. Nie mówimy jednak o monitorowaniu wyłącznie przestępców. Do systemu Palantira ofiary przestępstw trafiałyby na równi z przestępcami. A to rodzi pytanie, ja wiele władza powinna o nas wiedzieć i jak może te informacje wykorzystać. Czy świadek przestępstwa lub wypadku będzie mógł się zgłosić na policję bez obaw, że policja od razu weźmie pod lupę jego wpisy w mediach społecznościowych czy przejście na czerwonym świetle? Czy ktoś zalegający z mandatem za przekroczoną prędkość odważy się zgłosić przemoc domową u sąsiadów?

Każda władza chętnie wykorzysta społeczny strach, by nadać sobie więcej uprawnień do kontroli nad obywatelami – ale żadna tej kontroli nie odda, gdy emocje społeczne opadną.

Przeciwnicy obecności Palantira w Europie zwracają też uwagę na kolejne problemy. Oprogramowanie firmy jest drogie i zamknięte – przez co trudniej je dostosować do rodzimych systemów. W praktyce Europie grozi długofalowe i kosztowne uzależnienie od komercyjnej zagranicznej firmy, której biznesowe i polityczne cele i działania pozostają niepewne, a w przyszłości mogą się jeszcze bardziej przesunąć na niekorzyść Starego Kontynentu.

Środki zainwestowane w Palantir Technologies można by przeznaczyć na budowanie własnych rozwiązań, zwłaszcza, że – jak wynika z dziennikarskiego śledztwa – rozwiązania firmy nie spełniają pokładanych w nich nadziei. Dokumenty Europolu wskazują na opóźnienia, problemy z wydajnością czy wizualizacją dużych zbiorów danych. Europol miał nawet rozważać pozwanie Palantira.

Tym bardziej dziwi więc opór, z jakim czy to brytyjska służba zdrowia, czy niemiecka policja upierają się przy oprogramowaniu amerykańskiej korporacji. Pod tym względem przypomina ono nie elfickie kamienie do odczytywania umysłu, a raczej bardziej znany artefakt z uniwersum Tolkiena – Jedyny Pierścień, który wielu próbowało wykorzystać w “słusznych” celach, ignorując zagrożenia, jakie się z tym wiązały.

... Spodobał Ci się ten tekst? Możesz mi postawić kawę: https://buycoffee.to/didleth

Chcesz go przedrukować lub wykorzystać w inny sposób? Napisz: joanna@cisowska.com

Cytaty z Władcy Pierścieni w tłumaczeniu Marii Skibniewskiej (J. R. R. Tolkien, Władca Pierścieni, Warszawa 2000). Źródła internetowe podlinkowano bezpośrednio w tekście.

#Palantir #bigdata #suwerenność #Europa #USA #Gotham #Foundry #Tolkien #policja #zdrowie #ePanstwo