TikTok, dark patterns i spolaryzowany świat. Czy TikTok jest szkodliwą aplikacją? Czym jest CapCut?[ROZMOWA]

W Stanach Zjednoczonych, Kanadzie, na Łotwie urzędnicy państwowi otrzymali zakaz instalowania popularnej aplikacji TikTok na urządzeniach służbowych. Podobny zakaz wprowadziła dla swoich urzędników Komisja Europejska. Są podejrzenia, że TikTok, który stworzyła chińska firma, może służyć jako narzędzie szpiegowskie. Czy chodzi tylko o wywiad?

Odczytuję ów ruch agencji rządowych, m.in. w USA, w taki sposób: niewiele wiemy, dlatego jesteśmy ostrożni. Zarzutów wobec TikToka jest kilka. Najpoważniejszy jest taki, że chiński rząd może mieć dostęp do danych użytkowników tej aplikacji. Spółka ByteDance, która zarządza TikTokiem, podlega chińskim przepisom dotyczącym bezpieczeństwa narodowego. To słynne regulacje z 2017 roku, które wymagają od chińskich firm udzielania pomocy, współpracy z krajowymi służbami bezpieczeństwa. I ci, którzy się na tym znają, podkreślają, że jest to po prostu czek in blanco dla chińskich agencji wywiadowczych. Na poparcie tej tezy jest taki argument, że parę miesięcy dyskutowano nad szpiegowaniem dziennikarzy zachodnich mediów właśnie za pomocą aplikacji Tik Tok. Po tym skandalu kilka osób z ByteDance zostało zwolnionych, firma próbowała łagodzić skutki afery, ale wszyscy tę lekcję zapamiętali. Niedawno instytucje Unii Europejskiej wysłały swoim pracownikom e-maila w sprawie, o którą pan pyta. To ciekawe pismo, które właściwie pokazuje, w czym jest problem. Czytamy w nim, że należy odinstalować TikTok, ponieważ konieczne jest zwiększenie odporności Komisji Europejskiej na ataki cybernetyczne. Wskazano w nim, że aplikacja ta gromadzi tak wiele danych pochodzących z urządzeń mobilnych użytkowników, że ułatwia organizowanie ataków, zarówno wobec pracowników Komisji, jak i samej instytucji.

ByteDance się broni. Szef TikToka Shou Zi Chew odpowiadał przed kongresem USA. Chciał wybrnąć z zarzutów...

ByteDance tłumaczy się następująco: nie jesteśmy chińską firmą, jesteśmy zarejestrowani na Kajmanach, 20 proc. naszych akcji mają rzeczywiście chińscy inwestorzy, ale 60 proc. mają inwestorzy globalni, a 20 proc. należy do pracowników. Firma deklaruje ponadto pełną przejrzystość i współpracę z zachodnimi instytucjami w wyjaśnieniu zarzutów. Dodaje też: skoro boicie się o wasze dane, to stworzymy w Stanach Zjednoczonych, mówiąc kolokwialnie, mur pomiędzy amerykańską a chińską filiami firmy. Dane miałyby pozostawać poza chińską jurysdykcją. Ten projekt ma nawet swoją nazwę - to tzw. projekt Texas. Podobny mur miałby też powstać w Europie. Tyle tylko że wszyscy ci, którzy się znają na rzeczy - także niektórzy lobbyści TikToka - mówią, że nie da się powstrzymać przesyłania europejskich czy amerykańskich danych do Chin.

Lepiej nakazać usunięcie aplikacji ze smartfonów urzędników, żołnierzy itd…

Cały ten problem jest bardzo złożony. W 2021 roku badanie słynnego Citizen Labu z Uniwersytetu w Toronto, który specjalizuje się w analizach działań szpiegowskich w cyberprzestrzeni, nie potwierdziło złośliwego zachowania aplikacji TikToka. Badacze podkreślali jednak, że mają tak mało informacji na temat tego, co się dzieje z danymi TikToka przechowywanymi w Chinach, że nie mogą być do końca pewni bezpieczeństwa tej aplikacji. Pozostaje także sprawa ochrony prywatności. W krajach, w których funkcjonują surowe przepisy, np. we Francji, Holandii, Wielkiej Brytanii, we Włoszech lub niektórych stanach USA, TikTok spotyka się z powszechnymi zarzutami nieprzestrzegania ochrony prywatności. ByteDance broni się w ten sposób, że przecież nie robi nic innego niż inni giganci rynku cyfrowego: Meta, Amazon, Twitter. I słusznie, tyle tylko że zachodnie firmy mają nikłe związki z jurysdykcją chińską.

A co z opiniami na temat szkodliwości społecznej TikToka?

To kolejny zarzut i chyba najważniejszy. Aplikacja ta ma umożliwiać realizację różnego rodzaju „operacji psychologicznych” na obywatelach państw Unii Europejskiej czy Stanów Zjednoczonych, zwłaszcza najmłodszych użytkownikach. To kolejna odsłona starcia tytanów, czyli chińskiej walki cywilizacyjnej przeciwko Zachodowi. W tym ujęciu uznaje się tę aplikację za narzędzie do szerzenia dezinformacji i, przepraszam za dosadność, ogłupiających treści dla młodych użytkowników. Swoją drogą znam badania, które wskazują, że TikTok pozwala w Chinach na przesyłanie treści wyższej jakości, „mądrzejszych” niż te, na Zachodzie.

Umówmy się jednak, że próba „odcięcia” TikToka od użytkowników w Stanach Zjednoczonych czy Europie Zachodniej nie będzie prostym zadaniem. Nawet gdy mówimy o pracownikach państwowych instytucji...

Nie wyobrażam sobie, by instytucje Unii Europejskiej dostały na razie np. uprawnienia do prowadzenia swego rodzaju audytu TikToka, pod kątem zagrożeń, o których mówimy. Jest jednak jeszcze jeden problem. ByteDance wprowadził na rynek, całkiem niedawno, nową aplikację, która nazywa się CapCut. Jest ona dość podobna do TikToka, również służy do edycji filmów wideo, najczęściej nagranych smartfonami, i błyskawicznie zyskuje na popularności - w tej chwili ma około 250 milionów użytkowników. Myślę zatem, że nawet gdy będziemy regulować jedną groźną aplikację, to pojawią się następne, potem kolejne, itd. Problem jest systemowy. Pamiętajmy, że są one łatwe w obsłudze, ciekawe dla użytkownika, bardzo modne i, niestety, bardzo uzależniające. Nawiasem mówić, wpływające na uzależnienie wzorce manipulacyjne, tzw. dark patterns stosują prawie wszyscy producenci aplikacji. Trzeba natomiast dodać, że m.in. w TikToku wykryto ich więcej niż w innych tego typu narzędziach.

Pamiętamy sprawę firmy Cambridge Analityca sprzed paru lat. Zagrożenia nowych aplikacji to ten sam kierunek? Budowanie określonych zachowań, nastrojów społecznych, by wpływać na politykę?

Sprawa Cambridge Analityca zwróciła uwagę na to, że informacje o nas mogą być udostępniane służbom na świecie. Był to sygnał, może nawet edukacyjny, który pokazał, że pozytywne w założeniu projekty (np. służące naszemu bezpieczeństwu, walce z terroryzmem) mogą być wykorzystywane do działań, za którymi stać mogą różne intencje. Natomiast w przypadku TikToka producenci tej aplikacji stosują inną retorykę: nie ma się czego obawiać, to jest tylko narzędzie do zabawy, pokażcie nam i sobie nawzajem wasze pieski, kotki itd. Ale w istocie pozbywamy się jednocześnie prywatności w słabo regulowanym środowisku i zostawiamy ślady cyfrowe na masową skalę, bez refleksji, czy na pewno w imię naszego dobra.

Na jednej z niedawnych konferencji poświęconej bezpieczeństwu cybernetycznemu wskazywano na inną aplikację, bardzo popularną w krajach dawnego ZSRR. Kontekst był podobny do TikToka - właścicielem tej aplikacji i zarządcą jej danych jest firma rosyjska, siłą rzeczy niepozbawiona wpływów Kremla…

Jesteśmy na początkowym etapie regulacji pewnych zjawisk w cyberprzestrzeni. Przyglądam się m.in. tzw. chatbotom GPT3 i GPT4 (bazujący na sztucznej inteligencji automatyczny generator tekstu. Użytkownik może zadawać mu pytania, dyskutować z nim, wykorzystywać go do tłumaczeń - red.). W grudniu tego roku zakończyć się mają testy kolejnego chatu GPT5, który ma być tzw. silną sztuczną inteligencją i odpowiadać potencjałowi człowieka. Jeśli tak się stanie, to będzie przewrót na miarę wynalezienia Internetu, a może większy. Dziś pojawiają się apele, żeby powstrzymać postęp tych prac. Wiemy, że Włochy zakazały właśnie używania GPT3, uznając go za potencjalnie groźny, choćby w sferze dezinformacji. Nie wierzę jednak w to, że da się powstrzymać rozwój autonomicznych, „myślących” aplikacji opartych na sztucznej inteligencji, ale odczytuję te apele jako głos, żebyśmy się po prostu poważnie zastanowili nad tym, co się dzieje. Byśmy postępowali roztropnie, bo aplikacje oparte na tzw. sztucznej inteligencji nie są neutralne. I przede wszystkim, nie wiadomo tak naprawdę, jakie zagrożenia są za progiem. Mam nadzieję, że podobna dyskusja także w Polsce będzie miała miejsce.

Rada ds. Cyfryzacji przy Kancelarii Prezesa Rady Ministrów rekomenduje usunięcie TikToka z urządzeń służbowych instytucji państwowych…

Problem w tym, że nie mamy specjalnie narzędzi, by te zalecenia przeprowadzić systemowo poza wybranymi urządzeniami. Możemy zaapelować do ludzi, powiedzieć im „zastanówmy się wspólnie”... Pytanie jednak, co z tym fantem mają zrobić użytkownicy, generalnie bezradni wobec oszałamiającego bogactwa okazji do komunikacji i zabawy… Dlatego większą wiarę pokładam w długoterminowej edukacji, a nie doraźnej kontroli, czy np. dany urzędnik ma niebezpieczną aplikację w służbowym smartfonie.

W związku z TikTokiem mamy kolejną odsłonę „zmagań” Zachodu z chińską technologią… Jeden z producentów smartfonów z ChRL musiał mierzyć się z oskarżeniami w USA o prowadzenie działań szpiegowskich za pomocą urządzeń wprowadzonych do sprzedaży...

Dziś trwa dyskusja w USA nawet na temat tego, czy oprogramowanie chińskich dźwigów portowych przesyła dane na temat handlu w amerykańskich portach. Mamy informacje, że pamiętny balon zestrzelony nad USA przekazywał zarejestrowane dane w czasie rzeczywistym. Świat stał się mniej bezpiecznym miejscem, a cyfryzacja naszego życia jest środowiskiem tej rewolucji. Obserwujemy dyskusję wokół działalności szpiegowskiej, ale nie dlatego, że wcześniej takiej działalności nie było, tylko dlatego, że mamy do czynienia z pogłębiającą się polaryzacją świata, odwrotem od globalizacji i równoległym błyskawicznym rozwojem technologii, także tych opartych na sztucznej inteligencji. Cały ten proces polityczny znajduje odpowiednie narzędzia. Media społecznościowe stały się polem bitwy, nie tylko o informacje, ale także o umysły, tożsamość i przekonania.

Zwróćmy uwagę jeszcze na wprowadzone we Francji ograniczenie wiekowe użytkowników Facebooka. Zakaz dla dzieci i młodzieży do 13. roku życia i nieco starszych pod nadzorem rodziców. Należy to traktować jako element wychowawczy? Sposób na walkę z uzależnianiem najmłodszych od mediów społecznościowych?

Powiem przewrotnie - taki zakaz jest wyrazem bezradności. Państwo sięga po „broń atomową” w postaci zakazu mediów społecznościowych, bo niespecjalnie znajduje inne rozwiązania. To taki trochę krzyk rozpaczy. Natomiast trzeba przyznać - mamy do czynienia z poważnym, realnym problemem manipulacyjnych wzorców, stosowanych przy projektowaniu aplikacji, których zadaniem jest uzależnianie użytkowników. Owych tzw. dark patterns zidentyfikowano kilkadziesiąt. Przykładem jest banalne „przeciągnij, by odświeżyć”, nazwane tak, od ruchu palca po ekranie dotykowym smartfona. Pomysł ten, opracowano w małej firmie programistycznej, ale potem wykorzystywany na masową skalę. Dla jednych jest to genialne rozwiązanie, które po prostu ułatwia dostęp do informacji, ale u innych wywołujące uzależnienie, potrzebę dostępu do jak najbardziej aktualnych informacji. To słynny „syndrom FOMO”. Tych kilkadziesiąt wzorców uzależniających zaczyna wywoływać poważny problem społeczny. Według części badań, wśród najbardziej popularnych aplikacji na świecie ponad 90 procent stosuje różne formy uzależniania. Dlatego w kroku Francji upatruję przestrogę - uzależniamy siebie i nasze dzieci. Dowód? Wystarczy wejść do pierwszej lepszej restauracji i przyjrzeć się ludzkim zachowaniom. Zobaczymy, że dorośli, siedząc przy stole razem ze swoimi dziećmi, są wpatrzeni w smartfony i „rozmawiają” ze sobą za pomocą komunikatorów. Są zanurzeni w cyfrowym środowisku i zacierają granice między tym, co w realu, a co w cyfrowym środowisku i śmiało zmierzają do Metaversu, choć akurat ten projekt jest chwilowo passe, choć i na niego przyjdzie czas.

Ograniczenia mediów społecznościowych wykorzystują głównie państwa totalitarne, do których przecież Francja nie należy. Zresztą chodzi o zupełnie inne przyczyny takich działań. Przeciwnicy reżimów, wykorzystując komunikatory, organizowali protesty. Tak jest m.in. w Iranie obecnie...

Nieuniknione jest, że media społecznościowe już z nami zostaną. Problem w tym, że każde rozwiązanie technologiczne ma dwojakie oblicze. Z jednej strony bywa bardzo przydatne i mamy m.in. możliwość selekcji informacji, dopasowania do naszych potrzeb. Ale z drugiej mamy wzorce manipulacyjne, uzależnienie, podatność na dezinformację. Wspomniał pan o blokadach internetu. To prawda, że opozycjoniści w krajach totalitarnych dzięki mediom społecznościowym organizowali protesty, ale zwróćmy uwagę, że te same aplikacje służyły reżimom do tego, żeby identyfikować a potem aresztować protestujących. Tak było m.in. w Syrii. Pamiętajmy jeszcze o podstawowej zasadzie propagandy - ona jest najbardziej skuteczna nie w systemie totalitarnym, tylko w systemach demokratycznych. Chyba analogicznie jest w przypadku aplikacji „uzależniających”: są najskuteczniejsze wówczas, gdy możemy je swobodnie wykorzystywać.\

ZOBACZ TEŻ: Nowa aplikacja twórców TikToka — ominęła przepisy bezpieczeństwa i ma miliony użytkowników, a ich grono wciąż rośnie