O superkomputerach, kartach graficznych i farmach botów.
Tomasz Siemoniak, Jakub Wiech, Jarosław Wolski czy inni bezmyślni propagandyści systemu są nierozgarnięci. To debile, które nie rozumieją tego, o czym sami mówią i piszą, dlatego tak łatwo stają się pożytecznymi idiotami Kremla powielającymi fejki.
Po atakach dronów na centra danych Yandexa w Sieci rozlała się plotka, iż ruskie trolle ucichły. Nie ucichły. Objawiły się w pożytecznych idiotach, którzy tę plotkę powielają. Żeby zrozumieć dlaczego, trzeba wiedzieć, do czego służą superkomputery, czym różni się trenowanie sztucznej inteligencji od jej używania i jak naprawdę wygląda farma trolli.
Stocznia i statki
Duży model językowy, czyli LLM (np. ChatGPT, Llama, YandexGPT), powstaje w dwóch etapach.
- Pierwszy to trenowanie. Model czyta ogromną część internetu i uczy się przewidywać kolejne słowa. Wymaga to tysięcy kart graficznych (GPU) połączonych superszybką siecią i liczących bez przerwy przez tygodnie lub miesiące. Tym właśnie jest superkomputer AI. Jeden z superkomputerów Yandexa miał około 1600 kart Nvidia A100.
- Drugi etap to używanie gotowego modelu. Fachowo nazywa się to inferencją: zadajemy pytanie, model odpowiada. Wymaga to nieporównanie mniej mocy. Mniejsze modele działają na jednej karcie graficznej w zwykłym serwerze, a najmniejsze choćby na dobrym laptopie.
Superkomputer jest jak stocznia. Buduje statek raz, a potem statek pływa sam. Gotowy model to plik, który można skopiować dowolną liczbę razy i uruchomić gdziekolwiek. Zniszczenie stoczni nie zatapia statków, które już pływają.
Gotowe statki leżą w sieci za darmo
Propagandysta nie musi niczego budować. Firmy takie jak Meta, Mistral czy Alibaba udostępniają swoje modele do pobrania za darmo. Są dobre, mówią po polsku, niemiecku czy angielsku. W sieci krążą też ich wersje z usuniętymi zabezpieczeniami, które napiszą wszystko bez moralizowania, a choćby bombę pomogą skonstruować.
Jeśli ktoś chce model jeszcze lepiej dopasowany, np. piszący w stylu zatroskanego polskiego emeryta, może go dostroić na własnych przykładach. Wystarczy do tego jedna lub kilka kart graficznych i od kilku godzin do kilku dni pracy, a nie superkomputer.
Propagandyści korzystają zresztą także z komercyjnych usług. W 2024 roku OpenAI ujawniło, iż rosyjska operacja Doppelgänger używała jego modeli do pisania komentarzy m. in. po polsku. Dostęp uzyskiwano przez pośredników, by ominąć blokady dla Rosji.
Ile tekstu da jedna karta?
Bardzo dużo. Jeden serwer z nowoczesną kartą graficzną i średniej wielkości modelem może wygenerować rzędu dziesiątek tysięcy krótkich komentarzy na godzinę. To szacunek rzędu wielkości, ale pokazuje skalę. Kilkanaście takich serwerów, które może kupić lub wynająć każda mała firma, wystarczy na długo. Moc obliczeniowa do produkcji propagandy jest dziś tania i powszechna.
Gdzie jest prawdziwe wąskie gardło
Skoro tekstu jest pod dostatkiem, to co ogranicza farmę trolli? Sprawy znacznie bardziej przyziemne:
- ✅ Konta. Platformy wymagają weryfikacji numerem telefonu i wyłapują świeże konta o podejrzanym zachowaniu. Dlatego kwitnie handel wyleżakowanymi kontami z historią oraz kartami SIM.
- ✅ Adresy IP. Tysiąc kont piszących z jednego centrum danych platforma zablokuje od razu. Ruch puszcza się więc przez tzw. proxy domowe i mobilne, czyli przez łącza zwykłych ludzi (często bez ich wiedzy, przez zainfekowane urządzenia), albo przez farmy telefonów: regały ze setkami telefonów, każdy z własną kartą SIM.
- ✅ Unikanie wykrycia. Konta muszą zachowywać się jak ludzie: spać w nocy, mieć zainteresowania, pisać o pogodzie i piłce, a nie tylko o polityce.
- ✅ Zasięg. Wpis, którego nikt nie podał dalej, nie istnieje. Trzeba trafić w emocje, w algorytm i w ludzi, którzy sami zaczną powielać treść.
- ✅ Ludzie. Ktoś musi wymyślać narracje, pilnować kampanii i reagować na bieżące wydarzenia. Słynna petersburska Agencja Badań Internetu zatrudniała setki pracowników na zmiany, z normami wpisów do wyrobienia.
Do tego dochodzi najtańszy i najskuteczniejszy element systemu: pożyteczni idioci. To prawdziwi ludzie, którzy z własnej woli i za darmo powielają kremlowskie narracje. Tego nie wyłączy żadne bombardowanie.
Rozproszenie: klucz do zrozumienia
Farma trolli nie ma siedziby. Serwery z modelami można wynająć w dowolnym kraju, konta prowadzić z dowolnego miejsca, a pracę zlecić podwykonawcom. W 2020 roku Facebook usunął sieć kont powiązaną z petersburską fabryką trolli, prowadzoną z Ghany i Nigerii. Koordynacja wymaga jedynie wspólnych instrukcji i harmonogramu, a te można przesłać komunikatorem.
Ataki na Yandex pokazały ten kontrast w praktyce. Usługi Yandexa padły, bo były skupione w kilku ośrodkach, wszystkich na terytorium Rosji i w zasięgu tych samych dronów. Firma miała kilka zapasowych stref, ale zagrożenie dotknęło je wszystkie naraz. Nie był to przypadek: rosyjskie prawo wymaga przechowywania danych w kraju. Dezinformacja nie padła, bo nie jest nigdzie skupiona.
Gwałtowny spadek ruchu botów z sieci Yandexa, o którym pisały media, dotyczył automatów technicznych tej firmy, przede wszystkim robotów indeksujących strony dla wyszukiwarki. Nie dotyczył kont na X czy Facebooku.
Wniosek szerszy niż Rosja
Państwa utożsamiają bezpieczeństwo z kontrolą nad terytorium: dane mają leżeć w kraju, serwery w kraju, wszystko pod ręką. Wojna pokazuje, iż to podejście zacofane. Granica państwa, przedstawiana jako tarcza, zamyka wszystkie zasoby w zasięgu tego samego zagrożenia. Odporność bierze się z rozproszenia między wieloma niezależnymi ośrodkami w różnych miejscach świata.
Paradoksalnie najlepiej rozumieją to ci, z którymi walczymy. Rosyjska machina dezinformacji jest odporna dlatego, iż nie ma jednego serca, w które można trafić. Dlatego ruch ruskich trolli nie ustał i nie ustanie.
To się nie skończy choćby wtedy, gdy Rosja przestanie istnieć. Rosyjskie trolle będą jak Hiroo Onoda, japoński żołnierz, który przez prawie 29 lat po zakończeniu II wojny światowej walczył w dżungli na filipińskiej wyspie, bo nie uwierzył, iż wojna się skończyła. Poddał się dopiero w 1974 roku, gdy jego dawny dowódca przyleciał i osobiście zwolnił go z rozkazu. Rozproszona sieć nie ma dowódcy, który mógłby przylecieć i ją rozwiązać. Konta, serwery i nawyki zostaną, a pożyteczni idioci będą dalej powielać narracje, choć nikt już nie będzie miał w tym interesu.
Wiech będzie pisał o ociepleniu klimatu, choćby jak Europę pokryje lodowiec. Siemoniak będzie rozsiewał fejki nawet, jak Tusk go wywali z rządu. Wolski będzie rozsyłał fałszywe wykresy nawet, jak wojna na Ukrainie się skończy. Propaganda jest nie do zatrzymania. Jedyny sposób to nauczyć się ją rozpoznawać.
Grzegorz GPS Świderski
]]>Twitter.com/gps65]]>
]]>t.me/KanalBlogeraGPS]]>
