Senator interweniuje w Komisji Europejskiej. Chodzi o boty, AI i bezpieczeństwo europejskiej przestrzeni informacyjnej

Senator Adam Szejnfeld zwrócił się do Komisji Europejskiej z wnioskiem o podjęcie działań w sprawie rosnącego zagrożenia zautomatyzowanymi operacjami wpływu w internecie. W centrum zainteresowania znalazły się boty, generatywna sztuczna inteligencja, deepfake’i oraz skoordynowane sieci nieautentycznych kont, które mogą być wykorzystywane do manipulowania debatą publiczną i sztucznego kształtowania zasięgów określonych przekazów.

Interwencja dotyczy nie tylko obecnych zagrożeń, ale przede wszystkim pytania o to, czy obowiązujące w Unii Europejskiej regulacje nadążają za niezwykle szybkim rozwojem technologii.

Senator postuluje przeprowadzenie przez Komisję Europejską kompleksowej analizy obowiązujących przepisów, przygotowanie wspólnych standardów technicznych dla platform internetowych oraz rozważenie dalszych zmian legislacyjnych.

Nowe technologie – ogromne możliwości, ale również nowe zagrożenia

Rozwój sztucznej inteligencji zmienił sposób, w jaki powstają i są rozpowszechniane informacje w internecie. Modele językowe, generatory obrazów, narzędzia tworzące materiały audio i wideo oraz systemy automatycznej publikacji umożliwiają dzisiaj produkowanie ogromnych ilości treści w czasie, który jeszcze kilka lat temu był nieosiągalny.

Technologie te mają oczywiście ogromny potencjał i znajdują legalne zastosowanie m.in. w administracji, edukacji, gospodarce, ochronie zdrowia czy nauce.

Problem pojawia się wtedy, gdy te same narzędzia zostają wykorzystane do prowadzenia skoordynowanych operacji wpływu.

Sztuczna inteligencja może bowiem służyć nie tylko do stworzenia pojedynczego fałszywego materiału. W połączeniu z automatyzacją publikacji i dużą liczbą kont internetowych może umożliwić prowadzenie działań na masową skalę.

Może to oznaczać m.in. sztuczne zwiększanie zasięgów określonych narracji, kreowanie pozornego poparcia społecznego, manipulowanie trendami, zakłócanie działania systemów rekomendacyjnych czy masowe rozpowszechnianie materiałów wygenerowanych przez AI.

Jak wskazuje senator, coraz większym problemem staje się więc nie tylko sama treść publikowana w internecie, ale także sposób, w jaki określona treść jest rozpowszechniana oraz sieć kont uczestniczących w tym procesie.

DSA i AI Act – istotny krok, ale czy wystarczający?

Unia Europejska już stworzyła istotne ramy prawne dotyczące funkcjonowania cyfrowego świata.

Rozporządzenie Digital Services Act (DSA) wprowadziło nowe obowiązki dla największych platform internetowych, w szczególności w zakresie identyfikowania i ograniczania ryzyk systemowych. Dotyczą one m.in. zagrożeń związanych z manipulowaniem usługami oraz negatywnym wpływem na debatę publiczną.

Z kolei AI Act wprowadza określone wymogi dotyczące przejrzystości materiałów generowanych lub zmanipulowanych przy wykorzystaniu sztucznej inteligencji.

Zdaniem senatora problem polega jednak na tym, iż rozwój technologiczny jest niezwykle dynamiczny.

Mechanizmy, które jeszcze niedawno wydawały się wystarczające, mogą nie odpowiadać skali i charakterowi nowych zagrożeń.

Szczególne znaczenie ma tutaj fakt, iż współczesne operacje wpływu coraz częściej nie polegają na publikowaniu jednego fałszywego materiału. Ich istotą jest wykorzystanie całej sieci kont, automatyzacji i algorytmów rekomendacyjnych.

Problemem są nie tylko fałszywe treści

Jednym z najważniejszych elementów propozycji senatora jest zwrócenie uwagi na zjawisko określane jako Coordinated Inauthentic Behaviour – CIB, czyli skoordynowane nieautentyczne zachowanie.

W praktyce chodzi o sytuację, w której wiele kont działa w sposób skoordynowany, aby wywołać określony efekt.

Może to być np. sztuczne zwiększanie liczby wyświetleń, polubień, komentarzy czy udostępnień. Może to być również jednoczesne publikowanie podobnych treści przez dużą liczbę kont albo wykorzystywanie automatyzacji do wpływania na trendy i systemy rekomendacji.

W takim przypadku analiza pojedynczego wpisu może nie wystarczyć.

Znaczenie ma bowiem przede wszystkim wzorzec zachowania całej sieci.

Dlatego w dokumencie skierowanym do Komisji Europejskiej wskazano na potrzebę rozwijania metod analizy m.in. synchronizacji publikacji, podobieństwa treści, powiązań pomiędzy kontami, charakterystyki urządzeń i infrastruktury technicznej czy powtarzalności określonych zachowań.

Europejski standard identyfikacji botów

Jednym z postulatów jest stworzenie wspólnego europejskiego modelu identyfikowania kont wykorzystujących automatyzację.

Obecnie poszczególne platformy mogą stosować własne definicje i własne systemy wykrywania botów. To utrudnia porównywanie danych oraz prowadzenie analiz obejmujących kilka platform jednocześnie.

Proponowane rozwiązanie zakładałoby określenie minimalnego zestawu informacji dotyczących kont wykorzystujących automatyzację.

Mogłyby one obejmować m.in.:

• poziom automatyzacji aktywności konta,
• wykorzystanie generatywnej AI,
• rodzaj stosowanego oprogramowania,
• sposób publikowania treści,
• moment rozpoczęcia automatycznej aktywności,
• identyfikację operatora odpowiedzialnego za system.

Nie chodzi przy tym o publiczne ujawnianie danych użytkowników.

Celem miałoby być umożliwienie adekwatnym organom skuteczniejszego analizowania skali automatyzacji i wykrywania powiązanych kampanii.

EU Transparency API – wspólny format raportowania

Kolejnym postulatem jest stworzenie jednolitego systemu raportowania informacji przez największe platformy.

Obecnie dane dotyczące wykrytych zagrożeń mogą być przedstawiane w różny sposób, co utrudnia ich porównywanie i automatyczną analizę.

Dlatego senator proponuje rozważenie utworzenia EU Transparency API – ustandaryzowanego interfejsu umożliwiającego przekazywanie danych w jednolitym formacie.

System mógłby obejmować informacje dotyczące m.in.:

• liczby wykrytych botów,
• liczby usuniętych kont nieautentycznych,
• wykrytych kampanii CIB,
• materiałów oznaczonych jako wygenerowane przez AI,
• przypadków wykorzystania deepfake,
• zgłoszeń przekazanych adekwatnym organom.

Dzięki temu możliwe byłoby znacznie szybsze porównywanie sytuacji na różnych platformach i identyfikowanie kampanii, które mają charakter transgraniczny.

Wymiana informacji o zagrożeniach

Operacje wpływu nie kończą się na jednej platformie.

Ta sama kampania może być jednocześnie prowadzona w mediach społecznościowych, serwisach informacyjnych, komunikatorach i innych usługach cyfrowych.

Dlatego senator proponuje stworzenie europejskiego mechanizmu wymiany informacji o wykrytych kampaniach manipulacyjnych.

Jednym z rozwiązań mogłoby być wykorzystanie istniejących standardów stosowanych w cyberbezpieczeństwie, takich jak STIX 2.1 i TAXII. Pozwoliłoby to na wykorzystanie istniejących doświadczeń i infrastruktury zamiast budowania całego systemu od podstaw.

Wymieniane informacje mogłyby obejmować m.in. charakterystyki techniczne botnetów, sygnatury wykorzystywanego oprogramowania, wzorce publikacji, identyfikatory kampanii czy informacje dotyczące wykorzystywanej infrastruktury.

Jak rozpoznać, czy materiał stworzył człowiek, czy AI?

Kolejnym problemem jest coraz trudniejsze odróżnianie materiałów stworzonych przez człowieka od tych wygenerowanych lub znacząco zmodyfikowanych przez sztuczną inteligencję.

Dotyczy to tekstów, fotografii, nagrań głosowych oraz materiałów wideo.

Szczególne znaczenie mają tutaj deepfake’i – materiały, które mogą przedstawiać rzeczywiste osoby, miejsca lub wydarzenia w sposób sztucznie wygenerowany lub zmanipulowany.

Senator postuluje zwiększenie znaczenia otwartych standardów potwierdzania pochodzenia materiałów cyfrowych, takich jak C2PA.

Technologia ta umożliwia dołączanie do materiałów cyfrowych podpisanych informacji dotyczących ich pochodzenia, historii edycji oraz wykorzystania narzędzi AI.

Nie chodzi więc o zakaz publikowania treści wygenerowanych przez sztuczną inteligencję.

Chodzi o to, aby użytkownik miał możliwość dowiedzenia się, z jakiego źródła pochodzi materiał i czy został on wygenerowany albo istotnie zmodyfikowany przy wykorzystaniu AI.

Audyty algorytmów rekomendacyjnych

Istotnym elementem propozycji jest również zwrócenie uwagi na algorytmy rekomendacyjne.

To one decydują w dużej mierze o tym, jakie treści użytkownik zobaczy i w jakiej kolejności.

Jeżeli sieć zautomatyzowanych kont jest w stanie sztucznie wygenerować ogromną liczbę reakcji, komentarzy czy udostępnień, może próbować wpłynąć na sposób, w jaki system rekomendacji ocenia popularność danego materiału.

Dlatego senator proponuje okresowe, niezależne testy odporności algorytmów na manipulację.

Takie testy mogłyby obejmować m.in. symulacje zorganizowanych kampanii botów, badanie odporności na sztucznie generowane zaangażowanie oraz analizę podatności na masowe wykorzystanie treści tworzonych przez AI.

Europejskie centrum analiz operacji wpływu

Kolejną propozycją jest rozważenie utworzenia wyspecjalizowanego europejskiego centrum analitycznego.

Miałoby ono współpracować z Komisją Europejską, ENISA, krajowymi koordynatorami ds. usług cyfrowych oraz zespołami reagowania na incydenty.

Jego zadaniem mogłaby być analiza transgranicznych kampanii manipulacyjnych, rozwój metod wykrywania botów, przygotowywanie modeli referencyjnych, prowadzenie badań oraz opracowywanie narzędzi analitycznych.

Taka instytucja nie zastępowałaby krajowych organów.

Jej rolą byłoby przede wszystkim zwiększenie współpracy i wymiany wiedzy pomiędzy państwami członkowskimi.

Senator podkreśla: nie chodzi o cenzurę

Ważnym elementem całej propozycji jest wyraźne podkreślenie, iż celem proponowanych zmian nie jest ograniczanie wolności słowa ani wprowadzenie powszechnego monitorowania komunikacji obywateli.

Podejście proponowane w wystąpieniu senatora koncentruje się przede wszystkim na technicznych i behawioralnych cechach działania sieci kont, a nie na poglądach prezentowanych przez ich użytkowników.

To istotne rozróżnienie.

Celem nie powinno być automatyczne usuwanie treści tylko dlatego, iż zostały stworzone przy pomocy AI albo są popularne w internecie.

Chodzi o identyfikowanie sytuacji, w których zorganizowana, zautomatyzowana sieć próbuje sztucznie wpływać na funkcjonowanie platformy.

Jednocześnie każda nowa regulacja powinna uwzględniać ochronę danych osobowych, prawo do prywatności, wolność wypowiedzi, innowacyjność oraz konkurencyjność europejskiej gospodarki cyfrowej.

Co senator proponuje Komisji Europejskiej?

W końcowej części wystąpienia senator zwraca się do Komisji Europejskiej z czterema zasadniczymi postulatami.

Po pierwsze – przeprowadzenie kompleksowej oceny skuteczności obecnych przepisów DSA i AI Act w zakresie przeciwdziałania zautomatyzowanym operacjom wpływu.

Po drugie – przygotowanie wytycznych technicznych dla dostawców bardzo dużych platform internetowych, dotyczących wykrywania, klasyfikowania i raportowania zautomatyzowanej aktywności.

Po trzecie – rozpoczęcie konsultacji z państwami członkowskimi, naukowcami, sektorem cyberbezpieczeństwa i dostawcami usług cyfrowych w celu wypracowania wspólnych standardów europejskich.

Po czwarte – rozważenie przygotowania inicjatywy legislacyjnej, która uzupełniałaby istniejące przepisy o interoperacyjne wymagania dotyczące wykrywania, raportowania i analizy skoordynowanych operacji wpływu wykorzystujących sztuczną inteligencję.

Europa potrzebuje wspólnych standardów

Zdaniem senatora przyszłość europejskiego rynku cyfrowego nie może opierać się wyłącznie na przepisach określających odpowiedzialność platform.

Potrzebne są również wspólne standardy techniczne.

Dzisiaj internet nie zna granic, a kampania prowadzona przez zautomatyzowaną sieć może jednocześnie dotyczyć użytkowników wielu państw.

Jeżeli każde państwo i każda platforma będzie stosować inne rozwiązania, wykrywanie takich działań będzie znacznie trudniejsze.

Wspólne standardy mogłyby natomiast umożliwić szybszą wymianę informacji, porównywanie danych i skuteczniejsze reagowanie na zagrożenia.

Nie chodzi przy tym o stworzenie kolejnego systemu kontroli internetu. Chodzi o stworzenie mechanizmów, które pozwolą odróżnić normalną, legalną aktywność użytkowników od zorganizowanych, zautomatyzowanych operacji mających na celu manipulowanie środowiskiem informacyjnym.

Gra o bezpieczeństwo cyfrowej demokracji

Rozwój sztucznej inteligencji sprawia, iż granica pomiędzy prawdziwą a syntetyczną informacją będzie coraz trudniejsza do zauważenia.

Jednocześnie sama technologia nie jest problemem.

Problemem może być sposób jej wykorzystania.

AI może wspierać lekarzy, naukowców, przedsiębiorców, urzędników, nauczycieli i obywateli. Może również zostać wykorzystana do automatyzowania działań, które wcześniej wymagały zaangażowania dużych zespołów ludzi.

To właśnie dlatego – jak wskazuje senator – europejska polityka cyfrowa musi rozwijać się wraz z technologią.

Digital Services Act stworzył ważne podstawy odpowiedzialności największych platform za ryzyka systemowe. Jednak skala i tempo rozwoju generatywnej sztucznej inteligencji powodują potrzebę ciągłego sprawdzania, czy istniejące mechanizmy przez cały czas są wystarczające.

Interwencja senatora Adama Szejnfelda w Komisji Europejskiej jest więc apelem o rozpoczęcie kolejnego etapu prac nad bezpieczeństwem europejskiej przestrzeni informacyjnej – takiego, który będzie łączył rozwój technologiczny z ochroną demokracji, praw obywatelskich i zaufania do informacji.

Bo w świecie, w którym sztuczna inteligencja potrafi w kilka sekund stworzyć tysiące realistycznych treści, bezpieczeństwo cyfrowe coraz częściej będzie zależało nie tylko od tego, co zostało opublikowane, ale również od tego, kto, jak, w jakiej skali i przy wykorzystaniu jakich narzędzi doprowadził do rozpowszechnienia danego przekazu.

Maksymilian Ryżek

Doradca Senatora Adama Szejnfelda