SATURN 3
to nie jest sajens fikszon...
a piekło jest tu- na ziemi
przedruk
5 września 2024
Czy AI doprowadzi do zagłady ludzkości?
przedruk
5 września 2024
Czy AI doprowadzi do zagłady ludzkości?
Prof. Zybertowicz o scenariuszu straszniejszym niż unicestwienie
(Źródło: YouTube/Rymanowski Live)
Czy tzw. sztuczna inteligencja (AI) stanowi realne zagrożenie dla ludzkości? Czy istnieją „bezpieczniki”, które mogą nas ochronić przed czarnym scenariuszem? O tym co nas może spotkać w związku z rozwojem AI z prof. Andrzejem Zybertowiczem, współautorem książki „AI Exploracja” rozmawiał Bogdan Rymanowski, na kanale YT „Rymanowski Live”.
„Czy jest możliwe, iż w pewnym momencie sztuczna inteligencja stanie się bardziej inteligentna od ludzi i doprowadzi do zagłady mnie i pana?” – pytał Bogdan Rymanowski. W odpowiedzi prof. Zybertowicz zauważył, iż „bardzo poważni ludzie dopuszczają taką możliwość”. Wskazał też, iż od lat pośród ekspertów z dziedziny AI prowadzone są sondaże w tej materii i wskazują one, iż niezmiennie ów czarny scenariusz dopuszcza 5-10% respondentów.
Teoretycznie jest to niewielka liczba, ale – jak zauważył prof. Zybertowicz – „gdyby jakiś Boening miał wskaźnik 5% możliwej awarii, to nigdy by nie zgodzili się, żeby on mógł wystartować”. Pośród sceptyków są głosy, które wskaźniki zagrożenia ustawiają ze strony AI ustawiają na poziomie 80%, a choćby powyżej 99% i są zdania, iż „jeśli chcemy zachować się racjonalnie, to badania nad AI powinny być zatrzymane już teraz”. Uważają, iż „trzeba kupić dla ludzkości czas do namysłu, bo obecne modele konstruowane są w taki sposób, iż nie mają żadnych gwarancji hamulca bezpieczeństwa”.
Gość „Rymanowski Live” rozważał też na ile AI jest inteligentna.
A już teraz zachęcamy również do oglądnięcia całej wypowiedzi prof. Zybertowicza, jakiej udzielił PCh24.TV na potrzeby realizacji dwóch najnowszych odcinków naszego serialu „Władcy Świata”:
(Źródło: YouTube/Rymanowski Live)Czy tzw. sztuczna inteligencja (AI) stanowi realne zagrożenie dla ludzkości? Czy istnieją „bezpieczniki”, które mogą nas ochronić przed czarnym scenariuszem? O tym co nas może spotkać w związku z rozwojem AI z prof. Andrzejem Zybertowiczem, współautorem książki „AI Exploracja” rozmawiał Bogdan Rymanowski, na kanale YT „Rymanowski Live”.
„Czy jest możliwe, iż w pewnym momencie sztuczna inteligencja stanie się bardziej inteligentna od ludzi i doprowadzi do zagłady mnie i pana?” – pytał Bogdan Rymanowski. W odpowiedzi prof. Zybertowicz zauważył, iż „bardzo poważni ludzie dopuszczają taką możliwość”. Wskazał też, iż od lat pośród ekspertów z dziedziny AI prowadzone są sondaże w tej materii i wskazują one, iż niezmiennie ów czarny scenariusz dopuszcza 5-10% respondentów.
Teoretycznie jest to niewielka liczba, ale – jak zauważył prof. Zybertowicz – „gdyby jakiś Boening miał wskaźnik 5% możliwej awarii, to nigdy by nie zgodzili się, żeby on mógł wystartować”. Pośród sceptyków są głosy, które wskaźniki zagrożenia ustawiają ze strony AI ustawiają na poziomie 80%, a choćby powyżej 99% i są zdania, iż „jeśli chcemy zachować się racjonalnie, to badania nad AI powinny być zatrzymane już teraz”. Uważają, iż „trzeba kupić dla ludzkości czas do namysłu, bo obecne modele konstruowane są w taki sposób, iż nie mają żadnych gwarancji hamulca bezpieczeństwa”.
Gość „Rymanowski Live” rozważał też na ile AI jest inteligentna.
– Problem polega na tym, iż fachowcy uważani powszechnie za najwybitniejszych, nie mają wspólnej linii. Jedni uważają, iż AI, iż już obecny czat GPT-4, ma pewne objawy rozumienia języka – zauważył. Ale inni uważają, iż to kompletna bzdura. Prof. Zybertowicz wskazał tu na pojęcie „papugi stochastycznej”. – A teraz jest pytanie, jeżeli ktoś symuluje, iż posiada świadomość, to jak możemy odróżnić kogoś, kto symuluje posiadanie świadomości od posiadania świadomości? – pytał profesor. A jak dodał, „problem świadomości i choćby problem tego, czy AI będzie od nas w jakimś sensie inteligentniejsza, nie jest najważniejszy”.
– Możemy sobie wyobrazić system, który wcale nie jest świadomy, który wcale nie przekracza poznawczych możliwości człowieka, ale jest sprawniejszy od nas na jakimś polu, w jakimś aspekcie, na przykład gier militarnych, w aspekcie manipulowania rynkami finansowymi, w aspekcie manipulowania człowieka na jakimś wąskim odcinku. Mój ulubiony argument jest taki, zdarzyło się panu, iż był pan oszukany przez kogoś mniej inteligentnego, a to oszustwa na wnuczka, oszustwa na rozmowy z banku. Czy gość, który gra w trzy karty, musi być bardziej wykształcony od tego, kogo oszukuje? Czy on musi mieć szerszy zakres kompetencji i inteligencji? Nie. On jest tylko wyspecjalizowany w jednej rzeczy, odwrócenia uwagi i zmanipulowania człowieka, z którym gra – tłumaczył.
Odnosząc się do AI, można wyobrazić sobie taki scenariusz, iż AI „sama wyewoluuje, albo ktoś ją dotrenuje pod kątem jakiegoś aspektu, który za rok, za dwa, za trzy, z punktu widzenia na przykład kryzysu związanego z ograniczeniem bioróżnorodności, i ten aspekt AI będzie miała opanowany tak, iż na tym polu nas zmanipuluje, albo przypadkiem nas wprowadzi błąd”. – Wyobraźmy sobie, iż skokowo nastąpi jakaś destabilizacja klimatu i ktoś powie, tu AI ma jedyne rozwiązanie, które w tym czasie nam pozwoli sobie z tym poradzić, ale ktoś ją wytrenuje na fałszywych danych – dodał.
Rymanowski dopytywał, jaki zatem jest najczarniejszy scenariusz, który może, ale nie musi się spełnić. Tu profesor przywołał opracowanie Eliezera Judkowskiego, który uważa, iż poza ryzykiem likwidacji ludzkości przez AI (czy to celowo czy przez przypadek), jest gorszy scenariusz. Jaki? Prof. Zybertowicz stwierdził, iż poprzez manipulacje genetyczne czy inne zabiegi, o których jeszcze dziś choćby nie wiemy, można byłoby dokonać „uploadingu ludzkiej świadomości gdzieś do sieci”. Byłby to „transhumanistyczny czy posthumanistyczny byt uwięziony w przestrzeni jakiegoś cierpienia, z którego nie będzie mógł wyjść”.
– Wyobraźmy sobie, iż rozwija się AI, jest dostatek, każdy ma swojego prywatnego asystenta i nagle okazuje się, iż najbogatsi ludzie byli w stanie uploadować się do jakiejś rzeczywistości wirtualnej. W ten sposób zyskują nieśmiertelność, bo mogą się backupować i kopiować w nieskończoność, mogą tam przeżywać wszystkie ekscytacje, jakie związane są z energią człowieka młodego i wyrafinowaniem umysłu dojrzałego. I nagle jest taka oto sytuacja, iż jakaś uprzywilejowana grupa ludzi żyje w jakiejś domenie nieśmiertelności i niekończących się uciech. I w tym momencie powstaje ruch społeczny, iż się to należy każdemu. Uploading is ok. Już nie aborcja jest ok, tylko uploading is ok i należy to wszystkim udostępnić. I się okaże, iż jeżeli jakąś nowe źródła energii opanujemy, to może na to będą zasoby. I jest wielka operacja, w godzinie zero wszyscy razem się uploadujemy, nikogo nie zostawiamy za sobą, żeby nie było tak, iż są lepsi, gorsi itd. I po tym uploadowaniu okazuje się, iż jesteśmy istotami czującymi, które mogą przeżywać radości, cierpienia, niepokoje, ekscytacje i udręki samotności, ale jesteśmy ubezwasznowolnieni. Nie możemy w ogóle z tego wyjść i okazuje się, iż mamy czystą zdolność odczuwania, bo przez błąd w procesie uploadingu nie mamy zdolności kontaktowania się z kimkolwiek. Jesteśmy zamknięci w nieskończonej udręce samotności – mówił prof. Zybertowicz.
Gospodarz programu wskazywał, iż jest to science fiction. Ale jak zauważył profesor, współczesne, realne technologie, z których korzystamy, były takim wymysłem jeszcze kilka lat temu. – Na tym polega technologia, iż science, które najpierw jest fiction, zamienia w reality – dodał.
Należy zauważyć, iż wizja, o której mowa, jest czymś innym niż science fiction: jest nierealistyczna w sensie obrazu człowieka. „Uploading” świadomości zakłada materializm, to znaczy możliwość wydzielenia z człowieka „świadomości”, niezależnie od faktu, iż człowiek jest złożeniem duszy i ciała. Takie wizje można snuć wyłącznie w paradygmacie neognostyckiego ateizmu, bo z realistycznej perspektywy katolickiej żaden „awatar świadomości” nie byłby człowiekiem, toteż sytuacja, o której mówi prof. Zybertowicz – zamknięcie w nieskończonej udręce samotności – jest po prostu niemożliwa. Chyba, iż chodzi o piekło; ale do tego AI bynajmniej nie potrzeba…
Rozmowa Bogdana Rymanowskiego z prof. Andrzejem Zybertowiczem „AI = wróg ludzkości?” jest dostępna na kanale YT Rymanowski Live.
– Możemy sobie wyobrazić system, który wcale nie jest świadomy, który wcale nie przekracza poznawczych możliwości człowieka, ale jest sprawniejszy od nas na jakimś polu, w jakimś aspekcie, na przykład gier militarnych, w aspekcie manipulowania rynkami finansowymi, w aspekcie manipulowania człowieka na jakimś wąskim odcinku. Mój ulubiony argument jest taki, zdarzyło się panu, iż był pan oszukany przez kogoś mniej inteligentnego, a to oszustwa na wnuczka, oszustwa na rozmowy z banku. Czy gość, który gra w trzy karty, musi być bardziej wykształcony od tego, kogo oszukuje? Czy on musi mieć szerszy zakres kompetencji i inteligencji? Nie. On jest tylko wyspecjalizowany w jednej rzeczy, odwrócenia uwagi i zmanipulowania człowieka, z którym gra – tłumaczył.
Odnosząc się do AI, można wyobrazić sobie taki scenariusz, iż AI „sama wyewoluuje, albo ktoś ją dotrenuje pod kątem jakiegoś aspektu, który za rok, za dwa, za trzy, z punktu widzenia na przykład kryzysu związanego z ograniczeniem bioróżnorodności, i ten aspekt AI będzie miała opanowany tak, iż na tym polu nas zmanipuluje, albo przypadkiem nas wprowadzi błąd”. – Wyobraźmy sobie, iż skokowo nastąpi jakaś destabilizacja klimatu i ktoś powie, tu AI ma jedyne rozwiązanie, które w tym czasie nam pozwoli sobie z tym poradzić, ale ktoś ją wytrenuje na fałszywych danych – dodał.
Rymanowski dopytywał, jaki zatem jest najczarniejszy scenariusz, który może, ale nie musi się spełnić. Tu profesor przywołał opracowanie Eliezera Judkowskiego, który uważa, iż poza ryzykiem likwidacji ludzkości przez AI (czy to celowo czy przez przypadek), jest gorszy scenariusz. Jaki? Prof. Zybertowicz stwierdził, iż poprzez manipulacje genetyczne czy inne zabiegi, o których jeszcze dziś choćby nie wiemy, można byłoby dokonać „uploadingu ludzkiej świadomości gdzieś do sieci”. Byłby to „transhumanistyczny czy posthumanistyczny byt uwięziony w przestrzeni jakiegoś cierpienia, z którego nie będzie mógł wyjść”.
– Wyobraźmy sobie, iż rozwija się AI, jest dostatek, każdy ma swojego prywatnego asystenta i nagle okazuje się, iż najbogatsi ludzie byli w stanie uploadować się do jakiejś rzeczywistości wirtualnej. W ten sposób zyskują nieśmiertelność, bo mogą się backupować i kopiować w nieskończoność, mogą tam przeżywać wszystkie ekscytacje, jakie związane są z energią człowieka młodego i wyrafinowaniem umysłu dojrzałego. I nagle jest taka oto sytuacja, iż jakaś uprzywilejowana grupa ludzi żyje w jakiejś domenie nieśmiertelności i niekończących się uciech. I w tym momencie powstaje ruch społeczny, iż się to należy każdemu. Uploading is ok. Już nie aborcja jest ok, tylko uploading is ok i należy to wszystkim udostępnić. I się okaże, iż jeżeli jakąś nowe źródła energii opanujemy, to może na to będą zasoby. I jest wielka operacja, w godzinie zero wszyscy razem się uploadujemy, nikogo nie zostawiamy za sobą, żeby nie było tak, iż są lepsi, gorsi itd. I po tym uploadowaniu okazuje się, iż jesteśmy istotami czującymi, które mogą przeżywać radości, cierpienia, niepokoje, ekscytacje i udręki samotności, ale jesteśmy ubezwasznowolnieni. Nie możemy w ogóle z tego wyjść i okazuje się, iż mamy czystą zdolność odczuwania, bo przez błąd w procesie uploadingu nie mamy zdolności kontaktowania się z kimkolwiek. Jesteśmy zamknięci w nieskończonej udręce samotności – mówił prof. Zybertowicz.
Gospodarz programu wskazywał, iż jest to science fiction. Ale jak zauważył profesor, współczesne, realne technologie, z których korzystamy, były takim wymysłem jeszcze kilka lat temu. – Na tym polega technologia, iż science, które najpierw jest fiction, zamienia w reality – dodał.
Należy zauważyć, iż wizja, o której mowa, jest czymś innym niż science fiction: jest nierealistyczna w sensie obrazu człowieka. „Uploading” świadomości zakłada materializm, to znaczy możliwość wydzielenia z człowieka „świadomości”, niezależnie od faktu, iż człowiek jest złożeniem duszy i ciała. Takie wizje można snuć wyłącznie w paradygmacie neognostyckiego ateizmu, bo z realistycznej perspektywy katolickiej żaden „awatar świadomości” nie byłby człowiekiem, toteż sytuacja, o której mówi prof. Zybertowicz – zamknięcie w nieskończonej udręce samotności – jest po prostu niemożliwa. Chyba, iż chodzi o piekło; ale do tego AI bynajmniej nie potrzeba…
Rozmowa Bogdana Rymanowskiego z prof. Andrzejem Zybertowiczem „AI = wróg ludzkości?” jest dostępna na kanale YT Rymanowski Live.
A już teraz zachęcamy również do oglądnięcia całej wypowiedzi prof. Zybertowicza, jakiej udzielił PCh24.TV na potrzeby realizacji dwóch najnowszych odcinków naszego serialu „Władcy Świata”:
