"„Katastrofalne skutki” mogą towarzyszyć rozwojowi zaawansowanej sztucznej inteligencji – powiedział dyrektor generalny Google DeepMind Sztuczna inteligencja ogólna może pojawić się już za pięć lat, choć droga do niej nie jest pozbawiona ryzyka, powiedział Demis Hassabis z Google"

Droga do stworzenia sztucznej inteligencji ogólnej (AGI) może wiązać się z „katastrofalnymi skutkami”, takimi jak cyberataki na infrastrukturę energetyczną lub wodną, ​​ostrzegał Demis Hassabis, prezes Google DeepMind. Zasugerował, iż AGI może pojawić się w ciągu najbliższej dekady.

Przemawiając na szczycie Axios AI+ w San Francisco w zeszłym tygodniu, Hassabis opisał AGI jako model, który wykazuje „wszystkie zdolności poznawcze” człowieka, w tym inwencję i kreatywność.

Argumentował, iż obecne duże modele językowe pozostają „postrzępionymi inteligencjami” z lukami w rozumowaniu, długoterminowym planowaniu i ciągłym uczeniu się.

Zasugerował jednak, iż AGI może niedługo stać się rzeczywistością dzięki ciągłemu skalowaniu i „jednemu lub dwóm kolejnym dużym przełomom”.

Jednocześnie Hassabis przyznał, iż okres poprzedzający AGI prawdopodobnie będzie wiązał się z namacalnymi ryzykami i „katastrofalnymi skutkami”, takimi jak cyberataki na infrastrukturę energetyczną lub wodną.

„To prawdopodobnie już się dzieje… może jeszcze nie w przypadku bardzo zaawansowanej sztucznej inteligencji” – powiedział, nazywając to „najbardziej oczywistym wektorem podatności”.

Dodał, iż aktorzy ataku, autonomiczni agenci i systemy, które „odbiegają” od zamierzonych celów, wymagają poważnych działań łagodzących

. „To nie jest zerowe prawdopodobieństwo” – powiedział o możliwości, iż zaawansowane systemy mogą „przeskoczyć barierę ochronną”.

Obawy Hassabisa odzwierciedlają szersze ostrzeżenia w branży technologicznej.

W liście otwartym opublikowanym w październiku, podpisanym przez czołowych technologów i osoby publiczne, stwierdzono, iż „superinteligentne” systemy mogą zagrozić wolności, a choćby przetrwaniu człowieka, wzywając do globalnego zakazu rozwoju sztucznej inteligencji do czasu zapewnienia jej bezpieczeństwa.

Wśród sygnatariuszy listu znaleźli się współzałożyciel Apple Steve Wozniak, pionierzy sztucznej inteligencji Geoffrey Hinton i Yoshua Bengio, założyciel Virgin Group Richard Branson oraz wybitne osobistości polityczne i kulturalne.

Inni przyjęli bardziej optymistyczne podejście. Elon Musk powiedział w zeszłym miesiącu, iż postęp w dziedzinie sztucznej inteligencji i robotyki może sprawić, iż praca stanie się „opcjonalna” w ciągu 10–20 lat i przewidział, iż waluta może stracić na znaczeniu w gospodarce opartej na sztucznej inteligencji, zaznaczając jednocześnie, iż zanim taka przyszłość będzie mogła się ziścić, konieczny pozostało znaczny postęp technologiczny.

Przetlumaczono przez translator Google

zrodlo:https://www.rt.com/news/629166-advanced-ai-catastrophic-outcomes/