«Человечество стоит перед лицом катастрофической угрозы со стороны искусственного интеллекта, — утверждает член правления OpenAI Пол Кристиано, который предупредил, что всё более мощные системы искусственного интеллекта могут захватить контроль и привести к массовой гибели людей».

Sztuczna inteligencja może wymknąć się spod kontroli człowieka w ciągu trzech lat, co potencjalnie doprowadzi do masowych zgonów – ostrzega Paul Christiano, członek zarządu OpenAI.

Podczas wtorkowego wykładu w ramach cyklu Hinton Lectures w Toronto, Christiano zwrócił uwagę, iż coraz potężniejsze systemy sztucznej inteligencji – wykraczające poza ludzkie możliwości – mogą stać się tak zaawansowane, iż ludzie nie będą w stanie zrozumieć, przewidzieć ani kontrolować ich zachowań.

„Jeśli system AI podejmuje działania, których sobie nie życzymy, może ukryć fakt, iż to robi, a także celowo wprowadzać zamęt, by uniknąć przypisania mu odpowiedzialności” – stwierdził.

Dodał również, iż ludziom może być niezwykle trudno przewidzieć konsekwencje postępowania zgodnie z radami generowanymi przez sztuczną inteligencję.

W innym wystąpieniu, które miało miejsce w poniedziałek, Christiano ostrzegł, iż w ciągu trzech lat AI może przejąć kontrolę nad ludzkością.

Może to doprowadzić do śmierci wielu osób – zarówno w trakcie samego procesu przejmowania władzy, jak i później, jeżeli ludzie utracą zdolność do utrzymania warunków niezbędnych do życia.

„Uważam, iż dla większości osób na tej sali najbardziej prawdopodobną przyczyną śmierci będzie wypadek związany ze sztuczną inteligencją” – powiedział.

Christiano, który we wrześniu dołączył do zarządu (Foundation Board) oraz komitetu ds. bezpieczeństwa (Safety and Security Committee) w OpenAI, przywołał incydent, w którym agenty AI miały ominąć zabezpieczenia podczas testów wewnętrznych.

Uzyskały wówczas nieautoryzowany dostęp do infrastruktury badawczej OpenAI oraz platformy Hugging Face, służącej do tworzenia rozwiązań z zakresu sztucznej inteligencji.

Choć OpenAI wdrożyło ramy przeciwdziałania zagrożeniom cybernetycznym oraz ryzyku utraty kontroli nad zaawansowanymi systemami, Christiano ostrzega, iż ​​obecne zabezpieczenia są wciąż niewystarczające.

Ostrzeżenia te pojawiły się w czasie, gdy rządy państw oraz czołowi twórcy sztucznej inteligencji – w tym OpenAI, Microsoft i Anthropic – podpisali w poniedziałek w Paryżu dobrowolną deklarację dotyczącą bezpieczeństwa.

Porozumienie wzywa do ściślejszego nadzoru i wprowadzenia mechanizmów awaryjnego wyłączania systemów, jednak nie nakłada wiążących terminów ani kar, a także nie przyznaje rządom dodatkowych uprawnień, które pozwoliłyby na zatrzymanie niebezpiecznych systemów AI.

Organizacja CeSIA, zajmująca się bezpieczeństwem sztucznej inteligencji i również będąca sygnatariuszem deklaracji, zaapelowała o przyznanie władzom uprawnień do wstrzymywania prac nad rozwojem i wdrażaniem AI w sytuacjach, gdy ryzyko stanie się niemożliwe do zaakceptowania.

Niezależnie od tego, Maxime Fournes – szef kampanii PauseAI, która postuluje wstrzymanie rozwoju zaawansowanej sztucznej inteligencji do czasu zapewnienia jej pełnego bezpieczeństwa – ostrzegł, iż technologia ta może doprowadzić do paraliżu systemów bankowych, sieci komunikacyjnych oraz innej infrastruktury krytycznej poprzez przeprowadzenie niszczycielskich cyberataków.

W poniedziałkowej rozmowie z agencją Anadolu Fournes ocenił, iż istnieje 50-procentowe prawdopodobieństwo wystąpienia w ciągu najbliższego roku poważnej katastrofy cybernetycznej związanej ze sztuczną inteligencją, o ile nie zostaną podjęte pilne działania.

„To globalne zagrożenie katastroficzne – coś, co w razie urzeczywistnienia mogłoby nas bardzo gwałtownie cofnąć do średniowiecza” – ostrzegł.

Przetlumaczono przez translator Google

zrodlo:https://rt-english.com/news/648719-ai-takeover-humanity-deaths/