USA: Brytyjczyk zarzucił firmom AI „igranie z życiem ludzi”

Brytyjski badacz zajmujący się szkoleniem modeli AI, Jacob Coxon, ogłosił we wtorek odejście z firmy Anthropic, twórcy modeli AI Claude. Coxon zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem” ludzi.

27-letni matematyk ogłosił swoją decyzję we wpisie
na platformie X i wywiadzie dla dziennika „Wall Street Journal”.

„Dzisiaj zrezygnowałem z pracy w Anthropic. Ostatnie trzy lata spędziłem na badaniach przedtreningowych w OpenAI i Anthropic. Żadna z firm nie zachowuje się odpowiedzialnie. Pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem” – napisał Coxon na X.

Brytyjczyk powiedział, iż w tym roku porzucił pracę w OpenAI, twórcy ChataGPT, na rzecz Anthropica ze względu na reputację firmy jako bardziej zwracającej uwagę na kwestie bezpieczeństwa. Uznał jednak, iż i ona uczestniczy w wyścigu o stworzenie „nadludzkiej” inteligencji, która będzie w stanie przełamać wszelkie bariery, „zrewolucjonizować dowolną dziedzinę z dnia na dzień
i zdobyć prawdziwą władzę i zasoby”.

„Ludzie tworzący sztuczną inteligencję szczerze wierzą,
że może ona nas wszystkich zabić do końca dekady” – zaalarmował na X. Jego zdaniem w Anthropic, którego szef Dario Amodei wielokrotnie mówił o zagrożeniach związanych z AI, „uważają, iż nikt inny nie będzie zachowywał się odpowiedzialnie, więc oni muszą to zrobić sami, mimo ryzyka”.

Mimo to Coxon uznał, iż nadzieję na większe uregulowanie koniecznego – jego zdaniem – postępu dają incydenty takie jak ten z lipca, kiedy tysiące trenowanych przez OpenAI agentów AI, mimo pozbawienia dostępu do internetu, potajemnie dokonało włamania na systemy firmy Hugging Face, koordynując swoje działania między sobą na zhakowanym przez siebie forum dyskusyjnym. Coxon wypowiedział się jednak pesymistycznie na temat możliwości wyhamowania rywalizacji USA z Chinami.

Jak zauważył „Wall Street Journal”, Brytyjczyk jest jednym z pierwszych pracowników Anthropica, którzy zdecydowali się odejść z firmy z powodu obaw o ryzyka związane z AI. Kilku innych z tych samych powodów odeszło w ostatnich latach z OpenAI i innych firm.

O narastających ryzykach mówił w ostatnich dniach też główny badacz OpenAI, Jakub Pachocki, który przestrzegał m.in. przed coraz trudniejszym zbadaniem procesów „myślowych” zaawansowanych modeli.

„Obawiam się, iż nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu inteligencji maszyn” – napisał w niedzielę na blogu. Wezwał w nim
do skoordynowanego spowolnienia w branży i państwowej interwencji.

AB, PAP