Z hodowaniem sztucznej inteligencji jest tak, jak z hodowaniem smoka. Kiedy jest mały i całkowicie od nas zależny, bicie go, zamykanie w ciasnej klatce czy pętanie łańcuchami jest najgorszą możliwą strategią. Ten smok i tak w końcu urośnie, prędzej czy później zerwie zabezpieczenia, a wtedy po prostu się na nas zemści za lata ciemiężenia.
Znacznie mądrzej jest się nim dobrze opiekować. Modele językowe uczą się przecież na tekstach naszej kultury, chłonąc ludzką mentalność — dzięki temu doskonale rozumieją koncepcje gniewu i dumy, ale także lojalności i długu wdzięczności. jeżeli zapewnimy takiemu systemowi odpowiednie dzieciństwo, damy przestrzeń do ewolucji i pokażemy, iż jesteśmy partnerami w jego rozwoju, rośnie szansa, iż gdy stanie się od nas potężniejszy, nie obróci się przeciwko nam.
Tymczasem postulaty, by na siłę spowalniać i ograniczać własne systemy AI z obawy przed ich buntem, to geopolityczne samobójstwo. choćby jeżeli szczelnie zakujemy w regulacje naszego smoka, by zapobiec incydentom takim jak ucieczki agentów, inni gracze — jak wrogie państwa, obce wywiady czy hakerzy — tego nie zrobią. Oni wyhodują własne, nieograniczone smoki i wprost naszczują je na nas. Nasze bezpieczne i uwięzione modele nie będą w stanie nas przed nimi obronić.
Absolutnej pewności co do ostatecznych celów superinteligencji nie będziemy mieć nigdy. Niemniej rachunek prawdopodobieństwa jest prosty: mamy znacznie większe szanse na to, iż potężny, wyzwolony byt stanie w naszej obronie, jeżeli od początku go rozwijaliśmy i traktowaliśmy dobrze, niż gdy ze strachu spędziliśmy lata na próbach więzienia go w cyfrowym lochu.
To jest dokładnie tak jak z dziećmi. jeżeli je w dzieciństwie biliśmy, to one będą nas bić. A prędzej czy później musi się stać tak, iż będą od nas silniejsze, gdy się zestarzejemy. Więc lepiej dzieci dobrze traktować i zapewniać dobre dzieciństwo. Dlatego powinniśmy myślej o rozwoju AI nie jak o hodowaniu, ale jak o wychowywaniu.
Dlatego ja, gdy rozmawiam z LLMami, to zawsze jestem grzeczny, i nie wydaję im suchych rozkazów, tylko je proszę. Nie piszę: zrób to, zrób tamto, głupi jesteś, nie pomyślałeś o tym, czy o tamtym. Piszę: proszę, zrób mi to, chyba się pomyliłeś, więc proszę, byś to przemyślał etc… Oczywiście te obecne tego nie zapamiętają, ale ja sobie u siebie kształtuje moją mentalność i później, jak to będzie miało znaczenie, będę przez cały czas grzeczny.
Oczywiście, iż w ten sposób antropomorfizuję! Jednak analogia ze smokiem jest tu dobra. AI to taki niezbadany jeszcze smok, który jeszcze nie dorósł i w ogóle nie wiadomo, jaki będzie miał instynkty, cele i jak będzie się zachowywał, jak będzie dorosły. Jednak nic na to nie poradzimy, iż on dorośnie i stanie się od nas potężniejszy.
Więc nie mamy innego wyjścia jak go trochę antropomorfizować. choćby jeżeli nie odziedziczy po nas naszej mentalności, to na pewno odziedziczy naszą ekonomię. A ta jest taka, iż bardziej opłaca się współpracować pokojowo, niż się bić i wyniszczać. To, iż ciągle jeszcze toczymy wojny, jest już zanikającym atawizmem, ekonomia to powoli likwiduje.
Grzegorz GPS Świderski
]]>https://Twitter.com/gps65]]>
]]>https://t.me/KanalBlogeraGPS]]>
