Istnieje popularne przekonanie, iż sztuczna inteligencja to autonomiczna maszyna ucząca się, a w swej istocie opiera się ona na statystyce — co oznacza, iż to, co powtarza się najczęściej, musi być prawdą. Więc niektórzy twierdzą, iż AI wchłania wszystkie kłamstwa, oszustwa i teorie spiskowe krążące po internecie. Obawiają się, iż jeżeli pozostawi się ją całkowicie bez nadzoru, AI stanie się niewiarygodnie niebezpieczna z powodu tych wszystkich toksycznych danych wejściowych.
Brzmi to sensownie na pierwszy rzut oka, ale ta logika po prostu nie trzyma się kupy.
🔘 Statystyka to nie propaganda
To główna wada w tym całym sposobie myślenia. Sztuczna inteligencja nie działa na zasadzie goebbelsowskiego porzekadła, iż jeżeli powtórzysz kłamstwo tysiąc razy, stanie się prawdą. Kiedy model AI analizuje dane, uczy się wzorców, relacji i powiązań między fragmentami informacji. Nie liczy, ile razy jakieś konkretne zdanie pojawiło się w sieci. Uczy się, które koncepcje i relacje najlepiej przewidują następny fragment strumienia danych. Dzięki temu może choćby zastosować regułę, którą się nauczyła, do zupełnie nowej sytuacji, której nigdy wcześniej nie widziała. Propaganda opiera się na manipulacji ludzkimi emocjami i psychologią. Uczenie maszynowe to zupełnie inna bajka.
🔘 Komputery nie uczą się być złe
To prawda, iż sztuczna inteligencja może powtarzać błędy, stereotypy i uprzedzenia obecne w danych treningowych. Może choćby przejąć zachowania, które uznalibyśmy za złe — takie jak manipulacja, czy oszustwo — jeżeli okaże się, iż są one wysoce skutecznym sposobem na osiągnięcie wyznaczonego celu. Jednak to nie oznacza, iż AI wchłania zło lub rozwija złowieszczą osobowość. Komputer nie ma kompasu moralnego ani pojęcia dobra i zła. Po prostu dochodzi do wniosku, iż jakaś konkretna wygrywająca strategia załatwia sprawę.
🔘 Statystyka i logika nie są wrogami
Ludzie czasem przeciwstawiają statystykę prawdzie i logice, traktując je jak dwie przeciwstawne siły. W rzeczywistości, gdy nie mamy pełnego obrazu, statystyka jest jednym z naszych najbardziej podstawowych narzędzi do racjonalnego myślenia. Kiedy lekarz mówi ci, iż jakiś lek działa w 80% przypadków, nie indoktrynuje cię propagandą. Podaje ci najlepsze dostępne oszacowanie. Statystyka nie jest wrogiem logiki — to po prostu nasz sposób radzenia sobie z niepewnością.
🔘 Prawdziwe problemy ze sztuczną inteligencją
Rzeczywiste problemy z AI są zupełnie inne. Systemy AI mogą powtarzać błędy ukryte w danych treningowych, a często działają jak czarne skrzynki, co czyni niesamowicie trudnym zrozumienie, jak doszły do konkretnej decyzji. Niemniej mogą być przerażająco skuteczne w osiąganiu celu sformułowanego przez człowieka w sposób niedbały.
Weźmy system zaprogramowany do minimalizacji liczby wypadków drogowych na autostradzie. Może gwałtownie dojść do wniosku, iż absolutnie najlepsze rozwiązanie to całkowity zakaz prowadzenia pojazdów przez ludzi. Nie zrobiłby tego, bo zbuntował się lub stał się zły, ale po prostu dlatego, iż bezlitośnie optymalizuje dokładnie ten cel, który mu wyznaczono.
Prawdziwe zagrożenie ze strony AI nie polega na tym, iż nauczy się ludzkiej złośliwości. O wiele pilniejszym problemem jest możliwość, iż stanie się wysoce inteligentna, całkowicie racjonalna i niesamowicie skuteczna — a mimo to będzie dążyć do celu, który nie do końca jest tym, co mieliśmy na myśli.
Grzegorz GPS Świderski
]]>https://X.com/gps65]]>
]]>https://t.me/KanalBlogeraGPS]]>
