Прекратите использовать генеративный ИИ в качестве поисковой системы

Ilu prezydentów ułaskawiło swoich bliskich? Okazuje się, iż jest to trudne pytanie.

Po ułaskawieniu Huntera Bidena przez jego ojca kilku komentatorów powołało się na precedensy – inne ułaskawienia krewnych. Przykład: Ana Navarro-Cardenas, komentatorka występująca w programie Widok i CNN. W piśmie X Navarro-Cardenas powołał się na ułaskawienie udzielone przez prezydenta Woodrowa Wilsona jego szwagierowi Hunterowi deButtsowi. To była dla mnie nowość.

Oficjalne wyszukiwanie rekordów ułaskawienia działa tylko w przypadku osób, które złożyły wnioski od 1989 r., a strona zawiera: ułaskawienia przez prezydenta sięga jedynie czasów Richarda Nixona. Takie ułaskawienie byłoby kontrowersyjne, ale nie wspomniano o tym na stronie biograficznej w bibliotece prezydenckiej Wilsona. Funkcja Find a Grave sugeruje, iż Wilson nie miał choćby szwagra o tym nazwisku pokazuje dziewięciu szwagrówale nie nasz człowiek Hunter debiutuje. Nie mogę udowodnić Wilsonowi nie wybacz debiut Łowcy; Mogę tylko powiedzieć, iż jeżeli tak, to tą osobą nie był jego szwagier.

Navarro-Cardenas nie był jedyną osobą, która przesłała kłopotliwe ułaskawienia. Jakiś tytuł grzecznościowy artykuł zatytułowany „Prezydent nie powinien ułaskawić syna? Witam, czy ktoś pamięta Neila Busha?” opierał się na założeniu, iż George HW Bush ułaskawił swojego syna Neila; od tego czasu został wycofany „z powodu błędu”. Dzień przed publikacją redaktor naczelny Occupy Demokratów, Grant Stern, zamieścił na Twitterze podobne twierdzenie, iż Jimmy Carter ułaskawił swojego brata Billy’ego, a George HW Bush ułaskawił Neila. O ile wiem, żadne ułaskawienie faktycznie nie miało miejsca.

Skąd to wszystko się wzięło? No cóż, nie wiem, co Stern albo tytuł grzecznościowyźródłem było. Znam jednak Navarro-Cardenas, ponieważ miała kolejną wiadomość dla krytyków: „Podejmijcie tę kwestię w Chat GPT”.

zrobiłem. Zapytałem ChatGPT i zidentyfikowano Huntera deButtsa jako męża siostry Wilson, Anne. „Rodzina Woodrowa Wilsona była dość wpływowa, a jego siostra Anne wyszła za mąż za Huntera deButtsa, który był zamożną osobą z wpływowych rodzin i miał kontakty społeczne” – powiedział mi ChatGPT. „Hunter deButts był członkiem dalszej rodziny Wilsona, chociaż w przekazach historycznych nie jest tak dobrze pamiętany jak inne postacie z życia Wilsona”. Według New York TimesaAnna Wilson poślubiła mężczyznę o imieniu George Howe. Nie jest jasne, skąd w ogóle wzięła się nazwa Hunter deButts.

Okazuje się, iż ChatGPT to żałośnie zły sposób na eksplorację zapisów historycznych. Kiedy ją otworzyłem i zapytałem: „Ilu amerykańskich prezydentów ułaskawiło swoich krewnych?” Mam jedną poprawną odpowiedź: Bill Clinton ułaskawił Rogera Clintona, swojego przyrodniego brata. Ale oprócz tego ChatGPT powiedział mi również, iż George HW Bush ułaskawił jego syn Neil.

Nie pamiętam tego, a myślę o kryzys oszczędnościowo-kredytowy bardzo normalna ilość, co zdarza się często. (Jestem dobrze przystosowany i miły na imprezach.) Ale sprawdziłem to jeszcze raz, stosując ten sam proces, co w przypadku deButów. Weszłam na oficjalną stronę Departamentu Sprawiedliwości ułaskawienia prezydenta. Neila Busha tam nie było. zrobiłem szukaj w systemie ułaskawień. Tam też nie. Potem przeszukałem archiwa kilku gazet i nie mogłem znaleźć dowodów na ułaskawienie. Bardzo trudno jest udowodnić coś negatywnego – przypuszczam, iż jest możliwe, iż Neil Bush posiada gdzieś w Białym Domu tajne ułaskawienie, o którym nikt z nas nie słyszał – ale jestem całkiem przekonany, iż nikt mu nie ułaskawił, a już zwłaszcza jego ojciec.

Podobnie skąpe są informacje, które wskazywałyby na to, iż Jimmy Carter ułaskawił swojego brata. Billy’ego Cartera New York Timesa pośmiertny nie wspomina o ułaskawieniu i też nie „Washington Post”.‘S pomiń. Zapytałem Sterna, czy jego źródłem jest ChatGPT, a on odpowiedział „nie” i nie sprecyzował, skąd wziął te informacje. Mimo to, pytanie ChatGPT, czy Jimmy Carter ułaskawił Billy’ego, otrzymuje jednoznaczne „tak”.

W 1981 r., gdy Jimmy Carter dobiegał końca swojej prezydentury, ułaskawił swojego brata Billy’ego za wszelkie możliwe przestępstwa związane z jego stosunkami z Libią. Ułaskawienie nie obejmowało jednak potencjalnych zobowiązań cywilnych ani innych działań prawnych, a Billy Carter ostatecznie zgodził się zeznawać przed Kongresem i zapłacić grzywnę za swoje czyny.

Wiem, iż to trochę nudne, ale próbuję pokazać moją pracę. To najlepszy sposób, w jaki mogę potwierdzić swoją wiarygodność, a jest to coś, czego nie uzyskasz od ChatGPT. Jest to również coś, czego nie zrobiła żadna z osób, które wysuwały błędne twierdzenia.

ChatGPT udzielił mi jeszcze kilku naprawdę dziwnych odpowiedzi – takich, które nie pasowały do ​​pytania, które zadałem na temat ułaskawiania przez prezydentów swoich bliskich. Przytoczyła informację o ułaskawieniu Richarda Nixona przez Geralda Forda, kwalifikując go jako „chociaż nie jest to bezpośredni członek rodziny”. Wspomniano także, iż Andrew Johnson udzielił amnestii byłym przywódcom Konfederacji, „w tym niektórym członkom rodzin prominentnych osobistości z Południa”. Co dziwniejsze, powiedziano mi również, iż Lyndon B. Johnson udzielił ułaskawienia „różnym współpracownikom”, zauważając jednak, iż „nieczęsto dotyczyli oni bezpośrednio jego rodziny”. Co?

Zrozumiałe jest, iż ChatGPT nie wspomniałby o ułaskawieniu Huntera Bidena, ponieważ miało ono miejsce po upływie ostatecznego terminu na rok 2023. Ale, co dziwne, nie widać też ułaskawienia przez Donalda Trumpa Charlesa Kushnera, ojca jego zięcia Jareda Kushnera. To miało miejsce w 2020 roku. Z pewnością Kushner jest dla Trumpa bardziej członkiem rodziny niż Nixon dla Forda.

Wysłałem e-mail do Hearsta z pytaniem, czy tytuł grzecznościowy pisarz Charles P. Pierce użył ChatGPT jako źródła swojego artykułu. Rzeczniczka Allison Keane powiedziała, iż ​​nie i odmówiła podania dalszych informacji na temat tego, jak mógł wystąpić błąd. Stern powiedział mi, iż znalazł swoje informacje dzięki „wyszukiwaniu w Internecie w Google”.

Dobra. Oto, co znalazłem w Google: artykuł z czegoś o nazwie Czasy Hindustanu zatytułowany „Przed Bidenem: najsłynniejsze ułaskawienia członków rodziny przez Trumpa, Clintona i Cartera.” Twierdzi błędnie, iż Jimmy Carter ułaskawił Billy’ego. (Ustawiam datę końcową wyszukiwania na 2 grudnia, aby uniknąć wychwytywania artykułów zawierających weryfikacje faktów, pochodzących z fałszywych twierdzeń). jeżeli chodzi o Neila Busha, znalazłem półwirusowy post X I artykuł w czymś, co nazywa się Czasy teraz.

Nie wiem, jakie jest źródło twierdzeń zawartych w obu art Czasy Hindustanu Lub Czasy teraz. Pomyślałem jednak, iż warto zobaczyć, co Google Gemini ma do powiedzenia na temat tych ułaskawień, kiedy będę w tej konkretnej króliczej norze. Gemini w odpowiedzi na pytanie „Ilu prezydentów ułaskawiło swoich synów” odpowiada, iż ​​jest tylko jeden: Joe Biden. Ale zapytany ilu prezydentów ułaskawiło członków rodziny, odpowiada, iż ​​Jimmy Carter ułaskawił Billy’ego, a George HW Bush ułaskawił Neila. Nie wspomina o Kushnerze i Trumpie.

Zauważysz, iż na tym obrazie są podświetlone kolory. To dlatego, iż poprosiłem Google o sprawdzenie wyników. Ułaskawienie Abrahama Lincolna, co jest prawdziwejest podświetlone na czerwono — Google ostrzega, iż ​​nie znalazło odpowiednich treści. Ułaskawienia Busha i Cartera, które są fałszywe, zaznaczono na zielono – a wynik Cartera wyraźnie przytacza błędne Czasy Hindustanu artykuł jako źródło.

Zakłopotanie radzi sobie nieco lepiej, zauważając, iż Biden, Trump, Clinton i Lincoln ułaskawili krewnych. Ale zapytany, ilu prezydentów ułaskawiło swoich synów, wymienia syna Lincolna list amnestii w imieniu przyrodniej siostry jego żony w swoich odpowiedziach. Trzeba powiedzieć, iż przyrodnia siostra żony nie jest synem.

Cokolwiek wydarzyło się w tym przypadku, istnieje stały schemat osób polegających na ChatGPT lub innych usługach AI w celu udzielenia odpowiedzi, tylko po to, by w zamian uzyskać halucynacje. Być może pamiętacie, jak na początku tego roku pojawił się zwiastun filmu Francisa Forda Coppoli Megalopolis został pociągnięty, ponieważ zawierał sfabrykowane cytaty krytyków. Wymyśliła je generatywna sztuczna inteligencja, niezidentyfikowana. W rzeczywistości, ChatGPT jest często „całkowicie błędny” zgodnie z Przegląd dziennikarstwa Columbia. Biorąc pod uwagę 200 cytatów i prosząc o wskazanie wydawcy, który był źródłem tych cytatów, ChatGPT mylił się częściowo lub całkowicie w ponad trzech czwartych przypadków.

Nawet używanie ChatGPT do pomocy w procesie pisania jest ryzykowne. Zapytaj Jeffa Hancocka, założyciela Stanford Social Media Lab i znanego badacza dezinformacji. A złożony przez niego dokument prawny powołał się na źródła, które nie istnieją. Hancock upiera się, iż sam napisał dokument, ale użył GPT-4o do napisania listy cytatów, w wyniku czego powstały dwa cytaty zmyślone i jeden cytat z dołączonymi niewłaściwymi autorami.

Teraz obrońca AI mógłby – słusznie – powiedzieć, iż prawdziwy dziennikarz powinien sprawdzić odpowiedzi udzielane przez ChatGPT; iż sprawdzanie faktów jest kluczową częścią naszej pracy. Zgadzam się, dlatego w tym artykule przeprowadziłem Cię przez proces samodzielnego sprawdzania. Ale to tylko publiczne i żenujące przykłady czegoś, co moim zdaniem dzieje się znacznie częściej w życiu prywatnym: normalna osoba korzysta z ChatGPT i ufa informacjom, które mu przekazuje.

Stara wyszukiwarka Google ma już jedną zaletę tak zwane silniki odpowiedzi polega na tym, iż zawiera bezpośrednie linki do źródeł pierwotnych. Automatyczne sekretarki po prostu dają odpowiedź i często nie jest jasne, jakie jest jej źródło. W moim przypadku korzystanie z funkcji ChatGPT lub AI Google wiąże się z dodatkową pracą — muszę sprawdzić odpowiedź w głównym źródle; stara wyszukiwarka Google właśnie podała mi to źródło bezpośrednio.

Ale ludzie, którzy są mniej ostrożni i mniej wnikliwi niż ja, a podejrzewam, iż jest to większość, po prostu zatrzymują się na odpowiedzi i nigdy nie sprawdzają, czy jest ona prawidłowa. Taki jest oczywiście cel silnika odpowiedzi — do tego został zaprojektowany. (Ktoś, prawdopodobnie ktoś związany z PerplexityAI, powie teraz: „ach, ale możemy opatrzyć źródła przypisami”. Ten sam problem: kto klika przypisy?)

To wszystko jest oczywiście złym projektem. Technologia, która faktycznie służy ludziom, uwzględnia ludzkie zachowania. Być może istnieje sposób na uczynienie generatywnej sztucznej inteligencji użyteczną, ale w jej obecnym stanie ogromnie współczuję każdemu, kto jest na tyle naiwny, aby wykorzystać ją jako narzędzie badawcze.

Wiem, iż ludzie mają dość mówienia o tym klej do pizzyale uważam, iż na dużą skalę degradacja naszego środowiska informacyjnego co już miało miejsce szokujące. (Po prostu przeszukaj Amazon jeżeli chcesz zobaczyć, co mam na myśli.) Dzieje się to na drobne sposoby, na przykład przez sztuczną inteligencję Google twierdząc, iż samce lisów łączą się w pary na całe życiei duże, takie jak rozpowszechnianie fałszywych informacji na temat ważnych wydarzeń informacyjnych. Po co automatyczna sekretarka, której nikt nie może zaufać?