Przestań używać generatywnej sztucznej inteligencji jako wyszukiwarki

Podobnie skąpe są informacje, które wskazywałyby na to, że Jimmy Carter ułaskawił swojego brata. Billy’ego Cartera New York Timesa pośmiertny nie wspomina o ułaskawieniu i też nie „Washington Post”.‘S pomiń. Zapytałem Sterna, czy jego źródłem jest ChatGPT, a on odpowiedział „nie” i nie sprecyzował, skąd wziął te informacje. Mimo to, pytanie ChatGPT, czy Jimmy Carter ułaskawił Billy’ego, otrzymuje jednoznaczne „tak”.

W 1981 r., gdy Jimmy Carter dobiegał końca swojej prezydentury, ułaskawił swojego brata Billy’ego za wszelkie możliwe przestępstwa związane z jego stosunkami z Libią. Ułaskawienie nie obejmowało jednak potencjalnych zobowiązań cywilnych ani innych działań prawnych, a Billy Carter ostatecznie zgodził się zeznawać przed Kongresem i zapłacić grzywnę za swoje czyny.

Wiem, że to trochę nudne, ale próbuję pokazać moją pracę. To najlepszy sposób, w jaki mogę potwierdzić swoją wiarygodność, a jest to coś, czego nie uzyskasz od ChatGPT. Jest to również coś, czego nie zrobiła żadna z osób, które wysuwały błędne twierdzenia.

ChatGPT udzielił mi jeszcze kilku naprawdę dziwnych odpowiedzi – takich, które nie pasowały do ​​pytania, które zadałem na temat ułaskawiania przez prezydentów swoich bliskich. Przytoczyła informację o ułaskawieniu Richarda Nixona przez Geralda Forda, kwalifikując go jako „chociaż nie jest to bezpośredni członek rodziny”. Wspomniano także, że Andrew Johnson udzielił amnestii byłym przywódcom Konfederacji, „w tym niektórym członkom rodzin prominentnych osobistości z Południa”. Co dziwniejsze, powiedziano mi również, że Lyndon B. Johnson udzielił ułaskawienia „różnym współpracownikom”, zauważając jednak, że „nieczęsto dotyczyli oni bezpośrednio jego rodziny”. Co?

Zrozumiałe jest, że ChatGPT nie wspomniałby o ułaskawieniu Huntera Bidena, ponieważ miało ono miejsce po upływie ostatecznego terminu na rok 2023. Ale, co dziwne, nie widać też ułaskawienia przez Donalda Trumpa Charlesa Kushnera, ojca jego zięcia Jareda Kushnera. To miało miejsce w 2020 roku. Z pewnością Kushner jest dla Trumpa bardziej członkiem rodziny niż Nixon dla Forda.

Wysłałem e-mail do Hearsta z pytaniem, czy tytuł grzecznościowy pisarz Charles P. Pierce użył ChatGPT jako źródła swojego artykułu. Rzeczniczka Allison Keane powiedziała, że ​​nie i odmówiła podania dalszych informacji na temat tego, jak mógł wystąpić błąd. Stern powiedział mi, że znalazł swoje informacje dzięki „wyszukiwaniu w Internecie w Google”.

Dobra. Oto, co znalazłem w Google: artykuł z czegoś o nazwie Czasy Hindustanu zatytułowany „Przed Bidenem: najsłynniejsze ułaskawienia członków rodziny przez Trumpa, Clintona i Cartera.” Twierdzi błędnie, że Jimmy Carter ułaskawił Billy’ego. (Ustawiam datę końcową wyszukiwania na 2 grudnia, aby uniknąć wychwytywania artykułów zawierających weryfikacje faktów, pochodzących z fałszywych twierdzeń). Jeśli chodzi o Neila Busha, znalazłem półwirusowy post X I artykuł w czymś, co nazywa się Czasy teraz.

Nie wiem, jakie jest źródło twierdzeń zawartych w obu art Czasy Hindustanu Lub Czasy teraz. Pomyślałem jednak, że warto zobaczyć, co Google Gemini ma do powiedzenia na temat tych ułaskawień, kiedy będę w tej konkretnej króliczej norze. Gemini w odpowiedzi na pytanie „Ilu prezydentów ułaskawiło swoich synów” odpowiada, że ​​jest tylko jeden: Joe Biden. Ale zapytany ilu prezydentów ułaskawiło członków rodziny, odpowiada, że ​​Jimmy Carter ułaskawił Billy’ego, a George HW Bush ułaskawił Neila. Nie wspomina o Kushnerze i Trumpie.

Zauważysz, że na tym obrazie są podświetlone kolory. To dlatego, że poprosiłem Google o sprawdzenie wyników. Ułaskawienie Abrahama Lincolna, co jest prawdziwejest podświetlone na czerwono — Google ostrzega, że ​​nie znalazło odpowiednich treści. Ułaskawienia Busha i Cartera, które są fałszywe, zaznaczono na zielono – a wynik Cartera wyraźnie przytacza błędne Czasy Hindustanu artykuł jako źródło.

Zakłopotanie radzi sobie nieco lepiej, zauważając, że Biden, Trump, Clinton i Lincoln ułaskawili krewnych. Ale zapytany, ilu prezydentów ułaskawiło swoich synów, wymienia syna Lincolna list amnestii w imieniu przyrodniej siostry jego żony w swoich odpowiedziach. Trzeba powiedzieć, że przyrodnia siostra żony nie jest synem.

Cokolwiek wydarzyło się w tym przypadku, istnieje stały schemat osób polegających na ChatGPT lub innych usługach AI w celu udzielenia odpowiedzi, tylko po to, by w zamian uzyskać halucynacje. Być może pamiętacie, kiedy na początku tego roku pojawił się zwiastun filmu Francisa Forda Coppoli Megalopolis został wycofany, ponieważ zawierał sfabrykowane cytaty krytyków. Wymyśliła je generatywna sztuczna inteligencja, niezidentyfikowana. W rzeczywistości, ChatGPT jest często „całkowicie błędny” zgodnie z Przegląd dziennikarstwa Columbia. Biorąc pod uwagę 200 cytatów i prosząc o wskazanie wydawcy, który był źródłem tych cytatów, ChatGPT mylił się częściowo lub całkowicie w ponad trzech czwartych przypadków.

Nawet używanie ChatGPT do pomocy w procesie pisania jest ryzykowne. Zapytaj Jeffa Hancocka, założyciela Stanford Social Media Lab i znanego badacza dezinformacji. Dokument prawny, który złożył, powoływał się na źródła, które nie istniały. Hancock upiera się, że sam napisał dokument, ale do spisania listy cytowań użył GPT-4o, w wyniku czego powstały dwa cytaty zmyślone i jeden cytat z dołączonymi niewłaściwymi autorami.

Teraz obrońca AI mógłby – słusznie – powiedzieć, że prawdziwy dziennikarz powinien sprawdzić odpowiedzi udzielane przez ChatGPT; że sprawdzanie faktów jest kluczową częścią naszej pracy. Zgadzam się, dlatego w tym artykule przeprowadziłem Cię przez proces samodzielnego sprawdzania. Ale to tylko publiczne i żenujące przykłady czegoś, co moim zdaniem dzieje się znacznie częściej w życiu prywatnym: normalna osoba korzysta z ChatGPT i ufa informacjom, które mu przekazuje.

Jedną z przewag starej wyszukiwarki Google nad tak zwanymi silnikami odpowiedzi jest to, że zawiera linki bezpośrednio do głównych źródeł. Automatyczne sekretarki po prostu dają odpowiedź i często nie jest jasne, jakie jest jej źródło. W moim przypadku korzystanie z funkcji ChatGPT lub AI Google wiąże się z dodatkową pracą — muszę sprawdzić odpowiedź w głównym źródle; stara wyszukiwarka Google właśnie podała mi to źródło bezpośrednio.

Ale ludzie, którzy są mniej ostrożni i mniej wnikliwi niż ja, a podejrzewam, że jest to większość, po prostu zatrzymują się na odpowiedzi i nigdy nie sprawdzają, czy jest ona prawidłowa. Taki jest oczywiście cel silnika odpowiedzi — do tego został zaprojektowany. (Ktoś, prawdopodobnie ktoś związany z PerplexityAI, powie teraz: „ach, ale możemy opatrzyć źródła przypisami”. Ten sam problem: kto klika przypisy?)

To wszystko jest oczywiście złym projektem. Technologia, która faktycznie służy ludziom, uwzględnia ludzkie zachowania. Być może istnieje sposób na uczynienie generatywnej sztucznej inteligencji użyteczną, ale w jej obecnym stanie ogromnie współczuję każdemu, kto jest na tyle naiwny, aby wykorzystać ją jako narzędzie badawcze.

Wiem, że ludzie mają dość mówienia o kleju na pizzy, ale szokująca jest dla mnie degradacja naszego środowiska informacyjnego na dużą skalę, która już miała miejsce. (Wystarczy przeszukać Amazon, jeśli chcesz zobaczyć, co mam na myśli.) Dzieje się to na drobne sposoby, jak sztuczna inteligencja Google nieprawidłowo twierdząc, że samce lisów łączą się w pary na całe życiei duże, takie jak rozpowszechnianie fałszywych informacji na temat ważnych wydarzeń informacyjnych. Po co automatyczna sekretarka, której nikt nie może zaufać?