Ini adalah pengingat berkala Anda bahwa chatbot bertenaga AI masih mengada-ada dan berbohong dengan keyakinan sistem GPS yang memberi tahu Anda bahwa jalan pulang terpendek adalah dengan berkendara melalui danau.
Pengingat saya berasal dari Laboratorium Niemanyang untuk melihat apakah ChatGPT akan menyediakan tautan yang benar ke artikel dari berbagai publikasi berita yang dibayar jutaan dolar. Ternyata ChatGPT tidak melakukannya. Sebaliknya, ChatGPT dengan percaya diri membuat URL utuh, sebuah fenomena yang disebut industri AI sebagai “berhalusinasi,” istilah yang tampaknya lebih tepat untuk orang sungguhan yang mabuk dengan omong kosongnya sendiri.
Lab NiemanAndrew Deck dari ‘s meminta layanan tersebut untuk menyediakan tautan ke cerita eksklusif dan terkenal yang diterbitkan oleh 10 penerbit yang telah membuat kesepakatan senilai jutaan dolar dengan OpenAI. Ini termasuk Kantor Berita Associated Press, Jurnal Wall Streetitu Waktu keuanganBahasa Indonesia: Waktu (Inggris), DuniaBahasa Indonesia: Negara, Atlantik, TepiBahasa Indonesia: SuaraDan PolitikSebagai tanggapan, ChatGPT mengembalikan URL yang dibuat-buat yang mengarah ke halaman kesalahan 404 karena URL tersebut tidak ada. Dengan kata lain, sistem tersebut bekerja persis seperti yang dirancang: dengan memprediksi versi URL cerita yang paling mungkin, alih-alih mengutip versi yang benar. Lab Nieman melakukan eksperimen serupa dengan satu publikasi — Orang Dalam Bisnis — awal bulan ini dan .
Seorang juru bicara OpenAI mengatakan Laboratorium Nieman bahwa perusahaan tersebut masih membangun “pengalaman yang memadukan kemampuan percakapan dengan konten berita terbaru mereka, memastikan atribusi yang tepat dan menautkan ke materi sumber — pengalaman yang disempurnakan yang masih dalam pengembangan dan belum tersedia di ChatGPT.” Namun mereka menolak menjelaskan URL palsu tersebut.
Kita tidak tahu kapan pengalaman baru ini akan tersedia atau seberapa andal pengalaman ini. Meskipun demikian, penerbit berita terus menerus memasukkan jurnalisme selama bertahun-tahun sebagai imbalan atas uang tunai karena industri jurnalisme telah dalam mencari cara menghasilkan uang tanpa harus bekerja di perusahaan teknologi. Sementara itu, perusahaan AI adalah pada konten yang diterbitkan oleh siapa saja yang belum menandatangani perjanjian Faustian ini dan tetap menggunakannya untuk melatih model mereka. Mustafa Suleiman, kepala AI Microsoft, apa pun yang dipublikasikan di internet sebagai “freeware” yang merupakan permainan yang adil untuk melatih model AI. Microsoft bernilai $3,36 triliun pada saat saya menulis ini.
Ada pelajaran di sini: Jika ChatGPT mengarang URL, itu juga mengarang fakta. Begitulah cara kerja AI generatif — pada intinya, teknologi ini adalah versi pelengkapan otomatis yang lebih canggih, cukup dengan menebak kata berikutnya yang masuk akal secara berurutan. Ia tidak “mengerti” apa yang Anda katakan, meskipun ia bertindak seperti itu. Baru-baru ini, saya mencoba mendapatkan chatbot terkemuka untuk membantu saya menyelesaikan masalah ini Waktu New York Spelling Bee dan awasi mereka.
Jika AI generatif bahkan tidak dapat menyelesaikan Spelling Bee, Anda tidak boleh menggunakannya untuk mendapatkan fakta.
