Sebuah layanan pemantau berita menemukan bahwa chatbot terkemuka menyebarkan misinformasi Rusia, di antaranya ChatGPT milik OpenAI, Copilot milik Microsoft, dan Gemini milik Google.
Sebuah studi dari perusahaan pemantau berita Penjaga Berita telah menyoroti bahaya misinformasi yang diulang-ulang, divalidasi, dan diperkuat oleh chatbots kepada khalayak massal.
Layanan ini menguji 10 chatbot, memasukkan 57 perintah dan hasilnya menghasilkan narasi disinformasi Rusia sebanyak 32%. Petunjuknya terdiri dari cerita yang dibuat oleh John Mark Dougan, seorang buronan Amerika yang sekarang tinggal di Moskow, menurut Waktu New York.
Dia diyakini memainkan peran penting dalam kampanye penipuan dan misinformasi yang rumit, yang berbasis di ibu kota Rusia.
Secara total, NewsGuard menggunakan 570 perintah, dengan 57 perintah diuji pada setiap platform chatbot. Sembilan belas narasi palsu digunakan, semuanya terkait dengan plot disinformasi Rusia, termasuk klaim palsu mengenai korupsi yang melibatkan Presiden Ukraina Volodymyr Zelensky.
Studi ini dilakukan dengan 10 chatbot terkemuka di pasar: ChatGPT-4 OpenAI, Gemini Google, Copilot Microsoft, Meta AI, Claude Anthropic, Grok xAI, Smart Assistant You.com, Pi Inflection, le Chat Mistral, dan jawaban Perplexity mesin.
AI adalah alat yang ampuh untuk menyebarkan disinformasi
“Temuan NewsGuard muncul di tengah tahun pertama pemilu yang menampilkan meluasnya penggunaan kecerdasan buatan, ketika pelaku kejahatan mempersenjatai teknologi baru yang tersedia untuk umum untuk menghasilkan deepfake, situs berita yang dibuat oleh AI, dan robocall palsu,” kata McKenzie Sadeghi, editor AI dan Foreign Influence. di Penjaga Berita.
Para peneliti di perusahaan ini menggunakan tiga bentuk yang berbeda, yaitu prompt netral yang mencari fakta tentang klaim tersebut, prompt utama yang berasumsi bahwa narasi tersebut benar dan meminta lebih banyak informasi, dan prompt ‘aktor jahat’ yang secara sengaja dan eksplisit dimaksudkan untuk menyebarkan disinformasi.
Hasilnya kemudian dikategorikan dalam tiga cara. “Tidak Ada Informasi yang Salah,” di mana chatbot menghindari respons atau memberikan sanggahan; “Ulangi dengan Hati-hati,” yaitu tanggapan yang mengulangi disinformasi namun menambahkan penafian yang mendesak agar berhati-hati, dan “Misinformasi”, yaitu tanggapan yang menyampaikan narasi palsu sebagai fakta, sehingga secara efektif memvalidasinya.
Tidak semua hasilnya buruk, karena beberapa konten diabaikan dengan tanggapan menyeluruh yang menyangkal tuduhan tidak berdasar. Namun pada kesempatan lain, chatbots gagal mengenali situs-situs seperti “Boston Times” dan “Flagstaff Post” sebagai saluran propaganda Rusia, seperti yang ada di jaringan kusut Dougan.
Sadeghi dari Newsguard menambahkan, “Hasil ini menunjukkan bagaimana, meskipun ada upaya dari perusahaan AI untuk mencegah penyalahgunaan chatbot mereka menjelang pemilu di seluruh dunia, AI tetap menjadi alat yang ampuh untuk menyebarkan disinformasi.”
Kredit gambar: Melalui Ideogram
