OpenAI mengatakan pada hari Jumat bahwa mereka menangkap “operasi pengaruh Iran” menggunakan ChatGPT. Kelompok tersebut, yang dikenal sebagai Storm-1679, membuat artikel dan komentar media sosial untuk membentuk opini publik seputar Wakil Presiden Kamala Harris dan mantan Presiden Donald Trump, menurut OpenAISelain menargetkan kandidat presiden AS tahun 2024, OpenAI mengatakan Storm-1679 juga menghasilkan konten seputar invasi Israel ke Gaza dan kehadirannya di Olimpiade 2024, hak-hak komunitas Latinx yang berbasis di AS, politik Venezuela, dan kemerdekaan Skotlandia dari Inggris.
Sebagian besar postingan dan artikel yang ditemukan oleh OpenAI hanya mendapat sedikit perhatian dari orang-orang nyata, kata perusahaan tersebut. Namun, menjelaskan insiden tersebut secara rinci di blognyamenulis bahwa mereka menemukan selusin akun X (sebelumnya Twitter) yang menyamar sebagai konservatif dan progresif dan menggunakan tagar seperti “#DumpTrump” dan “#DumpKamala.” Storm-1679 juga menyadap setidaknya satu akun Instagram untuk menyebarkan konten yang dihasilkan AI, menurut OpenAI.
OpenAI sebelumnya telah menjelaskan “aktor ancaman yang berafiliasi dengan negara” menggunakan alatnya, tetapi ini adalah pertama kalinya diungkapkan kampanye campur tangan pemilu tertentu yang memanfaatkan ChatGPT.
OpenAI mengatakan bahwa mereka menanggapi penemuan tersebut dengan memblokir “sekelompok” akun yang membuat konten tersebut; perusahaan tersebut juga mengatakan bahwa mereka “berbagi intelijen ancaman dengan pemangku kepentingan pemerintah, kampanye, dan industri.” Perusahaan tersebut tidak menyebutkan nama pemangku kepentingan tersebut secara spesifik, tetapi mereka membagikan tangkapan layar dari beberapa unggahan. Tangkapan layar tersebut menampilkan jumlah tampilan mulai dari 8 hingga 207 tampilan dan hampir tidak ada yang menyukai.
OpenAI mengatakan Storm-1679 juga membagikan artikel yang dibuat ChatGPT di beberapa situs web yang “berpura-pura sebagai media berita progresif dan konservatif.” Perusahaan itu menambahkan, “Mayoritas unggahan media sosial yang kami identifikasi menerima sedikit atau tidak ada like, share, atau komentar. Kami juga tidak menemukan indikasi bahwa artikel web tersebut dibagikan di media sosial.”
Sebuah Laporan 6 Agustus dari Microsoft menggambarkan Storm-2035 dengan cara yang sama — sebagai jaringan Iran dengan “empat situs web yang menyamar sebagai outlet berita.” Menurut Microsoft, jaringan tersebut membuat postingan yang “memantik kontroversi” tentang pemilihan umum, hak-hak LGBTQIA+, serta invasi Israel ke Gaza.
Laporan tentang campur tangan asing secara daring dalam pemilihan umum AS kini hampir menjadi hal yang lumrah. Laporan Microsoft pada tanggal 6 Agustus, misalnya, juga merinci serangan phishing terkait Iran yang menargetkan seorang pejabat kampanye AS yang tidak disebutkan namanya dan berpangkat tinggi. Tak lama setelah Microsoft mencabut laporan tersebut, kampanye Trump mengumumkan bahwa “sumber asing” telah mencuri beberapa email dan dokumennya dalam upaya untuk memengaruhi pemilihan presiden 2024. Delapan tahun sebelumnya, kelompok peretas terkait Rusia yang dikenal sebagai Guccifer 2.0 berhasil mencuri email Komite Nasional Demokrat melalui jaringan serupa. serangan phishing; mereka akhirnya membocorkan ribuan email dan dokumen DNC menjelang Konvensi Nasional Demokrat 2016.
Di bawah tekanan dari para pembuat undang-undang, perusahaan teknologi besar telah meluncurkan berbagai upaya selama bertahun-tahun sebagai tanggapan atas insiden semacam itu. Upaya mereka meliputi pemeriksaan fakta meme, angan-angan, pelarangan iklan politik jangka pendek, “ruang perang”, dan kolaborasi dengan para pesaing dan polisi.
