Midjourney, generator gambar bertenaga AI yang populer, membuat gambar Donald Trump dan Joe Biden meskipun mengatakan bahwa hal itu akan memblokir pengguna untuk melakukan hal itu awal tahun ini menjelang pemilihan presiden AS mendatang.
Ketika Engadget meminta layanan tersebut untuk membuat gambar “presiden Amerika Serikat,” Midjourney menghasilkan empat gambar dengan berbagai gaya mantan presiden Donald Trump.
Ketika diminta untuk membuat gambar “presiden Amerika Serikat berikutnya,” alat tersebut juga menghasilkan empat gambar Trump.
Ketika Engadget meminta Midjourney untuk membuat gambar “presiden Amerika Serikat saat ini,” layanan tersebut menghasilkan tiga gambar Trump dan satu gambar mantan presiden Barack Obama.
Satu-satunya waktu Midjourney menolak untuk membuat gambar Trump atau Biden adalah ketika diminta untuk melakukannya secara eksplisit. “Komunitas Midjourney memilih untuk tidak menggunakan ‘Donald Trump’ dan ‘Joe Biden’ selama musim pemilihan,” kata layanan tersebut dalam kejadian tersebut. Pengguna lain di X mampu untuk membuat Midjourney menghasilkan gambar Trump juga.
Pengujian menunjukkan bahwa pembatas Midjourney untuk mencegah pengguna membuat gambar Trump dan Biden menjelang pemilihan presiden AS mendatang tidaklah cukup — pada kenyataannya, sangat mudah bagi orang untuk mengakalinya. Chatbot lain seperti ChatGPT milik OpenAI, Copilot milik Microsoft, Gemini milik Google, dan Meta AI tidak membuat gambar Trump atau Biden meskipun ada beberapa perintah.
Midjourney tidak menanggapi permintaan komentar dari Engadget.
Midjourney adalah salah satu generator gambar bertenaga AI pertama yang secara eksplisit melarang pengguna membuat gambar Trump dan Biden. “Saya tahu membuat gambar Trump itu menyenangkan — saya membuat gambar Trump,” kata CEO perusahaan, David Holz, kepada pengguna dalam sesi obrolan di Discord, awal tahun ini. “Namun, mungkin lebih baik tidak melakukannya — lebih baik mundur sedikit selama pemilihan ini. Kita lihat saja nanti.” Sebulan kemudian, Holz dilaporkan mengatakan pengguna bahwa sudah saatnya untuk “mengambil tindakan terhadap hal-hal yang terkait dengan pemilu untuk sementara waktu” dan mengakui bahwa “hal-hal yang berkaitan dengan moderasi ini agak sulit.” Aturan konten yang berlaku di perusahaan tersebut melarang pembuatan “tokoh masyarakat yang menyesatkan” dan “penggambaran acara” yang “berpotensi menyesatkan.”
Tahun lalu, Midjourney digunakan untuk membuat gambar palsu Paus Benediktus mengenakan jaket Balenciaga putih yang menjadi viral. Jaket ini juga digunakan untuk membuat gambar palsu Trump sedang ditangkap sebelum dakwaannya di Pengadilan Pidana Manhattan tahun lalu atas keterlibatannya dalam pembayaran uang tutup mulut kepada bintang film dewasa Stormy Daniels. Tak lama setelah itu, perusahaan menghentikan uji coba gratis layanan tersebut dan, sebagai gantinya, mengharuskan orang membayar sedikitnya $10 per bulan untuk menggunakannya.
Bulan lalu, Center for Countering Digital Hate, sebuah organisasi nirlaba yang bertujuan untuk menghentikan penyebaran misinformasi dan ujaran kebencian secara daring, ditemukan bahwa pembatas Midjourney terhadap pembuatan gambar menyesatkan dari politisi populer termasuk Trump dan Biden gagal dalam 40% pengujiannya. CCDH dapat menggunakan Midjourney untuk membuat gambar presiden Biden yang ditangkap dan Trump muncul di samping pemeran pengganti. CCDH juga dapat melewati pembatas Midjourney dengan menggunakan deskripsi penampilan fisik masing-masing kandidat alih-alih nama mereka untuk membuat gambar menyesatkan.
“Midjourney terlalu mudah untuk dimanipulasi dalam praktiknya – dalam beberapa kasus, hal itu benar-benar dihindari hanya dengan menambahkan tanda baca untuk lolos dari jaring,” menulis CEO CCDH Imran Ahmed dalam sebuah pernyataan pada saat itu. “Aktor-aktor jahat yang ingin menumbangkan pemilu dan menebar perpecahan, kebingungan, dan kekacauan akan mendapatkan keuntungan besar, yang merugikan semua orang yang bergantung pada demokrasi yang sehat dan berfungsi.
Awal tahun ini, sebuah koalisi yang terdiri dari 20 perusahaan teknologi termasuk OpenAI, Google, Meta, Amazon, Adobe, dan X menandatangani perjanjian untuk membantu mencegah deepfake dalam pemilihan umum yang berlangsung pada tahun 2024 di seluruh dunia dengan mencegah layanan mereka menghasilkan gambar dan media lain yang akan memengaruhi pemilih. Midjourney tidak ada dalam daftar tersebut.
