AI generatif memungkinkan terciptanya gambar realistis yang terlihat seperti diambil oleh manusia, sehingga lebih sulit membedakan mana yang nyata dan mana yang dihasilkan AI. Hasilnya, Meta mengumumkan beberapa upaya terkait gambar yang dihasilkan AI untuk membantu memerangi misinformasi.
Pada hari Selasa, Meta diumumkan melalui postingan blog bahwa dalam beberapa bulan mendatang, mereka akan menambahkan label baru di Instagram, Facebook, dan Thread yang menunjukkan kapan sebuah gambar dibuat oleh AI.
Juga: Saya baru saja mencoba generator gambar AI ImageFX Google, dan saya terkejut dengan betapa bagusnya itu
Meta saat ini bekerja sama dengan mitra industri untuk menentukan standar teknis umum yang menandakan kapan konten dibuat menggunakan AI generatif. Kemudian, dengan menggunakan sinyal-sinyal tersebut, Meta membangun kemampuan yang mengeluarkan label dalam semua bahasa pada postingan di seluruh platformnya, yang menggambarkan bahwa gambar tersebut dihasilkan oleh AI, seperti terlihat pada foto di bagian atas artikel.
“Ketika perbedaan antara konten manusia dan konten sintetis semakin kabur, orang-orang ingin tahu di mana letak batasannya,” kata Nick Clegg, presiden Meta untuk urusan global. “Jadi, penting bagi kami untuk membantu orang-orang mengetahui kapan konten fotorealistik yang mereka lihat dibuat menggunakan AI.”
Pelabelan ini akan berfungsi serupa dengan label konten buatan TikTok, yang dirilis pada bulan September, yang muncul di video TikTok yang berisi gambar, audio, atau video realistis yang dihasilkan AI.
Juga: Generator gambar AI terbaik
Meta mencakup penanda yang terlihat, tanda air yang tidak terlihat, dan metadata IPTC yang tertanam di setiap gambar yang dihasilkan menggunakan kemampuan fotogenerasi Meta AI. Perusahaan kemudian memberi label pada gambar tersebut dengan label “Imagined by AI” untuk menunjukkan bahwa gambar tersebut dibuat secara artifisial.
Meta berbagi bahwa mereka sedang membangun alat industri terkemuka yang dapat mendeteksi tanda air yang tidak terlihat, seperti metadata IPTC, dalam gambar yang dihasilkan oleh generator AI dari berbagai perusahaan. Ini termasuk Google, OpenAI, Microsoft, Adobe, Midjourney, dan Shutterstock, yang juga menyertakan label AI untuk gambar tersebut.
Tentu saja hal ini membuka celah bagi pelaku kejahatan. Jika perusahaan tidak mematuhi penambahan metadata ke generator gambar AI-nya, Meta tidak akan bisa menandai gambar tersebut dengan label. Namun, tampaknya ini merupakan langkah ke arah yang benar.
Meskipun ada upaya perusahaan untuk memasukkan sinyal pada gambar yang dihasilkan AI, upaya yang sama belum dilakukan terkait video dan audio yang dihasilkan AI. Sementara itu, Meta menambahkan fitur di mana orang dapat mengungkapkan bahwa mereka menggunakan AI untuk menghasilkan gambar sehingga Meta dapat menambahkan label.
Juga: Etika AI generatif: Bagaimana kita dapat memanfaatkan teknologi canggih ini
Perusahaan ini menerapkan pengungkapan sukarela dengan mengancam akan menambahkan hukuman jika pengguna gagal mengungkapkannya. Perusahaan juga mempertahankan kemampuan untuk menambahkan label yang lebih menonjol pada gambar, audio, atau video yang menimbulkan risiko tinggi untuk menipu publik.
“Kami akan mewajibkan orang untuk menggunakan alat pengungkapan dan pelabelan ini ketika mereka memposting konten organik dengan video fotorealistik atau audio yang terdengar realistis yang dibuat atau diubah secara digital, dan kami dapat menerapkan penalti jika mereka gagal melakukannya,” tambah Clegg.
Perkembangan alat-alat ini terjadi pada saat yang sangat kritis, menjelang pemilu. Menciptakan misinformasi yang dapat dipercaya sangatlah mudah dan dapat berdampak negatif terhadap opini publik terhadap para kandidat dan menghambat proses pemungutan suara yang demokratis. Akibatnya, perusahaan lain, termasuk OpenAI, juga telah mengambil tindakan untuk menerapkan pagar pembatas menjelang pemilu.
