Mencoba membedakan antara konten sintetis dan asli menjadi sulit karena kualitas gambar yang dihasilkan AI menjadi semakin realistis. Untuk membantu pengguna membuat perbedaan saat menggulir di TikTok, platform video pendek kini menambahkan dukungan untuk Kredensial Konten.
Juga: Generator gambar AI terbaik tahun 2024: Diuji dan ditinjau
Pada hari Kamis, TikTok diumumkan sekarang akan secara otomatis memberi label pada konten buatan AI (AIGC) yang diunggah ke platform yang memiliki Kredensial Konten yang melekat padanya. Saat menggulir, pengguna akan melihat “label yang dihasilkan AI” secara otomatis muncul pada konten yang memiliki Kredensial Konten yang menunjukkan bahwa konten tersebut dibuat oleh AI dalam metadatanya, seperti terlihat pada foto di bagian atas artikel.
“Konten yang dihasilkan oleh AI adalah saluran kreatif yang luar biasa, namun transparansi bagi pemirsa sangatlah penting. Dengan bermitra dengan rekan-rekan untuk memberi label pada konten di seluruh platform, kami memudahkan para pembuat konten untuk secara bertanggung jawab mengeksplorasi konten yang dihasilkan oleh AI sambil terus mencegah hal-hal berbahaya atau berbahaya. AIGC yang menyesatkan dan dilarang di TikTok,” kata Adam Presser, kepala operasi dan kepercayaan serta keamanan di TikTok.
Kredensial Konten, yang dikembangkan oleh Koalisi untuk Asal dan Keaslian Konten (C2PA), mengacu pada metadata anti-rusak yang berfungsi sebagai “label nutrisi” untuk bahan penting suatu konten, termasuk nama pembuat, alat yang digunakan untuk membuat konten ( seperti kamera atau program perangkat lunak), pengeditan yang dilakukan, dan lainnya.
Selain itu: Kode lebih cepat dengan AI generatif, namun waspadai risikonya
Kredensial ini dapat ditambahkan secara manual ke suatu konten oleh penulis secara gratis untuk memastikan kontennya diatribusikan dengan benar. Banyak aplikasi AI, seperti Adobe Firefly, yang secara otomatis menerapkan Kredensial Konten ke AIGC. Jika seseorang mencoba mengunggah konten yang dibuat menggunakan salah satu alat tersebut, TikTok akan secara otomatis memberi label untuk pengguna.
Tindakan keamanan ekstra ini memastikan konten yang dihasilkan AI diberi label dengan benar, meskipun orang yang mengunggah konten tidak mengungkapkannya sendiri. Langkah ini akan berguna pada platform video seperti TikTok ketika generator video canggih, termasuk Sora dari OpenAI, tersedia secara umum. Langkah keamanan ini mulai diterapkan pada pengguna hari ini dan akan diterapkan pada semua pengguna secara global dalam beberapa minggu mendatang.
Selain itu: Model Spec baru OpenAI mengungkapkan lebih banyak tentang bagaimana AI ingin berperilaku
Dalam beberapa bulan mendatang, TikTok juga akan melampirkan Kredensial ke konten TikTok, sehingga memungkinkan semua orang mengidentifikasi kapan AIGC dibuat di TikTok. Untuk menunjukkan komitmen lebih lanjut terhadap Kredensial Konten, TikTok juga telah bergabung dengan Inisiatif Keaslian Konten yang dipimpin Adobe.
Fitur Kredensial Konten dibangun berdasarkan praktik yang telah diterapkan TikTok untuk mengamankan praktik aplikasi yang aman, seperti melarang konten menyesatkan yang dihasilkan oleh AI dan memberi label pada AIGC yang dibuat dengan efek AI TikTok.
