TikTok meningkatkan upayanya untuk secara otomatis memberi label pada konten yang dihasilkan AI di aplikasinya, meskipun aplikasi tersebut dibuat dengan alat pihak ketiga. Perusahaan rencana yang diumumkan untuk mendukung kredensial konten, semacam itu menunjukkan penggunaan AI generatif.
Aturan TikTok sudah mengharuskan pembuat konten membuat konten buatan AI yang “realistis”. Namun kebijakan tersebut mungkin sulit ditegakkan oleh perusahaan, terutama ketika pembuat konten menggunakan alat AI milik perusahaan lain. Tapi karena semakin banyak digunakan di industri AI, label otomatis baru TikTok seharusnya mampu mengatasi beberapa kesenjangan tersebut.
Sering digambarkan sebagai “label nutrisi untuk konten digital”, kredensial konten melampirkan “metadata anti-rusak” yang dapat melacak asal-usul suatu gambar dan alat AI yang digunakan untuk mengeditnya selama proses tersebut. Riwayat tersebut kemudian dapat dilihat oleh pengguna jika mereka menemukan konten buatan AI pada platform yang mendukung teknologi tersebut.
TikTok menyatakan bahwa mereka akan menjadi platform video pertama yang mendukung kredensial konten, meskipun perlu beberapa waktu sebelum label ini menjadi lazim karena banyak perusahaan baru mulai mendukung teknologi tersebut. (Google, Microsoft, OpenAI, dan Adobe semuanya berjanji untuk mendukung kredensial konten. Meta mengatakan bahwa mereka juga menggunakan standar tersebut untuk memberi label pada platformnya.)
Namun, perlu dicatat bahwa kredensial konten dan sistem lain yang mengandalkan metadata tidaklah mudah. Catatan OpenAI pada a bahwa teknologi tersebut “bukan solusi terbaik” dan bahwa metadata “dapat dengan mudah dihapus baik secara sengaja maupun tidak sengaja.” Label juga tidak akan efektif jika orang tidak mau membacanya. TikTok mengatakan pihaknya juga mempunyai rencana untuk mengatasi hal tersebut. Perusahaan ini telah bermitra dengan organisasi pengecekan fakta MediaWise dan organisasi hak asasi manusia Witness dalam serangkaian kampanye literasi media yang dimaksudkan untuk mengedukasi pengguna TikTok tentang label dan konten buatan AI yang “berpotensi menyesatkan”.
