Singapura telah mengusulkan undang-undang baru untuk melarang penggunaan konten yang dimanipulasi secara digital, khususnya deepfake, selama pemilu.
Langkah hukum baru ini akan menjaga “integritas dan kejujuran representasi” selama pemilu, kata Kementerian Pengembangan Digital dan Informasi (MDDI) dalam sebuah pernyataan. penyataan pada hari Senin. RUU tersebut diajukan ke parlemen dan akan diajukan untuk pembacaan kedua pada sidang berikutnya.
Tujuannya adalah untuk menyediakan undang-undang baru guna melindungi penduduk lokal dari konten yang dimanipulasi secara digital, termasuk audio, video, dan gambar yang dihasilkan oleh kecerdasan buatan (AI), atau dikenal sebagai deepfake.
Juga: Bisnis masih siap berinvestasi pada Gen AI, dengan manajemen risiko sebagai prioritas utama
Kemajuan dalam teknologi AI generatif (Gen AI) telah membuka peluang, tetapi juga menghadirkan risiko informasi, dengan pelaku kejahatan memanfaatkannya untuk membuat dan menyebarkan misinformasi, kata MDDI. Hal ini menunjukkan peningkatan deepfake berbahaya yang digunakan dalam penipuan dan pemerasan di Singapura.
Meskipun kebohongan daring dapat ditangani melalui Undang-Undang Perlindungan dari Kebohongan dan Manipulasi Daring yang berlaku di negara tersebut, “pengungkit yang ditargetkan” diperlukan berdasarkan Undang-Undang Periklanan Pemilu Daring untuk mengatasi deepfake yang salah menggambarkan kandidat, kata kementerian tersebut. Undang-undang yang terakhir mendefinisikan konten apa pun yang dapat diakses daring yang dapat “secara wajar” dianggap mempromosikan atau meningkatkan kedudukan partai politik atau kandidat atau merugikan prospek elektoral partai politik atau kandidat lainnya.
Jika tidak ditangani, deepfake dapat membahayakan integritas proses pemilu Singapura, kata MDDI. MDDI menambahkan bahwa pemilih harus dapat membuat keputusan berdasarkan fakta, bukan misinformasi.
Juga: Kecerdasan buatan, kecemasan nyata: Mengapa kita tidak bisa berhenti khawatir dan mencintai AI
Langkah legislatif yang diusulkan akan melarang penerbitan iklan pemilu daring yang dibuat atau dimanipulasi secara digital yang “menggambarkan secara realistis” kandidat mengatakan atau melakukan sesuatu yang tidak mereka katakan atau lakukan. Ini termasuk konten yang menggunakan teknik AI dan non-AI, seperti penyuntingan melalui penyuntingan foto, sulih suara, atau penyambungan.
Langkah-langkah baru ini hanya akan berlaku untuk iklan pemilu daring yang menampilkan individu yang mencalonkan diri sebagai kandidat dalam pemilu.
Undang-undang yang diusulkan akan memungkinkan dikeluarkannya arahan korektif kepada individu yang menerbitkan konten tersebut serta platform media sosial, untuk menghapus konten yang menyinggung. Arahan juga dapat dikirimkan ke penyedia layanan internet untuk menonaktifkan akses pengguna Singapura ke konten tersebut selama periode pemilihan.
Kegagalan untuk mematuhi arahan korektif telah dianggap sebagai pelanggaran dan dapat dihukum dengan denda, penjara, atau keduanya jika terbukti bersalah.
RUU tersebut juga akan memungkinkan kandidat untuk mengajukan permintaan agar konten dinilai untuk potensi pelanggaran dan arahan korektif dikeluarkan sesuai dengan itu. Kandidat yang telah disalahartikan oleh konten tersebut dapat membuat pernyataan untuk membuktikan kebenaran klaim mereka, kata MDDI.
Kementerian mengatakan bahwa akan melanggar hukum bagi kandidat untuk secara sengaja membuat pernyataan palsu atau menyesatkan dalam permintaan mereka mengenai konten yang dimaksud. Kementerian menambahkan bahwa denda atau hukuman lain dapat dijatuhkan jika kandidat terbukti melakukan praktik tersebut.
Juga: Bisakah pemerintah mengubah omongan tentang keselamatan AI menjadi tindakan?
Pemerintah Singapura juga berencana untuk memperkenalkan kode praktik yang mewajibkan penyedia media sosial tertentu untuk menerapkan langkah-langkah guna mencegah dan memerangi penggunaan konten yang dimanipulasi secara digital di platform mereka.
Rinciannya akan ditetapkan dalam beberapa bulan mendatang, dengan diskusi yang akan dilakukan antara regulator dan operator media sosial, kata MDDI.
“Selain pemilu, deepfake dan bentuk konten yang dimanipulasi lainnya dapat menimbulkan bahaya serius bagi pengguna daring,” katanya. “Pembuat dan distributor konten yang dihasilkan AI memiliki tanggung jawab untuk membina ruang informasi yang aman, baik selama maupun di luar pemilu.”
Juga: Bagaimana Singapura menciptakan AI yang lebih inklusif
Singapura diperkirakan akan menyelenggarakan pemilihan umum awal tahun depan atau sebelum November 2025.
Korea Selatan mengadopsi larangan selama 90 hari tentang penggunaan deepfake dalam konten kampanye politik untuk pemilihan legislatif April 2024.
