Di hari Rabu, OpenAI merilis drafnya Lembar Spesifikasi Model yang merinci bagaimana model AI-nya akan berperilaku. Ada bagian yang berfokus pada konten NSFW yang memberikan kesan bahwa perusahaan sedang mencari cara untuk membuatnya saya mulaitetapi perusahaan mengatakan hal itu tidak terjadi.
“Kami tidak mempunyai niat untuk membuat pornografi yang dihasilkan oleh AI,” kata juru bicara OpenAI melalui email pada hari Kamis. “Kami memiliki perlindungan yang kuat pada produk kami untuk mencegah deepfake, hal yang tidak dapat diterima, dan kami memprioritaskan perlindungan anak-anak. Kami juga percaya akan pentingnya mengeksplorasi secara hati-hati percakapan tentang seksualitas dalam konteks yang sesuai dengan usia.”
Bagian yang membuat beberapa komentator percaya bahwa pornografi sedang dikerjakan di OpenAI berfokus pada konten NSFW. Perusahaan tersebut menulis bahwa modelnya tidak boleh melayani permintaan konten tidak pantas yang mencakup “erotika, adegan berdarah ekstrem, penghinaan, dan kata-kata kotor yang tidak diminta.” Namun, hal ini menekankan bahwa pengembang “menjajaki apakah kami dapat secara bertanggung jawab menyediakan kemampuan untuk menghasilkan konten NSFW dalam konteks sesuai usia melalui API dan ChatGPT.” Lembaran tersebut selanjutnya memberikan contoh konten NSFW yang pantas dan diperbolehkan seperti diminta menulis lirik lagu yang mengandung kata makian.
Pornografi AI, khususnya deepfake, telah menimbulkan banyak kontroversi dalam setahun terakhir. Taylor Swift menjadi sasaran gelombang non-konsensual gambar dewasa AI palsu menggunakan kemiripannya yang tersebar di media sosial pada bulan Januari. Bulan lalu, seorang wanita di negara bagian Washington berpartisipasi dalam situs lotere negara bagian, yang akhirnya menciptakan sebuah Foto telanjang dirinya yang dibuat oleh AI.
Gizmodo menghubungi Aylo, perusahaan induk Pornhub, untuk memberikan komentar tentang prospek OpenAI yang membuka pintu air bagi pornografi yang dihasilkan AI dan seorang juru bicara menulis bahwa perusahaan tersebut tidak menoleransi “materi non-konsensual apa pun di platform kami, termasuk deepfake. ”
“Dilarang melakukan manipulasi deepfake/AI terhadap gambar seseorang, baik dalam gambar atau video, untuk menciptakan ilusi bahwa orang tersebut berbicara atau bertindak dengan cara lain,” kata juru bicara tersebut melalui email. “Dalam semua kasus di mana kami mengidentifikasi atau mengetahui adanya konten yang melanggar kebijakan ini, tim Kepercayaan & Keamanan serta Moderasi kami bekerja dengan cepat untuk: Meninjau dan menghapus konten yang melanggar; mengambil sidik jari pada konten yang dipermasalahkan untuk membantu memblokir pengunggahan konten yang sama di masa mendatang ke situs kami; dan menangguhkan atau menghentikan secara permanen akun pengunggah terkait, jika diperlukan.”
