Foto pribadi anak-anak Brasil digunakan tanpa sepengetahuan atau persetujuan mereka untuk mengembangkan alat kecerdasan buatan (AI) yang canggih, menurut Lembaga Hak Asasi Manusia. Gambar-gambar ini dilaporkan dikumpulkan dari internet dan disusun menjadi kumpulan data ekstensif, yang digunakan perusahaan untuk meningkatkan teknologi AI mereka.

Akibatnya, alat-alat ini dikatakan digunakan untuk menghasilkan deepfake yang berbahaya, sehingga meningkatkan risiko eksploitasi dan membahayakan lebih banyak anak.

Hye Jung Han, peneliti hak-hak anak dan teknologi serta advokat Human Rights Watch mengatakan: “Anak-anak tidak boleh hidup dalam ketakutan bahwa foto mereka mungkin dicuri dan dijadikan senjata untuk melawan mereka.

“Pemerintah harus segera mengadopsi kebijakan untuk melindungi data anak-anak dari penyalahgunaan yang disebabkan oleh AI,” lanjutnya, sambil memperingatkan, “AI generatif masih merupakan teknologi yang baru lahir, dan dampak buruk yang dialami anak-anak tidak dapat dihindari.”

Ia menambahkan: “Melindungi privasi data anak-anak sekarang akan membantu membentuk pengembangan teknologi ini menjadi pengembangan yang mempromosikan, bukannya melanggar, hak-hak anak.”

Apakah gambar anak-anak digunakan untuk melatih AI?

Investigasi mengungkapkan bahwa LAION-5B, kumpulan data utama yang digunakan oleh aplikasi AI terkemuka dan dikumpulkan dengan merayapi sejumlah besar konten online, menyertakan tautan ke gambar anak-anak Brasil yang dapat diidentifikasi.

Gambar-gambar ini sering kali menyertakan nama anak-anak di keterangan atau URL tempat gambar tersebut dihosting. Dalam berbagai contoh, identitas anak-anak dapat dilacak, mengungkapkan rincian tentang waktu dan tempat pengambilan foto. Berdasarkan KABELini telah digunakan untuk melatih beberapa model AI, seperti alat pembuat gambar Difusi Stabil Stabilitas AI.

Human Rights Watch mengidentifikasi 170 gambar anak-anak di setidaknya 10 negara bagian Brasil termasuk Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina, dan São Paulo dari masa lalu. seperti pada pertengahan tahun 1990an. Angka ini kemungkinan hanya mewakili sebagian kecil dari data pribadi anak-anak di LAION-5B, karena hanya kurang dari 0,0001 persen dari 5,85 miliar gambar dan keterangan di kumpulan data yang ditinjau.

Organisasi tersebut mengklaim bahwa setidaknya 85 anak perempuan dari beberapa negara bagian Brazil telah menjadi sasaran pelecehan. Teman-teman sekelas mereka menyalahgunakan teknologi AI untuk membuat deepfake yang eksplisit secara seksual menggunakan foto-foto dari profil media sosial gadis-gadis tersebut dan kemudian mendistribusikan gambar-gambar yang dimanipulasi ini secara online.

LAION menanggapi klaim

Sebagai tanggapan, LAION, organisasi nirlaba AI Jerman yang mengawasi LAION-5B, mengakui bahwa kumpulan data tersebut menggunakan beberapa foto anak-anak yang diidentifikasi oleh Human Rights Watch dan berkomitmen untuk menghapusnya. Namun, mereka membantah bahwa model AI yang dilatih pada LAION-5B dapat menyalin data pribadi dengan tepat. LAION juga menyatakan bahwa anak-anak dan wali mereka bertanggung jawab untuk menghapus foto pribadi dari internet, dengan alasan bahwa ini adalah cara terbaik untuk mencegah penyalahgunaan.

Di bulan Desember, Observatorium Internet Universitas Stanford melaporkan bahwa LAION-5B berisi ribuan gambar yang diduga berisi pelecehan seksual terhadap anak. LAION mengambil kumpulan data secara offline dan merilis a penyataan mengatakan mereka “tidak memiliki kebijakan toleransi terhadap konten ilegal”.

ReadWrite telah menghubungi LAION dan Stability AI untuk memberikan komentar.

Gambar unggulan: Canva / Ideogram



Fuente

RELATED ARTICLESMORE FROM AUTHOR