170 foto anak-anak dari negara bagian seperti Alagoas, Bahia, Ceará, antara lain, ditemukan — tidak semua foto di lokasi tersebut ditinjau
Human Rights Watch merilis, Senin ini (10), sebuah survei yang mengkhawatirkan tentang penggunaan tidak sah foto anak-anak Brasil untuk melatih alat keamanan. kecerdasan buatan (AI).
Menurut laporan tersebut, gambar yang diambil dari web diubah menjadi kumpulan data yang disebut LAION-5B, yang digunakan oleh perusahaan untuk mengembangkan teknologi AI mereka. Foto-foto ini sering digunakan untuk membuat deepfakes jahatmengekspos anak-anak terhadap risiko eksploitasi dan kerusakan yang signifikan.
“Anak-anak tidak boleh hidup dalam ketakutan bahwa foto mereka akan dicuri dan digunakan sebagai senjata untuk melawan mereka,” kata Hye Jung Han, peneliti hak-hak anak dan teknologi di Human Rights Watch, dalam siaran persnya.
Pencarian
Analisis mengungkapkan bahwa LAION-5B berisi tautan ke foto-foto anak-anak Brasil yang dapat diidentifikasi, dengan informasi pribadi yang mudah dilacak, termasuk nama dan lokasi tepatnya. Dalam salah satu foto, misalnya, terungkap nama dua saudara perempuan dan lokasi rumah sakit tempat salah satu dari mereka dilahirkan.
Ditemukan 170 foto anak-anak dari negara bagian seperti Alagoas, Bahia, Ceará, namun jumlah ini mewakili sebagian kecil dari total, karena kurang dari 0,0001% dari 5,85 miliar gambar dalam kumpulan data yang ditinjau. Foto-foto tersebut memuat momen mesra, mulai dari bayi baru lahir hingga remaja di pesta sekolah.
HRW menyoroti bahwa model AI yang dilatih berdasarkan data ini dapat membocorkan informasi pribadi dengan mereproduksi foto dan membuat klon digital anak-anak yang meyakinkan, yang sering kali digunakan untuk membuat konten eksplisit dan tidak senonoh. palsu.
LAION, yang bertanggung jawab atas kumpulan data tersebut, berkomitmen untuk menghapus foto-foto tersebut, namun berpendapat bahwa tanggung jawab untuk melindungi gambar-gambar ini harus berada di tangan anak-anak dan wali mereka.
Laporan ini menekankan pentingnya kebijakan untuk melindungi data anak-anak dari penyalahgunaan AI.
“Melindungi privasi data anak-anak saat ini akan membantu dalam membentuk perkembangan teknologi ini menjadi teknologi yang mengedepankan, bukan melanggar, hak-hak anak,” pungkas Han.
