OpenAI kembali mendapat keluhan, setelah kelompok advokasi NOYB menuduhnya gagal mengoreksi informasi tidak akurat yang disebarkan oleh chatbot AI ChatGPT, sehingga berpotensi melanggar peraturan privasi UE.
Berdasarkan ReutersNOYB melaporkan bahwa pelapor dalam kasusnya, seorang tokoh masyarakat, menanyakan tentang hari ulang tahunnya melalui ChatGPT tetapi berulang kali menerima informasi yang salah alih-alih diberitahu oleh chatbot bahwa mereka tidak memiliki data yang diperlukan.
Kelompok tersebut juga menyatakan bahwa perusahaan yang didukung Microsoft menolak permintaan pelapor untuk memperbaiki atau menghapus data, mengklaim bahwa koreksi data tidak mungkin dilakukan, dan gagal memberikan rincian apa pun mengenai data yang diproses, sumbernya, atau penerimanya.
NOYB melaporkan bahwa mereka telah mengajukan keluhan kepada otoritas perlindungan data Austria, mendesak penyelidikan terhadap praktik pemrosesan data OpenAI dan langkah-langkah yang diambil untuk menjamin keakuratan data pribadi yang dikelola oleh model bahasa perusahaan yang luas.
Maartje de Graaf, pengacara perlindungan data NOYB, mengatakan dalam sebuah pernyataan: “Jelas bahwa perusahaan saat ini tidak dapat membuat chatbot seperti ChatGPT mematuhi hukum UE, saat memproses data tentang individu.
“Jika suatu sistem tidak dapat memberikan hasil yang akurat dan transparan, maka sistem tersebut tidak dapat digunakan untuk menghasilkan data tentang individu. Teknologinya harus mengikuti persyaratan hukum, bukan sebaliknya,” ujarnya.
Di masa lalu, OpenAI telah mengakui bahwa ChatGPT “terkadang menulis jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal.” Namun, pihaknya mengatakan pihaknya berupaya untuk memperbaiki masalah yang “menantang” ini.
Bagaimana chatbot yang ‘berhalusinasi’ dapat memengaruhi peraturan GDPR
Beberapa contoh “halusinasi” chatbot pertama kali dilaporkan pada April 2023. Fenomena ini terjadi ketika chatbot dan/atau orang melihat sesuatu yang sebenarnya tidak ada. Namun, hal ini juga menempatkan teknologi tersebut pada potensi bertabrakan dengan Peraturan Perlindungan Data Umum (GDPR) Uni Eropa, yang mengatur pemrosesan data pribadi bagi pengguna di wilayah tersebut.
Untuk pelanggaran berat, perusahaan dapat didenda hingga 20 juta euro atau hingga 4 persen dari total omzet global dari tahun fiskal sebelumnya, mana saja yang lebih tinggi. Otoritas perlindungan data juga mempunyai wewenang untuk memaksakan perubahan dalam cara pemrosesan informasi, yang berarti bahwa GDPR dapat merevisi cara kerja AI generatif di UE.
Pada bulan Januari, ChatGPT OpenAI juga dituduh melanggar aturan privasi oleh regulator Italia sebagai tindak lanjut dari penyelidikan tahun lalu yang mencakup larangan singkat terhadap aplikasi tersebut.
Gambar unggulan: Canva
