Polisi Kabupaten Baltimore menangkap mantan direktur atletik Sekolah Menengah Pikesville pada hari Kamis, dengan tuduhan dia menggunakan Klon suara AI untuk menyamar sebagai kepala sekolah, membuat masyarakat percaya bahwa Kepala Sekolah Eric Eiswert telah membuat komentar rasis dan antisemit, menurut Spanduk Baltimore.
Dazhon Darien dihentikan di bandara Baltimore pada Kamis pagi saat mencoba menaiki penerbangan ke Houston dengan membawa senjata, menurut Banner. Penyelidik menetapkan Darien memalsukan suara Eiswert menggunakan alat kloning AI. Itu Rekaman suara AIyang beredar luas di media sosial, melontarkan komentar yang meremehkan mahasiswa kulit hitam dan komunitas Yahudi.
“Berdasarkan penyelidikan ekstensif, detektif sekarang memiliki bukti yang meyakinkan bahwa rekaman itu tidak asli,” kata Kepolisian Baltimore County dalam sebuah pernyataan. jumpa pers. “Sebagai bagian dari penyelidikan mereka, detektif meminta analis forensik yang dikontrak FBI untuk menganalisis rekaman tersebut. Hasil analisis tersebut menunjukkan bahwa rekaman tersebut mengandung jejak konten yang dihasilkan AI.”
Deepfake ini dilaporkan menyebabkan kemarahan publik yang menyebabkan Kepala Sekolah Eiswert menerima gelombang pesan kebencian dan memaksanya dikeluarkan sementara dari sekolah. Meja depan sekolah dibanjiri telepon dari orang tua yang prihatin. Distrik sekolah Pikesville akhirnya mengatur kehadiran polisi di sekolah dan rumah Eiswert untuk memulihkan rasa aman.
Pejabat Kepolisian Baltimore mengatakan mantan direktur atletik membuat rekaman AI untuk membalas kepala sekolah. Sebulan sebelum rekaman itu menjadi viral, The Banner melaporkan bahwa Eiswert melancarkan penyelidikan terhadap Darien atas potensi pencurian dana sekolah. Darien mengizinkan pembayaran $1.916 kepada pelatih bola basket JV sekolah, yang juga teman sekamarnya, melewati prosedur yang benar. Darien mengajukan pengunduran dirinya pada awal April, menurut dokumen sekolah.
Polisi mengatakan Darien adalah orang pertama dari tiga guru yang menerima klip audio tersebut pada malam sebelum video tersebut menjadi viral. Spanduk melaporkan guru lain yang menerima rekaman tersebut mengirimkannya ke siswa, media, dan NAACP. Polisi menulis dalam dokumen tuntutan bahwa Darien menggunakan jaringan sekolah untuk mencari alat OpenAI dan menggunakan model bahasa besar pada beberapa kesempatan. Namun, banyak orang yang menggunakan alat AI ini saat ini. Saat ini masih belum jelas bagaimana penyelidik dapat menentukan Darien sebagai pembuat rekaman suara tersebut.
Penciptaan deepfake audio yang dihasilkan oleh AI merupakan masalah yang semakin besar yang dihadapi dunia teknologi. Komisi Komunikasi Federal mengambil langkah-langkah pada bulan Februari untuk melarang robocall deepfake setelah a Deepfake Joe Biden menyesatkan pemilih di New Hampshire.
Dalam kasus ini, pakar AI dapat mengidentifikasi dugaan audio kepala sekolah Baltimore itu palsu. Namun, hal ini terjadi dua bulan setelah audio tersebut menjadi viral, dan kerusakan mungkin sudah terjadi. Deepfake AI memang perlu dihentikan sejak dini untuk meminimalkan dampak buruk, namun hal ini lebih mudah diucapkan daripada dilakukan.
