Alvin Bragg, Jaksa Wilayah Manhattan, ingin bertemu dengan CEO YouTube Neal Mohan untuk membahas mengapa situs web mengizinkan pengeposan video tentang cara membuat “senjata hantu” dan mengapa algoritmenya mendorong video tersebut ke pemirsa di bawah umur yang menonton konten video game. Senjata hantu adalah senjata api yang dirakit menggunakan komponen atau komponen cetakan 3D yang dibeli sebagai kit. Itu berarti mereka tidak memiliki nomor seri, sehingga hampir mustahil untuk dilacak, dan tidak memerlukan pemeriksaan latar belakang apa pun untuk mendapatkannya.
Di sebuah surat dikirim ke Mohan (PDF) meminta pertemuan, Bragg merujuk pada penelitian yang dilakukan oleh Proyek Transparansi Teknologi pada tahun 2023, yang kemudian membuat empat akun YouTube percobaan dan memberi mereka profil anak laki-laki berusia 14 tahun dan 9 tahun. Rupanya, setelah memutar setidaknya 100 video game, algoritme YouTube mulai merekomendasikan video instruksional tentang cara membuat senjata hantu. Tidak masalah jika mereka hanya menonton, katakanlah, Panggilan tugas video gameplay dan belum pernah berinteraksi dengan konten apa pun yang menampilkan senjata asli. YouTube masih memasukkan konten senjata asli ke akun mereka, serta video terkait kekerasan lainnya, seperti penembakan di sekolah dan pembunuhan berantai, meskipun video tersebut dianggap sebagai anak di bawah umur. Bragg juga meminta perhatian YouTube pada fakta bahwa tidak ada cara bagi wali untuk menonaktifkan rekomendasi situs web dalam kontrol orang tua.
Banyak anak muda yang diselidiki atas kepemilikan senjata di New York City mengatakan bahwa mereka belajar cara membuat senjata hantu dari YouTube, tulis Bragg. Meskipun situs web tersebut menghapus video-video tersebut ketika mereka ditandai oleh kelompok keamanan senjata, DA mengatakan bahwa YouTube harus lebih proaktif dalam menghapusnya, harus memastikan video-video tersebut diblokir agar tidak dapat diunggah di masa mendatang, dan harus menyediakan cara bagi pemirsa untuk menonaktifkannya. rekomendasi. Apalagi situs tersebut memang memiliki kebijakan yang melarang pengunggahan video yang bertujuan untuk menjual senjata api atau untuk memberikan petunjuk kepada pemirsa tentang cara membuatnya. YouTube memberi tahu Berita Harian New York dalam pernyataan bahwa pihaknya akan “meninjau dengan cermat” video yang dibagikan oleh DA Manhattan dengan perusahaan tersebut dan tetap berkomitmen untuk “menghapus konten apa pun yang melanggar [its] kebijakan.”
