Departemen Kehakiman AS telah mengungkapkan bahwa mereka telah mengambil tindakan untuk menghentikan operasi informasi canggih yang didukung oleh AI, yang kabarnya diatur oleh Rusia. Menurut departemen tersebut, operasi tersebut melibatkan hampir 1.000 akun di platform sosial X, yang menggunakan identitas Amerika.
Operasi tersebut dikatakan terkait dengan jaringan RT News milik pemerintah Rusia dan dikelola oleh dinas keamanan federal negara tersebut. Tujuan di balik ini adalah untuk “menyebarkan disinformasi untuk menimbulkan perpecahan di Amerika Serikat dan di tempat lain,” menurut dokumen pengadilan.
Departemen Kehakiman hari ini mengumumkan penyitaan dua nama domain dan penggeledahan 968 akun media sosial yang digunakan oleh para pelaku Rusia untuk membuat ladang bot media sosial yang disempurnakan dengan AI yang menyebarkan disinformasi di Amerika Serikat dan luar negeri. Pelajari selengkapnya: foto.twitter.com/apWv6rGRYL
—FBI (@FBI) 9 Juli 2024
Akun-akun X ini diduga dibuat untuk menyebarkan propaganda pro-Rusia. Namun, akun-akun ini tidak dioperasikan oleh manusia, melainkan oleh “bot” otomatis. RT, yang sebelumnya dikenal sebagai Russia Today, menyiarkan dalam bahasa Inggris dan bahasa-bahasa lainnya dan secara signifikan lebih berpengaruh secara daring daripada melalui metode penyiaran tradisional.
Inisiatif operasi bot ini dilaporkan bermula dari wakil pemimpin redaksi RT pada tahun 2022 dan mendapat dukungan serta pendanaan dari seorang pejabat di Dinas Keamanan Federal, penerus utama KGB. Departemen Kehakiman juga mengambil alih dua situs web yang berperan penting dalam mengelola akun bot dan memaksa X untuk menyerahkan detail pada 968 akun yang diyakini sebagai bot.
Robot Rusia menggunakan AI
FBI, bersama dengan pejabat intelijen Belanda dan pejabat keamanan siber Kanada, memperingatkan tentang “Perbaikan,” sebuah alat yang mampu menciptakan “persona media sosial yang tampak autentik secara massal.” Alat ini juga dapat menghasilkan teks dan gambar, serta menyebarkan disinformasi dari bot lain.
Dokumen pengadilan mengungkapkan bahwa AI digunakan untuk membuat akun guna menyebarkan sentimen anti-Ukraina.
“Tindakan hari ini merupakan yang pertama dalam menggagalkan pertanian bot media sosial berbasis AI generatif yang disponsori Rusia,” kata Direktur FBI Christopher Wray.
“Rusia bermaksud menggunakan ladang bot ini untuk menyebarkan disinformasi asing yang dihasilkan AI, memperluas upaya mereka dengan bantuan AI untuk melemahkan mitra kami di Ukraina dan memengaruhi narasi geopolitik yang menguntungkan pemerintah Rusia,” imbuh Wray.
Akun-akun tersebut telah dihapus oleh X, dan tangkapan layar yang diberikan oleh penyelidik FBI menunjukkan bahwa akun-akun tersebut hanya memiliki sedikit pengikut.
Memalsukan identitas Amerika
Itu Washington Post melaporkan celah besar yang memungkinkan bot untuk melewati langkah-langkah keamanan X. Menurut outlet berita tersebut, mereka “dapat menyalin-menempel OTP dari akun email mereka untuk masuk.” Departemen Kehakiman melaporkan bahwa penggunaan nama domain berbasis AS oleh operasi ini merupakan pelanggaran terhadap Undang-Undang Kekuatan Ekonomi Darurat Internasional. Selain itu, transaksi keuangan yang mendukung operasi ini melanggar undang-undang pencucian uang federal AS.
Banyak dari profil palsu ini menyalin identitas warga Amerika, menggunakan nama-nama yang terdengar seperti nama Amerika dan mencantumkan lokasi di seluruh AS pada X. Departemen Kehakiman menunjukkan bahwa profil-profil ini umumnya menampilkan foto wajah dengan latar belakang abu-abu, yang tampaknya dibuat menggunakan AI.
Misalnya, profil dengan nama Ricardo Abbott, yang mengaku berasal dari Minneapolis, menyebarkan video Presiden Rusia Vladimir Putin yang membela keterlibatan Rusia di Ukraina. Profil lain, bernama Sue Williamson, membagikan video Putin yang menjelaskan bahwa konflik di Ukraina bukan tentang wilayah, tetapi tentang “prinsip-prinsip yang akan menjadi dasar Tatanan Dunia Baru.” Posting-posting ini kemudian disukai dan dibagikan oleh sesama bot dalam jaringan tersebut.
Rincian lebih lanjut dari Departemen Kehakiman mengungkapkan bahwa akun email yang terhubung dapat dibuat jika pengguna memiliki domain internet. Misalnya, kontrol atas domain www.example.com memungkinkan alamat email seperti [email protected] untuk dibuka.
Dalam kasus ini, para pelaku mengelola dan menggunakan nama domain “mlrtr.com” dan “otanmail.com”, yang keduanya terdaftar melalui layanan berbasis di AS, untuk membuat server email yang mendukung pembuatan akun media sosial palsu melalui teknologi bot farm mereka.
Gambar unggulan: Canva / Ideogram
