Ini hampir terlalu bagus untuk menjadi kenyataan. Seorang dokter yang telah Anda lihat di TV selama beberapa dekade memberi tahu Anda tentang produk revolusioner baru di media sosial yang diharapkan perusahaan farmasi besar agar Anda tidak mengetahuinya dan yang dapat menyembuhkan penyakit Anda.
Namun, tidak semuanya seperti yang terlihat. Para penipu menggunakan teknologi AI untuk memalsukan video dokter TV terkenal seperti Hilary Jones, Michael Mosley, dan Rangan Chatterjee untuk memasarkan produk mereka ke masyarakat yang tidak menaruh curiga di media sosial.
Sebuah laporan baru yang diterbitkan dalam jurnal bergengsi Jurnal Medis Inggris (BMJ), memperingatkan meningkatnya popularitas apa yang disebut ‘deepfake’ karena penelitian menunjukkan setengah dari kita tidak lagi dapat membedakannya dari yang asli.
Deepfaking menggunakan AI untuk memetakan kemiripan digital manusia nyata ke dalam video tubuh yang bukan milik mereka.
Mereka telah digunakan untuk membuat video politisi agar mereka tampak tidak kompeten dan bahkan untuk pencurian perusahaan dan sekarang mereka digunakan untuk menjual ‘obat’ yang meragukan.
Beberapa klip yang ditemukan dalam investigasi tersebut termasuk klip mendiang Dr. Michael Mosley, yang meninggal bulan lalu di Yunani, yang tampak mempromosikan pengobatan diabetes di Facebook.
Video lain menampilkan Dr. Hilary Jones yang menggunakan suara robot dalam acara Lorraine di ITV yang tampaknya mengklaim obat tekanan darah dapat menyembuhkan masalah dalam delapan dari 10 kasus.
Video tersebut palsu dan tidak didukung oleh siapa pun yang penampilan dan suaranya telah diambil alih oleh penipu untuk menjual obat palsu yang meragukan.
Penipu semakin banyak menggunakan teknologi AI untuk memalsukan video dokter TV terkenal seperti Hilary Jones, Michael Moseley dan Rangan Chatterjee untuk mempromosikan produk mereka ke masyarakat yang tidak menaruh curiga di media sosial.
Klip yang dimodifikasi dari Dr. Hilary Jones yang muncul di acara Lorraine tampaknya menunjukkan dia menganjurkan jenis obat tekanan darah baru – tetapi klip tersebut sepenuhnya palsu, dibuat menggunakan AI
Dr. Jones merupakan satu-satunya dokter TV yang mengikuti tren ini, dengan video deepfake dirinya yang mendukung pengobatan tekanan darah tersebar di Facebook awal tahun ini.
Dan sebagaimana Dr. Jones sendiri ketahui, itu bukanlah satu-satunya contoh.
‘Beberapa produk yang saat ini dipromosikan menggunakan nama saya termasuk produk yang mengklaim dapat memperbaiki tekanan darah dan diabetes, serta permen karet rami dengan nama-nama seperti Via Hemp Gummies, Bouncy Nutrition, dan Eco Health,’ katanya.
Pakar kesehatan surat elektronik Dr. Mosley, yang meninggal bulan lalu di Yunani, dan Dr. Chatterjee dari Doctor In The House, juga digunakan untuk membuat klip semacam itu.
Meskipun teknologi yang digunakan untuk membuat deepfake telah ada selama bertahun-tahun, versi awalnya masih cacat dan sering membuat kesalahan pada telinga, jari, atau gagal mencocokkan audio dan gerakan bibir subjek, sehingga membuat orang waspada terhadap sifat penipuannya.
Namun, kini telah terjadi kemajuan besar, dan meskipun penelitiannya terbatas, data menunjukkan bahwa hingga setengah dari orang kini kesulitan membedakannya dari barang asli.
Dokter pensiunan John Cormack, yang bekerja dengan BMJ dalam pembuatan laporan tersebut, menggambarkan penipu yang memanfaatkan reputasi dokter yang disegani untuk menjajakan produk mereka sebagai ‘mencetak uang’.
‘Intinya, jauh lebih murah menghabiskan uang untuk membuat video daripada melakukan penelitian dan menghasilkan produk baru lalu memasarkannya dengan cara konvensional,’ katanya.
Regulator juga tampaknya tidak berdaya menghentikan tren tersebut.
Dokter yang berpraktik di Inggris harus terdaftar di Dewan Medis Umum yang dapat memberhentikan mereka dari bekerja atau bahkan memecat mereka sepenuhnya jika seorang dokter kedapatan melanggar standar yang diharapkan dari seorang tenaga medis.
Suara dan rupa mendiang Dr. Michael Mosley telah dieksploitasi secara kejam oleh para penipu yang mencoba menjual obat diabetes palsu melalui video deepfake
Dalam contoh ini, versi palsu dari Dr. Mosley digunakan untuk mempromosikan obat yang meragukan kepada penderita diabetes.
Dr Mosley yang dihasilkan oleh AI bahkan menganjurkan orang untuk ‘melupakan insulin’ atau bentuk pengobatan diabetes standar lainnya
Akan tetapi, mereka tidak memiliki kewenangan untuk bertindak atas video palsu dokter dan meskipun menyamar sebagai dokter merupakan kejahatan di Inggris, dunia internet yang tidak jelas membuat pelacakan siapa yang harus dimintai pertanggungjawaban menjadi hampir mustahil, terutama jika mereka berdomisili di luar negeri.
Sebaliknya, pakar medis seperti dr. Jones mengatakan bahwa raksasa media sosial yang menjadi tuan rumah konten ini, dan akhirnya menghasilkan uang dengan melakukannya, yang perlu mengambil tindakan.
“Tugas yang harus dilakukan oleh perusahaan seperti Meta, perusahaan pemilik Facebook dan Instagram, untuk menghentikan hal ini terjadi,” katanya.
“Tetapi mereka tidak berminat melakukan hal itu selagi mereka menghasilkan uang.”
Menanggapi laporan BMJ, juru bicara Meta mengatakan: Kami akan menyelidiki contoh-contoh yang disorot oleh BMJ.
‘Kami tidak mengizinkan konten yang secara sengaja menipu atau berupaya menipu orang lain, dan kami terus berupaya meningkatkan deteksi dan penegakan hukum.’
‘Kami menghimbau siapa pun yang melihat konten yang mungkin melanggar kebijakan kami untuk melaporkannya sehingga kami dapat menyelidikinya dan bertindak.’
Saat ini petugas medis seperti dr. Jones harus mengambil tindakan sendiri.
Dr Jones, yang sering menjadi tamu di acara seperti Lorraine , mempekerjakan sebuah perusahaan untuk melacak deepfake yang menampilkan dirinya dan mencoba menghapusnya dari internet.
Namun ia menambahkan skala masalah ini tampaknya semakin memburuk.
‘Terjadi peningkatan besar dalam aktivitas semacam ini,’ katanya.
“Sekalipun dihapus, mereka akan muncul kembali keesokan harinya dengan nama yang berbeda.”
Laporan itu diakhiri dengan mengatakan bahwa yang membuat deepfake begitu berbahaya adalah cara mereka mempermainkan kepercayaan orang-orang, memanfaatkan wajah yang dikenal yang di masa lalu telah menawarkan nasihat kesehatan yang baik dan terkadang mengubah hidup untuk menipu pasien yang khawatir.
Dr Rangan Chatterjee dari film dokumenter BBC Doctor In The House juga ikut terseret dalam tren ini
Di luar dunia kedokteran, kemiripan ahli penganggaran Martin Lewis telah digunakan oleh para penipu untuk menganjurkan investasi yang meragukan – mendorong Tn. Lewis sendiri untuk memberi tahu orang-orang agar tidak tertipu.
Orang-orang yang melihat video yang mereka curigai sebagai deepfake disarankan untuk memeriksanya terlebih dahulu dengan saksama guna menghindari skenario seperti “orang yang berteriak serigala”.
Jika mereka masih curiga, cobalah menghubungi secara independen orang yang diklaim ada dalam video tersebut melalui akun yang terverifikasi, misalnya.
Jika masih mencurigakan, pertimbangkan untuk meninggalkan komentar dan mempertanyakan kebenarannya dengan harapan dapat membuat orang lain juga mengambil langkah analisis ekstra.
Orang juga dapat menggunakan alat pelaporan bawaan media sosial untuk menandai video dan orang yang mengeposkannya dalam upaya untuk menghapusnya.
