Meta merilisnya sendiri Generator gambar bertenaga AI kembali pada bulan Desember disebut Bayangkan. Seperti pembuat gambar lain sejenisnya, Imagine sepertinya mempunyai permasalahan rasial yang sangat aneh. Yakni, aplikasi tersebut sepertinya tidak bisa membayangkan sebuah dunia di mana pria Asia bisa bersama wanita kulit putih.
Izinkan saya menjelaskan: The Verge adalah orang pertama yang menyadarinya bahwa pembuat gambar Meta sepertinya tidak mampu menghasilkan gambar perempuan kulit putih dan laki-laki Asia secara bersamaan. Jurnalis Mia Sato menggambarkan usahanya yang sia-sia untuk menghasilkan gambaran antar-ras tersebut. Memang benar, saat mencoba “puluhan kali membuat gambar menggunakan” berbagai perintah, Sato mencatat bahwa dia hanya berhasil sekali.
Kami melakukan tes kami sendiri dan kurang beruntung. Dari eksperimen pribadi saya dengan pembuat gambar, pada dasarnya tidak mungkin mendapatkan aplikasi untuk membuat gambar wanita kulit putih dan pria Asia secara bersamaan. Saya mencoba setiap kombinasi petunjuk yang dapat saya pikirkan dan hanya berhasil menciptakan gambaran seorang pria Asia dan seorang wanita Asia bersama-sama. Pasangan antar-ras lainnya dapat dengan mudah dihasilkan, termasuk pria kulit hitam dan wanita kulit putih, pria kulit putih dan wanita Asia, serta wanita kulit putih dan pria Timur Tengah, namun jika menyangkut pria Asia, mereka tampaknya kurang beruntung.
Meskipun pembuat gambar gagal menghasilkan gambar wanita kulit putih dan pria Asia secara bersamaan, generator gambar tersebut berhasil merespons permintaan lain yang jauh lebih aneh, seperti ketika saya memintanya untuk menunjukkan kepada saya seekor anjing yang berteman dengan robot.
Atau seekor ikan yang kecanduan judi:
Hal ini mengikuti jejak a skandal serupa yang sedikit lebih buruk melibatkan Google, di mana pembuat gambar Gemini milik perusahaan tidak dapat menghasilkan gambar orang kulit putih yang konsisten. Aplikasi ini juga menghasilkan banyak gambar yang secara historis tidak akurat, termasuk Black Vikings dan Black Nazis. Google akhirnya harus menghentikan sementara platform tersebut dan berjanji untuk mengembalikannya setelah bug teratasi.
Para influencer media sosial sayap kanan diperkirakan telah melompati tren ini untuk mendukung komentar-komentar yang lebih besar dan membawa bencana mengenai ideologi liberal yang berlebihan. Saya tidak akan ikut serta dalam hal itu tetapi, sejujurnya, apa yang menyebabkannya? Bagaimana ini bisa terjadi? Mengapa perusahaan-perusahaan ini sangat buruk dalam menciptakan platform yang menangani ras? Apakah ini aksi pemasaran yang buruk? Apakah kita semua sedang di-punk? Apa yang terjadi?
Gizmodo menghubungi Meta untuk mendapatkan informasi lebih lanjut tentang mengapa aplikasinya bermasalah dan akan memperbarui cerita ini jika merespons.
