Sebagian besar perusahaan tengah berjuang untuk memindahkan proyek kecerdasan buatan generatif (Gen AI) mereka dari tahap awal ke tahap produksi, menurut laporan oleh raksasa konsultan Deloitte.
“70% responden mengatakan organisasi mereka telah memindahkan 30% atau kurang dari eksperimen AI Generatif mereka ke produksi,” menurut penulis utama Jim Rowan dan tim dalam angsuran terbaru dari ‘Keadaan AI Generatif di Perusahaan‘ seri laporan.
Juga: Perusahaan menggandakan upaya penerapan Gen AI mereka, kata survei Bloomberg
Kurangnya kemajuan dalam produksi kontras dengan kesibukan aktivitas seputar teknologi tersebut. “Dua dari tiga organisasi yang disurvei mengatakan bahwa mereka meningkatkan investasi mereka dalam Generative AI karena mereka telah melihat nilai awal yang kuat hingga saat ini,” lapor Rowan dan tim.
Tantangan dalam memindahkan proyek Gen AI dari tahap pembuktian konsep ke tahap produksi adalah apa yang Rowan dan tim sebut sebagai “berusaha untuk meningkatkan skala”.
Survei yang dilakukan antara bulan Mei dan Juni ini menerima tanggapan dari 2.770 responden dari tingkat direktur hingga petinggi di enam industri dan 14 negara. Survei ini juga mencakup tanggapan wawancara dari 25 orang yang diwawancarai, yang merupakan eksekutif petinggi dan pemimpin AI serta ilmu data di berbagai organisasi besar.
Penelitian ini menunjukkan “berbagai alasan” mengapa perusahaan kesulitan untuk meningkatkan Gen AI. Secara umum, organisasi “belajar melalui pengalaman bahwa penerapan Generative AI skala besar dapat menjadi tantangan yang sulit dan memiliki banyak sisi,” demikian pernyataan laporan tersebut.
Alasan mengapa perusahaan kesulitan untuk meningkatkan Gen AI menjadi lebih jelas ketika Rowan dan tim meminta responden survei untuk menilai kapabilitas yang menurut mereka “sangat siap” bagi organisasi mereka. Kurang dari setengah responden merasa organisasi mereka sangat siap untuk kapabilitas yang paling mendasar.
Rata-rata, 45% responden mengatakan mereka sangat siap dalam hal “infrastruktur teknologi,” dan 41% mengatakan mereka menganggap organisasi sangat siap untuk “manajemen data”.
Tanggapan menunjukkan bahwa area yang paling tidak siap adalah “strategi”, dengan 37% merasa perusahaan mereka sangat siap, diikuti oleh “risiko dan tata kelola” dan “bakat”, dengan hanya sekitar seperlima responden yang menyatakan kesiapan di setiap area.
Juga: Gartner mengatakan sepertiga dari semua proyek AI Generasi akan ditinggalkan
Beberapa pernyataan kualitatif oleh para eksekutif yang diwawancarai mengungkapkan lebih detail di mana letak kurangnya kesiapan tersebut. Misalnya, seorang mantan wakil presiden bidang data dan intelijen untuk sebuah perusahaan media memberi tahu Rowan dan tim bahwa “tantangan penskalaan terbesar” bagi perusahaan “sebenarnya adalah jumlah data yang dapat kami akses dan kurangnya kematangan manajemen data yang tepat.”
Eksekutif tersebut melanjutkan: “Tidak ada katalog data formal. Tidak ada metadata formal dan pelabelan titik data di seluruh perusahaan. Kami hanya dapat bergerak secepat kami dapat memberi label pada data.”
Rowan dan tim menyarankan dalam laporan bahwa kualitas data menghambat banyak perusahaan: “Masalah terkait data telah menyebabkan 55% organisasi yang kami survei menghindari kasus penggunaan AI Generatif tertentu.”
Survei menunjukkan masalah tata kelola mencakup risiko AI yang melekat dan risiko regulasi. Di satu sisi, perusahaan bergulat dengan “risiko baru dan yang muncul yang khusus untuk alat dan kemampuan baru” yang tidak seperti risiko dari teknologi sebelumnya. Risiko tersebut mencakup kekurangan Gen AI yang sekarang terkenal, seperti “bias model, halusinasi, masalah privasi baru, kepercayaan, dan perlindungan permukaan serangan baru”.
Juga: 5 cara CIO dapat mengelola permintaan bisnis untuk AI generatif
Ketidakpastian tentang peraturan baru juga menyebabkan perusahaan berhenti sejenak dan berpikir, Rowan dan tim menyatakan dalam laporan tersebut: “Organisasi sangat tidak yakin tentang lingkungan peraturan yang mungkin ada di masa mendatang (tergantung pada negara tempat mereka beroperasi).”
Menanggapi kedua masalah tersebut, perusahaan menerapkan berbagai strategi, menurut temuan Rowan dan tim. Strategi ini meliputi: “mematikan akses ke perangkat AI Generatif tertentu untuk staf”; “menetapkan pedoman untuk mencegah staf memasukkan data organisasi ke LLM publik”; dan “membangun taman bertembok di cloud pribadi dengan perlindungan untuk mencegah kebocoran data ke cloud publik.”
Kurangnya penskalaan untuk proyek Gen AI kontras dengan studi terbaru lainnya yang menunjukkan niat kuat untuk menerapkan teknologi baru. Misalnya, laporan Bloomberg Intelligence terbaru tentang AI menemukan bahwa tingkat perusahaan menerapkan program “kopilot” kecerdasan buatan generatif meningkat dua kali lipat antara Desember tahun lalu dan Juli 2024, mencapai 66% dari semua perusahaan responden.
Namun, temuan studi Deloitte dapat membantu menjelaskan mengapa laporan Gartner baru-baru ini tentang Gen AI di perusahaan memperkirakan sepertiga proyek Gen AI akan ditinggalkan sebelum beralih dari tahap pembuktian konsep ke produksi.
Sekalipun para CIO AS “sedang berupaya” menerapkan Gen AI, dan makin “mengevaluasi” teknologi kopilot dan sejenisnya, studi Deloitte menunjukkan mereka menghadapi banyak kendala ketika melakukannya.
