Tingkat perusahaan yang menerapkan program kopilot kecerdasan buatan generatif (Gen AI) meningkat dua kali lipat antara Desember tahun lalu dan Juli 2024, menurut laporan Bloomberg Intelligence laporan tentang AI.
Juga: Gartner mengatakan sepertiga dari semua proyek AI Generasi akan ditinggalkan
Laporan tersebut, yang mensurvei 50 CIO di perusahaan-perusahaan berbasis di AS pada bulan Juli, menemukan 66% responden tengah berupaya menerapkan kopilot AI generatif, dibandingkan dengan 32% dalam survei bulan Desember, menurut penulis utama Mandeep Singh, analis industri senior di Bloomberg Intelligence.
Kasus penggunaan utama untuk Gen AI yang disebutkan oleh lebih dari separuh responden adalah agen chatbot, seperti untuk aplikasi layanan pelanggan.
Perusahaan juga meningkatkan evaluasi mereka terhadap pelatihan model dasar, model bahasa besar yang menjadi dasar sebagian besar aplikasi Gen AI. Jumlah responden yang “mengerjakan” pelatihan model dasar meningkat dari 26% dalam survei Desember menjadi 40%, dan setengah dari responden mengatakan mereka sedang “mengevaluasi” pelatihan model.
Sing mengatakan penerapan ini dapat menyebabkan lonjakan pekerjaan inferensi AI di antara perusahaan. Sebanyak 60% responden mengatakan organisasi mereka bermaksud untuk meningkatkan pengeluaran pada Azure milik Microsoft untuk pekerjaan inferensi AI, permintaan prediksi, naik dari 41% dalam survei Desember.
Azure memimpin dalam penyedia cloud untuk pilihan inferensi, dengan layanan cloud AWS Amazon turun dari 55% menjadi 42% responden antara survei Desember dan Juli. Google Cloud berada di posisi ketiga, dengan 36% responden berniat meningkatkan pengeluaran untuk inferensi.
Singh mengatakan permintaan untuk inferensi Azure diperkirakan akan terus meningkat, sebagian karena daya tarik model Gen AI milik mitra OpenAI, seperti GPT-4, yang tidak tersedia di AWS atau Google Cloud.
Juga: Startup AI Cerebras meluncurkan layanan ‘inferensi tercepat di dunia’ – dengan sentuhan baru
“Integrasi platform Azure milik Microsoft dengan model OpenAI terus menjadi keunggulan dibandingkan pesaing cloud publik untuk menghosting beban kerja inferensi,” tulis Singh dalam laporan tersebut.
Persentase perusahaan responden yang menggunakan model OpenAI melonjak dari 41% pada bulan Desember menjadi 70% dalam survei terbaru. “Penggunaan Google Gemini hanya 18%, dibandingkan dengan OpenAI yang 70%,” tulis Singh, mengacu pada penawaran AI Gen teratas Google.
Juga: Model Gemini baru Google mencapai ‘daya ingat hampir sempurna’
Survei tersebut juga menunjukkan daya tarik Gen AI membantu Microsoft menutup kesenjangan dengan Amazon dalam penyediaan cloud. “Pada akhir tahun 2023, pangsa Microsoft dalam layanan infrastruktur cloud adalah 16%, dibandingkan dengan AWS yang sebesar 47%,” dibandingkan dengan 48% menjadi 12% pada tahun 2018, demikian pernyataan laporan tersebut. “Kami berharap kesenjangan ini akan semakin menyempit,” tulis Singh.
Selain tiga spesialis cloud besar, Snowflake dan MongoDB menduduki peringkat tinggi di antara vendor pilihan untuk mengembangkan “retrieval-augmented generation” (RAG), teknik Gen AI yang semakin populer, di mana model AI memanfaatkan basis data eksternal.
MongoDB dan Snowflake menjadi pilihan utama untuk RAG bagi masing-masing 14% dan 10% responden, di belakang Azure (26%) dan Amazon (20%).
Kemajuan menuju penerapan Gen AI yang disorot oleh survei Bloomberg kontras dengan penelitian terkini lainnya. Analis Gartner memperkirakan setidaknya 30% proyek AI generatif akan ditinggalkan setelah tahap pembuktian konsep pada akhir tahun 2025 karena perusahaan berjuang untuk membuktikan dan mewujudkan nilai dari teknologi tersebut.
Sementara itu, studi Deloitte terkini tentang Gen AI menemukan sebagian besar organisasi hanya memindahkan sepertiga atau kurang dari proyek Gen AI mereka ke tahap produksi.
Penting untuk dicatat bahwa laporan Bloomberg menggunakan bahasa tentatif seperti “sedang mengerjakan” dan “mengevaluasi”. Singkatnya, kemajuan diperlukan sebelum Gen AI tertanam di perusahaan.
