Pada konferensi GTC hari ini, Nvidia diresmikan NIM, platform perangkat lunak revolusioner yang dirancang untuk mengintegrasikan model AI khusus dan terlatih ke dalam lingkungan produksi dengan lancar.
Bersamaan dengan sejumlah pengumuman hari ini di konferensi GTC Nvidia, NIM memanfaatkan keahlian Nvidia dalam inferensi dan pengoptimalan model AI, menawarkan pendekatan yang efisien bagi pengembang. Dengan menggabungkan model AI dengan mesin inferensi yang dioptimalkan dan merangkumnya ke dalam wadah yang dapat diakses sebagai layanan mikro, NIM secara drastis mengurangi waktu penerapan. Menurut TechCrunch pelaporanhal yang biasanya memakan waktu berbulan-bulan kini dapat dicapai dengan cepat, tanpa memerlukan keahlian AI internal yang ekstensif.
Platform inovatif ini mendukung model dari entitas terkemuka seperti NVIDIA, A121, dan Getty Images, serta model terbuka dari raksasa teknologi seperti Google dan Meta. Kolaborasi Nvidia dengan Amazon, Google, dan Microsoft bertujuan untuk mengintegrasikan layanan mikro NIM ke dalam layanan cloud utama, sehingga meningkatkan aksesibilitas bagi pengembang secara menyeluruh.
Tulang punggung NIM: mesin inferensi Nvidia
Inti dari NIM terletak pada Triton Inference Server, bersama dengan TensorRT dan TensorRT-LLM, yang menegaskan komitmen Nvidia dalam memberikan landasan yang kuat untuk aplikasi AI. Platform ini juga dilengkapi layanan mikro khusus, seperti Riva untuk penyesuaian ucapan dan terjemahan, cuOpt untuk pengoptimalan perutean, dan model Earth-2 untuk simulasi cuaca dan iklim.
Manuvir Das, kepala komputasi perusahaan di Nvidia, menekankan efisiensi dan kualitas tingkat perusahaan yang dihadirkan NIM, memungkinkan pengembang untuk fokus membangun aplikasi perusahaan tanpa beban manajemen model.
NIM merupakan bukti visi Nvidia untuk mengubah perusahaan menjadi entitas berbasis AI, yang dilengkapi dengan serangkaian layanan mikro AI dalam container. Dengan dukungan dari raksasa industri dan ekosistem mitra, NIM Nvidia siap merevolusi cara model AI diterapkan dan digunakan di berbagai sektor.
Jensen Huang, CEO Nvidia, menyoroti potensi transformatif NIM, membayangkan masa depan di mana setiap perusahaan memanfaatkan AI untuk meningkatkan kapasitas operasional dan inovasi mereka.
