Cloudera Luncurkan Layanan Inferensi AI, Didalamnya Ada Mikro NVIDIA NIM! Percepat Penerapan GenAI

Kemampuan AI Tingkat Lanjut: Memanfaatkan layanan mikro NVIDIA NIM untuk mengoptimalkan LLM sumber terbuka, termasuk LLama dan Mistral, untuk kemajuan mutakhir dalam pemrosesan bahasa alami (NLP), visi komputer, dan domain AI lainnya.

Cloud Hibrida & Privasi: Jalankan beban kerja di tempat atau di cloud, dengan penerapan VPC untuk keamanan yang ditingkatkan dan kepatuhan terhadap peraturan.

Skalabilitas & Pemantauan: Andalkan penskalaan otomatis, ketersediaan tinggi (HA), dan pelacakan kinerja waktu nyata untuk mendeteksi dan memperbaiki masalah, serta memberikan manajemen sumber daya yang efisien.

Integrasi API Terbuka & CI/CD: Akses API yang sesuai standar untuk penerapan, pengelolaan, dan pemantauan model untuk integrasi yang mulus dengan alur kerja CI/CD dan alur kerja MLOps.

Keamanan Perusahaan: Terapkan akses model dengan fitur Akun Layanan, Kontrol Akses, Silsilah, dan Audit.

Penerapan yang Dikelola Risiko: Lakukan pengujian A/B dan peluncuran canary untuk pembaruan model yang terkendali.

“Perusahaan sangat ingin berinvestasi dalam GenAI, tetapi hal itu tidak hanya membutuhkan data yang dapat diskalakan tetapi juga data yang aman, patuh, dan tertata dengan baik,” kata analis industri, Sanjeev Mohan. “Memproduksi AI dalam skala besar secara privat menimbulkan kompleksitas yang sulit diatasi oleh pendekatan DIY. Cloudera AI Inference menjembatani kesenjangan ini dengan mengintegrasikan manajemen data tingkat lanjut dengan keahlian AI NVIDIA, membuka potensi penuh data sekaligus menjaganya. Dengan fitur keamanan tingkat perusahaan seperti akun layanan, kontrol akses, dan audit, organisasi dapat dengan yakin melindungi data mereka dan menjalankan beban kerja di tempat atau di cloud, menerapkan model AI secara efisien dengan fleksibilitas dan tata kelola yang diperlukan.”

 

“Kami gembira berkolaborasi dengan NVIDIA untuk menghadirkan Cloudera AI Inference ke pasaran, menyediakan satu platform AI/ML yang mendukung hampir semua model dan kasus penggunaan sehingga perusahaan dapat membuat aplikasi AI yang canggih dengan perangkat lunak kami dan kemudian menjalankan aplikasi AI yang berkinerja tinggi tersebut di Cloudera juga,” kata Dipto Chakravarty, Chief Product Officer di Cloudera. “Dengan integrasi NVIDIA AI, yang memfasilitasi pengambilan keputusan yang lebih cerdas melalui kinerja tingkat lanjut, Cloudera berinovasi atas nama pelanggannya dengan membangun aplikasi AI tepercaya dengan data tepercaya dalam skala besar.”

 

BACA JUGA:Allianz Mendorong Pertumbuhan Asuransi dan Kemudahan Klaim

BACA JUGA:Spesifikasi Honda Brio Desain Lebih Kecil dan Canggih Mesin 1.2L i-VTEC 90PS With 4 Cylinder 5 M/T

“Perusahaan masa kini perlu mengintegrasikan AI generatif dengan infrastruktur data yang ada untuk mendorong hasil bisnis,” kata Kari Briski, wakil presiden perangkat lunak, model, dan layanan AI di NVIDIA. “Dengan menggabungkan layanan mikro NVIDIA NIM ke dalam platform AI Inference Cloudera, kami memberdayakan pengembang untuk dengan mudah membuat aplikasi AI generatif yang tepercaya sekaligus mengembangkan roda gila data AI yang mandiri.”

 

Kemampuan baru ini akan diluncurkan di konferensi utama Cloudera tentang AI dan data, Cloudera EVOLVE NY, yang akan diselenggarakan pada tanggal 10 Oktober. Klik di sini untuk mempelajari lebih lanjut tentang bagaimana pembaruan terkini ini memperdalam komitmen Cloudera, mengangkat data perusahaan dari tahap uji coba ke tahap produksi dengan GenAI.

 

Sumber: