SAN JOSE, Kaliforniya – NVIDIA (NASDAQ:NVDA), işletmelerin özel uygulamaları daha verimli bir şekilde dağıtmasına yardımcı olmak için tasarlanan yeni bir üretken yapay zeka mikro hizmet paketini tanıttı. NVIDIA CUDA platformunda çalışan NVIDIA NIM mikro hizmetleri, çok çeşitli yapay zeka modellerinde optimize edilmiş çıkarım yapılmasını sağlayarak dağıtım sürelerini haftalardan dakikalara indirmeyi amaçlıyor.
Bulut tabanlı mikro hizmetler kataloğu, bulutlar, veri merkezleri, iş istasyonları ve PC’ler gibi çeşitli platformlarda yüz milyonlarca GPU içeren NVIDIA’nın CUDA kurulu tabanını desteklemek için oluşturulmuştur. Bu hizmetler, işletmelere fikri mülkiyetlerinin sahipliğini ve kontrolünü korurken yapay zeka odaklı kuruluşlar haline gelmeleri için araçlar sağlamayı amaçlamaktadır.
NVIDIA’nın kurumsal sınıf yapay zeka mikro hizmetleri, NVIDIA AI Enterprise 5.0 teklifinin bir parçasıdır ve Amazon SageMaker, Google Kubernetes Engine ve Microsoft Azure AI gibi büyük bulut hizmetlerinden erişilebilir. Popüler yapay zeka çerçeveleriyle entegre olurlar ve önde gelen donanım sağlayıcılarının 400’den fazla NVIDIA Sertifikalı Sisteminde desteklenirler.
ServiceNow, alana özgü yapay zeka uygulamaları geliştirmek için bu hizmetleri ilk kullananlar arasında yer alıyor. Adobe, Cadence, CrowdStrike, Getty Images, SAP, ServiceNow ve Shutterstock gibi diğer şirketler de verilerini yapay zeka yeteneklerine dönüştürmek için yeni mikro hizmetlere erişiyor.
NIM Inference Microservices, Triton Inference Server ve TensorRT-LLM dahil olmak üzere NVIDIA çıkarım yazılımı tarafından desteklenmekte ve dil ve ilaç keşfi gibi çeşitli alanlar için endüstri standardı API’ler sunmaktadır. Bu önceden oluşturulmuş kapsayıcılar, üretim ortamlarındaki yapay zeka uygulamaları için hızlı ölçeklendirme ve yüksek performans sağlamak üzere tasarlanmıştır.
Ayrıca NVIDIA, yüksek performanslı bilgi işlemin (HPC) yanı sıra erişimle artırılmış üretim (RAG), veri işleme ve korkuluklar gibi görevler için CUDA-X mikro hizmetlerini duyurdu. Bu hizmetler, sektörler genelinde yapay zeka geliştirmeyi hızlandırmak için veri hazırlama, özelleştirme ve eğitimi kolaylaştırıyor.
Box, Cloudera, Cohesity, Datastax, Dropbox ve NetApp gibi ekosistem ortakları, özel verileri üretken yapay zeka uygulamalarına entegre etmek için NVIDIA ile işbirliği yapıyor. Snowflake, yapay zeka uygulaması geliştirmeye yönelik kurumsal verileri kullanmak için NeMo Retriever mikro hizmetlerinden yararlanıyor.
Geliştiriciler ai.nvidia.com adresinden NVIDIA mikro hizmetlerini ücretsiz olarak deneyebilir. İşletmeler, üretim dağıtımı için NVIDIA AI Enterprise 5.0’ı NVIDIA Sertifikalı Sistemlerde ve önde gelen bulut platformlarında kullanabilir.
Bu duyuru NVIDIA’nın basın açıklamasına dayanmaktadır.
Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.
