NVIDIA’dan Yapay Zekâ Yazılım Platformu: NIM
NVIDIA, yapay zekâ odaklı yazılım platformu “NIM”i duyurdu. NIM, yapay zekâ teknolojilerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak.
NVIDIA, GTC 2024 etkinlikleri kapsamında mühim açıklamalarda bulunmuş oldu. O açıklamalardan bir tanesi de “NIM” olarak isimlendirilen yeni bir yazılım platformuydu. NIVIDA NIM, öncesinden eğitilmiş olan yapay zekâ modellerinin üretim ortamlarına hızlıca aktarılmasını sağlayacak. Böylelikle geliştiriciler, fazlaca ciddi anlamda süre tasarrufu yapmış olacaklar.
NVIDIA’ya nazaran yapay zekâ modellerinin üretim ortamlarına dağıtımı, genel anlamda haftalar alıyor. İşte NIM, tam olarak burada devreye giriyor. Kendi yapay zekâ yol haritalarını hızlandırmak isteyen firmalar, NIM platformu ile bu süreci hızlandırmış olacaklar.
NIM, daha şimdiden pek fazlaca şirkete destek veriyor
NVIDIA’nın yeni yazılım platformu, şimdiden NVIDIA, A121, Adept, Cohere, Getty Images ve Shutterstock’un yapay zekâ modellerini destekliyor. Ek olarak Google, Hugging Face, Meta, Microsoft, Mistral AI ve Stability AI’ın açık kaynak yapay zekâ modellerine de destek veriliyor. Sadece NIM, bunlardan ibaret olmayacak. Daha çok destek ve entegrasyon için Amazon, Google ve Microsoft benzer biçimde firmalarla emek harcamalar devam ediyor.
NVIDIA, NIM ile bazı mikro hizmetler de sunacak. Örnek olarak bir şirket, konuşma ve tercüme modellerini özelleştirmek için Riva’yı, hava ve iklim simülasyonları için de Earth-2 modelini kullanabilecekler. Üstelik şirket, bunların kapsamını da genişleteceğini duyurdu. Örnek olarak RAG LLM yapısı, NIM ile uyumlu hâle getirilecek ve üretken yapay zekâ söyleşi botları oluşturulabilecek.
