SON DAKİKA

Nvdia

“NVIDIA AI Workbench ile Hibrit Ortamlarda Sürtünmesiz İşbirliği ve Hızlı Prototipleme”

NVIDIA AI Workbench, veri bilimi ile AI ve makine öğrenimi (ML) projelerini yönetmek için ücretsiz bir geliştirme ortamı sunuyor. Amaç, PC, iş istasyonları, veri merkezleri ve bulutlar arasında sorunsuz bir şekilde çalışarak iş birliği yapmayı sağlar. Kullanıcı deneyimi oldukça basit:

  • Tek sistemlerde kolay kurulum: Windows, Ubuntu ve macOS üzerinde birkaç tıklamayla dakikalar içinde kurulum ve uzaktan sistemlerde tek satırlık kurulum.
  • Dağıtık dağıtım için yönetilen deneyim: Gerçek hibrit ortamlarda merkezi bir hizmete ihtiyaç duymadan, ücretsiz bir PaaS/SaaS benzeri kullanıcı deneyimi.
  • Uzmanlar ve başlangıç seviyesindekiler için sorunsuz iş birliği: Kullanım kolaylığı ile bir arada Git, konteyner ve uygulama yönetimi sağlar.
  • Her kullanıcıda ve sistemde tutarlılık: Farklı sistemler arasında iş yüklerini ve uygulamaları taşırken işlevselliği ve kullanıcı deneyimini korur.
  • Basit GPU yönetimi: Sistemin NVIDIA sürücüleri ve NVIDIA Container Toolkit gibi bağımlılıklarını yönetir, ayrıca GPU destekli konteyner runtime yapılandırmasını kolaylaştırır.

Bu yazı, NVIDIA AI Workbench’in Ekim ayındaki güncellemesinin öne çıkan noktalarını keşfetmektedir. Bu güncelleme, GTC 2024’teki ürün lansmanından bu yana en önemli güncellemedir ve tam ürün vizyonuna önemli bir adım daha atmıştır.

Yayın Öne Çıkanlar

Bu bölüm, en son sürümdeki önemli yeni yetenekler ve kullanıcı talepleri doğrultusunda yapılan güncellemeleri detaylandıracaktır.

Ana yeni özellikler arasında şunlar bulunmaktadır:

  • Artırılmış iş birliği: Git desteği genişletilerek, dal oluşturma, birleştirme, dosya farklarını görme ve daha ince kontroller ile taahhütlerde bulunma imkânı sunulmuştur.
  • Birden fazla konteyner ortamlarında karmaşık uygulamalar ve iş akışları oluşturma: Docker Compose desteği sayesinde.
  • Hızlı ve güvenli prototipleme: Tek kullanıcı URL’leri ile uygulama paylaşımını basit ve hızlı hale getirme.

Kullanıcı talepleri doğrultusunda yapılan güncellemeler:

  • Yerel uygulamalar için Karanlık mod seçeneği.
  • Yerelleştirilmiş Windows sürümlerinde kurulumu iyileştirme.

Genişletilmiş Git Desteği

Daha önce, AI Workbench yalnızca ana şubede tekil, monolitik taahhütleri destekliyordu. Kullanıcılar dalları ve birleştirmeleri manuel olarak yönetmek zorundaydı; bu da çeşitli karışıklıklara yol açıyordu. Yeni güncellemeyle, kullanıcılar dalları, birleştirmeleri ve çatışmaları doğrudan Masaüstü Uygulamasında ve CLI’de yönetebiliyor. Ayrıca, taahhütler için bireysel dosya farklarını görme imkânına da sahipler. Kullanıcı arayüzü, manuel Git işlemleriyle uyumlu olacak şekilde tasarlanmıştır.

Bunlar, Masaüstü Uygulamasında bulunan iki yeni sekmede sunulmaktadır: Değişiklikler ve Dallar.

  • Değişiklikler: Çalışma alanındaki dosyaların önceki taahhütlerle arasındaki farkları görmek için satır satır görünüm sunar. Kullanıcılar artık görülebilir dosya değişikliklerine dayanarak izlenen değişiklikleri (ekleme, değiştirme veya silme) bireysel veya toplu olarak seçip taahhüt edebilir. Ayrıca, dosyayı git-ignore’a ekleme veya reddetme imkânına sahiptirler. Görünüm, manuel Git eylemlerine göre dinamik olarak güncellenir.
  • Dallar: Dalları yönetme, oluşturma, değiştirme ve birleştirme, ayrıca bir Git sunucusundaki uzak dalları görme imkânı sunar. Birleştirme sırasında bir çatışma oluşursa, kullanıcılar bu çatışmayı çözmek için bir akış başlatabilir; bunu UI içinde veya tercih ettikleri terminal ya da dosya editörü üzerinden yapabilirler.

Gelişmiş Git özelliklerinin nasıl çalıştığını öğrenin.

Docker Compose ile Çoklu Konteyner Desteği

AI Workbench artık Docker Compose desteğine sahiptir. Kullanıcılar, AI Workbench’in sunduğu tek konteyner ortamlarındaki kolaylıkla, çoklu konteyner uygulama ve iş akışları üzerinde çalışabilmektedir.

Bu sistem, kullanıcıların bir “yığın” ekleyip ana geliştirme konteyneriyle bağlantı kurmasını sağlar. Yığının eklenmesi için kullanıcıdan sadece uygun Docker Compose dosyasını proje deposuna eklemesi ve Masaüstü Uygulamasında veya CLI’de biraz yapılandırma yapması yeterlidir.

Docker Compose ile çalışmanın birkaç nedeni vardır. Öncelikle, yalnızca kendi başımıza geliştirmek istemedik; bu nedenle, Docker ekibiyle iş birliği yapıyoruz. İkincisi, kullanıcıların çoklu konteyner uygulamaları AI Workbench dışındaki ortamlarda çalıştırabilmelerini istiyoruz; bu nedenle Docker Compose en kolay yoludur.

Bu özelliğin vizyonu, AI Workbench içinde kolay ve güçlü bir şekilde çoklu konteyner uygulamalarının geliştirilmesini sağlamak ve daha sonra basit bir docker-compose up komutu ile AI Workbench dışındaki ortamlarda çalıştırılmasını sağlamaktır.

Bu çoklu konteyner özelliği yenidir ve gelişmeye devam edecektir. Geri bildirimlerinizi bekliyoruz ve herhangi bir sorun yaşıyorsanız NVIDIA AI Workbench Geliştirici Forumu aracılığıyla yardımcı olmayı ümit ediyoruz.

Docker Compose’un nasıl çalıştığını öğrenin.

Güvenli URL’ler ile Web Uygulama Paylaşımı

AI Workbench, kullanıcıların projelerine entegre edilen yönetilen web uygulamalarını kolayca oluşturmalarına olanak tanır. Süreç oldukça basittir: Yüklü web uygulamasıyla yeni bir proje oluşturun veya klonlayın, projeyi başlatın ve ardından uygulamayı başlatın; uygulama tarayıcıda görüntülenir.

Bu yöntem geliştirici kullanıcı deneyimi için harika ama hızlı prototipleme deneyimi ve iş birliği için iyi değildi. Bir kullanıcıya uygulamanızı eriştirmek istiyorsanız, ya AI Workbench’i kurmasını, projeyi klonlamasını ve çalıştırmasını istemeniz gerekiyor ya da tamamen uygulamayı çıkarmanız ve kullanıcının çalıştırabilmesi için erişilebilir hale getirmeniz gerekiyor. Bu ikisi de deneyim için engelleri artırıyordu.

Bu engelleri ortadan kaldırarak, uzaktan bir AI Workbench’i etkinleştirip o uzaktaki uygulama için tek kullanımlık, güvenli URL’ler oluşturma özelliği ekledik. Kullanıcının uzaktaki 10000 numaralı porta erişimi olduğundan emin olmanız yeterlidir; uygulama doğrudan erişilebilir olacaktır. Kullanıcı sadece bağlantıya tıklayıp uygulamayı açabilir.

Bu tür bir erişimin sağlanması, hızlı prototipleme ve iş birliği için yararlıdır. Bu, çeşitli SaaS hizmetlerinin bir yönetim servisi olarak sağladığı bir özelliktir. AI Workbench ile fark ise, bu erişimi kendi kaynaklarınız ve kendi ağınız üzerinden sağlayabilmenizdir; örneğin veri merkezi kaynakları veya paylaşılan sunucular üzerinde. Bulutta olması gerekmez.

AI Workbench, bu tür erişimi tek bir tarayıcı ve projede çalışan bir uygulama ile sınırlayarak güvenliği korumaktadır. Bu, kullanıcının bağlantıyı başka biriyle paylaşamayacağı ve yalnızca sizinle paylaştığınız web uygulamasıyla sınırlı kalacağı anlamına gelir.

Uygulama paylaşımının nasıl çalıştığını öğrenin.

Karanlık Mod ve Yerelleştirilmiş Windows Kurulumu

Pek çok kullanıcı, gözleri yormayan bir alternatif olarak bir karanlık mod seçeneği talep etti. Artık, bu yeni özellik Masaüstü Uygulaması içinden doğrudan erişilebilen Ayarlar penceresi aracılığıyla seçilebilmektedir. Karanlık modun nasıl çalıştığını öğrenin.

Windows kullanıcıları, yerel kurulumlar için ana demografimizdir ve bazı Windows kullanıcıları İngilizce dil paketi kullanmamaktadır. Önceden, bazı WSL komutları nedeniyle AI Workbench kurulumu başarısız oluyordu. Özellikle, Kiril veya Çince kullanan kullanıcıların engellendiği hakkında bilgi aldık. Artık yerel olarak, yalnızca İngilizce dil paketinde değil, diğer dillerde de doğru işlem yapılabilmektedir. Daha önce engellenmiş olan kullanıcıların denemelerini öneririz. Eğer hala sorun yaşıyorsanız, bunu geliştirmeye devam etmemiz için NVIDIA AI Workbench Geliştirici Forumu‘na bildirebilirsiniz.

Yeni AI Workbench Projeleri

Bu güncelleme, AI geliştirme yolculuğunuzu hızlandırmak için tasarlanmış yeni örnek projeleri tanıtmaktadır. AI Workbench projesi, AI Workbench içinde bir konteynerleşmiş geliştirme ortamını tanımlayan yapılandırılmış bir Git deposudur. AI Workbench projeleri şunları sağlar:

  • Kolay kurulum ve GPU yapılandırması: Sadece GitHub veya GitLab’dan bir projeyi klonlayarak, AI Workbench geri kalan her şeyi otomatik GPU yapılandırması ile halleder.
  • Geliştirme entegrasyonları: Jupyter ve VS Code gibi popüler geliştirme ortamlarını sorunsuz destekler, ayrıca kullanıcı yapılandırmalı web uygulamalarını da destekler.
  • Konteynerleşmiş ve özelleştirilebilir ortamlar: Projeler konteynerleşmiştir, izole edilmiş ve kolayca düzenlenebilir. Örnek projeleri özel ihtiyaçlarınıza uyacak şekilde uyarlarken tutarlılık ve tekrarlanabilirlik sağlanır.

NVIDIA AI Workbench örnek projelerini keşfedin.

Çok Modlu Sanal AsistanÖrnek Projesi

Bu proje, kullanıcıların bir multimodal geri alma artırımlı üretim (RAG) hattı kullanarak kendi sanal asistanlarını oluşturmasına imkan tanır. Kullanıcılar, AI Workbench hakkında daha fazla bilgi edinmek, kullanıcı belgelendirmesi ile sohbet etmek, kendi kurulumlarını hata ayıklamak veya RAG hattını kendi özel ürünlerine odaklamak için iki RAG tabanlı uygulama ile etkileşimde bulunabilirler.

  • Kontrol Paneli: Ürün belgeleri ile çalışmak için özelleştirilebilir Gradio uygulaması, kalıcı bir vektör depoya web sayfaları, PDF’ler, resimler ve videolar yükleme imkânı sunar. Çıktılar için kullanıcılar, NVIDIA API Kataloğu’ndaki bulut uç noktaları veya kendi kendine barındırılan uç noktalar arasında seçim yapabilir.
  • Kamusal Sohbet: Ürün belgeleri yüklüyken, Gradio uygulaması daha basit, “salt okunur” bir sohbet botudur ve yeni uygulama paylaşım özelliği sayesinde son kullanıcılarla paylaşılabilir.
A GIF demonstrating how a user can submit a query to the virtual assistant and see the generated response.
Şekil 4. Kamusal Sohbet web uygulamasını kullanarak kullanıcıların sorularına yanıt alması

Yarışma ÇekirdekÖrnek Projesi

Bu proje, Kaggle yarışmaları üzerinde çalışmayı kolaylaştırmak için yerel bir deneyim sunar. Kendi GPU’larınızda çalışmak, kod yazmak, modeller geliştirmek ve sonuçları taahhüt etmek için yerel makinelerinizi veya bulut örneklerinizi kolayca kullanabilirsiniz. Yarışma Çekirdek projesi aşağıdakileri sunar:

  • Kendi GPU’larınızda geliştirmek ve test etmek için yönetilen bir deneyim, dakikalar içinde ayarlanabilir ve özelleştirilebilir.
  • GitHub veya GitLab üzerinden kod üzerinde kolay sürüm kontrolü ve takip imkanıyla iş birliği yapma olanakları.
  • Yerel, özel IDE kullanmanın avantajı: sağlam hata ayıklama, akıllı kod tamamlama, kapsamlı özelleştirme seçenekleri.
  • Dış veri kaynaklarına (harici veya kendi kaynaklarınız) kolayca entegrasyon.
  • İnternet olmasa da geliştirme yapabilme imkanı.

Başlayın

NVIDIA AI Workbench’in bu sürümü, GPU sistemlerde AI geliştirmeyi sorunsuz hale getirerek önemli bir adım atmaktadır. Yeni sürümle birlikte gelen genişletilmiş Git desteği, çoklu konteyner ortamları desteği ve güvenli web uygulama paylaşımı gibi özellikler, AI iş yükleri üzerinde çalışmayı ve iş birliğini kolaylaştırmaktadır. Bu güncellemelerle birlikte sunulan üç yeni örnek projeyi keşfedebilir veya kendi projelerinizi oluşturabilirsiniz.

AI Workbench ile başlamak için uygulamayı web sayfasından kurun. Kurulum ve güncelleme hakkında daha fazla bilgi için NVIDIA AI Workbench belgelerine göz atın.

Bir dizi NVIDIA AI Workbench örnek projesini keşfedin; veri bilimi ve RAG gibi alanlarda.

Sorun bildirmek ve diğer geliştiricilerin AI Workbench’i nasıl kullandığını daha fazla öğrenmek için NVIDIA AI Workbench Geliştirici Forumunu ziyaret edin.

Kaynak

Nvdia Blog

Düşüncenizi Paylaşın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

İlgili Teknoloji Haberleri