Gerçek dünya gösterimlerinden robot politikalarını eğitmek pahalı, yavaş ve aşırı uyuma eğiliminde olduğundan, görevler ve ortamlar arasında genelleştirmeyi sınırlamaktadır. Simülasyona yönelik bir yaklaşım, geliştirmeyi basitleştirir, riski ve maliyeti azaltır, ayrıca daha güvenli ve uyumlu bir dağıtım sağlar.
Isaac Lab 2.3’ün en son sürümü, bu önizleme dahilinde, humanoid robot kabiliyetlerini gelişmiş tüm vücut kontrolü, iyileştirilmiş imitasyon öğrenimi ve daha iyi lokomotyon ile geliştirmektedir. Bu güncelleme, veri toplama için daha fazla cihaz desteği ile teleoperasyonu genişleterek, Meta Quest VR ve Manus eldivenleri gibi cihazlarla gösterim veri setlerinin oluşturulmasını hızlandırır. Buna ek olarak, manipülasyon görevlerinde veri üreten bir hareket planlayıcı tabanlı iş akışını da içermektedir.
Yeni Takviye ve İmitasyon Öğrenme Örnekleri
Isaac Lab 2.3, algılama ve propriosepsiyon için dizin gözlem alanı da dahil olmak üzere, narin manipülasyon görevlerini destekleyen yeni özellikler sunmaktadır. Ayrıca, Otomatik Alan Rastgeleleştirme (ADR) ve Nüfus Tabanlı Eğitim (PBT) teknikleri, takviye öğrenimi eğitiminde daha iyi ölçeklenebilirlik sunmaktadır. Bu yeni özellikler, DexPBT: Narin Manipülasyonu Ölçeklendirme ve Görsel Motor Politikalarını Kullanarak Herhangi Bir Şeyi Kavrama gibi ortamların üzerine eklenmektedir.
Narin çevre için eğitim başlatmak için aşağıdaki komutu kullanabilirsiniz:
./isaaclab.sh -p -m torch.distributed.run --nnodes=1 --nproc_per_node=4 scripts/reinforcement_learning/rsl_rl/train.py --task Isaac-Dexsuite-Kuka-Allegro-Reorient-v0 --num_envs 40960 --headless --distributed
Önceki sürümlere ek olarak, Isaac Lab 2.3, hem vakum gripper hem de geleneksel gripper kurulumları arasında manipülasyon için yeni benchmark ortamları sunmaktadır. Önceki sürümde, doğrudan iş akışında bir yüzey gripper örneği bulunuyordu. Bu güncelleme, imitasyon öğrenimi için yönetici tabanlı iş akışına CPU tabanlı yüzey gripper desteği eklemektedir.
Bu örnekle demonstrasyonları kaydetmek için aşağıdaki komutu kullanın:
./isaaclab.sh -p scripts/tools/record_demos.py --task Isaac-Stack-Cube-UR10-Long-Suction-IK-Rel-v0 --teleop_device keyboard --device cpu
Daha fazla ayrıntı için, bir yüzey gripper ile etkileşim kurma üzerine olan eğiticiye bakabilirsiniz.
Dexterous Manipülasyon İçin Gelişmiş Teleoperasyon
Robotikte teleoperasyon, bir insan operatörün bir girdi cihazı ile gerçek veya simüle edilmiş bir robotu uzaktan kontrol etmesiyle sağlanır. Bu, uzaktan manipülasyon ve lokomotyon kontrolünü mümkün kılar.
Isaac Lab 2.3, Unitree G1 robotu için, hem Unitree üç parmaklı el hem de Inspire beş parmaklı el için dexterous retargeting desteklemektedir.
Dexterous retargeting, insan el yapılandırmalarını robot el eklem pozisyonlarına çevirmek için bir süreçtir. Bu, insan-robot beceri aktarımını etkili bir şekilde sağlar ve temas-rich iç mekan görevlerinde performansı artırır. Aynı zamanda sağlam manipülasyon politikalarını eğitmek için zengin gösterimler sağlar.
Dextrous retargeting iş akışı, Isaac Lab’da yerleşik olan retargeter teleoperasyon çerçevesi‘nden faydalanarak, her görev için teleoperasyon cihazı yapılandırmasını sağlar.
Tüm çift taraflı robotlar, Fourier GR1T2 ve Unitree G1 gibi üst vücut kontrolü ile ek iyileştirmeler yapılmıştır. Bu, Pink IK (Ters Kinematik) denetleyicisinde yapılan iyileştirmelerle mümkün olmuştur.
Çarpışma Öncesi Hareket Planlaması Tanıtımı
SkillGen, uyumlu, çarpışma öncesi manipülasyon gösterimleri oluşturma iş akışı olarak tanımlanabilir. Bu, insan tarafından sağlanan alt görev parçalarını, GPU hızlandırmalı hareket planlaması ile birleştirir ve az sayıda insan gösteriminden gerçek dünya ile ilgili temas zengin manipülasyon görevleri öğrenmeyi mümkün kılar.
Geliştiriciler, Isaac Lab Mimic içinde SkillGen’i kullanarak bu en son sürümde gösterimler oluşturabilirler. SkillGen, çok aşamalı planlamayı (yaklaşım, temas, geri çekilme) destekler ve dinamik nesne ekleme ve çıkarma ile birlikte uygun çarpışma yarığı yönetimi sağlar. Ayrıca, beceri dikişleri sırasında kinematik ve engellerle ilgili durumu saygı duyarak dünya durumunu senkronize eder.
Önceki sürümlerde, Isaac Lab Mimic, veri oluşturmak için MimicGen uygulamasını kullanıyordu. SkillGen, MimicGen’de bulunan sınırlamaları geliştirmiştir; Isaac Lab 2.3 sürümünde artık Isaac Lab Mimic içinde SkillGen veya MimicGen kullanılabilmektedir.
İki yığınlama görevi için önceden etiketlenmiş bir veri kümesi kullanarak pipeline’i çalıştırmak için aşağıdaki komutları kullanabilirsiniz. Ayrıca, veri kümesini indirmeniz mümkün.
Aşağıdaki komutu, vanilya küp yığınlama görevini başlatmak için kullanın:
./isaaclab.sh -p scripts/imitation_learning/isaaclab_mimic/generate_dataset.py --device cpu --num_envs 1 --generation_num_trials 10 --input_file ./datasets/annotated_dataset_skillgen.hdf5 --output_file ./datasets/generated_dataset_small_skillgen_cube_stack.hdf5 --task Isaac-Stack-Cube-Franka-IK-Rel-Skillgen-v0 --use_skillgen
Aşağıdaki komutu, kutu yığınlamanın bir konteyner görevini başlatmak için kullanın:
./isaaclab.sh -p scripts/imitation_learning/isaaclab_mimic/generate_dataset.py --device cpu --num_envs 1 --generation_num_trials 10 --input_file ./datasets/annotated_dataset_skillgen.hdf5 --output_file ./datasets/generated_dataset_small_skillgen_bin_cube_stack.hdf5 --task Isaac-Stack-Cube-Bin-Franka-IK-Rel-Mimic-v0 --use_skillgen
Mobil Robotlar İçin Uçtan Uca Navigasyon
Manipülasyonun ötesinde, humanoidler ve mobil robotlar karmaşık ve dinamik alanlarda güvenli bir şekilde gezinmelidir. Geliştiriciler, artık Isaac Lab’da mobilite iş akışını kullanarak NVIDIA COMPASS‘ı yeniden eğitebilirler. Bu, robot türleri ve ortamları arasında gezinmeyi sağlayan nesne tabanlı bir mobilite planlama projesidir. İş akışı, Isaac Sim’de sentetik veri oluşturma (SDG), mobilite modeli eğitimi ve NVIDIA Jetson Orin veya NVIDIA Thor ile dağıtım içerir.
NVIDIA Isaac CUDA hızlandırmalı kütüphaneleri,” cuVSLAM, ” cuVGL kullanarak bir harita oluşturmayı öğrenebilir ve sahneyi anlamak için COMPASS ile eylem oluşturmak mümkün hale gelir. Bu, robotun sürekli değişen ortamlarda ve engellerde gerçek zamanlı olarak gezinmesini sağlar.
Loco-Manipülasyon Sentetik Veri Üretimi
Loco-manipülasyon, lokomotyonun ve manipülasyonun eşzamanlı bir şekilde gerçekleştirilmesidir. Yani robotlar, nesneleri hareket ettirirken (kapma, itme, çekme) ve aynı zamanda vücutlarını (yürüyerek veya yuvarlanarak) hareket ettirir. Bu iş akışı, lokomotyonun yürüme haliyle birleştirilmiş bir tüm vücut denetleyicisi (WBC) kullanarak robot görev gösterimlerini sentezler.
Sistem, masa üzerinde bir nesneyi alma, bir alanın içinden geçme ve nesneyi başka bir yere koyma gibi karmaşık dizileri gerçekleştirir. Gösterimlerin büyüklüğünü artırmak için, masa üzerindeki alım ve yerleştirme konumları ile zemin engellerini rastgeleleştirir.
Aşağıdaki komut, kullanıcıların farklı gövdelere, yani humanoid ve mobil manipülatör türlerine geçiş yapmalarına olanak tanır.
./isaaclab.sh -p \ scripts/imitation_learning/disjoint_navigation/generate_navigation.py \ --device cpu \ --kit_args="--enable isaacsim.replicator.mobility_gen" \ --task="Isaac-G1-Disjoint-Navigation" \ --dataset ./datasets/generated_dataset_g1_locomanip.hdf5 \ --num_runs 1 \ --lift_step 70 \ --navigate_step 120 \ --enable_pinocchio \ --output_file ./datasets/generated_dataset_g1_navigation.hdf5
Politika Değerlendirme Çerçevesi
Eğitilen robot becerilerinin, örneğin nesneleri manipüle etme veya bir alanı geçme, değerlendirilmesi, gerçek donanım ile sınırlı olduğundan ölçeklenebilir değildir. Simülasyon, bu becerileri bir dizi senaryo, görev ve ortamda değerlendirmek için ölçeklenebilir bir yol sunar.
Ancak, simülasyona uygun varlıkları örneklemekten, ortamları kurmaya ve çeşitlendirmeye kadar, büyük ölçekli değerlendirmeleri düzenlemek ve analiz etmek için kullanıcılar birçok bileşeni manuel olarak oluşturmak zorundadır. Bu, parçalı kurulumlar ile sınırlı ölçeklenebilirlik, yüksek maliyet ve önemli bir giriş engeli ile sonuçlanmaktadır.
NVIDIA ve Lightwheel, kullanıcıların kırılgan sistem kurulumları ile zaman kaybetmeden büyük ölçekli simülasyon tabanlı deneyler yapmalarını sağlayan, açık kaynaklı bir politika değerlendirme çerçevesi olan NVIDIA Isaac Lab – Arena’yı birlikte geliştirmektedir. Geliştiriciler, bu çerçeve API’lerini kullanarak karmaşık, büyük ölçekli değerlendirmeleri basitleştirebilir ve bu sayede politika iterasyonuna odaklanabilirler.
Bu çerçeve, sadeleştirilmiş ve özelleştirilebilir görev tanımları ile değerlendirme ve çeşitlendirme için genişletilebilir kütüphaneler sunmaktadır. Ayrıca, paralelleştirilmiş, GPU hızlandırmalı değerlendirmeler sağlayarak Isaac Lab ile veri oluşturma, eğitim ve dağıtım çerçeveleri arasında sorunsuz bir iş akışı sağlar.
Bu temele inşa edilen bir kütüphane, manipülasyon, lokomotyon ve loco-manipülasyon için örnek görevler içermektedir. NVIDIA, aynı zamanda politika geliştiricileri ve değerlendirme yazarlarıyla iş birliği yaparak, simülasyon çözümü sağlayıcıları ile birlikte Lightwheel gibi değerlendirmeler yaparak topluluğa katkıda bulunmaktadır.
Altyapı Desteği
Isaac Lab 2.3, NVIDIA RTX PRO Blackwell Sunucuları ve NVIDIA DGX Spark üzerinde desteklenmektedir. Her iki platform da, araştırmacıların her robot geliştirme iş yükünü deneyip prototiplemesi için harika bir alan sunmaktadır.
Not: DGX Spark’ta XR/AVP ile Teleoperasyon ve Isaac Lab Mimic’teki İmitasyon Öğrenimi desteklenmez. Geliştiricilerin, humanoid ortamları için önceden toplanmış verilere ihtiyaçları vardır. Franka ortamları, standart cihazlar olan klavye ve spacemouse gibi cihazları desteklemektedir.
Ecosystem Adoption
Önde gelen robotik geliştiricileri olan Agility Robotics, Boston Dynamics, Booster Robotics, Dexmate, Figure AI, Hexagon, Lightwheel, General Robotics, maxon ve Skild AI, robot geliştirme süreçlerini ilerletmek amacıyla NVIDIA kütüphanelerini ve açık modelleri kullanmaktadır.
Isaac Lab 2.3 ile Başlama
Isaac Lab 2.3, humanoid kontrolünü geliştirmekte, veri toplama için teleoperasyonu genişleterek karmaşık manipülasyon ve lokomotyon verilerinin otomatikleştirilmesine olanak tanımaktadır.
Isaac Lab 2.3’ün erken geliştirici sürümü ile başlamak için GitHub reposuna ve belgelere göz atabilirsiniz.
Daha fazla bilgi için Isaac Lab: Çok Modlu Robot Öğrenimi İçin GPU Hızlandırmalı Simülasyon Çerçevesi‘ni inceleyebilirsiniz.
