NVIDIA, Microsoft Build 2025 etkinliğinde Windows 11 platformu için optimize edilmiş yeni yapay zeka kütüphanesi TensorRT for RTX’i tanıttı. Yeni sistem, özellikle NVIDIA RTX ekran kartlarında çalışan yerel yapay zeka uygulamalarında yüksek performans sağlamak üzere geliştirildi.
NVIDIA, TensorRT for RTX ile performans artışı sağlayacak
TensorRT for RTX, daha önce yalnızca veri merkezi teknolojilerinde kullanılan NVIDIA TensorRT sisteminin masaüstü versiyonu olacak. Bu yeni sürüm, özellikle Windows tabanlı PC’lerde %50’nin üzerinde performans artışı sağlıyor.
Yeni yapay zeka kütüphanesi, özellikle FLUX-1.dev gibi yeni nesil üretken yapay zeka modellerini kullanıcı seviyesindeki GPU’larda çalıştırmak için tasarlandı. Ayrıca FP4 ve FP8 gibi düşük hassasiyetli sayısal formatları destekleyerek, belleği daha verimli kullanıyor ve daha yüksek işlem hacmine olanak tanıyor.
TensorRT for RTX’in öne çıkan bir özelliği ise çıkarım motorlarının önceden derlenmesine gerek kalmaması oldu. Model başlatıldığında GPU üzerinde birkaç saniye içinde derleme yapılarak modele özgü motorlar oluşturulabiliyor.
Bu da ek optimizasyonlar ile beraber performansta %20’ye kadar ekstra artış sağlıyor. Üstelik sistem, yalnızca 200 MB boyutunda ve Windows ML aracılığıyla arka planda otomatik olarak indirilebiliyor. NVIDIA RTX 5090 üzerinde yapılan testlerde, TensorRT for RTX’in, DirectML’ye kıyasla büyük bir hız artışı sağladığı görüldü.
Peki siz bu yeni teknoloji hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmından bizimle kolayca paylaşabilirsiniz.
Kaynak = https://shiftdelete.net/nvidia-tensorrt-for-rtx-ile-performans-artisi-sunacak
