YeniRTX 3050 dedicated, Ubuntu'da kilidi açıldı
Aynı RTX 3050, aynı güç, saniyede çok daha fazla AI
RTX 3050 masaüstü makinelerimiz artık raftan kartın tensör işlem hacmi açılmış olarak çıkıyor. Kart bildiğiniz kart: 6 GB GDDR6 ve 70 W sınırıyla. Değişen şey, çıkarım, ince ayar ve görüntü üretiminin arkasındaki yarı hassasiyetli matris matematiğini ne kadar hızlı tamamladığı. Makinenin tamamını kiralıyorsunuz: Intel Core i5-9500, 32 GB RAM, 256 GB NVMe SSD, Bucharest içinde.
01Fabrika ayarları, kilit açılmış hale karşı
Tezgahımızdan çıkan rakamlar, dört hassasiyetin tamamında
Aynı RTX 3050 modelini güç kapalıyken iki kez başlattık; birinde stok haliyle, diğerinde kilidi açılmış olarak ve her iki durumda da aynı PyTorch işini süreledik: iki 8192 ile 8192 matrisini defalarca çarptık. Sürücü, çekirdek ve 70 W sınırı çalıştırmalar arasında değişmedi.
Hassasiyet başına TFLOPS, daha yüksek çubuk daha hızlı demektir
PyTorch matris çarpımı, NVIDIA sürücüsü 595, beş çalıştırmanın ortalaması
- Fabrika
- Kilit açık
- 14.0 21.3
- 14.2 22.0
- 6.9 10.8
- 3.7 3.7
Ham tensör hızı fabrika değerinin iki katıdır: FP32 biriktirmeli saniyede 17.9 trilyon FP16 işlemi yerine 36.1. Tam boyutlu bir çarpma yaklaşık bir buçuk katına ulaşır; kart zaten 70 W değerinde tam kapasite çalıştığından ve daha hızlı çekirdekler aynı güç bütçesini paylaştığından.
Sonuçları tablo olarak okuyun
| Hassasiyet | Fabrika | Kilit açık | Fark |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | değişiklik yok |
| Tepe tensör hızı, FP32 biriktirme, TF/s | 17.9 | 36.1 | 2x |
Bunlar tek bir kart üzerindeki ölçümlerimizdir. Gerçek bir iş yükü tensör çekirdeklerinin dışında da zaman harcar; bu nedenle kendi kazancınızın bu değerlerin bir miktar altında kalmasını bekleyin.
02İşiniz hızlanır mı?
Sipariş vermeden önce işinizi bu listeyle karşılaştırın
Kilit açma bilinçli olarak dar tutulmuştur. Yalnızca tensör çekirdeklerine dokunur, başka hiçbir şeye değil; böylece yarı hassasiyetteki yapay zekâ işlerine yardımcı olur ve kartın geri kalanını geldiği gibi bırakır.
Bir dil modeli için uzun istemler ve belgeler
Model, tek bir kelime yazmadan önce girdinizi büyük bir matris işlemi yığını olarak okur.
Daha hızlıLoRA ve diğer küçük ince ayarlar
6 GB GDDR6 sığan bir modelde BF16 veya FP16 ile eğitim adımları.
Daha hızlıStable Diffusion ve diğer görüntü modelleri
Her gürültü giderme adımı yarı hassasiyetli tensör işlemidir.
Daha hızlıToplu işler: gömmeler, etiketleme, transkripsiyon
Aynı anda bir modelden geçirilen çok sayıda girdi tensör çekirdeklerini meşgul tutar.
Daha hızlıYanıtını kelime kelime yazan bir sohbet robotu
Üretim hızı, kartın belleğini ne kadar hızlı okuduğuna bağlıdır.
AynıNVENC ile video kodlama
Kodlayıcı çip üzerinde kendi bloğudur ve fabrika hızını korur.
AynıOyunlar, render ve FP32 CUDA
Bunların hiçbiri kilit açılan yoldan geçmez.
Aynı03Siparişten ilk açılışa
Sistemi siz seçin, kilit açma işlemini biz üstlenelim
- Sipariş
Ubuntu'yu seçin
Makine, NVIDIA sürücüsü ve kilit açma işlemi hazır şekilde kurulur ve onaydan yaklaşık 30 dakika sonra çevrimiçi olur.
- Her açılışta
Önce ayarlanır, sonra doğrulanır
Ayar, kartın ürün yazılımında değil bellekte tutulur. Sistem başlarken uygulanır ve her seferinde doğrulanır.
- Yedek
Fabrika hızı, asla bozulmaz
Uygulanamadığı bir başlangıçta kart, bir sonraki yeniden başlatmaya kadar stok hızında çalışır.
Kilit açılmış olarak teslim edilir; CUDA, PyTorch ve yığınınızın geri kalanını eklemek için kök erişimiyle birlikte.
Aynı makine için Windows dahil başka bir sistem seçin. Kart orada fabrika hızında çalışır: kilit açma işlemini yalnızca Ubuntu'da uyguluyoruz.
04Laboratuvar notları
Müşteriler için açmadan önce kontrol ettiklerimiz
Bu masaüstü bilgisayarlardan biri, Bucharest adresindeki tezgahımızda Ubuntu 24.04 ve NVIDIA sürücüsü 595 ile bir öğleden sonra geçirdi. Bizim için önemli olan sonuçlar bunlardı.
- 5 / 5başlatmalar soğuk ve sıcak olarak kilit açık şekilde geldi
- 45 dktam yükte tek bir GPU hatası olmadan
- 0ilk çalıştırmadan farklı sonuç, bit bit kontrol edildi
- 70 Wgüç sınırı, her iki durumda da aynı
- 2xFP32 biriktirmeli en yüksek tensör hızı
- 3.7FP32 TFLOPS, beklendiği gibi değişmedi
05Sık sorulanlar
Kilidi açılmış RTX 3050 sunucu: kısa yanıtlar
Bu, normal bir RTX 3050'den farklı bir kart mı?
Hayır. Aynı RTX 3050 6GB, aynı 6 GB GDDR6 ve 70 W sınırına sahip. Kilit açma işlemi başlangıçta tek bir ayarı değiştirir: tensör çekirdeklerinin FP32'de toplama yaparken FP16, BF16 ve TF32'de çarpma hızını.
Gerçekte ne kadar daha hızlı?
PyTorch testimizde FP16'da +52%, BF16'da +54% ve TF32'de +56%; FP32 değişmeden kalır. Tam bir yapay zeka işi daha az kazanır çünkü süresinin bir kısmı tensör çekirdeklerinin yapmadığı işlere gider.
Kilidi açılmış kartı hangi işletim sistemleri alır?
Ubuntu 22.04, 24.04 ve 26.04. Makine, sipariş formundaki Windows dahil başka herhangi bir sistemle de sizin olur; orada kart fabrika hızında çalışır.
Karta herhangi bir şey yazılıyor mu?
Hayır. Hiçbir şey flaşlanmaz. Ayar, makine her başladığında uygulanır ve güç kapatıldığında kaybolur; bu yüzden her açılışta kontrol edilir.
Fabrika davranışını geri istersem ne olur?
Destek ekibine sorun ya da tek açılış seçeneğini kendiniz kaldırın, ardından makineyi kapatıp açın. Kart bundan sonra stok hızında başlar.
Maliyeti nedir?
Makinenin üzerine hiçbir ek ücret yok: kilidi açılmış kartı, 32 GB RAM, 256 GB NVMe SSD, bir IPv4 adresi ve limitsiz 1 Gbps bağlantı noktasıyla masaüstü için ayda €89.00.
Kilidi açılmış RTX 3050 modelini ayda €89.00 karşılığında kullanmaya başlayın
Bucharest konumunda özel bir masaüstü, Ubuntu üzerinde tam hızda tensor çekirdekleri, root erişimi ve sınırsız 1 Gbps.
NVIDIA, GeForce ve RTX, NVIDIA Corporation'ın ticari markalarıdır. Hesaplama kilidi tarafımızca açılır ve bir NVIDIA ürünü değildir.