NeuRTX 3050 dediziert, auf Ubuntu freigeschaltet
Gleiche RTX 3050, gleiche Leistung, deutlich mehr KI pro Sekunde
Unsere RTX 3050-Desktops verlassen das Rack jetzt mit freigeschaltetem Tensor-Durchsatz der Karte. Die Karte ist die, die Sie kennen, mit 6 GB GDDR6 und einem 70 W-Limit. Was sich ändert, ist, wie schnell sie die Halbpräzisions-Matrixberechnungen hinter Inferenz, Feinabstimmung und Bilderzeugung bewältigt. Sie mieten die ganze Maschine: Intel Core i5-9500, 32 GB RAM, 256 GB NVMe SSD, in Bucharest.
01Werk ab Werk gegen entsperrt
Die Zahlen von unserem Prüfstand, in allen vier Genauigkeiten
Wir haben dieselbe RTX 3050 zweimal aus dem ausgeschalteten Zustand gestartet, einmal ab Werk und einmal entsperrt, und jeweils denselben PyTorch-Job gestoppt: zwei 8192 mit 8192-Matrizen multiplizieren, immer wieder. Treiber, Kernel und die 70 W-Begrenzung blieben zwischen den Läufen unverändert.
TFLOPS pro Genauigkeit, höher ist schneller
PyTorch-Matrixmultiplikation, NVIDIA-Treiber 595, Durchschnitt aus fünf Läufen
- Ab Werk
- Entsperrt
- 14.0 21.3
- 14.2 22.0
- 6.9 10.8
- 3.7 3.7
Die rohe Tensor-Rate ist doppelt so hoch wie der Wert ab Werk: 36.1 statt 17.9 Billionen FP16-Operationen pro Sekunde mit FP32-Akkumulation. Eine Multiplikation in voller Größe landet bei ungefähr dem Eineinhalbfachen, da die Karte bereits bei 70 W am Anschlag läuft und die schnelleren Kerne dasselbe Leistungsbudget teilen.
Ergebnisse als Tabelle lesen
| Genauigkeit | Ab Werk | Entsperrt | Unterschied |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | keine Änderung |
| Spitzen-Tensor-Rate, FP32-Akkumulation, TF/s | 17.9 | 36.1 | 2x |
Das sind unsere Messungen auf einer Karte. Eine echte Arbeitslast verbringt auch Zeit außerhalb der Tensor-Kerne, daher wird Ihr eigener Gewinn irgendwo unter diesen Werten liegen.
02Wird Ihre Arbeit schneller?
Prüfen Sie Ihren Auftrag anhand dieser Liste, bevor Sie bestellen
Die Freischaltung ist bewusst schmal gehalten. Sie betrifft nur die Tensor-Kerne und sonst nichts, daher hilft sie KI-Arbeit in halber Genauigkeit und lässt den Rest der Karte unverändert.
Lange Prompts und Dokumente für ein Sprachmodell
Das Modell liest Ihre Eingabe als einen großen Stapel Matrixberechnungen, bevor es ein Wort schreibt.
SchnellerLoRA und andere kleine Feinabstimmungen
Trainingsschritte in BF16 oder FP16 auf einem Modell, das in 6 GB GDDR6 passt.
SchnellerStable Diffusion und andere Bildmodelle
Jeder Entrauschungsschritt ist Tensor-Arbeit in halber Genauigkeit.
SchnellerStapelverarbeitung: Embeddings, Tagging, Transkription
Viele Eingaben, die gleichzeitig durch ein Modell geschickt werden, halten die Tensor-Kerne ausgelastet.
SchnellerEin Chatbot, der seine Antwort Wort für Wort schreibt
Die Generierungsgeschwindigkeit hängt davon ab, wie schnell die Karte ihren Speicher liest.
GleichVideokodierung mit NVENC
Der Encoder ist ein eigener Block auf dem Chip und behält seine Werksgeschwindigkeit.
GleichSpiele, Rendering und FP32-CUDA
Nichts davon läuft über den freigeschalteten Pfad.
Gleich03Von der Bestellung bis zum ersten Start
Sie wählen das System, wir kümmern uns um die Freischaltung
- Bestellung
Ubuntu wählen
Die Maschine wird mit dem NVIDIA-Treiber und bereits aktivierter Freischaltung eingerichtet und geht etwa 30 Minuten nach der Freigabe online.
- Bei jedem Start
Frisch gesetzt, dann geprüft
Die Einstellung liegt im Arbeitsspeicher, nicht in der Firmware der Karte. Sie wird beim Systemstart angewendet und jedes Mal überprüft.
- Fallback
Werksgeschwindigkeit, nie beschädigt
Bei einem Start, bei dem sie nicht angewendet werden kann, läuft die Karte einfach mit ihrer Standardrate bis zum nächsten Neustart.
Freigeschaltet geliefert, mit Root-Zugriff, um CUDA, PyTorch und den Rest Ihres Stacks hinzuzufügen.
Wählen Sie jedes andere System für dieselbe Maschine, Windows inbegriffen. Die Karte läuft dort mit Werksgeschwindigkeit: Wir wenden die Freischaltung nur unter Ubuntu an.
04Lab-Notizen
Was wir geprüft haben, bevor wir es für Kunden freigeschaltet haben
Einer dieser Desktops verbrachte einen Nachmittag auf unserem Prüfstand in Bucharest mit Ubuntu 24.04 und NVIDIA-Treiber 595. Das sind die Ergebnisse, die für uns zählten.
- 5 / 5Starts kamen entsperrt hoch, kalt und warm
- 45 minunter Volllast ohne einen einzigen GPU-Fehler
- 0Ergebnisse, die vom ersten Lauf abwichen, Bit für Bit geprüft
- 70 WLeistungslimit, in beiden Zuständen gleich
- 2xdie Spitzen-Tensorrate mit FP32-Akkumulation
- 3.7FP32 TFLOPS, unverändert, wie erwartet
05Häufig gefragt
Freigeschalteter RTX-3050-Server: kurze Antworten
Ist das eine andere Karte als eine normale RTX 3050?
Nein. Es ist dieselbe RTX 3050 6GB mit demselben 6 GB GDDR6 und 70 W-Limit. Die Freischaltung ändert eine Einstellung beim Start: die Rate, mit der ihre Tensor-Kerne in FP16, BF16 und TF32 multiplizieren, während in FP32 addiert wird.
Wie viel schneller ist sie wirklich?
In unserem PyTorch-Test +52% in FP16, +54% in BF16 und +56% in TF32, bei unverändertem FP32. Ein kompletter KI-Job profitiert weniger, weil ein Teil seiner Zeit auf Arbeit entfällt, die die Tensor-Kerne nicht übernehmen.
Welche Betriebssysteme erhalten die freigeschaltete Karte?
Ubuntu 22.04, 24.04 und 26.04. Die Maschine gehört Ihnen auch mit jedem anderen System aus dem Bestellformular, Windows inbegriffen; dort läuft die Karte mit Werksgeschwindigkeit.
Wird etwas auf die Karte geschrieben?
Nein. Es wird nichts geflasht. Die Einstellung wird bei jedem Start der Maschine angewendet und verschwindet beim Ausschalten, weshalb sie bei jedem Booten geprüft wird.
Was, wenn ich das Werksverhalten zurückhaben möchte?
Fragen Sie den Support oder entfernen Sie selbst die eine Boot-Option und schalten Sie die Maschine dann aus und wieder ein. Ab dann startet die Karte mit ihrer Standardrate.
Was kostet das?
Nichts zusätzlich zur Maschine: €89.00 pro Monat für den Desktop mit seiner freigeschalteten Karte, 32 GB RAM, 256 GB NVMe SSD, eine IPv4-Adresse und einen ungedrosselten 1 Gbps-Port.
Nutzen Sie die freigeschaltete RTX 3050 für €89.00 im Monat
Ein dedizierter Desktop in Bucharest, Tensor-Kerne mit voller Leistung unter Ubuntu, Root-Zugriff und unbegrenztes 1 Gbps.
NVIDIA, GeForce und RTX sind Marken der NVIDIA Corporation. Die Compute-Freischaltung wird von uns eingerichtet und ist kein NVIDIA-Produkt.