GPU-servere

En GPU-server er en virtuell KVM-server med ett eller to NVIDIA RTX 6000-kort koblet direkte til seg, og du administrerer den i Flux som en hvilken som helst annen VPS. Kortene leveres uten drivere: du installerer selv operativsystemet, NVIDIA-driveren og CUDA-versjonen programvaren din trenger.

Pakker

Pakke	Skjermkort	vCPU	RAM	Lagring	Pris (eks. mva.)
GPU-1	1x RTX 6000, 24 GB	8 (AMD EPYC 7542)	24 GB	300 GB NVMe	kr 1 790/mnd eller kr 2,85/time
GPU-2	2x RTX 6000, 48 GB totalt	8 (AMD EPYC 7542)	24 GB	300 GB NVMe	kr 2 990/mnd eller kr 4,75/time

Begge pakkene har 10 Gbit-port, 20 TB trafikk per måned, én IPv4-adresse og et rutet /48 IPv6-prefiks, og står i NO DC4 i Sandefjord. Større konfigurasjoner prises på forespørsel via Support. Gjeldende priser står på gigahost.no/gpu-server.

Du bestiller fra Opprett-siden: velg GPU-instanser som plattform.

Skjermkortet i serveren din

Hvert kort kobles helt gjennom med PCIe-passthrough, så det deles ikke med andre kunder, og alle 24 GB VRAM er dine. Inne i serveren dukker et kort opp som fire PCI-funksjoner: selve skjermkortet pluss lyd-, USB- og USB-C-kontrolleren.

Kortet er et Quadro RTX 6000 fra Turing-generasjonen (TU102, compute capability 7.5). Det har to konsekvenser:

• Tensor-kjernene regner i FP16 og INT8, ikke BF16 eller FP8. Programvare som bruker bfloat16 som standard, må få beskjed om å bruke float16, og modellfiler i FP8 kjører ikke.
• FlashAttention 2 krever et nyere skjermkort. llama.cpp og Ollama har egne attention-kjerner og kjører fint, se Kjør Qwen3.8-27B.

Kom i gang

1. Installer operativsystemet. Ubuntu 24.04, Debian 13, AlmaLinux 10 og Windows Server 2025 er testet med veiledningene under.
2. Installer NVIDIA-driveren: Linux eller Windows.
3. Kjør noe på den, for eksempel Qwen3.8-27B.

TIPS

Velg en SSH-nøkkel når du installerer et Linux-OS. AlmaLinux 10 avviser innlogging som root med passord over SSH, så root-passordet virker bare i konsollen.

ECC-minne

ECC på VRAM er slått av når du får serveren. Slår du det på, er du beskyttet mot bitfeil i minnet, og det koster 1,5 GB VRAM per kort (24 576 MiB blir 23 040 MiB). Med driveren installert:

nvidia-smi -e 1    # 0 slår det av igjen
reboot
nvidia-smi --query-gpu=index,ecc.mode.current,memory.total --format=csv

Innstillingen lagres på kortet, så den overlever en reinstallasjon av OS-et.