Perché finora è stato costoso
La VDI, Virtual Desktop Infrastructure, fornisce un desktop completo da un data centre o dal cloud invece che dal dispositivo che hai davanti. Un utente si collega da un portatile, da un thin client o dalla sua macchina, e trova un desktop Windows o Linux familiare le cui applicazioni, file ed elaborazione stanno tutti in un posto centrale.
Per un team IT il vantaggio è che patch, controllo degli accessi e protezione dei dati avvengono in un solo posto, e le persone possono raggiungere lo stesso desktop da ovunque.
L’ostacolo non è mai stato l’hypervisor. È stata la GPU.
Dividere una GPU fisica tra più desktop è stato territorio di NVIDIA, e NVIDIA fa pagare il software vGPU che fa la divisione. Quella licenza è il motivo per cui la VDI con grafica accelerata in hardware è rimasta per lo più roba da aziende con budget da grande azienda. Pagare un canone annuale per accendere qualcosa che il silicio sa già fare è difficile da accogliere con entusiasmo.
Intel ha cambiato i conti con la linea Arc Pro. Queste schede supportano la divisione in hardware tramite SR-IOV standard, che è una funzione PCIe e non un prodotto. Per questo non c’è un server di licenze, non c’è un abbonamento e non c’è un software vGPU separato da comprare.
Così mi sono procurato una Intel Arc Pro B50 per vedere quanto si integra bene con Proxmox. La risposta breve: il meccanismo funziona esattamente come promesso, e poi ci si è messo di mezzo il firmware. Le due metà sono qui sotto.
L’elefante nella stanza: prima ti serve Windows
Prima che tutto questo funzioni, la scheda vuole il firmware aggiornato. Intel distribuisce quell’aggiornamento dentro l’installer del driver Windows.
Il che è scomodo, perché il motivo per cui hai comprato la scheda è farla girare sotto Proxmox.
C’è un modo per aggirarlo che richiede solo Proxmox: crei una VM Windows, le passi la scheda intera, lasci che Windows aggiorni il firmware, poi restituisci la scheda all’host. È un ciclo di bootstrap, e conviene saperlo prima di pianificare la build, non dopo.
Trovare la scheda
Sull’host Proxmox, lspci per individuarla:
lspci

Eccola a 03:00.0, riportata come Battlemage G21, il silicio dietro la Arc Pro B50.
Annota l’indirizzo. Ti servirà più volte, e insieme alla scheda arriva una funzione audio separata a 04:00.0.
Passare la scheda intera a una VM Windows
Aggiungi la scheda a una VM Windows come dispositivo PCI grezzo.
Nell’hardware della VM è una voce PCI Device: 0000:03:00 con pcie=1:

Vale la pena notare cos’altro è quella VM, perché niente è casuale: tipo di macchina Q35, firmware OVMF, VirtIO SCSI single e un TPM per Windows 11. Q35 in particolare qui non è opzionale. Una GPU passata su i440fx appare come dispositivo PCI legacy, che è la forma sbagliata per un driver grafico moderno. Se ne parla in Usa sempre Q35, non i440fx.
Avvia la VM e controlla che Windows veda la scheda:

Appare come Microsoft Basic Display Adapter perché non c’è ancora nessun driver installato. È lo stato previsto, e basta. Windows ha trovato l’hardware.
Aggiornare il firmware
Scarica il driver attuale dalla pagina di download della Arc Pro B50 di Intel.
Mentre scrivo era la versione 32.0.101.8306 (Q4.25), per Windows 11 e Windows 10 22H2:

Installalo, e lascia che l’aggiornamento del firmware venga eseguito come parte del processo invece di interromperlo prima. Quel passo del firmware è l’unico motivo di tutta questa deviazione.
Quando finisce, restituisci la scheda all’host e riavvia, così si reinizializza completamente sotto Proxmox.
Verificare che SR-IOV ci sia
Ora chiedi alla scheda cosa sa fare:
lspci -v

La riga che conta:
Capabilities: [320] Single Root I/O Virtualization (SR-IOV)
È tutta la proposta in una riga di output di lspci, senza nessuna licenza attaccata.
Altre tre cose in quell’output vale la pena leggerle già che ci sei:
Kernel driver in use: xe: la scheda usa il driverxe, il più recente di Intel, invece dii915, ed è lui che creerà le virtual function.[420] Physical Resizable BARe[220] Virtual Resizable BAR: la scheda supporta i BAR ridimensionabili, e lo stesso vale per le sue virtual function. Conviene sapere quanto ti costa in spazio di indirizzi se ne passi diverse: vedi PCIe Resizable BAR e le GPU moderne.IOMMU group 13: la scheda è in un gruppo tutto suo, che è quello che vuoi per un passthrough pulito. Perché conta è spiegato nell’articolo sulla tassa IOMMU.
Creare le virtual function all’avvio
Le virtual function non sono persistenti. Richiederle è una scrittura in sysfs, quindi deve avvenire a ogni avvio.
tmpfiles.d è un modo pulito per farlo in forma dichiarativa, invece di attaccare uno script a un file di unit:

Il file fa tre lavori, in ordine.
Crea le virtual function, scrivendo il numero nel sriov_numvfs della physical function:
w /sys/devices/pci0000:00/0000:00:01.1/0000:01:00.0/0000:02:01.0/0000:03:00.0/sriov_numvfs - - - - 4
Scollega ogni nuova funzione da xe, perché il driver dell’host le prende man mano che compaiono e un guest non può avere un dispositivo che l’host sta tenendo:
w /sys/bus/pci/drivers/xe/unbind - - - - 0000:03:00.1
w /sys/bus/pci/drivers/xe/unbind - - - - 0000:03:00.2
w /sys/bus/pci/drivers/xe/unbind - - - - 0000:03:00.3
w /sys/bus/pci/drivers/xe/unbind - - - - 0000:03:00.4
Collegale a vfio-pci, che è ciò che le rende disponibili per il passthrough:
w /sys/bus/pci/drivers/vfio-pci/bind - - - - 0000:03:00.1
w /sys/bus/pci/drivers/vfio-pci/bind - - - - 0000:03:00.2
w /sys/bus/pci/drivers/vfio-pci/bind - - - - 0000:03:00.3
w /sys/bus/pci/drivers/vfio-pci/bind - - - - 0000:03:00.4
Nota gli indirizzi: la physical function è 03:00.0 e le virtual function compaiono come da .1 a .4.
Un dettaglio su w spiega l’ordine, e ti morderà se lo sbagli. systemd lo documenta così: «Write the argument parameter to a file, if the file exists.»
sriov_numvfs esiste solo dopo che un driver si è legato alla physical function, e i percorsi delle virtual function esistono solo dopo che quella scrittura è avvenuta.
Quindi l’ordine nel file non è una questione di stile. Ogni riga dipende dal fatto che quella prima abbia avuto effetto.
Perché due e non quattro
Il driver 32.0.101.8306, quello installato sopra, contiene il firmware grafico BMG__21,1162, ed è la release in cui Intel ha attivato ufficialmente per la prima volta SR-IOV su Arc Pro.
Il default dichiarato da Intel per la B50 in quella release è di due virtual function, ciascuna con un VF Local Memory BAR da 8 GB.
Il che rende il numero una questione di aritmetica e non di politica. La B50 ha 16 GB. A 8 GB per virtual function, ce ne stanno solo due.
C’è un dettaglio da sapere se vai a cercare un modo per aggirarlo. Prima che esistesse il supporto ufficiale, alcuni usavano un firmware più vecchio che esponeva 12 virtual function su una B50, e tornare al driver 32.0.101.6979 ripristina quel numero.
Quelle 12 si dividevano gli stessi 16 GB, quindi ognuna aveva una frazione della memoria che hanno le mie. La posizione di Intel è che due è una scelta deliberata, per dare a ogni funzione abbastanza calcolo, capacità e banda da comportarsi in modo prevedibile.
Quindi il limite si può spostare, ma non da te. Il numero massimo di VF e la dimensione del VF Local Memory BAR stanno nell’IFWI, non c’è nessuno strumento pubblico per cambiare l’uno o l’altra, e la risposta supportata su uno stack attuale è due.
Quanti desktop ti dà ogni scheda
La B50 è la scheda piccola della famiglia, e le sue due funzioni sono il minimo della famiglia. Se ti interessa il numero di postazioni, compra più in alto nella gamma.
Tutta la linea Arc Pro Battlemage fa SR-IOV. Cambia quante funzioni il firmware è disposto a ritagliare, e questo segue la memoria:
| Scheda | Memoria | VF sullo stack supportato attuale | Visto altrove |
|---|---|---|---|
| Arc Pro B50 | 16 GB | 2, con VF BAR da 8 GB ciascuna: il default documentato da Intel | 12 sul firmware pre-ufficiale, con il driver 32.0.101.6979 |
| Arc Pro B60 | 24 GB | 7 riportate | 24 su un primo firmware ASRock, ridotte a 7 da uno successivo |
| Arc Pro B60 Dual | 2 × 24 GB | 7 per GPU: due GPU, quindi 14 da uno slot | come sopra; le due metà sono indipendenti |
| Arc Pro B65 | 32 GB | nessun numero pubblicato trovato | n.d. |
| Arc Pro B70 | 32 GB | 7 riportate, con il firmware 8517 | 4 su firmware precedenti |
Solo la riga della B50 è documentata da Intel. I numeri della B60 e della B70 sono quelli che la gente riporta da lspci, e sono cambiati più di una volta. La B60 in particolare è passata da 24 a 7 con un aggiornamento del firmware, lo stesso tipo di restringimento che ha visto la B50.
Sembra che nessuno abbia pubblicato un numero di VF per la B65, quindi tratta quella riga come sconosciuta e non come zero.
Da quella tabella seguono due cose, ed entrambe contano più di qualsiasi singolo numero.
Il numero di VF è una divisione della memoria, non una caratteristica del die. La regola di Intel è che un VF Local Memory BAR più grande significa meno funzioni. È per questo che la scheda da 16 GB ne dà due e quelle da 32 GB ne danno sette: non lo decide niente negli shader della GPU.
Controlla la scheda che stai per comprare, non la famiglia. La presenza di SR-IOV è variata tra i produttori di schede sullo stesso chip: la B60 Blower di Sparkle all’inizio è uscita senza che la capability fosse visibile, e l’ha ottenuta solo dopo un aggiornamento del firmware con igsc. Chiedi l’output di lspci -v del modello esatto, oppure metti in conto un aggiornamento del firmware prima di contare su tutto questo.
La B60 Dual è due schede con una sola staffa
La Arc Pro B60 Dual 48G Turbo di Maxsun è quella interessante per il numero di postazioni, e la cosa da capire è che i 48 GB non sono un pool.
Sono due GPU B60, due die BMG-G21, su una sola scheda, con 24 GB di GDDR6 collegati a ciascuno, e nessun chip bridge PCIe tra loro. Entrambi i die si attaccano direttamente ai contatti dorati x16, a PCIe 5.0 x8 ciascuno.
Il che significa che è l’host a dover dividere lo slot per te. La scheda ha bisogno che lo slot x16 principale sia biforcato in x8/x8, e la maggior parte delle schede madri consumer non lo attiva di default. È un’impostazione del firmware che devi andare a cercare, nella stessa categoria delle impostazioni IOMMU e ACS di cui ha bisogno tutto questo.
Se la imposti bene, il sistema operativo vede due GPU separate, ognuna con la sua physical function e la sua capability SR-IOV. Quindi ottieni due serie di virtual function da un solo slot, 14 postazioni se ogni die si comporta come una B60 singola, e il file tmpfiles.d qui sopra raddoppia, con una scrittura su sriov_numvfs per die.
Se la sbagli, vedi una sola GPU e metà della scheda è invisibile.
Vale la pena essere chiari su cosa non sono i 48 GB: un guest collegato a una virtual function sul primo die non può raggiungere la memoria del secondo. Sono due schede da 24 GB in un solo spazio fisico, che è esattamente quello che vuoi per le postazioni VDI ed esattamente quello che non vuoi per un singolo modello grande.
Quindi: se ti bastano due postazioni, la B50 è una scheda da 70 W che lo fa. Se ne vuoi sette, pianifica intorno a una B70. Se ne vuoi quattordici e hai una scheda madre che biforca, la B60 dual ti ci porta con un solo slot.
Si può far girare l’AI su una virtual function?
Risposta breve: consideralo non supportato. Risposta lunga, perché il motivo conta e non è quello che immagineresti.
Queste schede sono vendute come schede per l’AI e non fanno finta. I 128 motori XMX della B50 sono dichiarati a 170 TOPS di picco, la B70 a 367, e la storia software di Intel è reale: vLLM serve modelli da 8B fino a 120B sulle Arc Pro serie B, e IPEX-LLM e il backend SYCL di llama.cpp girano entrambi su queste schede.
Ma guarda come viene prodotto ognuno di quei risultati. I numeri di vLLM sulle Arc Pro vengono da un container Docker su bare metal, su sistemi con quattro e otto B60 intere che fanno tensor parallelism. L’articolo di Intel non nomina SR-IOV o le virtual function nemmeno una volta.
Lo stesso schema vale ovunque abbia guardato. Intel limita i casi d’uso di SR-IOV al desktop remoto virtualizzato, all’accelerazione grafica del sistema operativo guest e alla codifica e decodifica video. Il calcolo non è in quella lista, e non sono riuscito a trovare un solo caso pubblicato di qualcuno che facesse inferenza LLM dentro una VM collegata a una virtual function.
Quello che la gente fa davvero è eloquente: fa girare il modello in Docker sull’host, e passa le virtual function alle VM per i desktop. Una persona che fa entrambe le cose insieme riporta semplicemente che «VRAM gets pretty tight.»
Che è il vero problema, ed è aritmetica, non supporto dei driver.
Una virtual function riceve una fetta fissa di memoria locale: 8 GB sulla B50, fissata nel firmware. Quella fetta è il tetto massimo per pesi più KV cache in quel guest, e non cresce perché la scheda ne ha di più. Un modello da 8B in FP16 è circa 16 GB di pesi prima ancora di aggiungere un qualsiasi contesto, quindi non entra in una virtual function della B50 con nessun driver. Quantizzalo a Q4 e un 8B sta in circa 4 GB, lasciando qualche GB per il contesto: funziona, ma è molto lontano da quello che la scheda sa fare quando non è divisa.
Quindi i due carichi competono per la stessa memoria, e la divisione è decisa nel firmware prima che parta l’uno o l’altro.
Se il lavoro è l’AI, non dividere la scheda. Passala intera a una VM, lo stesso passthrough hostpci0 usato prima in questo articolo per l’aggiornamento del firmware, oppure fai girare il container sull’host e salta la virtualizzazione per quel carico. In entrambi i casi il modello ha tutti i 16 GB e l’intera matrice XMX.
Se il lavoro è la VDI, le virtual function sono la scelta giusta, e dietro ognuna aspettati grafica da desktop, non un server di inferenza. Desktop accelerati in hardware, riproduzione video e codifica funzionano. È per questo che il meccanismo è documentato.
Va detto chiaramente: l’assenza di prove pubblicate non dimostra che non funzioni. Il driver xe espone il calcolo tramite Level Zero e OpenCL, ed è del tutto possibile che un guest su una VF li attivi senza problemi. Ma niente da parte di Intel dice che sia validato, nessuno sembra averlo mostrato funzionante, e il tetto di memoria limita il guadagno anche se funziona. Non è qualcosa su cui costruire un piano.
Quanto vale comunque
Due virtual function sono due desktop Windows accelerati in hardware da una sola scheda, senza licenza vGPU, senza abbonamento e senza server di licenze. Su un hypervisor che non costa niente far girare. Basta per dimostrare che l’approccio funziona, che è il lavoro onesto per una B50. È il fondo della gamma.
Per un vero deployment VDI specificherei la B60 dual.
Quattordici funzioni da un solo slot, se ogni die si comporta come una B60 singola, la mettono nello stesso territorio di postazioni delle schede NVIDIA vendute per questo carico, a un prezzo molto più basso e senza niente da licenziare per utente. Quest’ultima parte è quella che si accumula. vApps, vPC e RTX vWS di NVIDIA sono tutti licenziati per utente concorrente, o come abbonamento annuale o come licenza perpetua da comprare insieme a un abbonamento di supporto e manutenzione di cinque anni. Ogni postazione è una voce di spesa, e torna ogni volta. Dal lato Intel non c’è una voce equivalente. Compri la scheda.
E il meccanismo è la parte che conta nel lungo periodo. SR-IOV sulla GPU è una capability PCIe, non un livello di prodotto, quindi il file tmpfiles.d cresce semplicemente fino a quello che la scheda consente.
La forma è una scrittura su sriov_numvfs, poi un unbind e un bind per ogni funzione: quindi due funzioni sono cinque righe, e le nove qui sopra sono quattro funzioni chieste a una scheda che ne dà due. Sette funzioni sono quindici righe. Una B60 dual sono trenta, perché ogni die è una physical function a sé e ha la sua scrittura su sriov_numvfs.
Nient’altro cambia mentre scali. In quel file non compare mai un server di licenze.
Riferimenti
- Intel support — why the latest Arc Pro B50 firmware shows 2 SR-IOV VFs — la dichiarazione autorevole: SR-IOV attivato ufficialmente dal firmware grafico
BMG__21,1162nel driver32.0.101.8306, due VF con un VF Local Memory BAR da 8 GB ciascuna sulla B50, e il numero massimo di VF e la dimensione del BAR fissati a livello di IFWI senza nessuno strumento pubblico per cambiarli - Intel Community — “Why did the latest Intel Arc Pro B50 firmware nerf SR-IOV VFs from 12 to 2?” — il firmware pre-ufficiale con 12 VF, il ritorno a
32.0.101.6979che le ripristina, e il ragionamento di Intel sul default più basso - Level1Techs — B60 SR-IOV support in the Arc Pro drivers — report
lspcisul campo per la B60, l’aggiornamento del firmware conigscche ha esposto la capability, e da dove vengono le cifre 24 e poi 7 - Level1Techs — B50, B60 or B70 for SR-IOV — i numeri di VF riportati per scheda e per firmware, fonte delle righe della B70
- ASRock — Intel Arc Pro B65 Creator 32GB — le specifiche della B65: 32 GB GDDR6, 20 compute unit, 160 motori XMX, 256 bit, PCIe 5.0
- MAXSUN — Arc Pro B60 Dual 48G Turbo — la dichiarazione del produttore stesso che la scheda «uses PCIe 5.0 x8 + x8 interfaces and runs efficiently on consumer platforms that support PCIe x16 lane bifurcation»
- vLLM — Fast and affordable LLM serving on Intel Arc Pro B-Series — la storia AI su queste schede, e il fatto che è una storia di Docker su bare metal con quattro e otto B60 intere, senza nessuna menzione di SR-IOV o delle virtual function
- Linux kernel — Intel Xe driver — il driver in uso sulla scheda, secondo
lspci -v tmpfiles.d(5)— il tipo di rigaw, e la sua condizione «if the file exists» che detta l’ordine visto sopra- NVIDIA Virtual GPU Software Packaging, Pricing and Licensing Guide — l’alternativa con licenza che questo design evita: vApps, vPC e RTX vWS venduti tutti per utente concorrente, come abbonamento annuale o come licenza perpetua abbinata a cinque anni di supporto e manutenzione
- Proxmox VE — PCI(e) Passthrough — i requisiti del passthrough lato host