Skip to content
Da Open WebUI a FastFlowLM alla NPU XDNA2 sul loopback IPv6: 21 W mentre risponde, 232.000 token in un prompt, tre anni dal keynote di AMD a Linux

Un LLM sulla NPU Ryzen AI, in un container

La NPU di un portatile Ryzen AI vale 50 TOPS e sulla maggior parte delle installazioni Linux resta ferma. Qui si compila il driver amdxdna di AMD tenendo sull’host solo il modulo del kernel, si costruisce FastFlowLM con il runtime XRT di AMD in un container podman rootless allineato a quel driver, si lega tutto al loopback IPv6 e lo si avvia al boot con Quadlet. Poi cosa fa: nove modelli misurati, un test di contesto da 232.000 token, Whisper che trascrive la voce a dieci volte il tempo reale, Open WebUI e i 7.000 token nascosti che aggiungeva a ogni messaggio, e velocità ed energia della NPU misurate contro llama.cpp sulla iGPU Radeon 860M. Infine la cronologia: tre anni dall’annuncio di Ryzen AI a un modello linguistico sulla sua NPU sotto Linux, arrivato da un progetto che AMD non ha avviato, mentre lo sforzo andava a Copilot+ sul Fisher-Price OS (Windows) invece che al data centre e agli strumenti Linux che i professionisti dell’AI usano davvero.

13 novembre 2026 · 25 minuti · 6078 parole · Damien Dye

Sistemare il TSC quando il firmware è rotto

Per quattro mesi, a ogni boot, il mio ThinkPad E595 ha consegnato a Linux un core della CPU tre secondi indietro rispetto agli altri sette, e il kernel ha abbandonato il TSC per l’HPET. Cosa significa l’avviso, perché una macchina AMD Zen non ha modo di ripararlo dall’interno di Linux, cosa dicono del firmware 40 boot di journal, perché tsc=reliable è la risposta sbagliata, e come tscsync misura e sposta i contatori in UEFI prima che il kernel li veda, compreso l’unico core che ha marcato BAD e che Linux ha accettato comunque. Aggiornato per il BIOS 1.30: non sistema lo scarto, e il watchdog del clocksource del kernel ha abbandonato il TSC in due boot anche dopo che tscsync aveva allineato i core. Con tsc=nowatchdog ha tenuto, e un controllo di cinque minuti contro l’orologio in tempo reale, sorgente compreso, non ha trovato né warp né deriva. Infine, cosa fa il ripiego su qualunque hypervisor KVM, Proxmox o no: il master clock sparisce, i guest perdono la lettura veloce dell’orologio, e su questo portatile una lettura dell’orologio nel guest è risultata sette volte più lenta.

11 ottobre 2026 · 24 minuti · 5362 parole · Damien Dye
Un drive NVMe che entra in un adattatore tri-mode e ne esce come disco SCSI con una queue depth di 128

Gli adattatori tri-mode comprano flessibilità con le tue code NVMe

Un adattatore tri-mode fa accettare a ogni slot SAS, SATA o NVMe: una flessibilità vera, e il motivo per cui esistono i backplane U.3. Quello che non pubblicizza è che i tuoi drive NVMe smettono di essere drive NVMe: arrivano in Linux come dischi SCSI su mpt3sas, queue depth 128, con un solo pool di tag e un solo uplink x8 in comune. Due drive Gen4 saturano la scheda. Un solo drive Gen5 la supera già. Se quello scambio ha ancora senso nel 2026, e perché gli slot universali appartengono al backplane e non al controller.

13 agosto 2026 · 26 minuti · 5415 parole · Damien Dye