Skip to content
Da Open WebUI a FastFlowLM alla NPU XDNA2 sul loopback IPv6: 21 W mentre risponde, 232.000 token in un prompt, tre anni dal keynote di AMD a Linux

Un LLM sulla NPU Ryzen AI, in un container

La NPU di un portatile Ryzen AI vale 50 TOPS e sulla maggior parte delle installazioni Linux resta ferma. Qui si compila il driver amdxdna di AMD tenendo sull’host solo il modulo del kernel, si costruisce FastFlowLM con il runtime XRT di AMD in un container podman rootless allineato a quel driver, si lega tutto al loopback IPv6 e lo si avvia al boot con Quadlet. Poi cosa fa: nove modelli misurati, un test di contesto da 232.000 token, Whisper che trascrive la voce a dieci volte il tempo reale, Open WebUI e i 7.000 token nascosti che aggiungeva a ogni messaggio, e velocità ed energia della NPU misurate contro llama.cpp sulla iGPU Radeon 860M. Infine la cronologia: tre anni dall’annuncio di Ryzen AI a un modello linguistico sulla sua NPU sotto Linux, arrivato da un progetto che AMD non ha avviato, mentre lo sforzo andava a Copilot+ sul Fisher-Price OS (Windows) invece che al data centre e agli strumenti Linux che i professionisti dell’AI usano davvero.

13 novembre 2026 · 25 minuti · 6078 parole · Damien Dye

Sistemare il TSC quando il firmware è rotto

Per quattro mesi, a ogni boot, il mio ThinkPad E595 ha consegnato a Linux un core della CPU tre secondi indietro rispetto agli altri sette, e il kernel ha abbandonato il TSC per l’HPET. Cosa significa l’avviso, perché una macchina AMD Zen non ha modo di ripararlo dall’interno di Linux, cosa dicono del firmware 40 boot di journal, perché tsc=reliable è la risposta sbagliata, e come tscsync misura e sposta i contatori in UEFI prima che il kernel li veda, compreso l’unico core che ha marcato BAD e che Linux ha accettato comunque. Aggiornato per il BIOS 1.30: non sistema lo scarto, e il watchdog del clocksource del kernel ha abbandonato il TSC in due boot anche dopo che tscsync aveva allineato i core. Con tsc=nowatchdog ha tenuto, e un controllo di cinque minuti contro l’orologio in tempo reale, sorgente compreso, non ha trovato né warp né deriva. Infine, cosa fa il ripiego su qualunque hypervisor KVM, Proxmox o no: il master clock sparisce, i guest perdono la lettura veloce dell’orologio, e su questo portatile una lettura dell’orologio nel guest è risultata sette volte più lenta.

11 ottobre 2026 · 24 minuti · 5362 parole · Damien Dye
Una piccola apertura che scorre su un grande framebuffer, accanto al framebuffer intero mappato in una volta sola

PCIe Resizable BAR e le GPU moderne: Intel Arc, NVIDIA e AMD

Il Resizable BAR permette alla CPU di mappare tutto il framebuffer di una GPU invece di sbirciarlo da una finestra di 256MB. Intel lo definisce obbligatorio per Arc, NVIDIA lo attiva gioco per gioco, AMD lo vende come Smart Access Memory, e per il lavoro di IA cambia il trasferimento, non i calcoli.

7 agosto 2026 · 12 minuti · 2422 parole · Damien Dye