Skip to content
Open WebUI para FastFlowLM para a NPU XDNA2 em loopback IPv6: 21 W a responder, 232 000 tokens num só prompt, três anos desde a keynote da AMD até ao Linux

Correr um LLM na NPU do Ryzen AI, num contentor

A NPU de um portátil Ryzen AI são 50 TOPS que ficam parados na maioria das instalações Linux. Este artigo mostra como compilar o driver amdxdna da AMD e manter só o módulo do kernel no host, compilar o FastFlowLM com o runtime XRT da AMD num contentor podman rootless ajustado a esse driver, ligar tudo ao loopback IPv6 e iniciá-lo no arranque com o Quadlet. Depois o que faz: nove modelos medidos, um teste de contexto de 232 000 tokens, Whisper de voz para texto a dez vezes o tempo real, o Open WebUI e os 7000 tokens escondidos que acrescentava a cada mensagem, e a velocidade e a energia da NPU medidas contra o llama.cpp na iGPU Radeon 860M. Por fim, a cronologia: três anos desde que a AMD anunciou o Ryzen AI até um modelo de linguagem na sua NPU em Linux, entregue por um projeto que a AMD não começou, enquanto o esforço ia para o Copilot+ no Fisher-Price OS (Windows) em vez do centro de dados e das ferramentas Linux que os profissionais de IA usam realmente.

13 de novembro de 2026 · 26 minutos · 6342 palavras · Damien Dye

Resolver o TSC quando o firmware está avariado

Durante quatro meses, em cada arranque, o meu ThinkPad E595 entregou ao Linux um núcleo do CPU três segundos atrás dos outros sete, e o kernel abandonou o TSC pelo HPET. O que quer dizer o aviso, porque é que uma máquina AMD Zen não tem forma de o reparar a partir do Linux, o que 40 arranques de journal dizem sobre o firmware, porque é que tsc=reliable é a resposta errada, e como o tscsync mede e move os contadores em UEFI antes de o kernel sequer os ver, incluindo o único núcleo que marcou como BAD e que o Linux aceitou na mesma. Atualizado para a BIOS 1.30: não corrige o desvio, e o watchdog de clocksource do kernel deixou cair o TSC em dois arranques mesmo depois de o tscsync ter sincronizado os núcleos. Com tsc=nowatchdog aguentou, e uma verificação de cinco minutos contra o relógio de tempo real, com o código-fonte incluído, não encontrou warps nem deriva. Por fim, o que o recurso ao HPET faz em qualquer hipervisor KVM, seja Proxmox ou não: o relógio mestre desaparece, os convidados perdem a leitura rápida do relógio, e neste portátil uma leitura do relógio no convidado saiu sete vezes mais lenta.

11 de outubro de 2026 · 25 minutos · 5583 palavras · Damien Dye
Um disco NVMe a entrar num adaptador tri-mode e a sair como disco SCSI com profundidade de fila 128

Os adaptadores tri-mode compram flexibilidade com as tuas filas NVMe

Um adaptador tri-mode deixa qualquer baia aceitar SAS, SATA ou NVMe, flexibilidade real e a razão de existirem backplanes U.3. O que não anuncia é que os teus discos NVMe deixam de ser discos NVMe: chegam ao Linux como discos SCSI no mpt3sas, profundidade de fila 128, a partilhar um pool de tags e um uplink x8. Dois discos Gen4 saturam a placa. Um único disco Gen5 já a ultrapassa. Se essa troca ainda faz sentido em 2026, e porque é que as baias universais pertencem ao backplane e não ao controlador.

13 de agosto de 2026 · 27 minutos · 5679 palavras · Damien Dye