Skip to content
Open WebUI 到 FastFlowLM 再到 XDNA2 NPU,全走 IPv6 回环:回答时 21 W,一个提示词 232,000 token,从 AMD 发布会到 Linux 用了三年

在容器里用 Ryzen AI NPU 跑大语言模型

Ryzen AI 笔记本里的 NPU 有 50 TOPS 算力,在大多数 Linux 系统上却闲着。本文一步步讲:编译 AMD 的 amdxdna 驱动,宿主机上只留内核模块;把 FastFlowLM 和 AMD 的 XRT 运行时一起构建进一个 rootless podman 容器,并与该驱动版本匹配;所有服务只绑定 IPv6 回环地址,用 Quadlet 开机启动。然后看它能做什么:9 个模型的基准测试,一次 232,000 token 的上下文测试,Whisper 语音转文字跑到实时速度的十倍,Open WebUI 以及它往每条消息里偷偷塞的 7,000 个 token,还有 NPU 与 Radeon 860M 核显上 llama.cpp 的速度和能耗实测对比。最后是时间线:从 AMD 发布 Ryzen AI 到 Linux 上能在它的 NPU 上跑语言模型,用了三年,而且是一个不是 AMD 发起的项目做到的;与此同时,力气都花在了 Fisher-Price OS (Windows) 上的 Copilot+,而不是数据中心和 AI 从业者真正在用的 Linux 工具链。

2026年11月13日 · 20 分钟 · 2304 字 · Damien Dye

固件坏了,自己把 TSC 理顺

四个月里,我的 ThinkPad E595 每次开机交给 Linux 的都是一个比其余七个核心慢三秒的 CPU 核心,内核于是丢掉 TSC,改用 HPET。这条警告是什么意思,为什么 AMD Zen 机器没有办法在 Linux 内部修复它,40 次开机的日志对固件说了什么,为什么 tsc=reliable 是错误答案,以及 tscsync 怎样在内核看到计数器之前就在 UEFI 里测量并挪动它们,包括它判为 BAD、Linux 却照样接受的那一个核心。已针对 BIOS 1.30 更新:它修不好这个偏移,而且即使 tscsync 已经把核心同步好,内核的时钟源看门狗仍在两次开机中丢掉了 TSC。加上 tsc=nowatchdog 后 TSC 保住了,一个对照实时时钟、连源码一起公开的五分钟检查没有发现回跳,也没有发现漂移。最后,这种回退在任何 KVM 虚拟化宿主机上(不管是不是 Proxmox)会带来什么:主时钟没了,客户机失去快速读时钟的能力,在这台笔记本上客户机读一次时钟慢了七倍。

2026年10月11日 · 18 分钟 · 1877 字 · Damien Dye
一块 NVMe 盘进入三模适配器,出来变成一块队列深度 128 的 SCSI 磁盘

三模适配器拿你的 NVMe 队列换灵活性

三模适配器让任何槽位都能接 SAS、SATA 或 NVMe:这是真正的灵活性,也是 U.3 背板存在的原因。它不宣传的是,你的 NVMe 盘不再是 NVMe 盘:它们在 Linux 里变成了 mpt3sas 上的 SCSI 磁盘,队列深度 128,共用一个 tag 池和一条 x8 上行链路。两块 Gen4 盘就能把卡跑满。一块 Gen5 盘就已经超过它了。本文讨论这笔交易在 2026 年是否还划算,以及为什么通用槽位该归背板而不是控制器。

2026年8月13日 · 19 分钟 · 1365 字 · Damien Dye