Skip to content
Open WebUI i FastFlowLM i NPU XDNA2 ar loopback IPv6: 21 W wrth ateb, 232,000 o docynnau mewn un anogwr, tair blynedd o gyweirnod AMD hyd at Linux

Rhedeg LLM ar NPU Ryzen AI, Mewn Cynhwysydd

Mae’r NPU mewn gliniadur Ryzen AI yn 50 TOPS sy’n segur ar y rhan fwyaf o osodiadau Linux. Mae hwn yn dangos sut i adeiladu gyrrwr amdxdna AMD a chadw dim ond modiwl y cnewyllyn ar y gwesteiwr, adeiladu FastFlowLM gyda runtime XRT AMD i mewn i gynhwysydd podman rootless sy’n cyfateb i’r gyrrwr hwnnw, rhwymo popeth i loopback IPv6 a’i gychwyn gyda’r peiriant drwy Quadlet. Yna beth mae’n ei wneud: naw model wedi’u meincnodi, prawf cyd-destun o 232,000 o docynnau, lleferydd i destun gyda Whisper ar ddeg gwaith amser real, Open WebUI a’r 7,000 o docynnau cudd yr oedd yn eu hychwanegu at bob neges, a chyflymder ac ynni’r NPU wedi’u mesur yn erbyn llama.cpp ar iGPU y Radeon 860M. Yn olaf, y llinell amser: tair blynedd o gyhoeddiad Ryzen AI gan AMD hyd at fodel iaith ar ei NPU o dan Linux, wedi’i gyflwyno gan brosiect na ddechreuodd AMD, tra aeth yr ymdrech i Copilot+ ar y Fisher-Price OS (Windows) yn lle’r ganolfan ddata a’r offer Linux y mae gweithwyr proffesiynol AI yn eu defnyddio go iawn.

13 Tachwedd 2026 · 27 mun · 6469 gair · Damien Dye

Trwsio’r TSC Pan Fo Dy Gadarnwedd Wedi Torri

Am bedwar mis, ar bob cychwyn, rhoddodd fy ThinkPad E595 un craidd CPU i Linux dair eiliad y tu ôl i’r saith arall, a gollyngodd y cnewyllyn y TSC am HPET. Beth mae’r rhybudd yn ei olygu, pam nad oes gan beiriant AMD Zen unrhyw ffordd o’i drwsio o’r tu mewn i Linux, beth mae 40 cychwyn yn y journal yn ei ddweud am y gadarnwedd, pam mai tsc=reliable yw’r ateb anghywir, a sut mae tscsync yn mesur ac yn symud y rhifyddion yn UEFI cyn i’r cnewyllyn eu gweld o gwbl, gan gynnwys yr un craidd a farciodd yn BAD ac a dderbyniodd Linux beth bynnag. Wedi’i ddiweddaru ar gyfer BIOS 1.30: nid yw’n trwsio’r gwrthbwyso, a gollyngodd watchdog clocksource y cnewyllyn y TSC ar ddau gychwyn hyd yn oed ar ôl i tscsync gysoni’r creiddiau. Gyda tsc=nowatchdog fe ddaliodd, ac ni chanfu prawf pum munud yn erbyn y cloc amser real, cod ffynhonnell yn gynwysedig, unrhyw warps na drifft. Yn olaf, beth mae’r cwymp yn ôl yn ei wneud ar unrhyw hypervisor KVM, Proxmox neu beidio: mae’r prif gloc yn mynd, mae gwesteion yn colli eu darlleniad cloc cyflym, ac ar y gliniadur hwn roedd darllen y cloc mewn gwestai saith gwaith yn arafach.

11 Hydref 2026 · 25 mun · 5665 gair · Damien Dye
Agorfa fach yn llithro dros framebuffer mawr, wrth ymyl y framebuffer cyfan wedi’i fapio ar unwaith

PCIe Resizable BAR a GPUs Modern: Intel Arc, NVIDIA ac AMD

Mae Resizable BAR yn gadael i’r CPU fapio framebuffer cyfan GPU yn lle sbecian arno drwy ffenestr 256MB. Mae Intel yn dweud ei fod yn angenrheidiol ar Arc, mae NVIDIA yn ei alluogi fesul gêm, mae AMD yn ei werthu fel Smart Access Memory, ac i waith AI mae’n newid y trosglwyddo, nid y mathemateg.

7 Awst 2026 · 12 mun · 2545 gair · Damien Dye