Skip to content
Open WebUI до FastFlowLM до NPU XDNA2 на петлі IPv6: 21 Вт під час відповіді, 232 000 токенів в одному промпті, три роки від виступу AMD до Linux

LLM на NPU Ryzen AI, у контейнері

NPU в ноутбуці з Ryzen AI дає 50 TOPS, які на більшості встановлень Linux просто стоять. Тут я проходжу збирання драйвера amdxdna від AMD, залишаючи на хості тільки модуль ядра, збирання FastFlowLM з рушієм XRT від AMD у rootless-контейнер podman, підігнаний під цей драйвер, прив’язку всього до петлі IPv6 і запуск під час старту через Quadlet. Далі що воно вміє: дев’ять моделей у бенчмарку, тест контексту на 232 000 токенів, розпізнавання мовлення Whisper удесятеро швидше за реальний час, Open WebUI і 7000 прихованих токенів, які він додавав до кожного повідомлення, а також швидкість і енергія NPU, виміряні проти llama.cpp на вбудованій Radeon 860M. Наостанок хронологія: три роки від оголошення Ryzen AI до мовної моделі на його NPU під Linux, і зробив це проєкт, який AMD не починала, поки зусилля йшли на Copilot+ у Fisher-Price OS (Windows), а не на дата-центр і Linux-інструменти, якими справді користуються фахівці з AI.

13 листопада 2026 · 22 хвилини · 5407 words · Damien Dye

Як упоратися з TSC, коли прошивка зламана

Чотири місяці на кожному завантаженні мій ThinkPad E595 віддавав Linux одне ядро процесора, що на три секунди відстає від семи інших, і ядро ОС відмовлялося від TSC на користь HPET. Що означає це попередження, чому машина на AMD Zen не може виправити це зсередини Linux, що кажуть про прошивку журнали 40 завантажень, чому tsc=reliable це неправильна відповідь і як tscsync вимірює та зсуває лічильники в UEFI ще до того, як ядро їх побачить, включно з одним ядром, яке він позначив BAD, а Linux однаково прийняв. Оновлено для BIOS 1.30: зсув він не виправляє, і сторожовий механізм джерела годинника в ядрі скинув TSC на двох завантаженнях навіть після того, як tscsync вирівняв ядра. З tsc=nowatchdog TSC утримався, а п’ятихвилинна перевірка проти годинника реального часу, з вихідним кодом, не знайшла ні перекосів, ні дрейфу. Наостанок, що цей відкат робить на будь-якому гіпервізорі KVM, Proxmox чи ні: зникає головний годинник, гості втрачають швидке читання часу, і на цьому ноутбуці читання годинника в гості вийшло в сім разів повільнішим.

11 жовтня 2026 · 21 хвилина · 4682 words · Damien Dye
Маленьке вікно, що ковзає по великому фреймбуферу, поруч із фреймбуфером, змапованим увесь одразу

PCIe Resizable BAR і сучасні GPU: Intel Arc, NVIDIA та AMD

Resizable BAR дає процесору змапувати весь фреймбуфер GPU замість підглядати в нього крізь вікно 256MB. Intel називає його обов’язковим для Arc, NVIDIA вмикає його для окремих ігор, AMD продає його як Smart Access Memory, а в роботі з AI він змінює передавання даних, а не обчислення.

7 серпня 2026 · 10 хвилин · 2043 words · Damien Dye