Skip to content
IPv6 loopback पर Open WebUI से FastFlowLM से XDNA2 NPU तक: जवाब देते हुए 21 W, एक प्रॉम्प्ट में 232,000 टोकन, AMD के keynote से Linux तक तीन साल

Ryzen AI NPU पर LLM, एक कंटेनर में

Ryzen AI लैपटॉप का NPU 50 TOPS है जो ज़्यादातर Linux इंस्टॉल पर खाली बैठा रहता है। यह पोस्ट AMD का amdxdna ड्राइवर बनाने और होस्ट पर सिर्फ़ कर्नेल मॉड्यूल रखने से शुरू होती है, फिर AMD के XRT रनटाइम के साथ FastFlowLM को उसी ड्राइवर से मेल खाते rootless podman कंटेनर में बनाती है, सब कुछ IPv6 loopback से बाँधती है और Quadlet से बूट पर शुरू करती है। फिर यह क्या करता है: नौ मॉडल का बेंचमार्क, 232,000 टोकन का कॉन्टेक्स्ट टेस्ट, रियल टाइम से दस गुना तेज़ Whisper स्पीच-टू-टेक्स्ट, Open WebUI और वे 7,000 छिपे टोकन जो वह हर मैसेज में जोड़ रहा था, और Radeon 860M iGPU पर llama.cpp के मुकाबले NPU की स्पीड और ऊर्जा, मापी हुई। आखिर में टाइमलाइन: AMD के Ryzen AI की घोषणा से Linux पर उसके NPU पर एक लैंग्वेज मॉडल चलने तक तीन साल, और वह भी एक ऐसे प्रोजेक्ट से जो AMD ने शुरू नहीं किया, जबकि मेहनत डेटा सेंटर और AI प्रोफ़ेशनल जिन Linux टूल्स का असल में इस्तेमाल करते हैं उन पर नहीं, बल्कि Fisher-Price OS (Windows) पर Copilot+ पर गई।

13 नवंबर 2026 · 27 मिनट · 6326 शब्द · Damien Dye

फ़र्मवेयर टूटा हो तो TSC कैसे ठीक करें

चार महीने तक हर बूट पर मेरे ThinkPad E595 ने Linux को एक CPU कोर बाकी सात से तीन सेकंड पीछे सौंपा, और कर्नेल ने TSC छोड़कर HPET पकड़ लिया। चेतावनी का मतलब क्या है, AMD Zen मशीन के पास Linux के अंदर से इसे ठीक करने का कोई रास्ता क्यों नहीं, 40 बूट का journal फ़र्मवेयर के बारे में क्या कहता है, tsc=reliable गलत जवाब क्यों है, और tscsync कर्नेल के देखने से पहले ही UEFI में काउंटर कैसे मापता और खिसकाता है, उस एक कोर समेत जिसे उसने BAD कहा और Linux ने फिर भी मान लिया। BIOS 1.30 के लिए अपडेट: यह ऑफ़सेट ठीक नहीं करता, और tscsync के कोर मिला देने के बाद भी दो बूट पर कर्नेल के clocksource watchdog ने TSC छोड़ दिया। tsc=nowatchdog के साथ यह टिका रहा, और real-time clock के ख़िलाफ़ पाँच मिनट की जाँच में, सोर्स समेत, न कोई warp मिला न कोई drift। आखिर में, किसी भी KVM हाइपरवाइज़र पर, Proxmox हो या न हो, fallback क्या करता है: master clock चला जाता है, गेस्ट अपना तेज़ clock read खो देते हैं, और इस लैपटॉप पर गेस्ट का clock read सात गुना धीमा निकला।

11 अक्टूबर 2026 · 25 मिनट · 5522 शब्द · Damien Dye
एक बड़े framebuffer पर सरकती एक छोटी खिड़की, और उसके बगल में एक साथ मैप हुआ पूरा framebuffer

PCIe Resizable BAR और आधुनिक GPU: Intel Arc, NVIDIA और AMD

Resizable BAR से CPU, GPU का पूरा framebuffer मैप कर पाता है, 256MB की खिड़की से झाँकने के बजाय। Intel इसे Arc के लिए ज़रूरी कहता है, NVIDIA हर गेम के हिसाब से चालू करता है, AMD इसे Smart Access Memory के नाम से बेचता है। AI काम में यह ट्रांसफ़र बदलता है, गणित नहीं।

7 अगस्त 2026 · 12 मिनट · 2427 शब्द · Damien Dye