Skip to content
IPv6 loopback पर Open WebUI से FastFlowLM से XDNA2 NPU तक: जवाब देते हुए 21 W, एक प्रॉम्प्ट में 232,000 टोकन, AMD के keynote से Linux तक तीन साल

Ryzen AI NPU पर LLM, एक कंटेनर में

Ryzen AI लैपटॉप का NPU 50 TOPS है जो ज़्यादातर Linux इंस्टॉल पर खाली बैठा रहता है। यह पोस्ट AMD का amdxdna ड्राइवर बनाने और होस्ट पर सिर्फ़ कर्नेल मॉड्यूल रखने से शुरू होती है, फिर AMD के XRT रनटाइम के साथ FastFlowLM को उसी ड्राइवर से मेल खाते rootless podman कंटेनर में बनाती है, सब कुछ IPv6 loopback से बाँधती है और Quadlet से बूट पर शुरू करती है। फिर यह क्या करता है: नौ मॉडल का बेंचमार्क, 232,000 टोकन का कॉन्टेक्स्ट टेस्ट, रियल टाइम से दस गुना तेज़ Whisper स्पीच-टू-टेक्स्ट, Open WebUI और वे 7,000 छिपे टोकन जो वह हर मैसेज में जोड़ रहा था, और Radeon 860M iGPU पर llama.cpp के मुकाबले NPU की स्पीड और ऊर्जा, मापी हुई। आखिर में टाइमलाइन: AMD के Ryzen AI की घोषणा से Linux पर उसके NPU पर एक लैंग्वेज मॉडल चलने तक तीन साल, और वह भी एक ऐसे प्रोजेक्ट से जो AMD ने शुरू नहीं किया, जबकि मेहनत डेटा सेंटर और AI प्रोफ़ेशनल जिन Linux टूल्स का असल में इस्तेमाल करते हैं उन पर नहीं, बल्कि Fisher-Price OS (Windows) पर Copilot+ पर गई।

13 नवंबर 2026 · 27 मिनट · 6326 शब्द · Damien Dye
step-ca का SSH CA एक होस्ट की और एक यूज़र की साइन करता है; क्लाइंट होस्ट CA पर भरोसा करता है और सर्वर यूज़र CA पर, इसलिए किसी को भी कीज़ की सूची नहीं रखनी पड़ती

step-ca से साइन हुए SSH लॉगिन: अब authorized_keys की ज़रूरत नहीं

step-ca 0.30.2 को SSH सर्टिफ़िकेट अथॉरिटी के रूप में इस्तेमाल करना, OpenSSH 10.0 के साथ टेस्ट किया हुआ। सर्टिफ़िकेट authorized_keys और पहली बार के भरोसे से बेहतर क्यों हैं, step-ca के पहले सेटअप पर SSH CA चालू करना, होस्ट की साइन करना (और आर्ग्युमेंट का वह क्रम जिस पर यह अटकता है), sshd_config की दो लाइनें और known_hosts में अकेली @cert-authority लाइन, 16 घंटे का यूज़र सर्टिफ़िकेट, चार लॉगिन टेस्ट जिनमें गलत यूज़र और अविश्वसनीय होस्ट भी हैं, sshpop से होस्ट सर्टिफ़िकेट रिन्यू करना, और यह कहाँ कमज़ोर पड़ता है।

9 अक्टूबर 2026 · 8 मिनट · 1715 शब्द · Damien Dye
कंटेनर में step-ca अपने intermediate से सर्टिफ़िकेट जारी करता हुआ, और एक CRL जो खोए फ़ोन को revoked दिखाती है

आपका अपना सर्टिफ़िकेट अथॉरिटी: कंटेनर में step-ca

Smallstep का step-ca 0.30.2, Podman या Docker कंटेनर में, घर के अंदर की हर चीज़ का सर्टिफ़िकेट अथॉरिटी, सब कुछ जाँचा हुआ। अंदरूनी नामों के लिए प्राइवेट CA, self-signed और पब्लिक सर्टिफ़िकेट दोनों से बेहतर क्यों है; ACME और SSH चालू करके इसे शुरू करना; इमेज जो दो पासवर्ड बनाती है और हर एक कहाँ जाता है; हर डिवाइस पर root पर भरोसा; Caddy या ACME बोलने वाली किसी भी चीज़ के लिए अंदरूनी HTTPS; और जो सर्विसें ACME नहीं जानतीं उनके लिए step ca renew। क्लाइंट सर्टिफ़िकेट और SSH की अपनी-अपनी पोस्ट है।

9 अक्टूबर 2026 · 9 मिनट · 1927 शब्द · Damien Dye