Newest papers

Amplifying Latency and Cost of LLM Inference via Rowhammer Attack

Mrityunjay Shukla, Shubham Roy, Biswabandan Panda · 2026 · arXiv

DOI: 10.48550/arXiv.2610.30798 · open-access PDF

Hindi

बड़े भाषा मॉडल (एलएलएम) उच्च निष्कर्षण दक्षता प्राप्त करते हैं, जैसे कि Triton जैसे Just-in-Time (JIT) संकलन फ्रेमवर्क द्वारा उत्पन्न अनुकूलित GPU कोरों का उपयोग करते हुए। Triton एक MLIR/LLVM आधारित पाइपलाइन के माध्यम से GPU कोरों को संकलित करता है। हम जांचते हैं कि क्या CPU के DRAM में Rowhammer-induced बिट-फ्लिप GPU आधारित एलएलएम निष्कर्षण प्रदर्शन को कम कर सकता है, जबकि आउटपुट सटीकता को बनाए रखता है। हम LLVMhammer, पहला Rowhammer हमला प्रस्तुत करते हैं जो एलएलएम निष्कर्षण धीमा करने का कारण बनता है Triton के संकलित पाइपलाइन में एक बिट-फ्लि

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language models (LLMs) achieve high inference efficiency using optimized GPU kernels generated by just-in-time (JIT) compilation frameworks such as Triton. Triton compiles GPU kernels through an MLIR/LLVM-based pipeline. We investigate whether a Rowhammer-induced bit-flip in the CPU's DRAM can degrade GPU-based LLM inference performance while preserving output correctness. We present LLVMhammer, the first Rowhammer attack that causes LLM inference slowdown by inducing a bit-flip in Triton's compilation pipeline. A bit-flip in a performance-critical optimization pass causes Triton to gene

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange