Newest papers

Amplifying Latency and Cost of LLM Inference via Rowhammer Attack

Mrityunjay Shukla, Shubham Roy, Biswabandan Panda · 2026 · arXiv

DOI: 10.48550/arXiv.2610.30798 · open-access PDF

German

Große Sprachmodelle (LLMs) erzielen eine hohe Schlussfolgerungseffizienz mithilfe von optimierten GPU-Kerneln, die durch Just-in-Time (JIT) -Compilation-Frameworks wie Triton erzeugt werden. Triton kompiliert GPU-Kernel über eine MLIR/LLVM-basierte Pipeline. Wir untersuchen, ob ein von Rowhammer induzierter Bit-Flip in der CPU-DRAM die GPU-basierte LLM-Inferenzleistung beeinträchtigen kann, während die Ausgangsrichtigkeit beibehalten wird. Wir präsentieren LLVMhammer, den ersten Rowhammer-Angriff, der eine LLM-Inferenzverlangsamung verursacht, indem ein Bit-Flip in der Triton-Com

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language models (LLMs) achieve high inference efficiency using optimized GPU kernels generated by just-in-time (JIT) compilation frameworks such as Triton. Triton compiles GPU kernels through an MLIR/LLVM-based pipeline. We investigate whether a Rowhammer-induced bit-flip in the CPU's DRAM can degrade GPU-based LLM inference performance while preserving output correctness. We present LLVMhammer, the first Rowhammer attack that causes LLM inference slowdown by inducing a bit-flip in Triton's compilation pipeline. A bit-flip in a performance-critical optimization pass causes Triton to gene

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange