Newest papers

Amplifying Latency and Cost of LLM Inference via Rowhammer Attack

Mrityunjay Shukla, Shubham Roy, Biswabandan Panda · 2026 · arXiv

DOI: 10.48550/arXiv.2610.30798 · open-access PDF

Arabic

وتتضمن النماذج اللغوية الكبيرة (LLMs) كفاءة استنتاجات عالية باستخدام الكوريوس GPU المتقدمة التي تم إنشاؤها من قبل محطات تجميع Just-in-Time (JIT) مثل Triton. Triton تجميع الكوريوس GPU من خلال خطوط تعتمد على MLIR / LLVM. ونحن نستعرض ما إذا كان استنتاجات تعتمد على Rowhammer في DRAM يمكن أن تقلل من أداء استنتاجات تعتمد على GPU LLM مع الحفاظ على صحية النتائج. ونحن نقدم LLVMhammer، أول هجوم Rowhammer الذي يسبب تباطؤ استنتاجات تعتمد على LLM عن طريق إعطاء استنتاجات تعتمد على Triton في خطوط تجميع Triton.

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language models (LLMs) achieve high inference efficiency using optimized GPU kernels generated by just-in-time (JIT) compilation frameworks such as Triton. Triton compiles GPU kernels through an MLIR/LLVM-based pipeline. We investigate whether a Rowhammer-induced bit-flip in the CPU's DRAM can degrade GPU-based LLM inference performance while preserving output correctness. We present LLVMhammer, the first Rowhammer attack that causes LLM inference slowdown by inducing a bit-flip in Triton's compilation pipeline. A bit-flip in a performance-critical optimization pass causes Triton to gene

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange