Newest papers

Amplifying Latency and Cost of LLM Inference via Rowhammer Attack

Mrityunjay Shukla, Shubham Roy, Biswabandan Panda · 2026 · arXiv

DOI: 10.48550/arXiv.2610.30798 · open-access PDF

French

Les grands modèles linguistiques (LLM) obtiennent une efficacité de déduction élevée en utilisant des noyaux GPU optimisés générés par des cadres de compilation just-in-time (JIT) tels que Triton. Triton compile les noyaux GPU via un pipeline basé sur MLIR/LLVM. Nous enquêtons sur la question de savoir si un bit-flip induit par Rowhammer dans le DRAM de la CPU peut dégrader les performances de déduction de LLM basées sur GPU tout en préservant la correction de la sortie. Nous présentons LLVMhammer, la première attaque de Rowhammer qui provoque un ralentissement de la déduction LLM en induisant un bit-flip dans le pipeline de compilation

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language models (LLMs) achieve high inference efficiency using optimized GPU kernels generated by just-in-time (JIT) compilation frameworks such as Triton. Triton compiles GPU kernels through an MLIR/LLVM-based pipeline. We investigate whether a Rowhammer-induced bit-flip in the CPU's DRAM can degrade GPU-based LLM inference performance while preserving output correctness. We present LLVMhammer, the first Rowhammer attack that causes LLM inference slowdown by inducing a bit-flip in Triton's compilation pipeline. A bit-flip in a performance-critical optimization pass causes Triton to gene

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange