Newest papers

Beyond Tokens: NumAnchor for Address-Grounded Numeric Operand Representation in Assembly Language Models

Kun Liu, K. Mitchell, Xin Hu, Jiangcheng Yu, Chenke Luo, Zhengming Ding, Haotian Zhang, Jiang Ming · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.29027 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Trong hai corpora, các operands như vậy chiếm 45,7% và 40,9% các sự kiện operand và có thể biểu thị các mục tiêu chi nhánh, dữ liệu toàn cầu, khe cắm, hằng số, hoặc các giá trị dẫn xuất điểm không được giải quyết. Các chiến lược tiêu chuẩn hóa hiện có thường mất đi danh tính và mối quan hệ cấu trúc của họ. Chúng tôi trình bày NumAnchor, một bộ điều chỉnh giới hạn chức năng đầu vào đại diện cho các operands số có thể phục hồi như các thực thể chương trình được viết, canonicalized. NumAnchor mã hóa, dữ liệu và các giá trị dẫn xuất trong các mô tả bên cạnh cấu trúc nhỏ gọn, duy trì danh tính thực thi và mục tiêu địa phương mà không làm tăng độ dài của mã chủ. Những mô tả này được hợp nhất vào các đầu vào trước khi nhúng lớp đầu tiên của Transformer, trong khi

Machine translation (Meta M2M100); the English original follows.

Abstract

Assembly language models (ALMs) are becoming important for automated binary analysis, yet their token-level interfaces often obscure numeric-like operands. In two corpora, such operands account for 45.7% and 40.9% of operand occurrences and may denote branch targets, global data, stack slots, constants, or unresolved pointer-derived values. Existing normalization strategies often lose their identities and structural relationships. We present NumAnchor, an input-boundary adapter that represents recoverable numeric-like operands as typed, canonicalized program entities. NumAnchor encodes code, data, and stack context in compact structural side descriptors, preserving entity identity and locality without increasing the host sequence length. These descriptors are fused into input embeddings before the first Transformer layer, while the host architecture, pretraining objectives, and downstream protocols remain unchanged. Probing frozen instruction-level embeddings yields 98.7% hierarchical-location accuracy and AUROC scores of 0.932 and 0.907 for jump and call target alignment, respectively, showing that the encoded structural information remains recoverable. Across multiple ALM families, NumAnchor achieves relative improvements of up to 35.0% in Recall@1 and 31.7% in MRR on 10k-candidate function retrieval, and improves execution-aware type recovery by up to 5.2 F1 points. Ablations show complementary gains from code, data, and stack descriptors with modest overhead.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Operand, Computer science, Adapter (computing), Language model, Locality, Binary number

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange