Newest papers

Racer: Hunting GPU Kernel Bugs with Symbolic Equivalence Checking

Vu Tuan Truong, Cheng Tan · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.28429 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Các lõi tar GPU được xác nhận là rất quan trọng đối với hiệu suất của các dịch vụ AI ngày nay, tuy nhiên các nhà khai thác tương tự được viết lại nhiều lần: cho mỗi thế hệ GPU, định dạng số, chế độ phục vụ và ngôn ngữ lõi. Mỗi bản ghi lại phải duy trì chức năng được tính toán bằng cách thực hiện nó thay thế. Hôm nay, nghĩa vụ này phụ thuộc gần như hoàn toàn vào việc kiểm tra sự khác biệt: chạy lõi mới và tham chiếu đáng tin cậy trên các tensor được lấy mẫu ngẫu nhiên, sau đó so sánh các đầu ra của chúng trong một sự khoan dung. Cách tiếp cận này có những điểm mù mà các trường hợp thử nghiệm bổ sung không thể loại bỏ. Ví dụ, một lỗi logic có thể tạo ra lỗi nhỏ hơn mức độ khoan dung cần thiết để chứa một lõi được tối ưu hóa chính xác. Chúng tôi đề

Machine translation (Meta M2M100); the English original follows.

Abstract

GPU kernels are critical to the performance of today's AI services, yet the same operators are rewritten repeatedly: for each GPU generation, numeric format, serving regime, and kernel language. Every rewrite must preserve the function computed by the implementation it replaces. Today, this obligation depends almost entirely on differential testing: run the new kernel and a trusted reference on randomly sampled tensors, then compare their outputs within a tolerance. This approach has blind spots that additional test cases cannot eliminate. For example, a logical bug may produce an error smaller than the tolerance required to accommodate a correct optimized kernel. We propose symbolic equivalence checking, which executes a kernel and its reference on symbolic inputs, turning each output cell into an exact algebraic expression, and then checks whether the paired expressions agree for all inputs. Because these expressions are exact, symbolic equivalence checking distinguishes floating-point error from logical bugs, while a single check covers the entire input space. We implement Racer, a PTX-level symbolic equivalence checking engine, with three techniques that make this approach practical for production kernels: (1) Shape Reduction to control checking cost, (2) a lockstep CTA scheduler to handle concurrency, and (3) idiom templates with exact numeric refutation for otherwise inconclusive results. Across 2,408 production kernels from 41 collection targets, Racer found 82 real bugs in 23 libraries, including 76 previously unknown bugs and 41 confirmed so far.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Symbolic trajectory evaluation, Computer science, Symbolic execution, Equivalence (formal languages), Model checking, Kernel (algebra)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange