Tuan Truong Vu, Cheng Tan · 2026 · arXiv
DOI: 10.48550/arXiv.2610.28429 · open-access PDF
GPU-Kernel sind für die Leistung der heutigen KI-Dienstleistungen von entscheidender Bedeutung, aber dieselben Operatoren werden immer wieder neu geschrieben: für jede GPU-Generation, numerisches Format, Serving-Regime und Kernel-Sprache. Jedes Rewriting muss die durch die Implementierung berechnete Funktion bewahren, die es ersetzt.Heute hängt diese Verpflichtung fast vollständig von Differential-Tests ab: Führen Sie den neuen Kernel und eine vertrauenswürdige Referenz auf zufällig samplten Tensoren aus, vergleichen Sie dann ihre Ausgaben innerhalb einer Toleranz.
Machine translation (Meta M2M100); the English original follows.
GPU kernels are critical to the performance of today's AI services, yet the same operators are rewritten repeatedly: for each GPU generation, numeric format, serving regime, and kernel language. Every rewrite must preserve the function computed by the implementation it replaces. Today, this obligation depends almost entirely on differential testing: run the new kernel and a trusted reference on randomly sampled tensors, then compare their outputs within a tolerance. This approach has blind spots that additional test cases cannot eliminate. For example, a logical bug may produce an error smalle
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.28429, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange