Vincent Jung, Alba Carballo-Castro, Yiming Qin, Lonneke van der Plas, Pascal Frossard · 2026 · arXiv
DOI: 10.48550/arXiv.2610.28618 · open-access PDF
Các mô hình tạo đồ thị thường sử dụng kiến trúc Transformer cụ thể cho đồ thị để cập nhật các tính năng nút và cạnh cùng nhau. Tuy nhiên, các kiến trúc này không trực tiếp được hưởng lợi từ các triển khai nhận thức về phần cứng gần đây, hạn chế khả năng mở rộng của chúng. Tuy nhiên, sự thích ứng không phải là tầm thường: các tính năng cạnh và cấp độ đồ thị phải được tiêm vào điểm số chú ý song song, mặt nạ đồ thị phải được tôn trọng, và cập nhật cạnh động vẫn là một nguồn chính của việc sử dụng bộ nhớ vuông. Chúng tôi đề xuất một lớp chú ý nhận thức về cạnh cho việc tạo đồ thị kết hợp thông tin cấu trúc thông qua sự khôn ngoan.
Machine translation (Meta M2M100); the English original follows.
Graph generative models commonly use graph-specific Transformer architectures to jointly update node and edge features. However, these architectures do not directly benefit from recent hardware-aware attention implementations, limiting their scalability. The adaptation is, however, non-trivial: edge and graph-level features must be injected into pairwise attention scores, graph masks must be respected, and dynamic edge updates remain a major source of quadratic memory usage. We propose an edge-aware attention layer for graph generation that incorporates structural information through head-wise
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.28618, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange