Newest papers

Forward-Only Learning for Shared-Kernel Wavelet Neural Networks without Backpropagation

Yongfei Guo, Xuan Sun, Ang Li, Zhao Zhang, Yuanhao Gong · 2026 · arXiv

DOI: 10.48550/arXiv.2610.29697 · open-access PDF

Russian

Backpropagation продолжает оставаться доминирующей парадигмой обучения, используя обратные градиенты и локальные обновления, которые могут страдать от исчезновения или взрыва градиентов в глубоких сетях. Несмотря на то, что алгоритм Forward-Forward избегает традиционного backpropagation, он остается в основном локальным или слоевым, мотивируя глобальное обучение всей сети с использованием только прогнозных оценок. Для нейронных сетей shared-kernel wavelet, поэтому мы предлагаем глобальную рамку обучения только на основе CMA-ES.

Machine translation (Meta M2M100); the English original follows.

Abstract

Backpropagation remains the dominant training paradigm, using backward gradients and local updates that can suffer from vanishing or exploding gradients in deep networks. Although the Forward-Forward algorithm avoids conventional backpropagation, it remains mainly local or layer-wise, motivating global whole-network learning using forward evaluations only. For shared-kernel wavelet neural networks, we therefore propose a CMA-ES-based global forward-only learning framework. We further introduce structure-aware parameter decomposition and channel-specific credit assignment, factorizing the searc

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange