Skip to content

perf(denoise): DFN3 en lot sur GPU Metal, identique au bit au CPU commun - #272

Merged
Destynova2 merged 2 commits into
mainfrom
perf/denoise-gpu-exact
Nov 18, 2026
Merged

Destynova2 merged 2 commits into
mainfrom
perf/denoise-gpu-exact

Conversation

@Destynova2

Copy link
Copy Markdown
Contributor

Débruitage hors ligne (saragossa enhance) avec le réseau DFN3 sur Metal, opt-in SARAGOSSA_DENOISE_GPU=1. Le défaut CPU ne change pas.

  • src/denoise/gpu.rs : convolutions, 1×1, transposées et linéaires groupées en lot sur des morceaux de 4096 pas (6 pas de contexte en tête). Chaque GRU parcourt toute sa boucle temporelle dans un seul noyau (un threadgroup de 768 threads) ; les GRU ERB et DF tournent côte à côte. STFT, features et synthèse restent sur CPU.
  • Identité au bit : chaque sortie est calculée par un seul thread, dans l'ordre de sommation du CPU (dot à 8 accumulateurs, boucles de Conv::forward), avec fast_math=false et #pragma METAL fp contract(off). exp, tanh et la sigmoïde passent par exact_math, implémenté à l'identique en Rust et en MSL.
  • La variante CPU Math::Common (enhance_common) sert de référence au GPU. Elle n'est pas activée par défaut.

Mesures (M5 Max, clip de 292,75 s, charge entre 5 et 15, donc non publiables comme bench) :

  • boucle GRU : 11,4 µs/pas ;
  • enhance GPU : 1,9 s, dont 1,2 s de réseau GPU (CPU 1 thread : 12,65 s, nuit du 17) ;
  • GPU contre CPU commun : 14 052 096 échantillons sur 14 052 096 identiques au bit ;
  • CPU commun contre libm actuel : 11 269 333 échantillons différents, SNR 135,0 dB, écart max 8,9e-7.

Tests :

  • gpu_enhance_is_bit_exact_against_cpu_common_math (synthétique, frontières de morceau, s'exécute dès qu'un GPU est présent) ;
  • tests ignorés : dfn3_gpu_gru_step_probe et dfn3_gpu_long_file_bit_exact_and_speed.

🤖 Generated with Claude Code

…gs, identique au bit au CPU commun

Opt-in SARAGOSSA_DENOISE_GPU=1 pour saragossa enhance : convolutions et
linéaires en lot, GRU en noyau persistant (11,4 µs/pas), sans fast-math ni
FMA. exp/tanh/sigmoïde communes (exact_math) côté CPU et GPU ; le CPU par
défaut garde la libm. Clip de 293 s : 1,9 s contre 12,65 s sur CPU, sortie
identique au bit à la variante CPU commune (SNR 135 dB contre la libm).
…in GPU DFN3

Corrige needless_borrows_for_generic_args (clippy de la CI). Enc::gru prend
une première séquence obligatoire, le rejeu documente son invariant, Ctx::new
vérifie couches et sorties linéaires des GRU, la bibliothèque Metal est
compilée une fois par processus. NOTE sur la division et les sous-normaux ;
last_lsnr vaut 0 sur le chemin GPU.
@Destynova2
Destynova2 enabled auto-merge November 18, 2026 10:09
@Destynova2
Destynova2 merged commit 63bc813 into main Nov 18, 2026
23 checks passed
@Destynova2
Destynova2 deleted the perf/denoise-gpu-exact branch November 18, 2026 10:26
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant