Membuka Kunci GPU Hopper: Maksimalkan Kecepatan Attention dengan FlashKDA

Linear attention standar kesulitan memaksimalkan GPU Hopper. Hadir FlashKDA dari Moonshot AI. Ini menghadirkan kernel CUDA Kimi Delta Attention berperforma tinggi yang dibangun di atas CUTLASS. Ini melakukan auto-dispatch dengan sempurna ke dalam library flash-linear-attention, melewati Triton untuk kecepatan bare-metal pada chip SM90. Bottleneck komputasi attention menghambat penskalaan AI. Kernel PyTorch drop-in ini memaksimalkan efisiensi hardware Anda, menghemat waktu komputasi yang mahal.