Easton Man's Channel
7 hours ago
Harry Chen’s Blog
解锁版 RTX 4090 的 GEMM 性能分析与工程调优
source
(author: Shengqi Chen (
[email protected]
))
harrychen.xyz
解锁版 RTX 4090 的 GEMM 性能分析与工程调优 - Harry Chen's Blog
众所周知,老黄的家用卡都被砍了 Tensor Core 的算力,特征就是使用 FP32 累加路径的 GEMM 性能通常只有 FP16 累加精度的一半(一些特例除外,如 5090 上的 MXFP8、NVFP4);然而对应的专业卡(如 RTX Ada 5000、RTX Pro 6000)则能全速完成。从开源 GPU ...
Home
Powered by
BroadcastChannel
&
Sepia