Skip to content

量化 ​

占位页,内容待补充(逐场景单独编写)。

场景定位:量化如何在 dot_general 这一层被 AQT / Qwix 拦截,插入 sub-channel / FP8 / INT4 的量化-反量化逻辑而不改动模型代码。

入口文件:layers/quantizations.py、layers/linears.py、kernels/megablox/blockwise_fp8.py

本场景原语:dot_general / AQT·Qwix 拦截 / sub-channel 量化

逐原语分析 ​

HLO / sharding 要点 ​

坑与权衡 ​