Skip to content

量化

占位页,内容待补充(逐场景单独编写)。

场景定位:量化如何在 dot_general 这一层被 AQT / Qwix 拦截,插入 sub-channel / FP8 / INT4 的量化-反量化逻辑而不改动模型代码。

入口文件layers/quantizations.pylayers/linears.pykernels/megablox/blockwise_fp8.py

本场景原语dot_general / AQT·Qwix 拦截 / sub-channel 量化

逐原语分析

HLO / sharding 要点

坑与权衡