torchao.dtypes

to_nf4
to_affine_quantized_intx
to_affine_quantized_intx_static
to_affine_quantized_floatx
to_affine_quantized_floatx_static
to_affine_quantized_fpx
NF4Tensor	用於將權重轉換為 QLoRA NF4 格式的 NF4Tensor 類別
AffineQuantizedTensor	仿射量化張量子類別。仿射量化表示我們使用仿射轉換來量化浮點張量