HQQ（Half-Quadratic Quantization）是一种无需校准数据集的大模型权重量化方案，支持8/4/3/2/1-bit多精度压缩，量化速度比GPTQ/AWQ快数十倍。原生兼容HuggingFace Transformers和vLLM，支持Mar...