2026 上海开源软件应用创新大赛 | TaiChi Matrix M3 | CC-BY-SA-4.0
传统量化(均匀 8bit、GPTQ、AWQ)对所有层使用统一位宽。TaiChi-Quant 以 C6 耦合强度矩阵的条件数 决定逐层位宽分配:对角化 C(l) → 特征值谱 λ → 灵敏度 s_l = λ_max/λ_min → 位宽 b_l ∈ [4,8] bit。高灵敏度层保留 8bit 精度,低灵敏度层压缩至 4bit。
压缩 4.3 倍、保真度 87.3%,对比均匀 8bit 量化(4×/79.2%)提升 8 个百分点。
| 指标 | 数值 | 对比 |
|---|---|---|
| 压缩比 | 4.31× | 均匀 8bit: 4× |
| 保真度 | 87.3% | 均匀 8bit: 79.2% |
| 位宽范围 | 4-8 bit | 固定位宽 |
| 层灵敏度差异 | 可达 12× | — |
| 测试通过率 | 28/28 | — |
pip install taichi-quantfrom taichi_quant import TaiChiQuantizer
import numpy as np
quantizer = TaiChiQuantizer()
weights = np.random.randn(32, 768)
compressed = quantizer.compress(weights)
recovered = quantizer.decompress(compressed)
print(f"Compression: {weights.nbytes / compressed.nbytes:.1f}x")TaiChi-Quant 是TaiChi Matrix 六模块工具链的 M3 站:
| 站 | 仓库 | 功能 |
|---|---|---|
| M1 | taichi-router | MoE 动态路由 |
| M2 | taichi-mtp | 多 token 预测 |
| M3 | taichi-quant ← 你在这里 | 熵量化 |
| M4 | taichi-hex | 六边形注意力 |
| M5 | taichi-correct | 共识校正 |
| M6 | taichi-matrix | 统一入口 |
技术白皮书:太极矩阵技术白皮书(中文) | WHITEPAPER.md
欢迎提交 Issue 和 Pull Request。详见 CONTRIBUTING.md。
CC-BY-SA-4.0 · 易宇本源研究中心 · 2026