蒸餾 資訊與深度分析

量化與蒸餾成為大模型上小裝置的核心技術

量化與蒸餾是目前將模型變小變快的兩種主流技術路線，使大型模型能在資源受限的硬體上部署。