腾讯网24 天
1-bit大模型还能再突破！新一代BitNet架构启用4位激活值
【新智元导读】近日，BitNet系列的原班人马推出了新一代架构：BitNet a4.8，为1 bit大模型启用了4位激活值，支持3 bit KV cache，效率再突破。 量化到1 bit ...