中证报中证网讯(记者王婧涵)中国证券报记者获悉,面壁智能近日发布了新一代“面壁小钢炮”MiniCPM4.0端侧模型。
据悉,该模型作为原生稀疏模型,通过5%的稀疏度加上系统级的创新技术,让长文本、深思考在端侧真正“跑起来”,在速度、性能、存储与端侧部署方面的表现都有了显著提升。比如,速度提升方面,该模型在注意力机制上实现了高效双频换挡,长文本用稀疏,短文本用稠密,可实现快速切换。
同时,面壁智能携手行业伙伴,持续推动MiniCPM4.0模型适配及应用拓展。截至目前,MiniCPM4.0已实现Intel、高通、MTK、华为昇腾等主流芯片的适配。此外,MiniCPM4.0可在vLLM、SGLang、llama.cpp、LlamaFactory、XTuner等开源框架部署,同时加强了对MCP(模型上下文协议)的支持,进一步拓展了模型开发、应用潜力。
广盛网提示:文章来自网络,不代表本站观点。