中国电信开源全栈国产模型Xing4.0-29B-A4B,单张3090就能本地跑

AI办公领域正成为大厂竞逐的焦点,中国电信此次瞄准的是一批尚未被覆盖的企业需求。
今夏,各大厂商纷纷加码AI办公,在Agent能力、工作入口与企业工作流上展开竞争。但仍有部分企业因数据不能出域、模型需就地部署、算力有限等现实条件,难以迈入这一门槛,同时又要应对长文档阅读和复杂业务处理等任务。
中国电信AI最新开源的Xing4.0-29B-A4B正是针对这类需求推出。

该模型是一款全栈国产化的轻量级代码智能体大模型,从国产芯片、国产训练框架到模型训练与推理部署,整条技术链路均进行了系统适配。
为实现本地部署,Xing4.0-29B-A4B采用MoE架构,总参数290亿,每次推理仅激活约40亿参数,经4-bit量化后可在单张RTX 3090上运行。
在具体能力上,模型可在本地完成重要文档的内容理解、指标提取与信息整理,数据全程不离开企业环境;面对一份200页的投标文件,能在本地约20分钟内完成技术、商务、价格三方面初评,并逐条给出评分依据。
在部署层面,该模型完全基于华为昇腾910C算力训练,采用国产MindSpore/MindFormers训练框架与开发套件,实现国芯训国模;推理部署端也完成了昇腾的适配验证,从训练到落地走通了国产算力路径。
目前,模型已在GitHub、Hugging Face、Gitee、魔搭、魔乐等平台开源上线,并同步支持API调用。截至发稿,Xing4.0-29B-A4B已进入HuggingFace模型趋势榜单,位列第四。

将模型装入单张显卡,与让它稳定承接企业日常工作之间仍有距离。企业任务往往不止于一句问答,一份文档读完后可能还需提取信息、调用工具、核对结果,最终整理成可交付材料,且需兼顾每日运行的稳定性与性价比。这要求持续压低部署和运行成本,同时强化实际干活能力。Xing4.0-29B-A4B此次重点加强Coding和Agent能力,正是出于这一考量。过去,百亿参数模型写代码常局限于编写函数或补几行代码。
本文图片来自互联网,仅供学习交流使用,版权归原作者或原平台所有。如认为图片侵犯了您的权益,请联系我们删除。

