科大讯飞开源两款端侧支持百万上下文的大模型
创始人
2026-09-02 06:18:49
0次

新京报贝壳财经讯(记者罗亦丹)9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。

端侧模型由于可以断网运行,常用于手机、PC、汽车座舱、智能家居和机器人等终端设备。星火X2.5-4B和1.7B原生支持最长100万Token上下文,两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当进一步询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰 MaaS平台。

校对 付春愔

相关内容

热门资讯

上海藏着一家宝藏印度餐厅,外籍... 截至今年4月,上海“环球美食”门店总数已突破1万家,位居全国第一。不少特色餐厅还被誉为“驻沪办”,以...
入境游不只要“引流”,还要把到... 免签政策持续扩围之后,更多外国游客正加速来到中国。客流增长之后,下一道题是什么?2026服贸会期间,...
中国之巅奏响《共同的节日》,千... 千吨阻尼器,“迎世赛、游上海旅游节”。9月13日,由上海市文化和旅游局指导推出上海旅游·会客│巅峰之...
文汇视讯   点亮申城,演绎精... 黄浦江畔流光溢彩,巡游花车各展风采,市民游客如约而至,在这个“人民大众的节日”共享城市美好与欢乐。9...
上海旅游节活动启幕 近一周上海... 【上海旅游节活动启幕 近一周上海文旅预订量同比增长15%】9月12日,第37届上海旅游节大巡游活动启...
内蒙古文旅厅发布公告!对部分A... 来源:草原云 北方新报关于对部分A级旅游景区予以取消和降低质量等级的公告为推动自治区旅游业高质量发展...
灯光亮起,这里是美丽的夜上海!... 9月12日晚的外滩光影璀璨、人潮如织,第37届上海旅游节大巡游在此盛大启幕。21辆主题花车流光溢彩,...
文旅新探 | 在溶洞深处,解锁...   新华社南宁9月12日电 题:在溶洞深处,解锁多样“地心之旅”  新华社记者吴思思、刘樱涵、覃广华...
万里边疆行丨车行绿道 邂逅雨林... 作为贯彻国家公园、生态文明试验区、乡村振兴等国家战略的重要基础设施,海南环热带雨林国家公园旅游公路途...
文旅新探 | 在溶洞深处,解锁...   地下暗河奔流去往何处?滴水为何能“生”石?地心深处,又暗藏着怎样的生命密码?  亿万年的地质变迁...