科大讯飞开源两款端侧支持百万上下文的大模型
创始人
2026-09-02 06:18:49
0

新京报贝壳财经讯(记者罗亦丹)9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。

端侧模型由于可以断网运行,常用于手机、PC、汽车座舱、智能家居和机器人等终端设备。星火X2.5-4B和1.7B原生支持最长100万Token上下文,两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当进一步询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰 MaaS平台。

校对 付春愔

相关内容

热门资讯

虎跳峡外围山体滑坡游客慌忙撤离... 9月1日,在云南迪庆,虎跳峡外围突发山体滑坡,落石滚滚游客慌忙撤离。 据虎跳峡景区工作人员称,发生于...
AI长片登陆卫视后,中国影院即... 封面新闻记者 刘叶 近日,AI长片《后西游记》登录卫视播出引发大量关注,而AI电影也即将迎来新的拐点...
【环时深度】针对中国AI模型,... 【环球时报报道 记者 高远欣 黄兰岚】编者的话:路透社8月初报道称,美国网络安全研究公司 Front...
中一签最高赚55万!频准激光、... 兄弟姐妹们,2026年前8个月A股已经有102家新股上市,你中签了么? 据格隆汇统计,这102只新股...
永定河森林公园轮渡码头将全线运... 北京青年报记者昨日从石景山区获悉,在服贸会启幕前,“两园一河”(园博园、首钢园、永定河)莲石湖区域三...
科大讯飞开源两款端侧支持百万上... 新京报贝壳财经讯(记者罗亦丹)9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和...
原创 金... 最近很多网民注意到,孟加拉国媒体称,孟加拉国正考虑购买中国的歼-10CE战斗机和攻击直升机,并朝着正...
年接待游客超1159万人次 四... 李露平 封面新闻记者 伍勇8月底,四川绵竹美得像一幅画。龙门之巅1号公路在山林间蜿蜒穿梭,将散落的溪...
智能制造行业周报(08.24 ... * 行业动态 首个水利行业大模型通过生成式人工智能服务备案 水利部信息中心研发的“上善水利大模...
开源证券:给予领益智造买入评级 开源证券股份有限公司陈蓉芳,张威震近期对领益智造进行研究并发布了研究报告《公司信息更新报告:2026...