从暴力堆卡到精细设计：全国产算力怎么打赢Token效率战？

端云一体，让AI真正走入千行百业

文｜魏琳华

编｜刘俊宏

从一句话生成炫酷的3D模型，到“手搓”一个多人协作的工作平台，大模型的能力在不断刷新用户的认知。

模型好用了，人们却越来越消费不起AI了。

以企业端为例。打车软件Uber CTO Praveen Neppalli Naga曾透露，公司工程师只用四个月就烧完了全年的Claude Code预算，他本人一场两小时的演示，就花掉了1200美元。

AI的高价账单，不该是只有大公司才能消费起的昂贵玩具。只有把大模型价格打下来，才能让AI真正走进千行百业、落到每一家公司真实的企业流程中。

成本贵的原因，一方面是随着交给AI的任务变多，消耗的Token也相应增长。但另一方面，AI也在“浪费”Token：长上下文每一轮都要重算历史、工具调用返回大量冗余信息……

端云一体架构，就是在成本结构上找到了一个可持续的解法：该在端侧消化的简单任务，不让它上云，不多花企业一分钱。只有把Token的浪费压下去，把每一分钱都用在刀刃上，AI才能从少数人的玩具变成多数人的工具。

所以，让使用AI变“便宜”，绝不只是降价这么简单。解决Token浪费，还需要架构创新、训推优化和端云分工共同改变AI系统的运算效率。

大模型下一轮竞争，也来到比拼谁更高效的阶段。

10月22日，在科大讯飞全球1024开发者节上，科大讯飞董事长刘庆峰现场发布了讯飞星火X2.6。

作为基于全栈国产自主技术路线的大模型，讯飞星火X2.6同时强调能力升级与价格竞争力。其云端API的限时定价为输入0.9元每百万Tokens，输入缓存命中0.08元每百万Tokens，输出3.6元每百万Tokens。单以输入输出的定价相比，它相当于比DeepSeek V4.1 Flash的空闲时段还要再便宜一点。

刘庆峰判断，端云协同是提升Token效率的关键。他表示，未来，60%的任务在端侧独立完成，30%端云协同，只有10%需要完全在云端处理。

而省Token更底层的“根”，来自于源头AI技术的布局——也就是做全栈自主可控的大模型。

相较于训练依赖海外芯片、推理部署于国产算力的拼接模式，训推一体的全链路优化体系，使得大模型厂商能够在全局视角下探寻提升Token吞吐效率的最优解：PD分离，需要从训练阶段就考虑推理的效率优化；模型架构上，要做KV Cache压缩、稀疏注意力，这些需要厂商知道模型每一层在干什么，才能从结构上去改。

越深的优化，对模型自主权的要求就越高。现在更多大模型厂商能做到的是“修车”，但要从根源改变发动机结构、就得交给整车厂来完成。全栈自主可控，相当于企业拥有“从发动机到底盘”的全套设计权。

讯飞星火X2.6不只是一次模型升级，也是一次国产算力与模型架构协同优化的实践。

全国产算力如何降低每一次计算的成本？

大模型行业正在奔着“又好又便宜”的方向发展，但追求性价比的背后，实际是对算力和模型架构设计提出了更高的要求。

先从提升模型智能上限说起。在Scaling Law仍然生效的当下，“大力出奇迹”的叙事依然成立——卷模型参数、堆算力卡是必选项。

以GPT-6 Astra为例，OpenAI研究副总裁艾丹·克拉克提及，它的预训练首次在单一训练任务中动用了超过10万块GPU。可以预见的是，为了训练出新模型，OpenAI的算力需求还在翻倍增长。英伟达CEO黄仁勋表示，OpenAI下一代模型的算力目标会抬到40万块GPU。

堆卡当然是最直接的路径——简单、粗暴、立竿见影。但它不是唯一的路径。海外算力价格波动、供应和采购的不确定性，让这条路径的天花板很低。

想要继续提升大模型的参数规模，全国产算力反而给了国内厂商一个跳出堆卡惯性的机会。在海外厂商忙着抢卡的时候，国内厂商可以扎进架构创新里——只有做全栈自主可控的大模型，才能在训推一体的架构下找到更多革新Token效率的空间。

讯飞星火X2.6就是在这个前提下交出来的答案。它的云端模型版本采用293B总参数、30B激活参数的MoE架构，上下文扩展到1M，全流程基于飞星二号万卡国产算力集群完成训练与推理。相比上一代模型，X2.6在编程、智能体等方面的能力提升明显。

现场展示中，讯飞星火X2.6保质保量地完成了各类任务：比如做一个太阳系运行的3D模拟系统、设计一个品牌官网。印象最深的是，只要把教师需求喂给AI，它就能跑出来一个可以跟随手势移动的“通电螺线管3D模型”。

其中，最值得注意的就是模型支持1M Token长度上下文，这意味着它一次性能读取一整本书的内容，避免因切分导致信息丢失。在Agent爆发的背景下，长上下文才能保证Agent在多轮对话中保存更多内容，从而在调用过程中不“失忆”，提升任务的准确度。

但在全国产算力基础上，想要实现超长上下文，要先解决芯片的显存和带宽的限制。

由于传统Transformer架构采用的全注意力机制，随着上下文长度增加，计算复杂度以平方级增长。1M上下文的KV缓存占据的空间，远远超出了国产芯片的显存容量。

为了保证模型的上下文长度，讯飞星火X2.6在训练阶段采取了动态稀疏注意力方法，用稀疏注意力计算替代全注意力，使模型效果接近全注意力机制。就像人读一本书，不是每个字都精读，它只需要抓住关键段落和核心论点，其余的“扫一眼”就行。同时，配合长程任务动态并行训练技术，可以根据具体任务的情况，按序列长度自适应分配并行度与显存。

以飞星二号上2000B Tokens、256K长度的训练任务为例，科大讯飞把耗时从原本的4.5个月压缩到1.2个月，超长上下文训练效率整体提升约4倍。

通过在模型训推阶段找出路，科大讯飞找到了比纯堆卡效率更高的解决方式。

当然，大模型光“聪明”不够，还要用得起。当企业的AI预算几个月就被烧完，价格就成了一道绕不过去的坎。

但模型不能只靠价格战压低毛利。要让Token真正便宜下来，不仅要降低单价，还要减少完成同一任务所需的调用次数和总Token消耗量，让同样的预算完成更多任务。

这个问题在Agent场景里尤其突出。长上下文决定Agent任务成功率，没有足够长的上下文，就无法完成跨文件、跨文档、跨轮次的复杂任务。一旦把上下文拉长，成本结构就变了——每一轮请求都要把此前的历史重新带入，同样的前缀在一次任务里被反复付费；缓存一旦命中不了，这些重复的部分就要真金白银地重算一遍，既昂贵又耗时。

所以，把缓存读取的价格往下砍，才能把Agent调用成本一起“打下去”。

行业普遍在做的，是对缓存命中的定价下手。以Anthropic发布的Claude Fable 5.1为例，它把输入与输出价格维持每百万Token 10美元和50美元不变，但把提示缓存读取从1美元降到0.25美元，降幅75%。Anthropic自己估算，这让典型工作负载的总成本下降约25%，高度智能体化的任务最多降45%。

讯飞星火X2.6走的路，则把问题往下推了一层：既然国产芯片的显存和内存有限，那就从结构上改造缓存本身。

在推理侧，科大讯飞构建了首个面向大规模全国产设备的四层KVCache技术，它将冷数据下沉到低成本存储层，同时保障热数据的快速访问。简单来说，相当于把最常用的内容放到手边，碰得最少的内容的锁进地下室。配合国产集群自适应存算协同推理和异构分布式推理技术，它将KV缓存命中率从优化前的63%提升至95.7%，最终实现推理效率提升4.5倍。

通过在模型训练侧和推理侧的优化，讯飞星火X2.6不仅把模型定价降下去了，它把完成单个任务消耗的Token量也降低了。官方数据显示，在高频场景下，60%的任务Token消耗显著下降。

对于科大讯飞来说，讯飞星火X2.6的意义不仅在于性价比，更重要的是，它在国产算力的土壤里，验证了全栈自主可控大模型的价值。

不过，云端训推优化只解决了“云端计算更便宜”。若要进一步提高Token效率，其实有些任务根本不需要交给云端。

用端侧分流云端计算不再拥挤

云端模型的Token效率战，本质上是“省着花”——把每个Token的价值最大化。但还有一种更彻底的省钱方式，就是直接把任务交给端侧模型跑，做到“一分不花”。

这种分工已经出现在一些AI终端上：简单、频繁或对隐私敏感的任务由端侧小模型处理，复杂推理再交给云端大模型。当下，手机、AI眼镜等设备就会根据响应速度、成本和数据边界需求进行这种分配。

随着Token账单的暴涨和数据隐私的担忧，行业正在形成一个共识：不是所有计算都需要上云。

“未来大模型的安全性和性价比问题，一定要通过端云一体化来解决，未来，可能60%的任务在端侧独立完成，30%端云协同，只有10%需要完全在云端处理。”刘庆峰说。

但端侧模型有一个绕不开的痛点，就是处理复杂任务的成功率太低。

业界主流的端侧模型，大多集中在1B到4B的参数区间。这个尺寸的模型，处理OCR识别、图片分类、简单问答这些基础任务没问题，但一旦涉及智能体、代码、复杂推理这些“硬核”场景，表现就迅速下滑。

但讯飞星火X2.6-4B，在智能体这个端侧模型相对薄弱的环节上实现了突破。

在1024开发者节现场的演示中，以一家机器人创业公司总经理的视角，科大讯飞现场测试了自家端侧模型是怎么帮忙处理邮件信息的。

拿到任务后，端侧模型先自主做了任务规划，然后调用邮件工具读取各大区的周报和附件，把所有内容读进来之后，进行信息整合和关联分析。跨邮件、跨附件的信息交叉比对，几十封邮件加起来得有几万字，但对于上下文够长的模型来说，这就不再是问题。

最终输出的结果，分成了几个部分：AI先把收集到的所有数据做成了可视化的经营概况表格，各大区营收一目了然；然后把待办事项按优先级排列好。最关键的一项是销售账单风险——模型发现河南团队和安徽团队在同一个客户的单子上重复跟进，存在报价冲突的风险。

据刘庆峰分享，讯飞星火X2.6的4B端侧模型，把端侧模型能完成的智能体类型任务比例，从业界主流的12.8%大幅提升到了41.9%。

为什么选4B这个尺寸？因为4B是端侧部署的“黄金门槛”——再小，能力上不去；再大，大多数设备放不下。

在具体能力上，讯飞星火X2.6-4B在智能体、代码、长文本、数学、推理、通用知识、指令跟随等七个维度都做到了同尺寸模型SOTA水平，越级对标开源9B级别的端侧大模型。更值得注意的是，它的上下文也做到了1M——这在4B级别的端侧模型中非常罕见。

除了要“吃”下更多长文本，端侧模型还需要解决任务执行成功率的问题。

如果任务只涉及到单个工具的调用，端侧模型普遍表现不错——让它查个天气、设个闹钟、调用一个API，准确率很高。但工具一多，问题就来了：该调哪个工具？参数对不对？调用完之后的结果怎么用？工具越多，端侧模型的“选择困难”越严重，导致准确率急剧下降。

为了提升端侧模型的能力，科大讯飞采用了自创的基于能力感知的多教师自适应迭代后训练算法。通过端侧模型对自身多维能力状态的感知，自主决策不同能力维度的学习动量，并通过动态自适应后训练进行迭代优化，从而极致提升端侧模型的智能体能力。

随着模型的能力边界不断扩张，科大讯飞选择靠端侧模型，撑起Token效率战的第二战场。

端云协同怎么绕过企业的成本和隐私关？

性价比高，只是AI的入场券。2026年，对于如何把大模型真正落到企业工作流中，显然全球都还处在摸索阶段。

“如今有很多个人提效工具和智能体，但是组织成效却不明显。今年8月，麦肯锡报告指出，AI已经让80%的个人实现提效，但只有6%的企业认为AI取得了明显成效、对企业EBIT（实际息税前利润）贡献达到至少5%。”刘庆峰说。

个人用AI提效和企业批量化应用AI中间，隔着的正是成本与安全这两道关卡。

以安全问题来说，单在几个月内，国内海外频繁爆发。就在10月，开源AI编程工具OpenCode的在线控制台被入侵，攻击者拿到了部分用户寄存在平台上的API密钥。

采购合同审核就是个典型的两难场景，比如，一份采购合同里，公司名称、客户信息、银行账户、合同金额、付款条款……全是碰不得的商业机密。直接传云端，怕信息泄露。但合同审核又要查法规、找先例、做跨条款的关联分析，交给当前端侧模型确实做不来。

针对数据安全问题，科大讯飞给自家模型做了一个“隐私脱敏”模式：

在演示中，输入任务需求后，讯飞星火X2.6采用端云协同的方式处理问题，但它把数据直接上云，升级为本地模型脱敏后再安全上云。模型在合同中一口气找出了7大类、28处敏感信息：公司全称、部门名称、联系人姓名、银行账号、合同金额等全部识别出来。

紧接着，它生成了一个脱敏版本——公司名换成了“甲方公司”、“乙方公司”，合同中的各处报价改成了“金额1”、“金额2”，敏感信息替换完毕后，再交由用户确认脱敏效果。在用户确认完毕后，脱敏后的合同才加密上传到云端。云端处理完之后，端侧模型再把信息全部替换成信息完整的最终版本。从头到尾，原始合同的敏感信息从来没有离开过用户的设备。

针对端云协同，由端侧模型综合任务难度、自身能力和数据安全需求三个维度，判断任务该走哪条路径——纯端侧独立完成、纯云侧交给大模型，以“云端指导端侧”、“端云分工”的协同模式来处理。协同过程中，上云的内容会先经端侧脱敏，再由用户确认，兼顾效能与安全。

这套架构的关键在于端云路由能不能判断准确。为此，科大讯飞引入了基于评语模型的端云路由协同训练机制：对同一任务，让端侧模型和云端模型分别生成多次采样结果，再用评语模型对结果质量做对比，构建奖励和训练反馈，结合协同交替训练，不断优化端侧模型的路由判断能力。

官方数据显示，这套协同训练机制把端云路由的准确率从81.2%提升到了96.1%。

端云协同的意义，一面是发挥端侧本地处理与云端复杂推理的互补优势，端侧模型快速消化简单任务，云端只处理真正需要大模型能力的关键推理节点，实现整体Token使用效率的最大化；一面是通过端侧脱敏和用户确认，保护数据安全。

保证全链路自主可控，是进入这些行业的“门票”。对于金融、政务、能源、医疗等敏感行业，数据安全和自主可控的要求持续抬高门槛。科大讯飞基于全国产算力的端云一体方案，接住了企业的硬性要求。

从靠别人的芯片做模型，到用全国产算力做模型，这一步跨过的不只是技术门槛，更是中国大模型行业可以持续进化的底气。

过去两年，国产适配大多停留在推理侧，把在海外芯片上训练好的模型，移植到国产芯片上跑推理。

而科大讯飞一直坚持做的，是把战线推到了更难的训练侧，让模型的训练和推理环节，全都在国产算力上完成：飞星二号万卡国产算力集群，支撑起讯飞星火X2.6大模型的训练；动态并行训练技术，把超长上下文训练效率提升了4倍；四层KVCache，把推理效率提升了4.5倍——每一项技术突破，都是在国产算力的土壤里长出来的。

对于国内大模型行业来说，科大讯飞证明能在全国产算力上跑通模型训推，只是一个开始，它证明了这条路径是成立的：在全国产算力上，企业不仅能训出能够进入第一梯队的模型，还能把成本压到可以大规模商用的水位线以下。

当大模型竞争开始计算每一项任务的总成本，真正重要的就不再只是谁拥有更多算力，而是谁能让既有算力完成更多任务，并让数据停留在它应该停留的地方。

而这件事的意义，远不止帮企业省几个Token的钱。如果AI永远只有Uber这样的大公司烧得起预算、永远只有能扛住1200美元两小时演示的团队敢用，那AI的扩散就会停滞。

只有把Token的浪费压下去，把每一分钱都用在刀刃上，AI才能真正走进每一个行业、每一家企业的基础设施。