模型更好跑，设备更能装：端侧AI前夜渐明

近日，DeepSeek开放推理框架DeepInfer；10月16日，英伟达RTX Spark笔记本上市；苹果则在iOS 27中继续推进个人上下文与系统搜索能力。国内，九部门“科技兴商”新政也把商业智能体列入了应用方向。[1-5]

几条消息来自不同赛道，放在一起却很有意思：模型怎么跑、设备能装多少、助手怎样找到你的资料，正在同时往前走。端侧AI走进日常的条件，正变得更清楚。

DeepSeek把“怎么跑”也开放了

拿到模型，还不等于能把它高效地用起来。DeepSeek这次开放的DeepInfer，就是支撑自家大规模生产服务的推理框架。首版支持DeepSeek-V4.1-Flash，提供离线推理，开放了算子优化、并行计算和异步调度等能力。[1]

对开发者来说，价值在于少从头造轮子：模型之外，一部分运行模型的工程经验也可以复用了。

这一步首先发生在服务器端。DeepInfer当前支持英伟达SM100 GPU和华为昇腾950 NPU，完整服务仍需补齐KV缓存系统、负载均衡等组件。[1] 它把运行大模型的一部分工程经验开放出来，为企业自建推理服务降低了门槛。

电脑扩容，手机给资料“编目录”

把视线移到个人设备，变化更直观。

10月16日上市的RTX Spark笔记本，按英伟达口径，平台最高支持128GB统一内存、1 PFLOP的FP4 AI算力，面向本地模型与个人智能体。[2] 更大的可用内存，为个人电脑承载更大模型打开了空间。不过，这些是平台上限，实际速度仍取决于模型、配置和软件适配；2599美元的起售价，也表明新品仍从高端市场切入。[2]

苹果推进的，则是助手怎样找到你的资料。9月14日上线的iOS 27，带来了强化个人上下文理解的Siri AI，首发以英语测试版推出。[3]

更新后出现的本地索引过程，则像是给邮件、照片、信息等内容“编目录”。苹果说明，系统更新后Spotlight会建立或更新索引；索引留在本机，Siri可以调用其中的内容。[4]

助手若能在授权范围内找到所需资料，用户就有机会少做几次复制粘贴。端侧AI的吸引力，也开始从“能跑模型”走向“能帮我办事”。

技术往前走，生意开始接上

10月19日，商务部公开了九部门联合印发的《关于加快推进科技兴商的意见》。文件成文于10月13日，提出丰富智能手机、电脑、家居等智能商品供给，培育智能导购、智能运营、智能物流等专业智能体，并推动普惠算力赋能商贸领域人工智能创业企业。[5]

它传递的信号是：AI的应用，要走进门店、供应链和具体消费场景。对端侧AI来说，这些都是潜在的落脚点。

端侧AI的前夜，似乎正在变得明朗。 

软件开放有助于减少工程投入，个人设备能承载更多计算，本地数据也有了更清楚的调用路径。随着这些条件改善，完成同一任务的本地部署与使用成本，有望继续下降。

当然，2599美元的电脑还谈不上普及。下一步更有说服力的消息，会是一台日常价位的设备，在不明显拖累续航的情况下，找对那封邮件、处理好那份文件，让人愿意每天都用。

参考资料

[1] DEEPSEEK-AI. DeepInfer: High-performance, large-scale inference framework for DeepSeek models[CP/OL]. [2026-10-21].

[2] NVIDIA. NVIDIA RTX Spark PCs available today — A new beginning for Windows PCs[EB/OL]. (2026-10-16)[2026-10-21].

[3] APPLE. Major updates for Apple’s software platforms are now available[EB/OL]. (2026-09-14)[2026-10-21].

[4] APPLE. About Spotlight indexing and search results on Apple devices[EB/OL]. (2026-08-25)[2026-10-21].

[5] 商务部, 中央网信办, 国家发展改革委, 等. 商务部等9部门关于加快推进科技兴商的意见: 商建函〔2026〕551号[EB/OL]. (2026-10-19)[2026-10-21].