Windows 将导入Hybrid Intelligence!未来AI 会自动选择本地或云端模型来执行任务

虽然本地模型越来越强,但跟云端AI 相比还是有很大差距,也因此,现在很多人都是通过云端AI 来处理工作。只不过在做一些小专案、不需要用到很强AI 模型的事情时,一定会想,能不能改用本地?虽然现在有Ollama、LM Studio 等工具,可以在电脑上执行本地AI 模型,但要靠自己安装、设置,而且一直手动切来切去,操作上也非常麻烦。

为了解决这个问题,微软稍早宣布,将为Windows 打造全新的「Hybrid Intelligence(混合式智慧)」架构,未来只要支援这套架构的AI 应用程式,就能根据工作需求,自动选择使用电脑上的本地模型,或是交给能力更强的云端模型处理,可说相当不错。

Windows 将导入Hybrid Intelligence!未来AI 会自动选择本地或云端模型来执行任务- 安软网

微软打造Windows Hybrid Intelligence,让本地与云端AI 智慧分工

根据微软在Windows Experience Blog发布的官方公告,Windows 将朝Hybrid Intelligence 平台发展,让AI 代理能依照任务需求,选择直接在电脑本地执行,或是交由运算能力更强的云端AI 模型处理。

微软认为,AI 代理接下来会越来越普及,对运算资源、安全性与管控的要求也会跟着提高,再加上云端AI 的开销越来越大,不少企业的AI 需求已经超出预算,大家都希望每一个Token 都能花在刀口上,所以Windows 需要具备整合本地AI 与云端AI 的能力,而不是把所有工作都丢给云端。

所谓的「Hybrid Intelligence」,并不是一款新的AI 模型,也不是Windows 里可以直接开启的单一功能,而是一整套让本地与云端AI 协同工作的架构。

Windows 将导入Hybrid Intelligence!未来AI 会自动选择本地或云端模型来执行任务- 安软网

那实际是怎么运作的?简单来说,就是把本地AI 模型和云端AI 模型放在同一个系统里,依照任务难度和需求来分工。

用实际情境来说明,假设你正在通过GitHub Copilot 写程式。

当你请AI 帮程式码加上注解,或修正一个简单的语法错误时,如果电脑上的本地AI 模型已经有足够的能力,就有机会直接通过本地完成,不用呼叫云端AI。遇到比较复杂的问题,例如分析一整个大型专案的架构、追查很难重现的程式错误,系统则可能改用能力更强的云端AI 模型。

在这套架构里,各自负责的角色大致是这样:

  • 本地AI:使用电脑上的CPU、GPU、NPU 等硬体资源执行模型,微软提供的Windows ML 执行环境可以把模型部署到这三种硬体上,而且这次还会加入llama.cpp 支援,让开发者更容易使用各种开源模型。
  • 云端AI:负责比较复杂,或本地硬体跑不动、不适合在本地执行的工作。
  • 智慧路由:让支援的AI 应用程式能依照任务需求,自动决定要用哪个模型。
Windows 将导入Hybrid Intelligence!未来AI 会自动选择本地或云端模型来执行任务- 安软网

过去想用本地AI 模型,都需要通过Ollama、LM Studio 等工具,自己下载模型、管理版本、调整设置。想用云端AI,则要另外打开ChatGPT、Claude 等服务。两边是分开的,什么时候用哪一个,都要靠使用者自己判断。

未来导入Hybrid Intelligence,支援这套架构的应用程式就能自动判断和切换。差异可以参考下表:

比较项目过去常见的AI 使用方式导入Hybrid Intelligence 后
AI 模型使用云端AI,或自行安装本地模型可以整合本地与云端模型
模型选择通常需要自行选择支援智慧路由的应用可自动选择
GPU、NPU使用云端AI 时,本地AI 算力通常闲置可以利用电脑本身的AI 算力
Token 消耗使用云端模型可能消耗Token 额度部分任务改由本地处理,有机会减少消耗
网络需求云端AI 需要网络部分本地任务可不依赖网络
隐私云端处理可能需要传送资料部分资料可留在本地处理

至于有哪些软体会支援Hybrid Intelligence,首批是GitHub Copilot 家族:

  • GitHub Copilot App
  • GitHub Copilot CLI
  • Visual Studio Code

不过微软也宣布,Windows 内置的Copilot 也将导入本地与云端AI 协作能力。未来Copilot+ PC 上的Copilot 将具备三种重要能力:

  • Local Context(本地情境):在取得使用者授权后,理解电脑中相关的文件与近期活动。
  • Local Actions(本地操作):协助整理文件、执行诊断、排除装置问题,以及完成指定的Windows 工作。
  • Local Models(本地模型):利用电脑上的AI 模型处理适合的任务,并在需要时结合云端AI 的能力。

这也意味着,未来你可以直接叫请Copilot 帮忙找出某份上个月改过的文件、把下载资料夹里乱成一团的文件分类整理,或协助处理系统设置相关的问题等等。

微软也提到,这些能力会带进Copilot 的Home、Code、Autopilot 三种体验。 Home 是把你正在处理的文件拉进来一起协作,Code 则代表用一段提示词即可建立原生Windows App,Autopilot 会获得本地情境与操作电脑的能力。

随着AI 动手操作电脑能力加入,在安全性部分,微软这次也同步宣布Microsoft Execution Containers(MXC)于Windows 11 正式推出,可限制AI 代理能存取哪些文件和网络,并在执行时强制套用。

硬体方面,目前有几个限制要先知道:

  • 不是所有Windows 11 电脑都确认能使用完整的Hybrid Intelligence 能力。
  • Windows Copilot 新增的本地能力,初期公布的推出对象是Copilot+ PC,实际开放时间会依装置、市场与晶片而有差异。
  • 本地模型需要足够的CPU、GPU、NPU 与记忆体资源。
  • 不同模型的硬体需求可能差很多。
  • 微软尚未公布所有相关功能的完整硬体需求与正式推出日期。
Windows 将导入Hybrid Intelligence!未来AI 会自动选择本地或云端模型来执行任务- 安软网

下方是目前公布的时程整理表格:

软体或功能预计推出时间
GitHub Copilot App(HydraFusion 支援本地模型)2026 年10 月下旬实验性预览
GitHub Copilot CLI2026 年10 月下旬实验性预览
Visual Studio Code2026 年10 月下旬实验性预览
Windows Copilot 本地AI 相关能力未来几个月陆续在Copilot+ PC 推出
赞 (0)
Ella SaariElla Saari

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注