JOTO
Contact us
← AI 智库
SaaS AI

TrustedRouter 推出三款加密‘融合’模型:支持多LLM协同、合规机密路由与美国模型专属组合

2026 年 11 月 11 日

TrustedRouter 发布 Prometheus 4.0、Liberty 4.0 和 Polyphemus 1.0 三款加密融合模型,通过机密计算网关实现跨模型路由、端到端加密及隐私分级处理,其中 Liberty 4.0 仅调用 NVIDIA、Reflection AI 和 Meta 三家美国供应商模型。

TrustedRouter launches three new encrypted 'fusion' models that combine multiple LLMs, including one exclusively with U.S. model providers

为贵公司选择一款人工智能模型已经够难了。而为每一项任务选择最合适的模型则更难。您应该将一项棘手的代码审查发送给 Anthropic 的 Claude Fable 5.2,尝试使用像 美团的 LongCat-2.5这样的开源权重模型,还是采用其他方案?答案可能因任务而异,甚至在同一应用程序内部也会发生变化。

幸运的是,多家公司应运而生,试图通过智能地将不同任务或任务各部分分发至最适合、最具成本效益地完成该任务的模型,从而自动为您解答这一问题。

其中最新的一家是初创公司 TrustedRouter,该公司还力求为企业和开发者提供额外优势:通过 合规的机密传输路径保障数据隐私——该路径可确保用户提示在抵达运行模型的服务商经验证硬件之前始终处于加密状态。 企业无需将每个请求直接发送至 OpenAI、Anthropic 或其他模型开发商,而是可借助 TrustedRouter,依据成本、可用性、模型能力及隐私要求,将工作负载定向至不同服务商。

提示在该受保护环境中解密,该环境的设计旨在使其不被服务商的操作人员接触。该保护机制取决于所选路径及调用方的隐私设置。

目前,TrustedRouter 正通过其现有 API 推出三款基于该理念的加密‘组合’模型。开发者可通过 纽约代币交易所(New York Token Exchange) 访问这些模型,其模型 ID 均以 nyte/开头。

  • Prometheus 4.0 整合来自六个开源权重模型组成的专家组的独立回答,生成单一响应。

  • Liberty 4.0 同样整合多个回答,所调用的模型分别来自 NVIDIA、Reflection AI 和 Meta——三家美国人工智能模型提供商。

  • Polyphemus 1.0 则为每个请求挑选单一模型作答。TrustedRouter 为其标注标准隐私等级

上述三款模型均通过加密连接接入 TrustedRouter 网关。Liberty 4.0 和 Prometheus 4.0 的服务商端机密处理为可选功能;Polyphemus 1.0 则采用标准隐私等级。

在 VentureBeat 独家视频采访中,创始人兼首席执行官 Joseph Perla 解释了这些模型的工作原理,以及公司为何希望为开发者提供更多方式,以匹配模型与待执行任务。

“每个人都应使用路由器,因为没有任何一家服务商能保证 100% 可靠,”Perla 表示,“就连 Claude 有时也会宕机,因此您必须使用路由器。”

这三款新模型各自决定其请求应路由至底层模型的方式与位置。一个复杂的研究问题可能受益于多个独立回答,而常规分类任务或许仅需一个模型即可。每种预设均有其专属的 路由与隐私特性。

据 Perla 介绍,该系统采用由 NVIDIA GPU 支持的机密计算技术,在人工智能请求处理过程中对其加密,防止基础设施提供商及交易所本身读取客户的敏感信息。

该系统还旨在验证实际处理每个请求的人工智能模型,从而降低客户为昂贵模型付费却无意中收到较廉价替代模型结果的风险。这些能力是 Perla 论点的核心:企业可通过共享市场,安全地向陌生的基础设施提供商采购人工智能服务。

Perla 表示,这三项产品契合 纽约代币交易所(NYTE)更大的整体规划。Lore Hex Corp 同时运营这两项服务。

TrustedRouter 是连接应用程序与模型及托管服务商的网关。NYTE 则利用该网关按需销售人工智能算力,并提供提前容量预留服务。

这 两个 API 地址 共享密钥、账户余额及路由行为,开发者可通过任一前缀—— nyte/ 或 trustedrouter/ ——调用同一预设。

发送提示后会发生什么?

Prometheus 和 Liberty 会并行、独立地向多个模型发起提示回答请求。一次独立的裁判调用(judge call)评估各模型的回答,再由一次合成器调用(synthesizer call)生成最终响应,据 TrustedRouter 称。一次完整的 Prometheus 请求需调用八次模型,一次完整的 Liberty 请求需调用五次模型。

若某模型遗漏某一来源或在计算中出现偏差,可与其他模型的答案相互校验。合成器须识别出哪一答案获得更强支持。

若多名专家组成员重复同一错误,仅凭一致性本身几乎无法促使系统予以纠正。运行专家组的成本及合成耗时即为此类权衡的一部分。

Prometheus 4.0 是开源权重专家组模型。其 已公布的阵容 包括小米的 MiMo-V2.6-Pro、Z.ai 的 GLM 5.3、月之暗面(Moonshot AI)的 Kimi K3、DeepSeek V4.1 Flash、MiniMax M3 以及阿里巴巴的 Qwen 3.8。TrustedRouter 为该预设列出一百万 token 的上下文窗口。其滚动 nyte/prometheus alias 跟随最新版本,而 nyte/prometheus-4.0 选择此发布版本。

TrustedRouter 尚未明确说明哪一模型负责合成最终生产答案、需多少名小组成员完成回答后才启动合成过程,或当各组件模型具有不同上下文限制时,所宣传的上下文限制如何适用。

Liberty 4.0 整合了来自 NVIDIA、Reflection AI 和 Meta 这三家美国开发者的模型。 组件目录 列出了 NVIDIA 的 Nemotron 3 Ultra、Reflection 的 Beam 以及 Meta 的 Muse Spark Open。

TrustedRouter 表示,每名小组成员独立作答,Meta 模型负责整合各响应;若 Meta 模型不可用,则由 Beam 接管合成任务;若某小组成员未能作答,Liberty 仍可基于其接收到的其他响应继续工作。

Polyphemus 1.0 在生成答案前即作出选择。选择器检查请求并选定一个模型,该模型通过单次调用完成作答。其 模型文档 指定了 Responses API 及一个 65,536 令牌的上下文窗口。

其按每百万预估选择器输入令牌收取 0.05 美元费用,并额外收取所选模型的常规费用。若选择器失败,则通用 TrustedRouter 自动路由将处理该请求,且选择器费用取消。开发者可复用会话 ID,并在每一轮交互中发送对话历史,以提高复用缓存输入的可能性。

会话在持续一小时无活动后过期。文档为此预设列出了标准隐私条款。选择器的合格模型池、决策标准及其相对于固定模型基线的性能表现,目前仍是未解问题。

一次回答的成本是多少?

TrustedRouter 的 模型目录 显示 Prometheus 4.0 的组件路由费率约为每百万输入令牌 0.01 至 1.48 美元、每百万输出令牌 0.13 至 7.39 美元;Liberty 4.0 的费率则约为每百万输入令牌 0.42 至 1.32 美元、每百万输出令牌 1.27 至 4.48 美元。这些费率仅描述请求的部分成本。

评估小组方案的买家需要了解总账单,包括各模型执行的工作,以及裁判与合成器所承担的工作。TrustedRouter 的 预付文本标准加价率 为 5.5%,且不收取订阅费。该公司文档中注明,对于选择启用 已签署推理收据的托管式预付请求,总服务费为 12%。

TrustedRouter 估算各预设方案每次请求的成本相较于 Claude Fable 5.1 的差异。小组方案的估算覆盖完整请求中的全部调用。Polyphemus 的预估节省幅度取决于其选择的具体模型。

  • Liberty 4.0: TrustedRouter 将 Fable 5.1 的单次请求成本定为 Liberty 的 2.3 至 2.9 倍,即 Liberty 可实现约 60% 的成本节省。完整运行共进行五次调用:三次分别由三个开源权重的美国模型作答,一次用于评判其响应,一次用于整合响应。

  • Prometheus 4.0: TrustedRouter 将 Fable 5.1 的单次请求成本定为 Prometheus 的 2.5 至 3 倍,即 Prometheus 可实现约 60% 至 65% 的成本节省。完整运行共进行八次调用:六次分别由六个开源权重模型作答,另两次分别用于评判与合成。

  • Polyphemus 1.0: TrustedRouter 估算,当路由器选择 Claude Opus 5.5 时,成本约降低 60%;当选择 GPT-6.1 Sol 时,成本约降低 80%。

TrustedRouter 提供的是相对节省幅度数据。底层美元成本、任务类型、质量与延迟测量指标,以及 Polyphemus 的数据是否包含选择器费用,目前仍未公开。

TrustedRouter 为 Prometheus 系列发布的最具体基准测试结果来自其早期版本。

在 其 7 月测试结果中,TrustedRouter 报告 Prometheus 2.0 在 Perplexity 的 DRACO 深度研究基准测试全部 100 项任务中得分为 77.4。其说明文档列出单模型参考得分:Claude Fable 5 为 65.3,GPT-5.5 为 63.3,Claude Opus 4.8 为 60.3。

Perla 在解释其为何预期小组方案在处理困难查询时优于单个模型时,援引了上述研究测试。该结果适用于早期配置及一项研究基准测试。若在匹配任务上开展对比测试,并同时报告成本、质量与延迟,则可验证该节省幅度是否适用于买家的实际工作负载。

在 VentureBeat 的一项测试中,Claude Code 通过 TrustedRouter 调用 DeepSeek Flash,正确返回“巴黎”为法国首都。随后 Claude Code 估算,Fable 5.1 完成同一问题所需成本约为其 70 倍。该估算展示了单个简单请求的价格差异。

更严格的测试应衡量小组方案获得可用答案的频率(而更廉价的单模型却遗漏该答案),以及额外工作所增加的成本。

TrustedRouter 与 GitHub、Sakana、OpenRouter 及 Arcade 的对比

GitHub Copilot Fusion 在其编码代理内部作出选择。根据任务类型与努力程度设置,它可使用单一模型、先采用高效模型并在质量检查后升级,或由一个模型审阅另一模型的草稿。GitHub 向企业管理员提供对合格模型的控制权。

在 Artificial Analysis 的独立测试中,Fusion Max 平均每项编码任务花费 5.59 美元,而 Claude Code 在 Max 设置下运行 Claude Opus 5.5 的平均成本为 11.42 美元,二者在编码代理指数(Coding Agent Index)上相差两分。

正如 VentureBeat 此前报道,该对比衡量的是相同测试中完整编码代理的表现。TrustedRouter 公布的 DRACO 分数衡量的是深度研究能力,因此回答的是另一个问题。

Sakana AI 的 Fugu Max 和 Fugu Ultra v2 在开发者使用方式上更接近 TrustedRouter。它们提供一个 API,隐藏了协调多个模型的工作。Fugu Max 从一个模型池中选择组合 以平衡质量与成本。Ultra 则为更困难的任务使用一组更深层的智能体。

OpenRouter Fusion 在面板设计方面与之更为匹配。其已文档化的流水线可将提示词并行发送至多个模型,由一个裁判(judge)比较各模型输出,并将该分析结果传递给负责撰写最终答案的模型。

开发者可配置该面板及裁判。TrustedRouter 向开发者提供具有明确定义用途和版本化 ID 的命名预设(named presets)。

提供

其所选择或组合的内容

客户可在成本方面进行比较的内容

TrustedRouter Prometheus 和 Liberty

模型并行作答,随后由裁判评估其输出,再进入合成阶段。开发者通过兼容 OpenAI 的 API 选择预设。

公开的组件费率及公司估算显示,相较于 Fable 5.1,每次完整请求可节省约 60% 至 65% 的成本,具体取决于所选预设。

TrustedRouter Polyphemus

一个选择器(selector)通过 Responses API 选取一个作答模型。

费用包括选择器费用及所选模型的 token 收费。TrustedRouter 在其提供的两个路由示例中,估算出相较 Fable 5.1 可节省 60% 至 80% 的成本。

GitHub Copilot Fusion

编码智能体根据任务、努力程度设置(effort setting)及企业模型策略,自主选择模型与工作流。

GitHub 按实际使用的模型计费。针对已测试的编码设置,可提供独立的每项任务成本估算。

Sakana Fugu Max 和 Ultra v2

一个 API 协调来自固定模型池的智能体,其中 Max 针对成本与性能优化模型选择。

Max 标注输入费用为每百万 token 2 美元,输出费用为每百万 token 6 美元。Ultra 起步价为输入每百万 token 5 美元、输出每百万 token 30 美元;当上下文长度超过 272,000 token 或产生可计费的编排 token 时,费率更高。

OpenRouter Fusion

一个可配置的 API 面板生成答案,一个裁判对其进行比较,再由一个模型撰写最终答案。

成本遵循底层调用的实际开销

。开发者可选择预算优先或质量优先的预设,或自行指定面板。

Arcade.dev 工具推荐(Tool Recommendation)

为智能体查找并排序软件操作。智能体当前所用模型决定调用所推荐工具中的哪一个。

Arcade 报告称

在其工作流测试中,输入与输出 token 总费用降低了 7.6%

。更大的 37% 数值则源于对输入成本的建模。

Arcade 的工具发现(tool discovery) 应对的是另一类支出来源。一个连接多个业务系统的智能体,可能耗费大量 token 阅读其极少使用的工具描述;而 Arcade 仅在智能体需要时才检索出精简列表。

企业可在同一应用中同时使用工具发现与模型路由,因为前者筛选可用操作,后者决定应由哪个模型处理请求。

当多个模型均看到同一提示词时,隐私问题变得更加棘手

TrustedRouter 表示,其网关运行于密封计算环境(enclave)中,协调模型调用的逻辑亦在此环境中运行。客户可将其网关的 硬件证明(hardware attestation) 与其公开的源代码进行比对。TrustedRouter 表示其网关不会记录任何提示词或输出内容。

TrustedRouter 告知 VentureBeat,客户可要求 Liberty 或 Prometheus 请求中的每一次模型调用均使用机密硬件(confidential hardware)。该 机密端点(confidential endpoint) 要求端到端加密、服务商侧的机密计算(provider-side confidential computing)以及零数据留存(zero data retention)。该要求覆盖所有面板成员(panelists)、裁判(judges)、合成器(synthesizers)及备用路由(fallback routes)。若网关无法为某次必需调用找到符合资格的路由,则该请求失败。

据 TrustedRouter 称,Liberty 4.0 仅路由至总部位于美国的供应商,若否则需路由至总部位于他国的供应商,则请求失败。对于 数据中心的物理位置,TrustedRouter 依赖其供应商所提供的信息。

一份 经签名的收据(signed receipt) 可标识所用模型与供应商,并记录上游验证的级别。

“单凭答案本身,就只是些输出的文字而已。”Perla 在谈及仅凭答案识别模型时如是说。

与部署相关的其他细节包括:回退调用(fallback calls)在账单上的呈现方式、实测延迟(measured latency),以及三种预设模式下对流式传输(streaming)、工具调用(tool calls)和结构化输出(structured outputs)的支持情况。

TrustedRouter 的起源

在推出 TrustedRouter 之前,Perla 的职业生涯大部分时间都致力于人工智能(AI)、云计算和大规模技术基础设施的交叉领域。

他在普林斯顿大学(Princeton)攻读计算机科学与机器学习专业后,就职于桥水联合公司(Bridgewater Associates),随后创办了音乐初创公司 Turntable.fm,并加入 Facebook,在其移动端新闻推送(mobile News Feed)团队担任技术负责人。

此后,他继续攻读人工智能方向的博士学位,之后离开学术界,于 2013 年联合创立 Terminal.com——一家早期 GPU 云计算平台,允许开发者和数据科学家在容器中而非传统虚拟机中运行工作负载。

Terminal.com 最终被 Udacity 收购;此后,Perla 加入 Lyft,成为其首批 50 名工程师之一,协助开发其自动驾驶汽车项目。最近,他参与了另一家音乐初创公司,据称该公司于 2025 年被收购。

Perla 重返 AI 基础设施领域,源于他与多家主要 AI 实验室及云服务提供商(包括 OpenAI 和 Anthropic)相关人员的交流。他表示,这些讨论让他确信:企业正将敏感业务信息暴露给 AI 提供商,却并未充分理解其数据可能如何被保留或再利用,即便他们已就隐私保护条款进行了谈判。

Perla 开始研究“机密计算”(confidential computing)——一种可在远程硬件上处理信息时保护该信息的技术,并意识到可将该能力与 AI 模型路由服务相结合,从而创造机会。

“几乎没人知道,你实际上可以对 AI 聊天内容进行加密,”Perla 告诉 VentureBeat,“我认为这是我意识到的最重要的一点。”

Perla 表示,他大约一年前开始开发 TrustedRouter,并从一开始就将其构想为一个更大型 AI 市场的基石。他并未自行运营 GPU 基础设施,而是构建了一项路由服务,将客户连接至外部提供商,这些提供商能够利用机密计算技术运行 AI 模型。

他解释道:“我们基本上构建了一个交易所,汇集了所有具备 GPU 加密能力(例如 Private Mode)的提供商——目前仅有少数几家。我们还接入了更多一些提供商,并向它们路由请求。我们希望推广这些提供商,并向全世界宣告:这件事是可行的。”

TrustedRouter 于 5 月启动公开测试版(public beta) 并于 8 月 31 日正式公开发布 ,Axios 报道称,同期获得 125 万美元种子轮融资。

早期支持者包括 Slow Ventures 的 Sam Lessin、Bill Tai、Linda Avey 和 George Xing。Perla 于 10 月 15 日宣布该交易所。次日, Semafor 报道 称 TrustedRouter 已完成由 Sierra Ventures 领投的 600 万美元种子轮融资。

该理念已演变为一项更广泛的举措:通过使私有托管的竞品模型更易于访问和按价格比较,挑战主要 AI 提供商的主导地位。 该公司表示,其每日平均处理超过 30 亿个加密 token。其模型目录涵盖来自 100 多家提供商的 600 多个模型。上述总数覆盖整个目录范围,而是否符合机密路由(confidential-route)资格则另行评估。

TrustedRouter 的长期目标是将 AI 推理转变为一个具有竞争性的商品化市场,同时使加密处理成为行业标准。正如 Perla 所言:“我们的目标是到明年,让大多数 GPU 都能以这种方式实现加密。”

纽约 Token 交易所(NYTE)将如何运作

纽约 Token 交易所(New York Token Exchange,NYTE)是一个拟议中的市场,用于买卖和交易 AI 推理 token——即人工智能模型所处理和生成的文本及其他信息单位。其目标是将对 AI 模型及运行它们的计算基础设施的访问权转变为一种商品,使企业能够从相互竞争的提供商处采购,而无需分别与每家 AI 公司单独签订合同。

该交易所建立在 Perla 现有的服务 TrustedRouter 基础之上,后者通过单一接口将客户连接至数百家 AI 模型及基础设施提供商。

该公司发布了一份 按模型能力划分的价格指数 ,并提供 固定价格预订服务 ,以十亿 token 为单位进行批量预订,供 2027 年使用。

此类预订仅可通过 NYTE 自身的计划转售,且须遵守其条款。在供应端,NYTE 提供一套 早期开源软件栈 ,供希望使其硬件达标并销售推理服务的运营商使用。

TrustedRouter 表示,计划于 1 月启动期货倡议。该公司 公开资料 在其路线图中列出了期货及衍生品。

NYTE 计划通过两个互补市场运作:

1. AI token 现货市场: 企业可从参与该交易所的提供商处即时购买 AI 推理算力。客户无需与众多 AI 公司及云运营商分别建立独立合作关系,而是通过该交易所接入相互竞争的模型与基础设施。拥有空闲 GPU 算力的提供商亦可将其服务出售至同一市场。

2. AI token 期货与远期市场:企业可预先约定在未来某一日期以预定价格购买指定数量的 AI token。此举将使企业锁定可预测的 AI 运营成本,同时为基础设施提供商提供保障未来收入的途径,并可能为其购置额外 GPU 及数据中心提供融资支持。

例如,一家预计明年将消耗 10 亿个 AI token 的公司,可通过 NYTE 协商一份合约,于今日即以约定价格购得该算力。

基础设施提供商可利用由此产生的收入或融资安排购置额外 GPU,并在所需 token 到期时交付推理服务以履行合约。

如果客户后续发现其实际所需 token 数量少于预期,Perla 设想允许其通过该交易所转售未使用的合约容量,而非损失预付承诺的价值。

该市场还旨在容纳自行运营 GPU 集群的企业。一家大型企业在夜间或周末存在未使用的计算能力,便有可能通过 NYTE 出售推理服务,从而同时成为买方与卖方。

Perla 希望通过分发开源软件来鼓励这一模式,使企业更易自建 AI 基础设施并参与该市场。

更宏大的目标是将 AI 模型的开发与其运行所需的基础设施分离开来,正如电力的发电与输配已演变为拥有多个相互竞争供应商的市场一样。

模型开发者可以专注于构建更优的AI系统,基础设施公司则可竞相高效地为这些模型提供服务,而企业则能以市场价格采购由此产生的计算服务,无需绑定单一供应商。

佩尔拉(Perla)认为,这将使AI推理成本更低、可靠性更高、预算编制更简便,同时为当今领先AI公司所青睐的垂直整合商业模式提供一种替代方案。

Fusion发布为企业提供了一种途径,使其能在自身已开展的工作中验证佩尔拉(Perla)关于该市场的论点:企业可将一个面板(panel)、一个任务路由器(task router)及其现有模型,在同一组提示(prompts)上进行对比测试。关键指标包括:获得可用答案的成本、答案返回所需时间,以及所有处理该请求的服务提供商均符合企业规则的证据。

JOTO 企业落地观察

  • 对企业部署而言,TrustedRouter 的‘标准隐私等级’与可选机密硬件执行路径,使企业可在不改造现有应用的前提下,按任务敏感度分级启用加密处理——例如将客户数据类请求强制路由至 Liberty 4.0 的美国模型+机密端点,而内部摘要任务使用 Polyphemus 1.0 的低成本单模型路径。
  • 对智能体工程而言,Prometheus 4.0 的八次模型调用(含裁判与合成)和 Liberty 4.0 的五次调用构成明确的编排契约,开发者需在流式响应、工具调用等能力缺失现状下,重新设计智能体状态管理与错误回退逻辑,尤其当某小组成员失效时依赖备用合成器(如 Beam 接管 Muse Spark),而非简单重试。
  • 对 AI 安全治理而言,TrustedRouter 提供经签名的推理收据(含模型身份与上游验证级别),首次将‘模型溯源’从黑盒承诺变为可验证事实;但其未公开硬件证明比对流程与 enclave 日志审计机制,意味着企业仍需自行验证网关是否真正零数据留存,不能仅依赖厂商声明。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.