加入 Hanzo 测试,任意付费方案立减 50%

Kai 1:要的是决策,不是补全

Kai 是 Hanzo 的决策模型,由 Hanzo API 提供。给出明确的状态和带有选项的问题,它会返回带类型、经过校准的答案——一次选择、一个分数、一个是/否,或一次有理由的暂缓。

本页内容

生产软件里的大多数步骤不需要一段话。它们需要软件能直接执行的答案:调用哪个工具,证据是否足够,风险有多严重,是否必须由人签字确认。

今天我们推出 Hanzo 的决策模型 Kai 1。把一个情境的事实,以及带有所列选项的问题交给 Kai。它返回一个带类型的答案(一次选择、一个分数、一个是/否,或经过校准的「没有把握,暂缓」),并为每个选项给出概率。

Kai 1 已在 Hanzo API 上线。它的权重是封闭的:Kai 仅通过 API 提供。

Kai 读取关于一辆车的 8 类证据,并返回就绪、需要复核或未就绪,每一项都带有概率,或者把决定交给人。
图 1 · 一份共享状态,一个列出选项的问题,一个为每个选项带有概率的带类型答案。概率仅为示意。

语言模型负责推理。Kai 负责决策。

当你让语言模型做判断时,回来的是文本。你得解析它,相信模型编出来的置信度数字,并希望输出留在界限之内。

Kai 是为这种做法不够好的步骤而做的。它的答案有边界,概率经过校准,没有什么需要解析。Kai 的每个答案都是 4 种类型之一:

  • 选择: 从列出的集合中取一个选项,并为每个选项给出概率
  • 分数: 对照你定义的等级给出的评分
  • 是否: 带概率的是/否
  • 暂缓: Kai 信心不足,把判断交给人或一条规则

证据始终附着

一项决策不该在意证据起初是文本、图像还是传感器读数。Kai 的设计是接受混合证据,并把来源附着在每一个答案上。

没有出处的数字只是一个数字。

15 类证据(文本、代码、图像、视频、音频、雷达、激光雷达、热成像、传感器、遥测、时间序列、图、SysML、仿真和文档)经过模态编码器,进入一份共享的证据状态,再送入 Kai。
图 2 · 文本、图像、传感器读数等被编码进 Kai 所读取的一份共享证据状态。

许多决策,一次通过

智能体循环一次只问一个问题。Kai 的设计是一次跑完整个决策程序:一份共享状态,许多决策,依赖关系写明。有把握的答案先锁定,只有不确定的才继续加工。

目标是,一个有数千项决策的程序,不必串行调用模型数千次。

100 个决策节点排成网格,一开始全部被遮住。87 个在第一次通过时解决,11 个在第二次通过时解决,一次约束通过解决最后 2 个冲突。
图 3 · 有把握的决策在第一次通过时落定;只有不确定的才会被细化。计数仅为示意。

每项决策都可以重放

Kai 的每项决策都记录程序版本、证据指纹、模型修订、完整概率分布、审批和执行轨迹。有人问系统为什么这样做时,你可以拿出来给他们看。

关于车辆 17 的 10 类证据,从摄像头检查和 CAN 遥测,到 SysML 架构与需求,流入决策程序,然后是 Kai,然后是策略与求解器检查,然后是人工审批,最后形成一份决策包。
图 4 · 从证据到决策包:让一项决策得以重放的记录。示例。

Kai 适合放在哪里

  • 智能体: 模型与工具选择,何时继续或停止,何时询问人
  • 业务流程: 线索评分、意图识别、下一步最佳行动、升级
  • 物理系统: 车辆、机器人、制造、能源与基础设施,决策在传感器数据上运行的地方

Hanzo 技术栈的一部分

Enso 为每项任务分流:写作交给 Zen6,决策交给 Kai 1。
图 5 · Hanzo 技术栈。Zen 负责写,Kai 负责决策,Enso 选择调用哪一个。

生成和决策是不同的工作。Zen6 是我们的开放权重生成模型家族。Kai 1 做出有边界、经过校准的决策。Enso 把每项任务路由到它需要的那一个。

它在哪里运行

Kai 在 Hanzo API 上运行,地址是 POST https://api.hanzo.ai/v1/decisions,每一百万个输入 token 收费 $0.021,输出 token 免费。它的权重不公开,也不提供自托管。

接下来

我们正在研究 7 个开放问题,只有在结果可以复现之后才会发表:

  1. 在极大选项集上做决策
  2. 多语言决策
  3. 共享状态解码
  4. 决策扩散(只细化不确定的答案)
  5. 多模态证据
  6. 校准,以及知道何时弃权
  7. 相连决策之间的一致性

Kai 1 的首批结果已经公布。在一套冻结的决策测试框架的 12 个主要套件上,Kai 1 的平均准确率为 85.7%,Jev 为 78.0%。它在 12 个套件中的 11 个上更准确,在 jailbreak 上落后(91.75% 对 94.0%),校准误差在 12 个中的 8 个上更低。这些运行在 CUDA 上测量;生产环境的答案在 CPU 上给出。Kai 1 在相互依赖的多问题程序上、在被否定的是/否问题上、在 150 个或更多选项时,以及在带类型决策和 jailbreak 的校准上,还没有竞争力;在 1,000 个或更多选项时,准确率接近于零。每一张表,以及每个数字来自哪一次运行:hanzo.ai/kai 和 Kai 文档。


Kai 1 · Hanzo API

别再让一个模型包办一切

今天就通过 Hanzo API 调用 Kai。

评论

使用 Hanzo ID 登录后即可评论。

正在加载评论…

继续阅读