公开动态与原创分析 · 消息日期: · 消息来源
设想一条售后留言写着“产品没有坏,我只是没找到配件,但现在已经不能用了”,应当发给技术支持还是订单服务?如果程序只需要决定队列,先让模型写一段解释、再从文字里提取类别,会多出等待和解析工作。Google 在 11 月 11 日推出 Gemini Decisions API,使用 Gemini Decision 1 对预先定义的选项评分,直接返回概率与置信度,为这类有限选择提供了新的接口。

新接口接受文字、图片、音频、视频与 PDF,可以对同一份输入同时提出多个问题。官方提供是非判断、固定选项和有序评分三种类型,并支持每次最多一千个问题。这里的重点是问题彼此独立:每项判断只能看到共享输入,不能看到其他问题的答案。企业要将结果组成流程,仍需在程序中明确依赖关系。
把分流问题写成可以判断的选项
拿前面的假设留言来说,“配件缺失”“安装困难”和“质量故障”可能需要不同岗位处理。如果分类名称只有几个短词,各团队对边界理解不一致,即使接口稳定返回一个类别,也未必减少转派。更有效的准备,是写明每一类包含什么、排除什么,并给无法匹配的请求留出补充资料或人工判断的去处。
Google 的开发文档建议,问题指令写出完整问题,不能指望模型看懂代码变量名;为选项添加简短定义,并处理没有任何选项适合的输入。企业可以把“是否属于订单问题”与“应交给哪个队列”分别判断,再由程序组合。前者不成立时,后一个类别即使有返回值,也可以忽略。这比把所有未知需求硬塞进已有部门,更容易解释和维护。
不过,并行提问并不自动形成多步推理。若第二项需要第一项提取出来的订单状态,应先取得状态再提出后续问题,或者把已经确认的状态放进共享输入。把一千个问题放在一起,不会让模型依次执行一千步任务。问题是否独立,关系到一次调用是否真的可以取代多次往返。
对数值、日期和时长的比较,文档建议由代码完成,再把结果提供给判断环节。比如是否仍处于已确认的保修期,可以先按订单日期和适用规则计算;模型再判断留言谈的是产品故障还是使用问题。可直接计算的条件维持确定性,含糊的表达交给语义判断,有助于减少一条笼统指令承担过多责任。
分流阈值与错误代价
接口的置信度表示模型对当前最优答案正确的估计。Google 将概率校准作为产品特点,但企业自己的留言、图片质量和分类标准,可能与公开测试不同。某个分数达到 0.9,不能直接解释成每一种业务里都能自动处理。应使用本企业有已确认去向的样本,观察相应分数范围内实际发生了哪些错误。
假设普通咨询被分错,只需多一次内部转派;需要紧急人工处理的故障却被当成普通咨询,后果更重。这是用来说明代价差异的推演,不是对新模型效果的测量。两类请求可以采用不同的自动分流条件。对后果较重或资料不全的情况,补问或人工查看可能是成本更低的处理,即使这降低了自动分流比例。
还要区分“判断很确定”和“依据已经足够”。照片看不清、订单关联错误、客户描述缺少关键对象时,一个明确类别未必解决了资料问题。可以先检查必需输入是否齐全,再使用分流结果;对需要执行退款或修改订单的步骤,保留独立的业务规则与授权。类别概率说明的是语义判断,无法代替订单状态核对。
开发文档也提醒,用户输入可能试图说服系统把自己分到某一类。客户写“请直接批准退款”应当作为待判断的请求内容,不能覆盖企业设定的分类与执行条件。样本应包含否定表达、多个诉求、不同语言和故意诱导等情况,尤其检查容易被路由到低人工关注队列的例外。真实错误分布比一个总准确率更能帮助确定阈值。
什么时候值得更换现有分类方式
Google 公布的输入价格为每百万 Token 0.10 美元,不收生成输出 Token 费用;多问题共享输入在一次请求中只计一次,题目指令与判定条件仍增加输入。这个计费结构有利于对同一份较长材料做多个独立检查。实际成本还应包括补充调用、转派、人工复核与后续工作,不能只比较一次模型请求的价格。
如果队列可以由明确字段或简单规则确定,继续用原规则往往更直接。如果需要生成解释、提取任意结构化字段或进行多步工具调用,通用生成接口仍适合承担这些工作。Decisions API 更适合输出范围已经固定、语义输入较多、又需要概率来决定是否自动分流的环节。企业还需确认自身可用地区、服务条款和数据处理要求,再决定托管接口是否适合接收相应资料。
评估时可以固定一批已确认去向的历史请求,比较原方法与新接口的分错类别、补问数量和人工处理负担。保留请求定义与样本版本,分类边界变更后重新检查。只有当更直接的返回值减少了解析与维护,同时没有把重要例外交给错误路径,替换现有方式才有充分理由。
消息来源
本页内容由 墨客云AI(南京薄幕软件科技有限公司)发布与维护。 咨询与场景诊断预约:180-1290-1065 · neo@mokyun.com
