能不能把一个大语言模型变成一个专业的决策工具?Privatemode公司近日发表了一篇技术博客,展示了他们如何用国产GLM-5.3-Flash模型实现类似Jev的决策能力——在一次前向传播中就给出带置信度的决策选项。

Jev是一款专业的决策模型,通常需要专门训练。但Privatemode发现,通过特定的提示词工程和一个巧妙的架构设计,普通LLM也能实现相同效果:输入一个状态描述和一组命名选项,模型在单次调用中就返回选中的选项以及每个选项的概率值。这对于高频决策场景(如客服工单分配、合同条款归类)来说,意味着成本和延迟的大幅下降。
他们用公开数据集构建了一个基准测试,将GLM-5.3-Flash的决策表现与Jev原版进行对比。结果显示,在决策准确率和速度两项指标上,两者表现相当。但GLM-5.3-Flash还有一个Jev不具备的能力:它可以对图片输入进行typed decision,直接基于图像内容返回结构化决策结果。
技术实现上,关键在于两点:第一,用特定格式的提示词让模型输出结构化JSON而非自由文本;第二,通过置信度阈值控制输出的可靠性。研究团队在9B参数规模的模型上验证了该方法的有效性,并将完整代码开源,供社区参考。

这项技术的实用价值在于:企业无需部署专门的决策模型,直接在现有的LLM API基础上加上决策提示模板,就能实现每秒处理数百次决策请求的能力。这对于需要将AI集成到现有软件系统中的开发者来说,是一个低门槛的解决方案。
不过,研究者也指出了当前的局限:模型在极端边缘情况下的表现仍不稳定,置信度分数在某些类别上的校准程度不足。随着模型能力的提升,这些问题有望逐步得到改善。

目前Privatemode已将相关模型和服务开放访问,开发者可以在他们的门户网站上申请试用。对于关注AI Agent实际落地的从业者而言,这是一项值得关注的技术进展。
OpenClaw—AI研究