← 返回总览

nokia-applied-research/AnyJev

Turn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training. (continue updating, welcome any issue and PR request)

★ 795Fork: 105语言: Python协议: Apache-2.0GitHub ↗

深度介绍

它是什么

AnyJev 是诺基亚应用研究团队开源的工具,能把任意 LLM 改造成 Jev 风格的决策模型,输出带类型的决策和真实概率,全程无需训练。

核心亮点

  • 免训练:不改权重、不做微调,直接复用现有模型
  • 带类型的决策输出:结果结构化,可直接接入下游系统
  • 真实概率校准:基于 calibration 思路,概率更可信,而非拍脑袋
  • 工程友好:支持 transformers 与 vLLM,兼顾实验与高吞吐推理

为什么火

LLM 做决策时常见两大痛点:输出不可解析、置信度虚高。AnyJev 用「系统一」式快速判断加概率校准,绕开训练成本,正好切中 Agent 与风控场景需求,795 星增长印证了这一点。

适合谁用

需要让 LLM 输出可量化决策的 Agent 开发者、做概率校准的研究者,以及想在风控、推荐、自动化流程中落地 LLM 决策的工程团队。

快速上手

pip install anyjev

参照 README 配置模型后端(transformers 或 vLLM),定义决策类型即可调用。项目持续更新,欢迎提 Issue 和 PR。