nokia-applied-research/AnyJev
Turn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training. (continue updating, welcome any issue and PR request)
深度介绍
它是什么
AnyJev 是诺基亚应用研究团队开源的工具,能把任意 LLM 改造成 Jev 风格的决策模型,输出带类型的决策和真实概率,全程无需训练。
核心亮点
- 免训练:不改权重、不做微调,直接复用现有模型
- 带类型的决策输出:结果结构化,可直接接入下游系统
- 真实概率校准:基于 calibration 思路,概率更可信,而非拍脑袋
- 工程友好:支持 transformers 与 vLLM,兼顾实验与高吞吐推理
为什么火
LLM 做决策时常见两大痛点:输出不可解析、置信度虚高。AnyJev 用「系统一」式快速判断加概率校准,绕开训练成本,正好切中 Agent 与风控场景需求,795 星增长印证了这一点。
适合谁用
需要让 LLM 输出可量化决策的 Agent 开发者、做概率校准的研究者,以及想在风控、推荐、自动化流程中落地 LLM 决策的工程团队。
快速上手
pip install anyjev
参照 README 配置模型后端(transformers 或 vLLM),定义决策类型即可调用。项目持续更新,欢迎提 Issue 和 PR。
