#LLM2Jev

LLM2Jev开源工具:不改模型零训练,直读logits实现决策概率推理10倍速
大模型做选择题时,如果让它生成JSON再解析出概率,数字可能是编的,格式崩一次就得重来。LLM2Jev把这条链路整个换掉了——让本地LLM/VLM做一次prefill,不生成任何token,直接从最后一层logits…