AI Pulse
📡 X 信号

开源LLM2Jev 把本地大模型转结构化决策引擎

开源LLM2Jev 把本地大模型转结构化决策引擎

💥逆天了!支持多模态的本地 Jev 模型来了!图文皆可喂!

LLM2Jev 把本地大模型变成结构化决策引擎,图文都能一起喂进去,模型可以看着图做判断,开源、数据不出本地、模型随便换。

核心亮点
🔹仅需 prefill,不做自回归解码
🔹图文多模态正式支持(SGLang / Transformers)
🔹Choice / Score / Noul 三类结构化输出,选项顺序不影响分数
🔹兼容 System One API,后续还有 MLX
🔹三个新 Demo:网页秒懂玩法、AI 自己玩贪吃蛇、视觉判断驱动机械臂

上手 4 步
1️⃣git clone
2️⃣cd LLM2Jev && uv sync --extra sglang
3️⃣source .venv/bin/activate
4️⃣python examples/sglang_inference.py --model-path /你的模型路径

文档、原理、测试结果都齐了,新朋友也能从零上手。

GitHub: #LLM2Jev #Jev #多模态 #开源AI #本地大模型 #SystemOne #SGLang

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新