AI Pulse

推理引擎

2 篇文章 · 10 条信号 · 持续更新

📡

RunAnywhere (YC W26)开源TrnRT(Trainium RunTime)推理引擎(3周)

𝕏2026 年 11 月 18 日
📖

六引擎横评作者自家模型小30%,质量分几乎全满分

本地大模型基准测试2026 年 11 月 6 日
📡

SkyDiscover 发布 JITEngine,Mac 本地跑 LLM 提速 2.7 倍

𝕏2026 年 11 月 5 日
📖

16GB显存加55GB内存跑大模型,最高250 token/s

本地大模型性能测试2026 年 10 月 25 日
📡

Superlinked 开源 SIE 统一 AI 智能体推理引擎

𝕏2026 年 9 月 27 日
📡

0xSigil 发布 Husky 引擎,提速最高 4.5 倍

𝕏2026 年 9 月 22 日
📡

博主推荐Sglang,称其目前最好推理引擎

𝕏2026 年 9 月 2 日
📡

业内人士吐槽当前AI推理引擎栈全是不可变二进制

𝕏2026 年 9 月 1 日
📡

大语言模型可利用推理引擎控制主机

𝕏2026 年 8 月 25 日
📡

FreeToken让16GB显存跑20GB大模型 速度百tok每秒

𝕏2026 年 8 月 24 日
📡

万亿token规模智能体推理,官方公开完整幻灯片

𝕏2026 年 7 月 4 日
📡

AI工程师大会要讲智能体编码的推理需求

𝕏2026 年 6 月 25 日

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新