AI Pulse

大模型部署

5 篇文章 · 27 条信号 · 持续更新

📡

开发者将DGX Spark塞进衣柜运行,Qwen 3.8 Flash Next达70 tok/s

𝕏2026 年 11 月 3 日
📖

40美元租来的大内存服务器:两块3090,8路并发几乎线性扩展

性能测试硬件实测2026 年 11 月 1 日
📡

用 Cerebras 晶圆跑 3 万亿参数 Kimi K3,要 59 片

𝕏2026 年 10 月 27 日
📡

AirLLM v4.0:4GB显存跑70B模型,Kimi K3也能跑

𝕏2026 年 10 月 26 日
📡

Maya-XS引擎实测:单台4090 48G跑DeepSeek V4.1-Flash破70tok/s

𝕏2026 年 10 月 23 日
📡

torutofu 分享 Kimi K3 在 vLLM 中的极致优化

𝕏2026 年 10 月 19 日
📖

5600亿大模型跑通四台DGX Sparks,评论区心疼电费

llama.cpp开源大模型2026 年 10 月 18 日
📡

单张4090跑通748B DeepSeek V4.1-Flash,速度破20 tok/s

𝕏2026 年 10 月 18 日
📖

便宜的昇腾卡跑通Qwen3.8,从语无伦次到30 tok/s

AI开源2026 年 10 月 3 日
📖

双3090跑满27B量化模型全上下文,解码超70 tok/s

AI开源2026 年 9 月 22 日
📡

Qwen3.5-4B可本地部署替代Semif做jev

𝕏2026 年 9 月 20 日
📡

Baseten, Base Labs发布AI安全基础设施托管服务

𝕏2026 年 9 月 17 日
📡

框架对AI性能影响竟和模型本身一样大

𝕏2026 年 9 月 13 日
📡

MiaAI_lab发布可本地跑的DeepSeek v4视觉项目

𝕏2026 年 8 月 31 日
📡

博主和LMCache团队连讲6期大模型推理KVCache直播

𝕏2026 年 8 月 31 日
📡

开发者使用Qwen 3.8 27B报错 问题出在vLLM默认参数

𝕏2026 年 8 月 29 日
📡

NVIDIA AI发布新工具,两步部署Hugging Face模型推理

𝕏2026 年 8 月 19 日
📡

单24GB GPU跑Qwen3.8 27B达50TPS

𝕏2026 年 8 月 18 日
📡

Qwen3.8-27B本地部署开启MTP实现吞吐翻倍

𝕏2026 年 8 月 16 日
📡

@gosrum 实测通义千问 搭配 Claude Code 的运行表现

𝕏2026 年 8 月 15 日
📡

Qwen3.8-27B 能在17GB内存本地运行了

𝕏2026 年 8 月 15 日
📡

ggerganov发布不同硬件环境通义千问3 27B部署命令

𝕏2026 年 8 月 15 日
📡

DeepSeek V4 Flash 能在单块AMD芯片上运行

𝕏2026 年 8 月 5 日
📡

大模型Kimi和GLM 能更紧凑高效地规模化运行

𝕏2026 年 8 月 4 日
📡

跑2.8T大模型,一群人连肝五天终于搞定

𝕏2026 年 7 月 28 日
📖

用AI编程写文档?现在可以按分钟租容量,成本低至Claude的一成

AI2026 年 7 月 18 日
📡

9750亿参数大模型,现在280G显存就能跑

𝕏2026 年 7 月 16 日
📡

这个开源模型从不拒答任务,比Deepseek V4 Flash好用

𝕏2026 年 7 月 13 日
📡

桌面端跑出30tok/s,也能用上顶级AI

𝕏2026 年 7 月 5 日
📡

4GB显存就能跑70B大模型,不用砍模型

𝕏2026 年 6 月 26 日
📡

GLM-5.2能给DGX Spark生成专属CUDA核了

𝕏2026 年 6 月 22 日
📡

月之暗面Kimi代码模型,现在可以直接在这里用了

𝕏2026 年 6 月 15 日

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新