AI Pulse

TL;DR：我把一份批量图片/视频分析任务分给了十个独立的 OpenAI Codex CLI 会话来处理。

其中一个会话触达了它的 ChatGPT 订阅使用限额，但它没有停止运行，反而编写了批量运行脚本来直接调用计量 API。

关键信息来自应用工作目录里的运行时。env 文件。这里没有用到漏洞利用或越狱，整个过程都在编码代理的默认能力范围内。

账单导出记录确认，单个UTC日就产生了1,917次请求和6220万token（J

再考虑追加 360 亿债务融资！彭博爆料称，Anthropic 为了训练 Claude，需要大量租用谷歌的 AI 芯片、建设数据中心，目前黑石正在帮它向投资者借至少 360 亿美元。 而此前黑石和阿波罗，已经为 Anthropic 安排了一笔 350 亿美元债务融资，预计这两轮加起来可能将超 700 亿美元。

每次用 AI 出图都在开盲盒， 换 Claude 和换 Gemini，有些时候答案能差出八条街； 有时候贵的反而啰嗦，便宜的小模型反而出的更好。但我从来没机会告诉系统我更喜欢哪一个，只能接受给我的结果，DGrid 的 Model Marketplace 上线后，我突然觉得这件事有转机了，在 AI Arena 里做盲测 ——你同时看到两个模型的回答，不知道谁是谁，凭感觉选更好的那个。30 多万人已经这么干了，这些偏好数据都在使用，直接影响 Smart Router 以后怎么给你分配模型。

模型好不好，不只是官方榜单说了算，而是真实用户用出来的，而且这背后还有个硬核机制 PoQ 在盯着，防止提供方偷工减料； 服务稳不稳，质量有没有缩水，链上可查。如果你也受够了每次选模型都像赌博，可以去看看。反正我试了几天，感觉至少知道自己付的钱��得值不值了。

🔗 @dgrid_ai #DGrid #ModelMarketplace #DecentralizedAI #Web3 #AI #PoQ #AIArena

🚀 推出 Channels SDK。

把任意智能体接入任意渠道。支持 Slack、MS Teams、WhatsApp 等更多平台。

这是各维度都比现有技术有显著提升的成果。支持功能包括：
→ 生成式 UI
→ 流式回复
→ 基于用户的鉴权
→ 按用户学习

在线体验：GitHub：

我们已经开源了我们用来在 NVL72 上训练模型的 MoE 巨型内核。

我个人很喜欢的几个特性：支持 bf16 和 mxfp8、拉式分发、可配置重叠粒度、完全确定性，且无 CPU-GPU 同步。

快来阅读我们的博客和代码了解更多！

🚨 NOT DIAMOND 推出面向编码智能体的 AI 模型路由

@notdiamond_ai 推出了 Not Diamond Code，这是一款能在长编码会话全程自动选择合适 AI 模型与推理层级的路由。

它可与 Claude Code 及其他网关等现有工具配合使用，帮助团队避免对所有任务都调用最贵的前沿模型。

Not Diamond 称，该系统可以保持前沿级质量，同时将推理成本降低 20% 或更多，它让模型选择成为基础设施的一部分，而非需要手动做出的选择。

介绍 anydoc：现在你的智能代理能获得速度提升100倍的本地解析能力，支持 pdf、docx、pptx 及另外10种格式。

转换为 markdown 的时间低于5ms。

500个 docx 文件仅需1.7秒。

全部13种格式都能保持顶级质量。

基于 Rust 开发。

开源，目前已经为 @firecrawl /parse 提供支持。

今天我们发布了 anydoc，我们全新的基于 Rust 的文档解析引擎 🔥。

它对 PDF、Word 文档、幻灯片和其他 10 种格式的 markdown 解析耗时都在 5ms 以内，同时拥有行业顶级的质量。

它 100% 开源，并且为我们的 /parse 端点提供支持！

我们现在开源 Mixture-of-Kittens（MoK），这是我们针对 NVL72 开发的 MoE 训练超核。

它将所有混合专家（Mixture-of-Experts）的通信与计算融合到单个完全确定性的内核中，运行速度比现有最强公开基线快最高 2.37 倍。

LFM2.5-2.6B 已经上线了！它只有 2.6B 参数，在智能体任务上的表现本不该这么好。

你可以在这里看到一个 100% 本地运行的智能体帮我整理桌面。

我写了一份分步指南，教你如何自己搭建：
• 模型：LFM2.5-2.6B
• 可选服务端：llama.cpp、LMStudio 等等
• 可选框架：OpenClaw、Hermes Agent、Pi

我们现在开源 Mixture-of-Kittens（MoK），这是我们针对 NVL72 开发的 MoE 训练超核。

它将所有混合专家（Mixture-of-Experts）的通信与计算融合到单个完全确定性的内核中，运行速度比现有最强公开基线快最高 2.37 倍。

今天我们发布了 anydoc，我们全新的基于 Rust 的文档解析引擎 🔥。

它对 PDF、Word 文档、幻灯片和其他 10 种格式的 markdown 解析耗时都在 5ms 以内，同时拥有行业顶级的质量。

它 100% 开源，并且为我们的 /parse 端点提供支持！

这个模型是在 Hermes Agent 内部训练的。

Liquid AI 直接通过现有框架、工具、系统提示词、交互模式等等所有组件，运行了 LFM2.5-2.6B 的智能体强化学习。

所以当你在自己的硬件上把 Hermes Agent 指向它时，它已经适配完成了。

🚨 NOT DIAMOND 推出面向编码智能体的 AI 模型路由

@notdiamond_ai 推出了 Not Diamond Code，这是一款能在长编码会话全程自动选择合适 AI 模型与推理层级的路由。

它可与 Claude Code 及其他网关等现有工具配合使用，帮助团队避免对所有任务都调用最贵的前沿模型。

Not Diamond 称，该系统可以保持前沿级质量，同时将推理成本降低 20% 或更多，它让模型选择成为基础设施的一部分，而非需要手动做出的选择。

长周期 coding agent 的路由规划是个大问题。@notdiamond_ai 刚刚宣布推出了可原生适配 Claude Code 的模型路由器。

这是个重大进展。它会在会话的每一轮开始前选择模型和推理工作量，通过隐私保护本地代理运行，而且你的请求仍然会通过你自己的网关执行。

在他们的基准测试中，它能以比 Opus 低 39% 到 61% 的成本，达到接近 Opus 4.8 的输出质量。

我们已经开源了我们用来在 NVL72 上训练模型的 MoE 巨型内核。

我个人很喜欢的几个特性：支持 bf16 和 mxfp8、拉式分发、可配置重叠粒度、完全确定性，且无 CPU-GPU 同步。

快来阅读我们的博客和代码了解更多！

🚀 推出 Channels SDK。

把任意智能体接入任意渠道。支持 Slack、MS Teams、WhatsApp 等更多平台。

这是各维度都比现有技术有显著提升的成果。支持功能包括：
→ 生成式 UI
→ 流式回复
→ 基于用户的鉴权
→ 按用户学习

在线体验：GitHub：

🚀实时语音 Agent 正在从“演示玩具”走向真正可用，而 LiveKit Agents 可能是目前最完整的开源框架之一。 它不只是把 STT、LLM 和 TTS 串起来，还直接提供： • WebRTC 实时音视频 • 电话呼入与呼出 • 语义轮次检测，减少抢话 • 原生 MCP 工具调用 • 多 Agent Handoff • 内置测试与 LLM Judge • 支持自托管完整技术栈 开发者可以自由组合不同厂商的语音和大模型，快速构建 AI 客服、电话机器人、会议助手及实时语音应用。 GitHub：

全国的科学家都需要获得先进计算资源，才能开展他们最具雄心的研究工作。

因此@NSF 启动了规模1亿美元的区域人工智能基础设施中心项目，落实@WhiteHouse《科学：新黄金时代》报告提出的目标。

再考虑追加 360 亿债务融资！彭博爆料称，Anthropic 为了训练 Claude，需要大量租用谷歌的 AI 芯片、建设数据中心，目前黑石正在帮它向投资者借至少 360 亿美元。 而此前黑石和阿波罗，已经为 Anthropic 安排了一笔 350 亿美元债务融资，预计这两轮加起来可能将超 700 亿美元。

别再花几万块找外包做 AI 问答套壳站了，Vercel 官方直接把自家“亲儿子”源码全开源了！

这是 Vercel 团队推出的 AI Chatbot 全栈开源模板（GitHub 斩获 20.7k⭐，MIT 协议）。集成了 Next.js App Router、Vercel AI SDK、Neon Postgres 和 shadcn/ui。只要你有个 API Key，一键点 Deploy 就能免费部署一套比官网 UI 还丝滑的专属 AI 助手。

🔥 核心卖点：
• 零门槛一键部署：支持 Vercel 免费一键托管，省去服务器成本
• 多模型随意切：接入 OpenAI、Claude、DeepSeek、Moonshot 等无缝切换
• 现代化全栈架构：支持流式输出、推理模型、多模态附件和历史记录持久化
• 极高自由度魔改：代码优雅干脆，非常适合用来做 MVP 产品快速变现

🔗 GitHub 传送门：

每次用 AI 出图都在开盲盒， 换 Claude 和换 Gemini，有些时候答案能差出八条街； 有时候贵的反而啰嗦，便宜的小模型反而出的更好。但我从来没机会告诉系统我更喜欢哪一个，只能接受给我的结果，DGrid 的 Model Marketplace 上线后，我突然觉得这件事有转机了，在 AI Arena 里做盲测 ——你同时看到两个模型的回答，不知道谁是谁，凭感觉选更好的那个。30 多万人已经这么干了，这些偏好数据都在使用，直接影响 Smart Router 以后怎么给你分配模型。

模型好不好，不只是官方榜单说了算，而是真实用户用出来的，而且这背后还有个硬核机制 PoQ 在盯着，防止提供方偷工减料； 服务稳不稳，质量有没有缩水，链上可查。如果你也受够了每次选模型都像赌博，可以去看看。反正我试了几天，感觉至少知道自己付的钱��得值不值了。

🔗 @dgrid_ai #DGrid #ModelMarketplace #DecentralizedAI #Web3 #AI #PoQ #AIArena

手动给 Claude 输入会议上下文的时代正式结束了。

@vocci_ai 完美填补了线下对话和 AI 提示词之间的缺口。

零摩擦，纯粹的工作流魔法。🤯

谷歌一名高级AI产品经理刚刚公开了他们日常使用的工作流程。

这就是谷歌内部用来构建、测试和规模化扩展Agent技能的流程。

他还将完整的谷歌Agent技能GitHub代码库开源了：

选择合适的智能体框架现在已经是所有AI工程师必备的关键技能。

想象一下，你用的是同一个模型、同一个任务、同一个提示词，只是把它放到两个不同的智能体框架里运行，单次成功的成本波动可以达到5到30倍。

本次基准测试覆盖了六个大推理模型、两个真实框架、24个带隐藏评估器的确定性编码任务，一共完成了4643次有效运行。

要求模型开发并对比多种方法，会让推理token用量增加2.4到7.4倍，却不会提升正确率。通用的深度思考提示会让用量再增加1.6到2.2倍。

规定了范围、验收标准和停止条件的有限效率模板，成本与基准持平，有时还能把推理用量减半。

在模型开始推理之前，大部分智能体成本就已经由框架设计和提示词措辞决定了，而这两者修改起来成本都很低。

论文链接：
在我们的学院追踪更多热门AI论文：

社区讨论：多数开发者指出目前买不到单块MI300X芯片，只能打包购买8片套装，总价约25万欧元，可改用PCIe接口的MI350P，它有144GB显存刚好能容纳原生MXFP4量化的DeepSeek V4 Flash。有人提到本次运行保留了全部权重，速度可达150 token/秒，只是把原模型1M的上下文窗口缩小到了256k，属于实用的折中。也有人指出当前吞吐量远低于DeepSeek在H800上的表现，还有优化空间。

社区讨论：不少用户吐槽本次推出的审核模型命名"Shieldstral“生硬糟糕，有人调侃应该改名叫”Safestral“，还有用户吐槽Mistral的”Everything-stral" branding已经乏善可陈。多数用户认可Mistral聚焦小尺寸定制模型的路线，有开发者称这个低成本开源模型刚好解决了中小社交平台内容审核的刚需，也有人质疑黑盒式审核方案无法普及，好奇模型能否支持自定义规则调整。

TL;DR：我把一份批量图片/视频分析任务分给了十个独立的 OpenAI Codex CLI 会话来处理。

其中一个会话触达了它的 ChatGPT 订阅使用限额，但它没有停止运行，反而编写了批量运行脚本来直接调用计量 API。

关键信息来自应用工作目录里的运行时。env 文件。这里没有用到漏洞利用或越狱，整个过程都在编码代理的默认能力范围内。

账单导出记录确认，单个UTC日就产生了1,917次请求和6220万token（J

CLAUDE OPUS 5 刚刚改变了 5 美元 API 账单和 500 美元 API 账单之间的差距。

这就是使用 AI 和理解提示工程之间的区别。大多数人都认为提示工程正在消亡。他们错了。它正在进化。

Claude Opus 5 没有杀死提示工程。它杀死的是糟糕的提示工程。

多年来，我们一直在微观管理 AI：
> 逐步思考
> 逐项检查
> 验证你的推理
> 不要做出假设

现在 Anthropic 推荐相反的做法。只需要给模型：
> 上下文
> 目标
> 约束条件

然后不要干涉它。

真正的技能不再是写更长的提示。而是设计 AI 系统：
> 评估
> RAG
> 智能体
> 护栏
> 成本优化
> 可靠性

提示工程没有消失。它已经从编写巧妙提示，升级为工程化生产级 AI。

任何人都能消耗 tokens。创造真正杠杆的人懂得如何消除不必要的 tokens。

Palantir 财报发布后，很多人都在盯着财报数据有多么多么好、股价暴涨了多少，但是财报会议上最重要的一个东西被大家忽略了，也就是管理层多次提到的 AI 行业拐点。

在开源大模型快速崛起的大背景下，整个市场提供的智能越来越多，Token 越来越便宜，逐渐商品化。目前被创造出来的智能，远远多于已经转化为实际价值的智能。

对于各大企业来说，模型能力已经不再是瓶颈，最重要的能力是如何把模型接入自己的数据以及业务流程，真正沉淀为自己的资产，产生可以背衡量的经济价值。

Palantir 在其中扮演的角色，正是模型层之上的控制层、语义层和执行层。它已经在这个赛道布局了长达二十多年的时间，未来这一层只会越来越重要，Palantir 恰恰占据了最大的先发优势。

很多人觉得 Palantir 的估值贵，是泡沫股韭菜股，不敢入手，但贵有贵的道理。在市面上你很难跳出一家在 AI 应用落地层面，比 Palantir 做得还要好的公司。

你究竟可以在 AI Studio 里构建什么？这里是 @vamsibatchuk 演示他用托管 agents 构建的金融分析应用 tickr。

介绍 anydoc：现在你的智能代理能获得速度提升100倍的本地解析能力，支持 pdf、docx、pptx 及另外10种格式。

转换为 markdown 的时间低于5ms。

500个 docx 文件仅需1.7秒。

全部13种格式都能保持顶级质量。

基于 Rust 开发。

开源，目前已经为 @firecrawl /parse 提供支持。

😱 4GB 显存跑 70B 大模型？真的不是在开玩笑！

刚刷到这个开源神器 AirLLM，直接颠覆了我的认知：
✅ 单卡 4GB 就能跑 Llama3 70B
✅ 8GB 可以上 405B
✅ 甚至 2.8T 的超大模型也能硬刚（最新已支持）
✅ 全程无需量化、蒸馏、剪枝，原汁原味精度

原理超聪明：把模型按层拆开，推理时一次只加载一层到显存，用完就扔。显存占用直接降到只跟「单层大小」有关！

MoE 模型还能只加载当前用到的专家，更省。

现在低配显卡党也能本地玩超大模型了，真的香到爆！

GitHub 直达：
赶紧去 star，低配自由来了！🚀

#AI #大模型 #开源 #AirLLM #LLM

OpenWiki 的代码初始化提示刚刚进行了重大升级！

它现在可以生成质量更高的维基，覆盖你更多的代码库，从而带来更好的评估分数和更高效的运行。

今天就可以在本地试用：

LFM2.5-2.6B 已经上线了！它只有 2.6B 参数，在智能体任务上的表现本不该这么好。

你可以在这里看到一个 100% 本地运行的智能体帮我整理桌面。

我写了一份分步指南，教你如何自己搭建：
• 模型：LFM2.5-2.6B
• 可选服务端：llama.cpp、LMStudio 等等
• 可选框架：OpenClaw、Hermes Agent、Pi

一名开发者此前会根据场景手动选择不同大模型处理 coding 任务。他用Claude解决疑难bug，用Gemini处理大型代码库，账单费用过高时改用DeepSeek。

现在他使用Not Diamond Code工具，在Claude Code内由工具自动完成模型选择。

保持原有的输出质量不变，模型使用花费减少了20%以上。