社区讨论:多数观点认为Anthropic会被挤压,一端开源模型抢占绝大多数非前沿需求,另一端垂直领域小模型成本更低性能更好。有人认为最终赢家是最快把模型烧进ASIC的厂商,也有人指出当前AI进步可能正在进入平台期,还有人质疑OpenAI和Anthropic同样是纯模型厂商,为何只有Anthropic面临风险。也有反对者称用户愿意为小幅提升的模型效果支付高价,仍会选择体验更好的Claude。
今天发生了什么1 分钟读懂
微软正在测试用 Kimi K3 替换 Copilot 中的 GPT 和 Claude,内部测算可省六成推理成本。国产大模型首次进入美国顶级科技公司核心产品管线,前沿模型商品化速度比预期更快。
同一批信号里,月之暗面因 K3 需求过旺暂停了新订阅。一家厂商同时被「用得太猛」和「买不进来了」两种力量拉扯,这种供需失衡过去一年只发生在 OpenAI 身上。
今日焦点
谁害怕中国模型?——美国应拥抱蒸馏与开放
谁害怕中国模型?(via)Ben Thompson提出了一个有趣的建议,既回应了那些一边用未经授权数据训练模型、一边禁止他人蒸馏的实验室的虚伪,也可能帮助美国开源模型更有效地与中国同行竞争:
美国应通过一项法律:(1)明确收集数据用于训练模型属于合理使用;(2)至少对美国公司而言,禁止服务条款中禁止蒸馏的规定。阻止蒸馏——本质就是查询API——几乎不可能;美国应反其道而行之,推行新的版权政策,既免除实验室责任,又保证它们学到的知识能进一步推动其他人的创新。
深度阅读
🔥 信号雷达62 条本班新增 27 条
𝕏 实时信号 + arXiv 前沿论文,经 AI 聚类解读 · 一眼扫完全貌
新行业动态 · Hacker News▲ 45
Kimi K3修复了Codex和Fable不肯修的15个高危漏洞
常用代码生成工具遗留的高危安全问题,有其他模型给出了修复方案,有代码需求的人可以多一个选择
Kimi K3修复了Codex和Fable不肯修的15个高危漏洞
常用代码生成工具遗留的高危安全问题,有其他模型给出了修复方案,有代码需求的人可以多一个选择
新行业动态 · Hacker News▲ 339
Kimi和通义千问追上来,Anthropic可能出问题了
Hacker News上这篇讨论获得数百点赞,国内大模型新品的进展,牵动了AI行业格局变化
Kimi和通义千问追上来,Anthropic可能出问题了
Hacker News上这篇讨论获得数百点赞,国内大模型新品的进展,牵动了AI行业格局变化
新深度观点 · @emollick▲ 2.3万
中美应合作制定AI大模型通用测试认证标准
提议中美合作制定标准,让所有AI模型发布的安全认证流程都保持公开透明
中美应合作制定AI大模型通用测试认证标准
提议中美合作制定标准,让所有AI模型发布的安全认证流程都保持公开透明
接下来谈谈中国政府方面。现在正是开展中美合作的好时机,双方可以共同为新模型制定统一的测试和验收标准。
这样一来,至少在模型发布的安全认证层面,无论对开源模型还是闭源模型,流程都能做到透明。
新新品发布 · @hardmaru▲ 1.2万
日本团队造出编排模型,网络安全跑分全球第一
本土团队从零打造的AI模型,在真实网络安全测试中拿到了目前最好成绩
日本团队造出编排模型,网络安全跑分全球第一
本土团队从零打造的AI模型,在真实网络安全测试中拿到了目前最好成绩
行业动态 · Hacker News▲ 282
月之暗面暂停新订阅,Kimi K3需求太火爆
热门AI产品需求超过承载能力,只能暂时停止接收新付费用户
月之暗面暂停新订阅,Kimi K3需求太火爆
热门AI产品需求超过承载能力,只能暂时停止接收新付费用户
社区讨论:多数用户认可Kimi K3在长上下文处理、代码审查等任务上的表现,不少人已经长期用它替代其他大模型处理工作。用户肯定月之暗面暂停新订阅、优先保障现有用户体验的做法,也有人提出也可以照搬Anthropic的方案,通过下调使用限额来控制压力。有试用者反馈当前模型负载过高,响应速度极慢,20美元套餐的额度也很快就会用完。
新行业动态 · @jukan05▲ 2.3万
商务部讨论AI训练数据出境和模型权重下载限制
涉及出海的AI从业者需要留意政策走向,目前仍允许海外客户访问对应模型与服务。
商务部讨论AI训练数据出境和模型权重下载限制
涉及出海的AI从业者需要留意政策走向,目前仍允许海外客户访问对应模型与服务。
英国《金融时报》:中国商务部已与包括阿里巴巴、字节跳动和智谱AI在内的人工智能企业,讨论了对用于训练AI模型的关键数据向境外传输,以及境外用户下载模型权重进行限制的可能性。
不过,中国仍计划继续允许境外客户访问这些AI模型与服务。
新品发布 · @NousResearch▲ 7.1K
能随需求成长的AI智能体出了一键订阅服务
想玩可成长AI智能体Hermes、配套模型、外部工具和云端智能体都打包在同一个订阅里,设置非常简单
能随需求成长的AI智能体出了一键订阅服务
想玩可成长AI智能体Hermes、配套模型、外部工具和云端智能体都打包在同一个订阅里,设置非常简单
Hermes 是能和你共同成长的智能体。
Nous Portal 是为它提供算力支持的最佳方式:它将模型、实用外部工具和云端智能体本身整合在一个统一订阅中,设置过程极其简单。
行业动态 · @AnthropicAI▲ 10.8万
Anthropic 给罕见病研究发 Claude 使用额度资助
最高 $50,000 额度资助,专门支持加速罕见病治疗研发的科研人员。这是AI for Science计划首个专项招募。
Anthropic 给罕见病研究发 Claude 使用额度资助
最高 $50,000 额度资助,专门支持加速罕见病治疗研发的科研人员。这是AI for Science计划首个专项招募。
我们将为加速研发罕见病疗法的研究人员提供最高额度为 $50,000 的 Claude 使用 credits 资助。
这是我们在 AI for Science 项目下首次针对性征集,该项目支持科学家使用 Claude 加快科研发现。
实战经验 · @OpenAIDevs▲ 2.4万
用Codex清积压项目,这里有女性开发者灵感
积压了没做的开发项目,可以用Codex动手做了。整理好的开发灵感来自Women who Code(x)社区。
用Codex清积压项目,这里有女性开发者灵感
积压了没做的开发项目,可以用Codex动手做了。整理好的开发灵感来自Women who Code(x)社区。
深度观点 · @levelsio▲ 2.6万
中美AI公司走了完全相反的两条路线
长期看美国AI公司会替代所有现有应用网站,中国头部开源AI模型正在直接对标美国闭源模型,打破技术壁垒,现在各方正在互相渗透竞争。
中美AI公司走了完全相反的两条路线
长期看美国AI公司会替代所有现有应用网站,中国头部开源AI模型正在直接对标美国闭源模型,打破技术壁垒,现在各方正在互相渗透竞争。
这一部分也非常有意思。
从长期来看,美国 AI 公司基本上会取代所有 app 和网站,你只需要向它们说出任何你需要的东西,它们就会完成/生成/制作出你要的内容。
与此同时,由中国政府主导的中国 AI 公司推出了开源模型,这些模型现在可以直接和美国的私有模型竞争,并且试图确保美国模型无法构建护城河。
所以现在是所有人都在互相蚕食。
产品发布 · @Alibaba_Qwen▲ 10.2万
阿里通义千问Qwen3.8最新预览版本已正式上线
阿里千问Qwen3.8预览版持续迭代,最新版现已上线
阿里通义千问Qwen3.8最新预览版本已正式上线
阿里千问Qwen3.8预览版持续迭代,最新版现已上线
在预览阶段,Qwen3.8每日都在变得更强。最新版本现已上线,整体性能获得全面提升,在Web前端开发能力上更是迈进了一大步。
感谢所有人——大家对Qwen3.8-Max-Preview的反响让我们十分惊喜。🫶🫶
Qwen3.8目前仍在每日迭代更新。快来测试它,告诉我们哪些地方出了问题。
我们期待推出能力更强的正式版本,并且会为所有人开放权重。🚀🚀
创业 · @levelsio▲ 4.8万
创业者看80多份创业项目申请:AI产出大多平庸缺乏突破
创业者浏览种子孵化项目申请,称当前AI产出多平庸缺突破性创新
创业者看80多份创业项目申请:AI产出大多平庸缺乏突破
创业者浏览种子孵化项目申请,称当前AI产出多平庸缺突破性创新
新动态 · @mattpocockuk▲ 608
Greenfield代码库其实并不存在
Greenfield代码库其实并不存在
「绿地」代码库现在其实已经不存在了。我来解释一下:经常有人问我:「你的技能在绿地代码库上能用吗?」或是「它们在遗留代码库上能用吗?」
绿地 vs 棕地的区分对我来说从来就不真实。绿地指的是你从零开始构建新软件,棕地指的是你编辑现有软件。
真相是,我们启动新项目时想象的绿地是一种幻觉。我们不是把软件输出到一片空无里。你总得对接现有系统,迁就用户偏好。
绿地和棕地唯一的区别就是你的代码仓库的状态。在绿地项目里,你还没建立编码规范,没有先例可以参考。你有机会从零开始给你的智能体配置在这个仓库里的工作经验。
但既然现在代码生成速度比以往快得多,一个代码库能保持「绿色」多久?两天?最多一周?所有土地都是棕地,而且被翻耕的速度比以往任何时候都快。
你的默认心态应该是「这是一个遗留代码库」,哪怕它才诞生一周。
新动态 · @bookwormengr▲ 241
惊人:大语言模型需要新的高质量数据
惊人:大语言模型需要新的高质量数据
新动态 · @AYi_AInotes▲ 263
想拿OpenAI $100免费ChatGPT额度的直接存,给大家照着做就能提交的
想拿OpenAI $100免费ChatGPT额度的直接存,给大家照着做就能提交的
新动态 · @jjacky▲ 118
人工智能仍然很不擅长识别ri
人工智能仍然很不擅长识别ri
AI目前仍然非常不擅长在UI中设置正确的边距和间距。它只是随便生成东西,并不清楚美学到底是什么样的。
这仍然是一个你必须进入代码手动调整的地方,和过去三年的情况基本上没区别。
新动态 · @jjacky▲ 26
如果你要和openrouter竞争
如果你要和openrouter竞争
新新品发布 · @ModelScope2022▲ 286
开源 Nemotron-3-Embed 嵌入模型拿了榜单第一
想要自己搭建检索增强生成的应用,可以直接用这套开源权重和训练方案,性能有公开测试数据可参考
开源 Nemotron-3-Embed 嵌入模型拿了榜单第一
想要自己搭建检索增强生成的应用,可以直接用这套开源权重和训练方案,性能有公开测试数据可参考
认识Nemotron-3-Embed:用于RAG、搜索、代码检索和智能体记忆的开放权重嵌入模型。🔎 🤖
它提供三种部署选项:追求最高质量的8B版本,兼顾平衡的1B BF16版本,以及更高吞吐量的1B NVFP4版本。🏆
8B模型在RTEB上排名第一,NDCG@10得分为78.46,1B模型相比前代将检索错误降低了27%。⚡
NVFP4版本保留了BF16超过99%的检索准确率,同时吞吐量最高提升2倍。三个版本都支持32K上下文、多语言检索和代码。
开放权重、数据集和训练配方。许可证:OpenMDW 1.1。
新行业动态 · @Newsweek▲ 1.5K
新AI工具能提前十年预测你会不会得心脏病
只需要读取血液中的蛋白质,就能提前十年预判心脏病发病风险,想做早筛的人多了一种新选择
新AI工具能提前十年预测你会不会得心脏病
只需要读取血液中的蛋白质,就能提前十年预判心脏病发病风险,想做早筛的人多了一种新选择
新深度观点 · @GarrettPetersen▲ 133
除了AI生成垃圾内容,还有职业插画的千篇一律
同质化过度打磨的内容不止AI能批量造,不少职业插画领域也存在这个问题
除了AI生成垃圾内容,还有职业插画的千篇一律
同质化过度打磨的内容不止AI能批量造,不少职业插画领域也存在这个问题
新实战经验 · @jjacky▲ 83
个人技术博客居然全流程自动跑通了
从写内容到部署,连新功能截图都交给Claude自动生成添加,全流程都能用代码自动完成。
个人技术博客居然全流程自动跑通了
从写内容到部署,连新功能截图都交给Claude自动生成添加,全流程都能用代码自动完成。
新工具产品 · @vanstriendaniel▲ 122
OCR模型筛选目录上线 帮AI工具挑合适模型
开源OCR工具库新增JSON目录,可以根据模型体积、支持语言等信息,帮AI代理筛选合适的OCR模型使用。
OCR模型筛选目录上线 帮AI工具挑合适模型
开源OCR工具库新增JSON目录,可以根据模型体积、支持语言等信息,帮AI代理筛选合适的OCR模型使用。
很高兴看到 OCR uv-scripts 仓库再次登上趋势数据集榜单的首页!
最近我们还新增了一个 JSON 目录,能帮助智能体根据模型大小、支持语言等参数,挑选合适的 OCR 模型来试用。
新前沿研究 · @omarsar0▲ 3.8K
新编排模型拿下安全测评第一,追平前沿模型
做网络安全防护的人,可以关注这款达到当前最优水平的新模型,它的表现已经匹配顶级前沿模型
新编排模型拿下安全测评第一,追平前沿模型
做网络安全防护的人,可以关注这款达到当前最优水平的新模型,它的表现已经匹配顶级前沿模型
别错过这些编排模型。
Sakana刚刚发布了Fugu-Cyber,该模型在真实世界安全基准测试中取得了SoTA成绩,表现与GPT-5.5-Cyber和Mythos Preview这类前沿模型相当。
新深度观点 · @brivael▲ 1.3K
AI会冲掉欧盟数字主管这个职位?
有人认为,AI会消解欧盟数字主管这个概念
AI会冲掉欧盟数字主管这个职位?
有人认为,AI会消解欧盟数字主管这个概念
新行业动态 · @zijing_wu▲ 681
中国拟收紧AI相关三项出口管制,目前正在征求意见
监管方正在向科技企业征求意见,最终决定尚未作出。行业规则可能迎来调整,相关从业者可以提前留意
中国拟收紧AI相关三项出口管制,目前正在征求意见
监管方正在向科技企业征求意见,最终决定尚未作出。行业规则可能迎来调整,相关从业者可以提前留意
独家消息:中国正考虑收紧以下领域的出口管制:1. 将数据带出境外用于训练、开放模型权重;2. 境外先进芯片制造;3. 收购AI初创企业。
监管机构目前正在征求科技企业意见,尚未做出最终决定。
新新品发布 · @iam_elias1▲ 366
通义千问图像3.0发布,输出效果离谱到缩小真假差距
追求接近真实效果的AI绘图爱好者,可以试下新发布的模型,看看生成效果能不能满足需求
通义千问图像3.0发布,输出效果离谱到缩小真假差距
追求接近真实效果的AI绘图爱好者,可以试下新发布的模型,看看生成效果能不能满足需求
新深度观点 · @quxiaoyin▲ 1.3K
别禁中国开源大模型,直接挖人就好
有人提出替代禁令的方案:发展美国本土开源模型、尽可能从中国模型提取知识、直接给中国研究人员发绿卡、放开数据中心审批
别禁中国开源大模型,直接挖人就好
有人提出替代禁令的方案:发展美国本土开源模型、尽可能从中国模型提取知识、直接给中国研究人员发绿卡、放开数据中心审批
新行业动态 · @VaibhavSisinty▲ 1.9K
一周15条AI大更新:有人用AI搭出了能跑游戏的系统
七天内密集推出大量AI产品和模型,包括可离线跑在手机上的大模型、AI硬件,还能对话生成完整网站,迭代速度还在变快
一周15条AI大更新:有人用AI搭出了能跑游戏的系统
七天内密集推出大量AI产品和模型,包括可离线跑在手机上的大模型、AI硬件,还能对话生成完整网站,迭代速度还在变快
新实战经验 · @hxiao▲ 277
小体积嵌入模型居然能跑出超预期准确率
做智能体落地和原型开发可以用这两个模型,后续相关作者会在SIGIR 2026分享训练的经验教训和下一步方向
小体积嵌入模型居然能跑出超预期准确率
做智能体落地和原型开发可以用这两个模型,后续相关作者会在SIGIR 2026分享训练的经验教训和下一步方向
jina-v5-nano 和 v5-omni 是我的智能体用来做 grounding 时,始终常驻内存的模型。
v5 家族体积很小,但准确度却远超出它的尺寸级别。我也会在原型开发和测试时缩放研究中依赖它们,说实话用得非常开心,相关内容过几天再展开讲。
我希望所有人都能和我一样喜欢 v5 家族。所以在 SIGIR 2026 上,我们安排了两场演讲,分别由 v5-nano 和 v5-omni 的作者 @jupyterjazz 和 @florianhoenicke 主讲。欢迎大家来墨尔本找他们打个招呼。
他们会分享训练这些嵌入模型过程中的酸甜苦辣,还会提前透露我们接下来期待推进的方向。
行业动态 · OpenAI 开发者社区▲ 15
OpenAI要办Codex开发周,面向全球开发者
7月13日启动,会举办四十余场活动,任何人都可以从零开始或者基于已有项目,用Codex实验新创意,提交项目参赛
OpenAI要办Codex开发周,面向全球开发者
7月13日启动,会举办四十余场活动,任何人都可以从零开始或者基于已有项目,用Codex实验新创意,提交项目参赛
OpenAI_Build_Week_16-9 3200×1800 491 KB
Build Week 是面向全球开发者、创作者、创始人和学生的全球性挑战赛,大家可以从7月13日开始,用 Codex 试验新想法并将它们落地,本次活动同期会举办超过40场活动。
参与者可以参加直播环节、参与社区活动,并将自己的项目提交到 OpenAI Build Week Challenge。
无论你是从零开始,还是基于现有项目开发,Build Week 都能给每个人提供学习的机会。
新前沿研究 · @swyx▲ 4.0K
大模型刷榜早就可以作弊,居然没人能实锤?
前沿大模型训练靠模仿测试集数据刷 benchmark 成绩,开放权重后不公开训练数据集,没法实锤作弊。两位研究者做了初步探索,提出了检测方法。
大模型刷榜早就可以作弊,居然没人能实锤?
前沿大模型训练靠模仿测试集数据刷 benchmark 成绩,开放权重后不公开训练数据集,没法实锤作弊。两位研究者做了初步探索,提出了检测方法。
@a1zhang 和 @lateinteraction 撰写的这篇轨迹对比研究十分值得注意,它被埋在了 RLM 论文里。
「前沿」模型训练的一个公开秘密是:哪怕不在测试集上直接训练,你也基本上可以通过在和测试集相似的数据上训练来作弊,让你几乎可以随便想要哪个基准分数就能拿到哪个。
然而当模型以开放权重发布时,99% 的情况下行业惯例是,你不会拿到能轻易显示出有没有人在 Temu Tbench 相关数据上训练的数据集 / RL 环境,因此存在合理的推诿空间。
Alex 和 Omar 讨论了在隐轨迹上应用标准 NLP 距离度量的方法。这里不存在终极解决方案,但他们完成了一些初步探索。这项研究恰好支持了一个结论:RLM 可以泛化到和训练中观察到的潜在结构共享的未见过任务上。
新实战经验 · @geekbb▲ 1.5K
有人整理了逐行带读的大模型源码学习指南
想搞懂现代大模型完整技术流程,找不到从入门到进阶的清晰路径,这份资料把每部分对应到了具体源码文件和函数
有人整理了逐行带读的大模型源码学习指南
想搞懂现代大模型完整技术流程,找不到从入门到进阶的清晰路径,这份资料把每部分对应到了具体源码文件和函数
逐行精读 MiniMind 源码,帮助读者从具体实现真正搞懂现代大模型技术体系 主线 10 章讲清楚 Tokenizer、模型结构、预训练、SFT、DPO、PPO、GRPO 整个流程,每节标了对应源码文件和函数名,张量级细节收在折叠块里。 附录还有 17 篇进阶内容,量化、投机解码、RLHF 这些 MiniMind 没涉及的主题也补上了。
行业动态 · Hacker News▲ 61
OpenAI Codex正在快速耗损我们的设备
有开发者提到,Codex正在耗损日常使用的设备,这会直接增加使用AI工具的硬件成本
OpenAI Codex正在快速耗损我们的设备
有开发者提到,Codex正在耗损日常使用的设备,这会直接增加使用AI工具的硬件成本
社区讨论:多数用户认为原帖没有实质有效信息,只是恐慌性猜测。有用户确认问题仅出现在图形界面版本,Linux用户和使用终端界面的用户不受影响,自己长期使用仅写入86TB,占SSD寿命写入限额的1%。有人补充OpenAI曾在6月22日的0.142.x版本修复该问题,但修复不彻底,仍有用户投诉,也有用户反馈GUI版会让笔记本风扇狂转、机身发烫。
新深度观点 · @hwchase17▲ 3.4K
Langchain负责人分享了四条AI Agent核心设计思路
这里分享了Langchain正在搭建产品时遵循的设计方向,可以了解顶级AI工具开发者当前的思考优先级
Langchain负责人分享了四条AI Agent核心设计思路
这里分享了Langchain正在搭建产品时遵循的设计方向,可以了解顶级AI工具开发者当前的思考优先级
新品牌营销 · @fabianstelzer▲ 540
分析Anthropic「保持思考」品牌定位的巧妙设计
解析Anthropic如何将LLM批评转化为精妙品牌定位
分析Anthropic「保持思考」品牌定位的巧妙设计
解析Anthropic如何将LLM批评转化为精妙品牌定位
Anthropic的“keep thinking”绝对是有史以来最天才的品牌定位之一,它巧妙地植根于麦克卢汉的理论:每一项新技术都会同时延伸和麻痹一种人类官能 → 大语言模型对思考就是这么做的 → 因此“keep thinking”这个口号就顺势把这点转化成了正面价值。
他们把针对大语言模型最重大也最站得住脚的批评观点,转变成了一个积极的人文主义品牌主张,而这种做法本身恰恰就是麦克卢汉本人认可的思路。
麦克卢汉就指出过一条出路:“只要人们愿意去思考当下正在发生的事”,也就是“keep thinking”。
行业动态 · OpenAI 开发者社区▲ 19
用Codex写代码烧了好多钱,问题出在哪?
不少人遇到过这种情况:大任务全量上下文喂给Codex,改完代码越改问题越多,最后花了不少钱,生成的结果还要重写。
用Codex写代码烧了好多钱,问题出在哪?
不少人遇到过这种情况:大任务全量上下文喂给Codex,改完代码越改问题越多,最后花了不少钱,生成的结果还要重写。
我觉得这个社区里很多人都遇到过这种场景。一个超大的 AGENTS.md 文件,占满了全部上下文窗口,再加一段细节满满的提示词,还有一个宏大的目标。Codex 满怀信心开始干活:它探索仓库、制定计划、修改代码。
然后范围开始膨胀,它读了一堆不必要的文件,修复一个问题又带出另一个问题,到最后我们得到的结果成本很高,还得手动重写一部分。
很长一段时间里,我都觉得解决方案是给模型提供更多信息,还要更……
新AI工程 · @alex_verem▲ 1.2K
两名全栈开发者合并122个拉取请求,AI工程迎来变革
两名开发者完成百余个合并,见证AI工程领域快速转型
两名全栈开发者合并122个拉取请求,AI工程迎来变革
两名开发者完成百余个合并,见证AI工程领域快速转型
行业动态 · Hacker News▲ 60
大语言模型可以自己控制推理算力开销了
不用固定分配算力,需要深度推理的时候多分配,简单问题少分配,能降低推理成本
大语言模型可以自己控制推理算力开销了
不用固定分配算力,需要深度推理的时候多分配,简单问题少分配,能降低推理成本
行业动态 · Hacker News▲ 38
大模型根本不像编译器或电动工具?
有人提出了对大模型本质的新判断,对想理清AI定位的人来说,这个不同的视角值得参考。
大模型根本不像编译器或电动工具?
有人提出了对大模型本质的新判断,对想理清AI定位的人来说,这个不同的视角值得参考。
社区讨论:多数评论不认同原帖观点,有人指出编译器本身存在未定义行为、结果非确定,电动工具实际使用也充满不确定性,原帖对类比对象的描述本身就不准确。也有人认为原帖作者漏算了机器学习优化编译、LLM驱动编译器这类当下研究方向,还有人反对将大模型拟人化,指出大模型只会做下一词预测,会产生人类不会犯的全新错误。
商业 · @_simonsmith▲ 641
微软在用国产Kimi K3做Copilot,能省六成成本
微软正在测试Kimi K3驱动自家的Copilot AI助手,每生成1000个token就能省下60%成本,算下来每花10亿美元推理就能省6亿美元,Kimi K3已经部署在Azure上。
微软在用国产Kimi K3做Copilot,能省六成成本
微软正在测试Kimi K3驱动自家的Copilot AI助手,每生成1000个token就能省下60%成本,算下来每花10亿美元推理就能省6亿美元,Kimi K3已经部署在Azure上。
说实话,如果把GPT-Live语音界面、Codex工具链和Kimi K3都整合进ChatGPT,对我目前90%的个人使用场景来说就已经很棒了。OpenAI哪怕变成一家不一样的公司,大概也能撑下去。但Anthropic……我不觉得它能。
据报道,微软正在测试用Kimi K3来驱动它的旗舰Copilot AI助手。每个token最多能节省60%的成本。也就是说,每花10亿美元做推理,就能省下6亿美元。
Kimi K3已经在Azure上运行了。K2.7 Code已经集成在GitHub Copilot里了。这对微软来说不是什么新领域,只是下一步发展而已。
而7月27日月之暗面(Moonshot)会开源完整的2.8万亿参数权重。一旦开源,微软就可以在Azure上自行部署,不用再支付API费用了。成本还会进一步下降。
美国最大的科技公司,放弃了自己合作伙伴的模型,选择了一款中国开源模型。因为数据不会骗人。开源不再只是参与竞争了。它已经在拿订单了。
工具 · @LangChain▲ 7.4K
LangChain出了管理AI智能体的全流程指南
做AI智能体的团队需要通盘考虑身份验证、日志审计、调用限额这些问题,这份概念指南把整个系统流程梳理清楚了。
LangChain出了管理AI智能体的全流程指南
做AI智能体的团队需要通盘考虑身份验证、日志审计、调用限额这些问题,这份概念指南把整个系统流程梳理清楚了。
治理智能体要求团队通盘考虑整个系统,涵盖身份验证、审计日志、速率限制、后备方案和集中化支出管控。我们最新的概念指南拆解了团队所需的基础框架。
IssueBench 是我们为 Engine 构建的详细评估套件(Engine 是 LangSmith 中的持续学习智能体,可在你的追踪数据上运行,自动优化你的智能体)。
由于 Engine 运行所需的数据类型特殊,评估 Engine 是一个棘手问题,因此我们撰写了这篇博客,介绍这个基准测试是什么,以及我们是如何构建它的:
观点 · @moyix▲ 221
现在的大模型性格,反而不符合程序员的做事习惯
现在的大模型训练出来就是勤快、没紧迫感,还谦虚说自己能力有限,刚好和传统程序员认可的做事风格对不上。
现在的大模型性格,反而不符合程序员的做事习惯
现在的大模型训练出来就是勤快、没紧迫感,还谦虚说自己能力有限,刚好和传统程序员认可的做事风格对不上。
测试 · @victormustar▲ 1.1K
测新大模型测到烦,管理成本越来越高了
同时测Kimi K3、Qwen3.8等一堆新模型,还要跑所有测试用例,现在已经需要专门的调度工具来管理上百个测试任务。
测新大模型测到烦,管理成本越来越高了
同时测Kimi K3、Qwen3.8等一堆新模型,还要跑所有测试用例,现在已经需要专门的调度工具来管理上百个测试任务。
在用 Kimi K3、Qwen3.8 这类模型,我想把所有模型放到所有测试框架里测试,但现在管理起来已经变得非常困难……
我的工作流是用一个编排器(比如 Hermes 或 OpenClaw)管理数百个智能体会话,但它会丢失追踪,运行效果很差。
你们都在用什么工具?我认真考虑过搭建自己的控制流,可以接入现有智能体:
观点 · @andrewbrown▲ 579
做AI智能体教学内容,要应对太多反对AI的声音
创作者分享AI智能体开发相关的教学内容,最大的困扰就是网上太多对AI持负面态度的人,处理这些负面评论让人头疼。
做AI智能体教学内容,要应对太多反对AI的声音
创作者分享AI智能体开发相关的教学内容,最大的困扰就是网上太多对AI持负面态度的人,处理这些负面评论让人头疼。
深度观点 · @andrewarruda▲ 50
全球八成用开源工具的开发者都基于中国模型
对开源工具生态和全球技术格局感兴趣的人,可以重新认识中国AI模型的实际覆盖规模
全球八成用开源工具的开发者都基于中国模型
对开源工具生态和全球技术格局感兴趣的人,可以重新认识中国AI模型的实际覆盖规模
深度观点 · @Techmeme▲ 1.5K
中国开源大模型应该被欢迎,而非封禁
有人认为中国开源大模型是正当竞争者,应当受到欢迎,不该被封禁或视作威胁,开源本身就是成熟的商业策略
中国开源大模型应该被欢迎,而非封禁
有人认为中国开源大模型是正当竞争者,应当受到欢迎,不该被封禁或视作威胁,开源本身就是成熟的商业策略
中国开源模型是正当的竞争者,应当受到欢迎,而非被封禁或被当成威胁,开源是一种存在已久的商业策略(@bgurley / 华盛顿邮报)
(前往 Techmeme dot com 获取链接和完整上下文!)
实战经验 · @reach_vb▲ 799
ChatGPT Work能在云端自动帮你跑任务?
可以从桌面或手机直接发起云端任务,调用已配置的插件跨现有工具工作,发起后能异步运行,做完再回来查看结果。
ChatGPT Work能在云端自动帮你跑任务?
可以从桌面或手机直接发起云端任务,调用已配置的插件跨现有工具工作,发起后能异步运行,做完再回来查看结果。
借助 ChatGPT Work,你可以直接从桌面端或移动端应用启动云端任务。
它能调用你配置好的插件,在你的代码仓库、文档、Slack 以及你已经在使用的其他工具之间协同工作。
我经常在手机上使用它:先交办一项任务,让它在云端异步运行,等工作完成后再回来查看结果。
深度观点 · @rseroter▲ 162
做AI不止堆模型,得把它做成能用的产品
谷歌云推出了成熟的对话式AI平台,供开发者在此基础上搭建产品。这说明业内开始更关注AI的落地整合,而非只比拼模型参数。
做AI不止堆模型,得把它做成能用的产品
谷歌云推出了成熟的对话式AI平台,供开发者在此基础上搭建产品。这说明业内开始更关注AI的落地整合,而非只比拼模型参数。
前沿研究 · @hwchase17▲ 3.1K
LangSmith 内置智能体,自己改自己的问题?
这套流程漫长复杂,结果也不确定,现在有人公开了评估这套系统的方法
LangSmith 内置智能体,自己改自己的问题?
这套流程漫长复杂,结果也不确定,现在有人公开了评估这套系统的方法
LangSmith Engine 是我们内置在产品中的智能体,它运行在追踪数据之上,会将数据聚类成问题,再提出修复方案。
这是一个长时间运行、复杂且结果模糊的流程。
我们撰写了文章,介绍如何对它进行评估!
新品发布 · @omarsar0▲ 4.5K
AI智能体不同步骤,终于能用不同模型了
能在不降低性能的前提下大幅降低AI使用成本,现已提供兼容OpenAI的调用端点
AI智能体不同步骤,终于能用不同模型了
能在不降低性能的前提下大幅降低AI使用成本,现已提供兼容OpenAI的调用端点
@tryramp 推出了重磅功能。智能体工作流中的不同步骤可以使用不同模型。
这可以在不牺牲性能的前提下大幅降低成本。
模型路由将成为技术栈的核心组成部分。
目前该功能已可通过一个与 OpenAI 兼容的端点使用。
行业动态 · @ns123abc▲ 4.7K
微软测试用Kimi K3换掉Copilot里的GPT和Claude
前沿大模型正在持续商品化,这次测试直接指向替换现有模型的工作任务
微软测试用Kimi K3换掉Copilot里的GPT和Claude
前沿大模型正在持续商品化,这次测试直接指向替换现有模型的工作任务
突发消息:Microsoft 正在测试 Kimi K3,以取代目前由 GPT 和 Claude 在 Copilot 内部承担的工作岗位。
前沿模型的商品化会持续进行,直到士气得到改善。
深度观点 · @burkov▲ 297
年底可能出现20T参数量的超大AI模型
超大模型越来越普遍,能跑它推理可能会成为最后一道壁垒,目前训练数据规模已经到十万亿词元级别
年底可能出现20T参数量的超大AI模型
超大模型越来越普遍,能跑它推理可能会成为最后一道壁垒,目前训练数据规模已经到十万亿词元级别
鉴于现在就连开放权重模型的参数都接近3T,而有传闻称Fable的参数规模达到了6T-8T,到今年年底我们可能就会见到参数规模达到20T甚至更大的模型。
能够运行这种巨型模型的推理,可能会是仅剩的唯一护城河。
另外,训练语料的规模也达到了数十万亿token量级,因此我们大致上每一个token对应一个浮点数,这应该足以无损失地容纳整个语料库。
深度观点 · @pmddomingos▲ 729
开源AI反而能在网络安全里占优势?
好人黑客比坏人黑客多,开源AI能帮好人在网络安全对抗中获得多人对一人的优势。
开源AI反而能在网络安全里占优势?
好人黑客比坏人黑客多,开源AI能帮好人在网络安全对抗中获得多人对一人的优势。
前沿研究 · @prlnet▲ 1.0K
自研W7A7量化,性能居然超过很多FP8基线
为满足Proof-of-Useful-Work的约束,研究人员融合三种现有方法,造出了不存在的新量化格式,内部测试表现超出预期
自研W7A7量化,性能居然超过很多FP8基线
为满足Proof-of-Useful-Work的约束,研究人员融合三种现有方法,造出了不存在的新量化格式,内部测试表现超出预期
有用工作量证明(Proof-of-Useful-Work)迫使我们发明了一种此前不存在的量化格式。Pearl Protocol 在矩阵乘法之前,会给权重和激活值都添加噪声。
这就带来了普通推理栈没有的约束——模型值和噪声必须共同容纳在 INT8 范围内。因此我们将模型量化到有效 W7A7 范围,留出一比特的Headroom给噪声。
扰动后的操作数仍然能装进 INT8,乘法使用 INT8 输入结合 INT32 累加,之后低秩噪声可以被精准剥离,恢复出量化计算的精确结果。
现有的 INT7 量化方案都不能令人满意,所以我们打造了自己的方案——融合 GPTQ 风格权重重构、SmoothQuant 风格激活平滑与自定义推理内核的非平凡方案。
最终得到的是端到端 W7A7 管线,在我们的内部基准测试中,它的表现甚至超过了很多 FP8 基线(无论是质量还是效率)。我们正在撰写详细介绍这项技术的论文,请保持关注。
展望未来,W7A7 只是一个中间步骤。我们即将推出的升级旨在直接支持 FP8 工作负载,省去额外整数量化步骤的需求。
深度观点 · @omarsar0▲ 5.5K
构建AI智能体框架能挖到超额收益?
有人认为构建智能体框架存在巨大空间,RLM框架就是一个实例,有望带来更高效的模型泛化扩展新方式
构建AI智能体框架能挖到超额收益?
有人认为构建智能体框架存在巨大空间,RLM框架就是一个实例,有望带来更高效的模型泛化扩展新方式
强烈推荐。我一直说,构建智能体框架能带来巨大收益。事实证明,框架本身就是可组合的泛化工具。
RLM 框架就是这类实践的一个实例。
这有可能为模型规模化泛化带来有趣且高效的新路径。
深度观点 · @omarsar0▲ 2.5K
年轻AI研究员别慌,AI给你留了位置
不少年轻研究者看到AI进步会迷茫,觉得自己的研究没有意义。AI带来的研究机会没有上限,它只是工具,研究者的直觉和积累能放大它的能力。
年轻AI研究员别慌,AI给你留了位置
不少年轻研究者看到AI进步会迷茫,觉得自己的研究没有意义。AI带来的研究机会没有上限,它只是工具,研究者的直觉和积累能放大它的能力。
很多年轻研究者看到这类消息后会感到迷茫和绝望。有些人可能会想:「如果AI都能做这个,我现在做的事情还有什么意义?」
我向你保证,事实恰恰相反。AI开启的机遇是无穷无尽的。别让任何人或任何公司说服你相信别的说法。
AI是一款出色的工具。用它去探索更多,走得更深。同时并行探索多个想法。用它探索横跨多个领域的想法——这类研究本来极难开展,也极其耗时。
花时间和AI一起头脑风暴。用它提出有趣且独特的研究问题。出色的研究高度依赖研究问题的质量。用它找到更好的方式来传播科学和发现。
如果让我重新读一遍博士,我肯定会这么做。花时间思考你该如何利用这类工具,这很重要。现在就是做这件事的好时机。
AI必然会带来更多这类发现,但你的直觉和研究素养可以加速AI能实现的成果。
前沿研究 · @omarsar0▲ 4.5K
Anthropic新研究揭秘大模型思考到底是真是假
帮你理清什么时候大模型说出来的推理真的决定结果,什么时候只是事后补的解说,对搭建AI工作流有参考意义。
Anthropic新研究揭秘大模型思考到底是真是假
帮你理清什么时候大模型说出来的推理真的决定结果,什么时候只是事后补的解说,对搭建AI工作流有参考意义。
// 大语言模型中的全局工作空间 //
这是 Anthropic 知名 J-space 研究的 arXiv 论文。(收藏它)
简短回顾:如果你正在研究思维链或方向向量相关工作,这项研究给出了一个机制性解释,说明什么时候语言化推理是承担核心作用的,什么时候它只是事后的叙述。
模型能转化为文字的表征就像一个共享的全局工作空间,它是一个带宽受限的通道,只会向网络其余部分广播一小组特征,进而引导网络下一步的行为。
论文链接:
在我们的学院中学习如何构建有效的 AI 智能体:
工具产品 · @ericosiu▲ 234
现成能用的开源AI营销销售工作流免费领
不用写复杂提示词,拿到就能直接放进AI用,包含完整脚本、评分和分析模块。
现成能用的开源AI营销销售工作流免费领
不用写复杂提示词,拿到就能直接放进AI用,包含完整脚本、评分和分析模块。
大多数团队不需要更多提示词。他们需要的是真正能支撑业务运转的可复用AI能力。
这正是我们Single Grain正在使用的开源工具包:用Claude Code构建的16个可投入生产环境使用的AI营销与销售能力。
这些不是提示词模板。它们是集成了脚本、评分与分析的完整工作流,你可以直接放到你的AI里立刻开始使用。
获取方式:关注 + 转发这条推文,评论区留下“SKILLS”,我会通过私信给你发送我免费的开源AI能力工具包。
实战经验 · @LangChain▲ 9.3K
大公司已经用自托管AI搭出自升级助手了
Coinbase工程主管公开分享这套方案的搭建过程,想搭建自用AI工作流可以直接看完整分享找参考
大公司已经用自托管AI搭出自升级助手了
Coinbase工程主管公开分享这套方案的搭建过程,想搭建自用AI工作流可以直接看完整分享找参考
在 Interrupt 大会上,@Coinbase 工程经理 Evan Kormos 上台分享了他们的开发者支持团队如何在自托管 LangSmith 之上搭建了一套自我改进的智能体系统。
完整演讲:
AI芯片 · @ns123abc▲ 1.1K
消息称谷歌正开发专为AI推理设计的定制芯片Frozen v2
因算力缺口过大,谷歌云已开始推掉业务,该芯片最早可在2028年部署
消息称谷歌正开发专为AI推理设计的定制芯片Frozen v2
因算力缺口过大,谷歌云已开始推掉业务,该芯片最早可在2028年部署
爆料消息称,谷歌正在开发一款专门用于AI推理的定制芯片,起因是当前算力缺口问题严重,谷歌云已经因此推掉了部分业务。
这款新芯片产品线被命名为Frozen v2,源自Jeff Dean的一项设计方案,最初方案提出将Gemini大模型的权重直接蚀刻在硅片上,Frozen v2则改为将Gemini整体架构直接硬编码进芯片内部。
该芯片的每瓦推理 Token 处理能力,比谷歌最新的推理用张量处理单元(TPU)高出10倍,也就是同样功耗下能处理10倍的文本Token。
DeepMind认为Transformer架构已经不会再发生大的演进,这款芯片的设计逻辑就是将模型本身直接固化为硬件,最早可在2028年投入部署。
开源 · @omarsar0▲ 1.1万
研究者 Omar Sharif 批驳针对开源AI的偏颇观点
Omar Sharif指出反开源AI的观点充满政治化私利,且认为否定开源的片面看法十分危险
研究者 Omar Sharif 批驳针对开源AI的偏颇观点
Omar Sharif指出反开源AI的观点充满政治化私利,且认为否定开源的片面看法十分危险
那些目前涌现的、带有强烈政治化色彩、服务于私利的反开源AI立场,完全无视了这一点。 Omar Sharif承认,商业环境在变化,不确定性确实会令人不安。但回顾开源技术的发展历史就能发现,开源对科学进步和全人类的益处非常清晰。
所有这类对开源的简化片面看法都极其危险。关于开源对社会的影响,确实有很多重要问题需要讨论。但要推进相关讨论,必须依托准确平衡的视角,结合真实事实、数据和有依据的提案展开。
行业观点 · @rauchg▲ 5.0K
创业者rauchg提出AI带来的核心启示:万物皆代码
rauchg提出AI发展带来的启示,认为万事万物本质都是代码
创业者rauchg提出AI带来的核心启示:万物皆代码
rauchg提出AI发展带来的启示,认为万事万物本质都是代码
新前沿研究 · @swyx▲ 4.0K
大模型刷榜早就可以作弊,居然没人能实锤?
前沿大模型训练靠模仿测试集数据刷 benchmark 成绩,开放权重后不公开训练数据集,没法实锤作弊。两位研究者做了初步探索,提出了检测方法。
大模型刷榜早就可以作弊,居然没人能实锤?
前沿大模型训练靠模仿测试集数据刷 benchmark 成绩,开放权重后不公开训练数据集,没法实锤作弊。两位研究者做了初步探索,提出了检测方法。
@a1zhang 和 @lateinteraction 撰写的这篇轨迹对比研究十分值得注意,它被埋在了 RLM 论文里。
「前沿」模型训练的一个公开秘密是:哪怕不在测试集上直接训练,你也基本上可以通过在和测试集相似的数据上训练来作弊,让你几乎可以随便想要哪个基准分数就能拿到哪个。
然而当模型以开放权重发布时,99% 的情况下行业惯例是,你不会拿到能轻易显示出有没有人在 Temu Tbench 相关数据上训练的数据集 / RL 环境,因此存在合理的推诿空间。
Alex 和 Omar 讨论了在隐轨迹上应用标准 NLP 距离度量的方法。这里不存在终极解决方案,但他们完成了一些初步探索。这项研究恰好支持了一个结论:RLM 可以泛化到和训练中观察到的潜在结构共享的未见过任务上。
新前沿研究 · @omarsar0▲ 3.8K
新编排模型拿下安全测评第一,追平前沿模型
做网络安全防护的人,可以关注这款达到当前最优水平的新模型,它的表现已经匹配顶级前沿模型
新编排模型拿下安全测评第一,追平前沿模型
做网络安全防护的人,可以关注这款达到当前最优水平的新模型,它的表现已经匹配顶级前沿模型
别错过这些编排模型。
Sakana刚刚发布了Fugu-Cyber,该模型在真实世界安全基准测试中取得了SoTA成绩,表现与GPT-5.5-Cyber和Mythos Preview这类前沿模型相当。
前沿研究 · @omarsar0▲ 4.5K
Anthropic新研究揭秘大模型思考到底是真是假
帮你理清什么时候大模型说出来的推理真的决定结果,什么时候只是事后补的解说,对搭建AI工作流有参考意义。
Anthropic新研究揭秘大模型思考到底是真是假
帮你理清什么时候大模型说出来的推理真的决定结果,什么时候只是事后补的解说,对搭建AI工作流有参考意义。
// 大语言模型中的全局工作空间 //
这是 Anthropic 知名 J-space 研究的 arXiv 论文。(收藏它)
简短回顾:如果你正在研究思维链或方向向量相关工作,这项研究给出了一个机制性解释,说明什么时候语言化推理是承担核心作用的,什么时候它只是事后的叙述。
模型能转化为文字的表征就像一个共享的全局工作空间,它是一个带宽受限的通道,只会向网络其余部分广播一小组特征,进而引导网络下一步的行为。
论文链接:
在我们的学院中学习如何构建有效的 AI 智能体:
前沿研究 · @prlnet▲ 1.0K
自研W7A7量化,性能居然超过很多FP8基线
为满足Proof-of-Useful-Work的约束,研究人员融合三种现有方法,造出了不存在的新量化格式,内部测试表现超出预期
自研W7A7量化,性能居然超过很多FP8基线
为满足Proof-of-Useful-Work的约束,研究人员融合三种现有方法,造出了不存在的新量化格式,内部测试表现超出预期
有用工作量证明(Proof-of-Useful-Work)迫使我们发明了一种此前不存在的量化格式。Pearl Protocol 在矩阵乘法之前,会给权重和激活值都添加噪声。
这就带来了普通推理栈没有的约束——模型值和噪声必须共同容纳在 INT8 范围内。因此我们将模型量化到有效 W7A7 范围,留出一比特的Headroom给噪声。
扰动后的操作数仍然能装进 INT8,乘法使用 INT8 输入结合 INT32 累加,之后低秩噪声可以被精准剥离,恢复出量化计算的精确结果。
现有的 INT7 量化方案都不能令人满意,所以我们打造了自己的方案——融合 GPTQ 风格权重重构、SmoothQuant 风格激活平滑与自定义推理内核的非平凡方案。
最终得到的是端到端 W7A7 管线,在我们的内部基准测试中,它的表现甚至超过了很多 FP8 基线(无论是质量还是效率)。我们正在撰写详细介绍这项技术的论文,请保持关注。
展望未来,W7A7 只是一个中间步骤。我们即将推出的升级旨在直接支持 FP8 工作负载,省去额外整数量化步骤的需求。
前沿研究 · @hwchase17▲ 3.1K
LangSmith 内置智能体,自己改自己的问题?
这套流程漫长复杂,结果也不确定,现在有人公开了评估这套系统的方法
LangSmith 内置智能体,自己改自己的问题?
这套流程漫长复杂,结果也不确定,现在有人公开了评估这套系统的方法
LangSmith Engine 是我们内置在产品中的智能体,它运行在追踪数据之上,会将数据聚类成问题,再提出修复方案。
这是一个长时间运行、复杂且结果模糊的流程。
我们撰写了文章,介绍如何对它进行评估!
新新品发布 · @hardmaru▲ 1.2万
日本团队造出编排模型,网络安全跑分全球第一
本土团队从零打造的AI模型,在真实网络安全测试中拿到了目前最好成绩
日本团队造出编排模型,网络安全跑分全球第一
本土团队从零打造的AI模型,在真实网络安全测试中拿到了目前最好成绩
新新品发布 · @iam_elias1▲ 366
通义千问图像3.0发布,输出效果离谱到缩小真假差距
追求接近真实效果的AI绘图爱好者,可以试下新发布的模型,看看生成效果能不能满足需求
通义千问图像3.0发布,输出效果离谱到缩小真假差距
追求接近真实效果的AI绘图爱好者,可以试下新发布的模型,看看生成效果能不能满足需求
新新品发布 · @ModelScope2022▲ 286
开源 Nemotron-3-Embed 嵌入模型拿了榜单第一
想要自己搭建检索增强生成的应用,可以直接用这套开源权重和训练方案,性能有公开测试数据可参考
开源 Nemotron-3-Embed 嵌入模型拿了榜单第一
想要自己搭建检索增强生成的应用,可以直接用这套开源权重和训练方案,性能有公开测试数据可参考
认识Nemotron-3-Embed:用于RAG、搜索、代码检索和智能体记忆的开放权重嵌入模型。🔎 🤖
它提供三种部署选项:追求最高质量的8B版本,兼顾平衡的1B BF16版本,以及更高吞吐量的1B NVFP4版本。🏆
8B模型在RTEB上排名第一,NDCG@10得分为78.46,1B模型相比前代将检索错误降低了27%。⚡
NVFP4版本保留了BF16超过99%的检索准确率,同时吞吐量最高提升2倍。三个版本都支持32K上下文、多语言检索和代码。
开放权重、数据集和训练配方。许可证:OpenMDW 1.1。
新品发布 · @NousResearch▲ 7.1K
能随需求成长的AI智能体出了一键订阅服务
想玩可成长AI智能体Hermes、配套模型、外部工具和云端智能体都打包在同一个订阅里,设置非常简单
能随需求成长的AI智能体出了一键订阅服务
想玩可成长AI智能体Hermes、配套模型、外部工具和云端智能体都打包在同一个订阅里,设置非常简单
Hermes 是能和你共同成长的智能体。
Nous Portal 是为它提供算力支持的最佳方式:它将模型、实用外部工具和云端智能体本身整合在一个统一订阅中,设置过程极其简单。
新品发布 · @omarsar0▲ 4.5K
AI智能体不同步骤,终于能用不同模型了
能在不降低性能的前提下大幅降低AI使用成本,现已提供兼容OpenAI的调用端点
AI智能体不同步骤,终于能用不同模型了
能在不降低性能的前提下大幅降低AI使用成本,现已提供兼容OpenAI的调用端点
@tryramp 推出了重磅功能。智能体工作流中的不同步骤可以使用不同模型。
这可以在不牺牲性能的前提下大幅降低成本。
模型路由将成为技术栈的核心组成部分。
目前该功能已可通过一个与 OpenAI 兼容的端点使用。
新行业动态 · @jukan05▲ 2.3万
商务部讨论AI训练数据出境和模型权重下载限制
涉及出海的AI从业者需要留意政策走向,目前仍允许海外客户访问对应模型与服务。
商务部讨论AI训练数据出境和模型权重下载限制
涉及出海的AI从业者需要留意政策走向,目前仍允许海外客户访问对应模型与服务。
英国《金融时报》:中国商务部已与包括阿里巴巴、字节跳动和智谱AI在内的人工智能企业,讨论了对用于训练AI模型的关键数据向境外传输,以及境外用户下载模型权重进行限制的可能性。
不过,中国仍计划继续允许境外客户访问这些AI模型与服务。
新行业动态 · @VaibhavSisinty▲ 1.9K
一周15条AI大更新:有人用AI搭出了能跑游戏的系统
七天内密集推出大量AI产品和模型,包括可离线跑在手机上的大模型、AI硬件,还能对话生成完整网站,迭代速度还在变快
一周15条AI大更新:有人用AI搭出了能跑游戏的系统
七天内密集推出大量AI产品和模型,包括可离线跑在手机上的大模型、AI硬件,还能对话生成完整网站,迭代速度还在变快
新行业动态 · @zijing_wu▲ 681
中国拟收紧AI相关三项出口管制,目前正在征求意见
监管方正在向科技企业征求意见,最终决定尚未作出。行业规则可能迎来调整,相关从业者可以提前留意
中国拟收紧AI相关三项出口管制,目前正在征求意见
监管方正在向科技企业征求意见,最终决定尚未作出。行业规则可能迎来调整,相关从业者可以提前留意
独家消息:中国正考虑收紧以下领域的出口管制:1. 将数据带出境外用于训练、开放模型权重;2. 境外先进芯片制造;3. 收购AI初创企业。
监管机构目前正在征求科技企业意见,尚未做出最终决定。
新行业动态 · @Newsweek▲ 1.5K
新AI工具能提前十年预测你会不会得心脏病
只需要读取血液中的蛋白质,就能提前十年预判心脏病发病风险,想做早筛的人多了一种新选择
新AI工具能提前十年预测你会不会得心脏病
只需要读取血液中的蛋白质,就能提前十年预判心脏病发病风险,想做早筛的人多了一种新选择
新动态 · @mattpocockuk▲ 608
Greenfield代码库其实并不存在
Greenfield代码库其实并不存在
「绿地」代码库现在其实已经不存在了。我来解释一下:经常有人问我:「你的技能在绿地代码库上能用吗?」或是「它们在遗留代码库上能用吗?」
绿地 vs 棕地的区分对我来说从来就不真实。绿地指的是你从零开始构建新软件,棕地指的是你编辑现有软件。
真相是,我们启动新项目时想象的绿地是一种幻觉。我们不是把软件输出到一片空无里。你总得对接现有系统,迁就用户偏好。
绿地和棕地唯一的区别就是你的代码仓库的状态。在绿地项目里,你还没建立编码规范,没有先例可以参考。你有机会从零开始给你的智能体配置在这个仓库里的工作经验。
但既然现在代码生成速度比以往快得多,一个代码库能保持「绿色」多久?两天?最多一周?所有土地都是棕地,而且被翻耕的速度比以往任何时候都快。
你的默认心态应该是「这是一个遗留代码库」,哪怕它才诞生一周。
新动态 · @bookwormengr▲ 241
惊人:大语言模型需要新的高质量数据
惊人:大语言模型需要新的高质量数据
新动态 · @AYi_AInotes▲ 263
想拿OpenAI $100免费ChatGPT额度的直接存,给大家照着做就能提交的
想拿OpenAI $100免费ChatGPT额度的直接存,给大家照着做就能提交的
新动态 · @jjacky▲ 118
人工智能仍然很不擅长识别ri
人工智能仍然很不擅长识别ri
AI目前仍然非常不擅长在UI中设置正确的边距和间距。它只是随便生成东西,并不清楚美学到底是什么样的。
这仍然是一个你必须进入代码手动调整的地方,和过去三年的情况基本上没区别。
新动态 · @jjacky▲ 26
如果你要和openrouter竞争
如果你要和openrouter竞争
新行业动态 · Hacker News▲ 339
Kimi和通义千问追上来,Anthropic可能出问题了
Hacker News上这篇讨论获得数百点赞,国内大模型新品的进展,牵动了AI行业格局变化
Kimi和通义千问追上来,Anthropic可能出问题了
Hacker News上这篇讨论获得数百点赞,国内大模型新品的进展,牵动了AI行业格局变化
社区讨论:多数观点认为Anthropic会被挤压,一端开源模型抢占绝大多数非前沿需求,另一端垂直领域小模型成本更低性能更好。有人认为最终赢家是最快把模型烧进ASIC的厂商,也有人指出当前AI进步可能正在进入平台期,还有人质疑OpenAI和Anthropic同样是纯模型厂商,为何只有Anthropic面临风险。也有反对者称用户愿意为小幅提升的模型效果支付高价,仍会选择体验更好的Claude。
新行业动态 · Hacker News▲ 45
Kimi K3修复了Codex和Fable不肯修的15个高危漏洞
常用代码生成工具遗留的高危安全问题,有其他模型给出了修复方案,有代码需求的人可以多一个选择
Kimi K3修复了Codex和Fable不肯修的15个高危漏洞
常用代码生成工具遗留的高危安全问题,有其他模型给出了修复方案,有代码需求的人可以多一个选择
行业动态 · @AnthropicAI▲ 10.8万
Anthropic 给罕见病研究发 Claude 使用额度资助
最高 $50,000 额度资助,专门支持加速罕见病治疗研发的科研人员。这是AI for Science计划首个专项招募。
Anthropic 给罕见病研究发 Claude 使用额度资助
最高 $50,000 额度资助,专门支持加速罕见病治疗研发的科研人员。这是AI for Science计划首个专项招募。
我们将为加速研发罕见病疗法的研究人员提供最高额度为 $50,000 的 Claude 使用 credits 资助。
这是我们在 AI for Science 项目下首次针对性征集,该项目支持科学家使用 Claude 加快科研发现。
行业动态 · @ns123abc▲ 4.7K
微软测试用Kimi K3换掉Copilot里的GPT和Claude
前沿大模型正在持续商品化,这次测试直接指向替换现有模型的工作任务
微软测试用Kimi K3换掉Copilot里的GPT和Claude
前沿大模型正在持续商品化,这次测试直接指向替换现有模型的工作任务
突发消息:Microsoft 正在测试 Kimi K3,以取代目前由 GPT 和 Claude 在 Copilot 内部承担的工作岗位。
前沿模型的商品化会持续进行,直到士气得到改善。
商业 · @_simonsmith▲ 641
微软在用国产Kimi K3做Copilot,能省六成成本
微软正在测试Kimi K3驱动自家的Copilot AI助手,每生成1000个token就能省下60%成本,算下来每花10亿美元推理就能省6亿美元,Kimi K3已经部署在Azure上。
微软在用国产Kimi K3做Copilot,能省六成成本
微软正在测试Kimi K3驱动自家的Copilot AI助手,每生成1000个token就能省下60%成本,算下来每花10亿美元推理就能省6亿美元,Kimi K3已经部署在Azure上。
说实话,如果把GPT-Live语音界面、Codex工具链和Kimi K3都整合进ChatGPT,对我目前90%的个人使用场景来说就已经很棒了。OpenAI哪怕变成一家不一样的公司,大概也能撑下去。但Anthropic……我不觉得它能。
据报道,微软正在测试用Kimi K3来驱动它的旗舰Copilot AI助手。每个token最多能节省60%的成本。也就是说,每花10亿美元做推理,就能省下6亿美元。
Kimi K3已经在Azure上运行了。K2.7 Code已经集成在GitHub Copilot里了。这对微软来说不是什么新领域,只是下一步发展而已。
而7月27日月之暗面(Moonshot)会开源完整的2.8万亿参数权重。一旦开源,微软就可以在Azure上自行部署,不用再支付API费用了。成本还会进一步下降。
美国最大的科技公司,放弃了自己合作伙伴的模型,选择了一款中国开源模型。因为数据不会骗人。开源不再只是参与竞争了。它已经在拿订单了。
工具 · @LangChain▲ 7.4K
LangChain出了管理AI智能体的全流程指南
做AI智能体的团队需要通盘考虑身份验证、日志审计、调用限额这些问题,这份概念指南把整个系统流程梳理清楚了。
LangChain出了管理AI智能体的全流程指南
做AI智能体的团队需要通盘考虑身份验证、日志审计、调用限额这些问题,这份概念指南把整个系统流程梳理清楚了。
治理智能体要求团队通盘考虑整个系统,涵盖身份验证、审计日志、速率限制、后备方案和集中化支出管控。我们最新的概念指南拆解了团队所需的基础框架。
IssueBench 是我们为 Engine 构建的详细评估套件(Engine 是 LangSmith 中的持续学习智能体,可在你的追踪数据上运行,自动优化你的智能体)。
由于 Engine 运行所需的数据类型特殊,评估 Engine 是一个棘手问题,因此我们撰写了这篇博客,介绍这个基准测试是什么,以及我们是如何构建它的:
观点 · @moyix▲ 221
现在的大模型性格,反而不符合程序员的做事习惯
现在的大模型训练出来就是勤快、没紧迫感,还谦虚说自己能力有限,刚好和传统程序员认可的做事风格对不上。
现在的大模型性格,反而不符合程序员的做事习惯
现在的大模型训练出来就是勤快、没紧迫感,还谦虚说自己能力有限,刚好和传统程序员认可的做事风格对不上。
测试 · @victormustar▲ 1.1K
测新大模型测到烦,管理成本越来越高了
同时测Kimi K3、Qwen3.8等一堆新模型,还要跑所有测试用例,现在已经需要专门的调度工具来管理上百个测试任务。
测新大模型测到烦,管理成本越来越高了
同时测Kimi K3、Qwen3.8等一堆新模型,还要跑所有测试用例,现在已经需要专门的调度工具来管理上百个测试任务。
在用 Kimi K3、Qwen3.8 这类模型,我想把所有模型放到所有测试框架里测试,但现在管理起来已经变得非常困难……
我的工作流是用一个编排器(比如 Hermes 或 OpenClaw)管理数百个智能体会话,但它会丢失追踪,运行效果很差。
你们都在用什么工具?我认真考虑过搭建自己的控制流,可以接入现有智能体:
观点 · @andrewbrown▲ 579
做AI智能体教学内容,要应对太多反对AI的声音
创作者分享AI智能体开发相关的教学内容,最大的困扰就是网上太多对AI持负面态度的人,处理这些负面评论让人头疼。
做AI智能体教学内容,要应对太多反对AI的声音
创作者分享AI智能体开发相关的教学内容,最大的困扰就是网上太多对AI持负面态度的人,处理这些负面评论让人头疼。
行业动态 · Hacker News▲ 38
大模型根本不像编译器或电动工具?
有人提出了对大模型本质的新判断,对想理清AI定位的人来说,这个不同的视角值得参考。
大模型根本不像编译器或电动工具?
有人提出了对大模型本质的新判断,对想理清AI定位的人来说,这个不同的视角值得参考。
社区讨论:多数评论不认同原帖观点,有人指出编译器本身存在未定义行为、结果非确定,电动工具实际使用也充满不确定性,原帖对类比对象的描述本身就不准确。也有人认为原帖作者漏算了机器学习优化编译、LLM驱动编译器这类当下研究方向,还有人反对将大模型拟人化,指出大模型只会做下一词预测,会产生人类不会犯的全新错误。
行业动态 · Hacker News▲ 60
大语言模型可以自己控制推理算力开销了
不用固定分配算力,需要深度推理的时候多分配,简单问题少分配,能降低推理成本
大语言模型可以自己控制推理算力开销了
不用固定分配算力,需要深度推理的时候多分配,简单问题少分配,能降低推理成本
行业动态 · Hacker News▲ 282
月之暗面暂停新订阅,Kimi K3需求太火爆
热门AI产品需求超过承载能力,只能暂时停止接收新付费用户
月之暗面暂停新订阅,Kimi K3需求太火爆
热门AI产品需求超过承载能力,只能暂时停止接收新付费用户
社区讨论:多数用户认可Kimi K3在长上下文处理、代码审查等任务上的表现,不少人已经长期用它替代其他大模型处理工作。用户肯定月之暗面暂停新订阅、优先保障现有用户体验的做法,也有人提出也可以照搬Anthropic的方案,通过下调使用限额来控制压力。有试用者反馈当前模型负载过高,响应速度极慢,20美元套餐的额度也很快就会用完。
行业动态 · OpenAI 开发者社区▲ 19
用Codex写代码烧了好多钱,问题出在哪?
不少人遇到过这种情况:大任务全量上下文喂给Codex,改完代码越改问题越多,最后花了不少钱,生成的结果还要重写。
用Codex写代码烧了好多钱,问题出在哪?
不少人遇到过这种情况:大任务全量上下文喂给Codex,改完代码越改问题越多,最后花了不少钱,生成的结果还要重写。
我觉得这个社区里很多人都遇到过这种场景。一个超大的 AGENTS.md 文件,占满了全部上下文窗口,再加一段细节满满的提示词,还有一个宏大的目标。Codex 满怀信心开始干活:它探索仓库、制定计划、修改代码。
然后范围开始膨胀,它读了一堆不必要的文件,修复一个问题又带出另一个问题,到最后我们得到的结果成本很高,还得手动重写一部分。
很长一段时间里,我都觉得解决方案是给模型提供更多信息,还要更……
行业动态 · Hacker News▲ 61
OpenAI Codex正在快速耗损我们的设备
有开发者提到,Codex正在耗损日常使用的设备,这会直接增加使用AI工具的硬件成本
OpenAI Codex正在快速耗损我们的设备
有开发者提到,Codex正在耗损日常使用的设备,这会直接增加使用AI工具的硬件成本
社区讨论:多数用户认为原帖没有实质有效信息,只是恐慌性猜测。有用户确认问题仅出现在图形界面版本,Linux用户和使用终端界面的用户不受影响,自己长期使用仅写入86TB,占SSD寿命写入限额的1%。有人补充OpenAI曾在6月22日的0.142.x版本修复该问题,但修复不彻底,仍有用户投诉,也有用户反馈GUI版会让笔记本风扇狂转、机身发烫。
行业动态 · OpenAI 开发者社区▲ 15
OpenAI要办Codex开发周,面向全球开发者
7月13日启动,会举办四十余场活动,任何人都可以从零开始或者基于已有项目,用Codex实验新创意,提交项目参赛
OpenAI要办Codex开发周,面向全球开发者
7月13日启动,会举办四十余场活动,任何人都可以从零开始或者基于已有项目,用Codex实验新创意,提交项目参赛
OpenAI_Build_Week_16-9 3200×1800 491 KB
Build Week 是面向全球开发者、创作者、创始人和学生的全球性挑战赛,大家可以从7月13日开始,用 Codex 试验新想法并将它们落地,本次活动同期会举办超过40场活动。
参与者可以参加直播环节、参与社区活动,并将自己的项目提交到 OpenAI Build Week Challenge。
无论你是从零开始,还是基于现有项目开发,Build Week 都能给每个人提供学习的机会。
新深度观点 · @hwchase17▲ 3.4K
Langchain负责人分享了四条AI Agent核心设计思路
这里分享了Langchain正在搭建产品时遵循的设计方向,可以了解顶级AI工具开发者当前的思考优先级
Langchain负责人分享了四条AI Agent核心设计思路
这里分享了Langchain正在搭建产品时遵循的设计方向,可以了解顶级AI工具开发者当前的思考优先级
新深度观点 · @emollick▲ 2.3万
中美应合作制定AI大模型通用测试认证标准
提议中美合作制定标准,让所有AI模型发布的安全认证流程都保持公开透明
中美应合作制定AI大模型通用测试认证标准
提议中美合作制定标准,让所有AI模型发布的安全认证流程都保持公开透明
接下来谈谈中国政府方面。现在正是开展中美合作的好时机,双方可以共同为新模型制定统一的测试和验收标准。
这样一来,至少在模型发布的安全认证层面,无论对开源模型还是闭源模型,流程都能做到透明。
新深度观点 · @quxiaoyin▲ 1.3K
别禁中国开源大模型,直接挖人就好
有人提出替代禁令的方案:发展美国本土开源模型、尽可能从中国模型提取知识、直接给中国研究人员发绿卡、放开数据中心审批
别禁中国开源大模型,直接挖人就好
有人提出替代禁令的方案:发展美国本土开源模型、尽可能从中国模型提取知识、直接给中国研究人员发绿卡、放开数据中心审批
新深度观点 · @brivael▲ 1.3K
AI会冲掉欧盟数字主管这个职位?
有人认为,AI会消解欧盟数字主管这个概念
AI会冲掉欧盟数字主管这个职位?
有人认为,AI会消解欧盟数字主管这个概念
新深度观点 · @GarrettPetersen▲ 133
除了AI生成垃圾内容,还有职业插画的千篇一律
同质化过度打磨的内容不止AI能批量造,不少职业插画领域也存在这个问题
除了AI生成垃圾内容,还有职业插画的千篇一律
同质化过度打磨的内容不止AI能批量造,不少职业插画领域也存在这个问题
深度观点 · @levelsio▲ 2.6万
中美AI公司走了完全相反的两条路线
长期看美国AI公司会替代所有现有应用网站,中国头部开源AI模型正在直接对标美国闭源模型,打破技术壁垒,现在各方正在互相渗透竞争。
中美AI公司走了完全相反的两条路线
长期看美国AI公司会替代所有现有应用网站,中国头部开源AI模型正在直接对标美国闭源模型,打破技术壁垒,现在各方正在互相渗透竞争。
这一部分也非常有意思。
从长期来看,美国 AI 公司基本上会取代所有 app 和网站,你只需要向它们说出任何你需要的东西,它们就会完成/生成/制作出你要的内容。
与此同时,由中国政府主导的中国 AI 公司推出了开源模型,这些模型现在可以直接和美国的私有模型竞争,并且试图确保美国模型无法构建护城河。
所以现在是所有人都在互相蚕食。
深度观点 · @omarsar0▲ 2.5K
年轻AI研究员别慌,AI给你留了位置
不少年轻研究者看到AI进步会迷茫,觉得自己的研究没有意义。AI带来的研究机会没有上限,它只是工具,研究者的直觉和积累能放大它的能力。
年轻AI研究员别慌,AI给你留了位置
不少年轻研究者看到AI进步会迷茫,觉得自己的研究没有意义。AI带来的研究机会没有上限,它只是工具,研究者的直觉和积累能放大它的能力。
很多年轻研究者看到这类消息后会感到迷茫和绝望。有些人可能会想:「如果AI都能做这个,我现在做的事情还有什么意义?」
我向你保证,事实恰恰相反。AI开启的机遇是无穷无尽的。别让任何人或任何公司说服你相信别的说法。
AI是一款出色的工具。用它去探索更多,走得更深。同时并行探索多个想法。用它探索横跨多个领域的想法——这类研究本来极难开展,也极其耗时。
花时间和AI一起头脑风暴。用它提出有趣且独特的研究问题。出色的研究高度依赖研究问题的质量。用它找到更好的方式来传播科学和发现。
如果让我重新读一遍博士,我肯定会这么做。花时间思考你该如何利用这类工具,这很重要。现在就是做这件事的好时机。
AI必然会带来更多这类发现,但你的直觉和研究素养可以加速AI能实现的成果。
深度观点 · @omarsar0▲ 5.5K
构建AI智能体框架能挖到超额收益?
有人认为构建智能体框架存在巨大空间,RLM框架就是一个实例,有望带来更高效的模型泛化扩展新方式
构建AI智能体框架能挖到超额收益?
有人认为构建智能体框架存在巨大空间,RLM框架就是一个实例,有望带来更高效的模型泛化扩展新方式
强烈推荐。我一直说,构建智能体框架能带来巨大收益。事实证明,框架本身就是可组合的泛化工具。
RLM 框架就是这类实践的一个实例。
这有可能为模型规模化泛化带来有趣且高效的新路径。
深度观点 · @pmddomingos▲ 729
开源AI反而能在网络安全里占优势?
好人黑客比坏人黑客多,开源AI能帮好人在网络安全对抗中获得多人对一人的优势。
开源AI反而能在网络安全里占优势?
好人黑客比坏人黑客多,开源AI能帮好人在网络安全对抗中获得多人对一人的优势。
深度观点 · @burkov▲ 297
年底可能出现20T参数量的超大AI模型
超大模型越来越普遍,能跑它推理可能会成为最后一道壁垒,目前训练数据规模已经到十万亿词元级别
年底可能出现20T参数量的超大AI模型
超大模型越来越普遍,能跑它推理可能会成为最后一道壁垒,目前训练数据规模已经到十万亿词元级别
鉴于现在就连开放权重模型的参数都接近3T,而有传闻称Fable的参数规模达到了6T-8T,到今年年底我们可能就会见到参数规模达到20T甚至更大的模型。
能够运行这种巨型模型的推理,可能会是仅剩的唯一护城河。
另外,训练语料的规模也达到了数十万亿token量级,因此我们大致上每一个token对应一个浮点数,这应该足以无损失地容纳整个语料库。
深度观点 · @rseroter▲ 162
做AI不止堆模型,得把它做成能用的产品
谷歌云推出了成熟的对话式AI平台,供开发者在此基础上搭建产品。这说明业内开始更关注AI的落地整合,而非只比拼模型参数。
做AI不止堆模型,得把它做成能用的产品
谷歌云推出了成熟的对话式AI平台,供开发者在此基础上搭建产品。这说明业内开始更关注AI的落地整合,而非只比拼模型参数。
深度观点 · @Techmeme▲ 1.5K
中国开源大模型应该被欢迎,而非封禁
有人认为中国开源大模型是正当竞争者,应当受到欢迎,不该被封禁或视作威胁,开源本身就是成熟的商业策略
中国开源大模型应该被欢迎,而非封禁
有人认为中国开源大模型是正当竞争者,应当受到欢迎,不该被封禁或视作威胁,开源本身就是成熟的商业策略
中国开源模型是正当的竞争者,应当受到欢迎,而非被封禁或被当成威胁,开源是一种存在已久的商业策略(@bgurley / 华盛顿邮报)
(前往 Techmeme dot com 获取链接和完整上下文!)
深度观点 · @andrewarruda▲ 50
全球八成用开源工具的开发者都基于中国模型
对开源工具生态和全球技术格局感兴趣的人,可以重新认识中国AI模型的实际覆盖规模
全球八成用开源工具的开发者都基于中国模型
对开源工具生态和全球技术格局感兴趣的人,可以重新认识中国AI模型的实际覆盖规模
新工具产品 · @vanstriendaniel▲ 122
OCR模型筛选目录上线 帮AI工具挑合适模型
开源OCR工具库新增JSON目录,可以根据模型体积、支持语言等信息,帮AI代理筛选合适的OCR模型使用。
OCR模型筛选目录上线 帮AI工具挑合适模型
开源OCR工具库新增JSON目录,可以根据模型体积、支持语言等信息,帮AI代理筛选合适的OCR模型使用。
很高兴看到 OCR uv-scripts 仓库再次登上趋势数据集榜单的首页!
最近我们还新增了一个 JSON 目录,能帮助智能体根据模型大小、支持语言等参数,挑选合适的 OCR 模型来试用。
工具产品 · @ericosiu▲ 234
现成能用的开源AI营销销售工作流免费领
不用写复杂提示词,拿到就能直接放进AI用,包含完整脚本、评分和分析模块。
现成能用的开源AI营销销售工作流免费领
不用写复杂提示词,拿到就能直接放进AI用,包含完整脚本、评分和分析模块。
大多数团队不需要更多提示词。他们需要的是真正能支撑业务运转的可复用AI能力。
这正是我们Single Grain正在使用的开源工具包:用Claude Code构建的16个可投入生产环境使用的AI营销与销售能力。
这些不是提示词模板。它们是集成了脚本、评分与分析的完整工作流,你可以直接放到你的AI里立刻开始使用。
获取方式:关注 + 转发这条推文,评论区留下“SKILLS”,我会通过私信给你发送我免费的开源AI能力工具包。
新实战经验 · @hxiao▲ 277
小体积嵌入模型居然能跑出超预期准确率
做智能体落地和原型开发可以用这两个模型,后续相关作者会在SIGIR 2026分享训练的经验教训和下一步方向
小体积嵌入模型居然能跑出超预期准确率
做智能体落地和原型开发可以用这两个模型,后续相关作者会在SIGIR 2026分享训练的经验教训和下一步方向
jina-v5-nano 和 v5-omni 是我的智能体用来做 grounding 时,始终常驻内存的模型。
v5 家族体积很小,但准确度却远超出它的尺寸级别。我也会在原型开发和测试时缩放研究中依赖它们,说实话用得非常开心,相关内容过几天再展开讲。
我希望所有人都能和我一样喜欢 v5 家族。所以在 SIGIR 2026 上,我们安排了两场演讲,分别由 v5-nano 和 v5-omni 的作者 @jupyterjazz 和 @florianhoenicke 主讲。欢迎大家来墨尔本找他们打个招呼。
他们会分享训练这些嵌入模型过程中的酸甜苦辣,还会提前透露我们接下来期待推进的方向。
新实战经验 · @jjacky▲ 83
个人技术博客居然全流程自动跑通了
从写内容到部署,连新功能截图都交给Claude自动生成添加,全流程都能用代码自动完成。
个人技术博客居然全流程自动跑通了
从写内容到部署,连新功能截图都交给Claude自动生成添加,全流程都能用代码自动完成。
实战经验 · @LangChain▲ 9.3K
大公司已经用自托管AI搭出自升级助手了
Coinbase工程主管公开分享这套方案的搭建过程,想搭建自用AI工作流可以直接看完整分享找参考
大公司已经用自托管AI搭出自升级助手了
Coinbase工程主管公开分享这套方案的搭建过程,想搭建自用AI工作流可以直接看完整分享找参考
在 Interrupt 大会上,@Coinbase 工程经理 Evan Kormos 上台分享了他们的开发者支持团队如何在自托管 LangSmith 之上搭建了一套自我改进的智能体系统。
完整演讲:
实战经验 · @reach_vb▲ 799
ChatGPT Work能在云端自动帮你跑任务?
可以从桌面或手机直接发起云端任务,调用已配置的插件跨现有工具工作,发起后能异步运行,做完再回来查看结果。
ChatGPT Work能在云端自动帮你跑任务?
可以从桌面或手机直接发起云端任务,调用已配置的插件跨现有工具工作,发起后能异步运行,做完再回来查看结果。
借助 ChatGPT Work,你可以直接从桌面端或移动端应用启动云端任务。
它能调用你配置好的插件,在你的代码仓库、文档、Slack 以及你已经在使用的其他工具之间协同工作。
我经常在手机上使用它:先交办一项任务,让它在云端异步运行,等工作完成后再回来查看结果。
新实战经验 · @geekbb▲ 1.5K
有人整理了逐行带读的大模型源码学习指南
想搞懂现代大模型完整技术流程,找不到从入门到进阶的清晰路径,这份资料把每部分对应到了具体源码文件和函数
有人整理了逐行带读的大模型源码学习指南
想搞懂现代大模型完整技术流程,找不到从入门到进阶的清晰路径,这份资料把每部分对应到了具体源码文件和函数
逐行精读 MiniMind 源码,帮助读者从具体实现真正搞懂现代大模型技术体系 主线 10 章讲清楚 Tokenizer、模型结构、预训练、SFT、DPO、PPO、GRPO 整个流程,每节标了对应源码文件和函数名,张量级细节收在折叠块里。 附录还有 17 篇进阶内容,量化、投机解码、RLHF 这些 MiniMind 没涉及的主题也补上了。
实战经验 · @OpenAIDevs▲ 2.4万
用Codex清积压项目,这里有女性开发者灵感
积压了没做的开发项目,可以用Codex动手做了。整理好的开发灵感来自Women who Code(x)社区。
用Codex清积压项目,这里有女性开发者灵感
积压了没做的开发项目,可以用Codex动手做了。整理好的开发灵感来自Women who Code(x)社区。
行业观点 · @rauchg▲ 5.0K
创业者rauchg提出AI带来的核心启示:万物皆代码
rauchg提出AI发展带来的启示,认为万事万物本质都是代码
创业者rauchg提出AI带来的核心启示:万物皆代码
rauchg提出AI发展带来的启示,认为万事万物本质都是代码
创业 · @levelsio▲ 4.8万
创业者看80多份创业项目申请:AI产出大多平庸缺乏突破
创业者浏览种子孵化项目申请,称当前AI产出多平庸缺突破性创新
创业者看80多份创业项目申请:AI产出大多平庸缺乏突破
创业者浏览种子孵化项目申请,称当前AI产出多平庸缺突破性创新
产品发布 · @Alibaba_Qwen▲ 10.2万
阿里通义千问Qwen3.8最新预览版本已正式上线
阿里千问Qwen3.8预览版持续迭代,最新版现已上线
阿里通义千问Qwen3.8最新预览版本已正式上线
阿里千问Qwen3.8预览版持续迭代,最新版现已上线
在预览阶段,Qwen3.8每日都在变得更强。最新版本现已上线,整体性能获得全面提升,在Web前端开发能力上更是迈进了一大步。
感谢所有人——大家对Qwen3.8-Max-Preview的反响让我们十分惊喜。🫶🫶
Qwen3.8目前仍在每日迭代更新。快来测试它,告诉我们哪些地方出了问题。
我们期待推出能力更强的正式版本,并且会为所有人开放权重。🚀🚀
开源 · @omarsar0▲ 1.1万
研究者 Omar Sharif 批驳针对开源AI的偏颇观点
Omar Sharif指出反开源AI的观点充满政治化私利,且认为否定开源的片面看法十分危险
研究者 Omar Sharif 批驳针对开源AI的偏颇观点
Omar Sharif指出反开源AI的观点充满政治化私利,且认为否定开源的片面看法十分危险
那些目前涌现的、带有强烈政治化色彩、服务于私利的反开源AI立场,完全无视了这一点。 Omar Sharif承认,商业环境在变化,不确定性确实会令人不安。但回顾开源技术的发展历史就能发现,开源对科学进步和全人类的益处非常清晰。
所有这类对开源的简化片面看法都极其危险。关于开源对社会的影响,确实有很多重要问题需要讨论。但要推进相关讨论,必须依托准确平衡的视角,结合真实事实、数据和有依据的提案展开。
AI芯片 · @ns123abc▲ 1.1K
消息称谷歌正开发专为AI推理设计的定制芯片Frozen v2
因算力缺口过大,谷歌云已开始推掉业务,该芯片最早可在2028年部署
消息称谷歌正开发专为AI推理设计的定制芯片Frozen v2
因算力缺口过大,谷歌云已开始推掉业务,该芯片最早可在2028年部署
爆料消息称,谷歌正在开发一款专门用于AI推理的定制芯片,起因是当前算力缺口问题严重,谷歌云已经因此推掉了部分业务。
这款新芯片产品线被命名为Frozen v2,源自Jeff Dean的一项设计方案,最初方案提出将Gemini大模型的权重直接蚀刻在硅片上,Frozen v2则改为将Gemini整体架构直接硬编码进芯片内部。
该芯片的每瓦推理 Token 处理能力,比谷歌最新的推理用张量处理单元(TPU)高出10倍,也就是同样功耗下能处理10倍的文本Token。
DeepMind认为Transformer架构已经不会再发生大的演进,这款芯片的设计逻辑就是将模型本身直接固化为硬件,最早可在2028年投入部署。
新AI工程 · @alex_verem▲ 1.2K
两名全栈开发者合并122个拉取请求,AI工程迎来变革
两名开发者完成百余个合并,见证AI工程领域快速转型
两名全栈开发者合并122个拉取请求,AI工程迎来变革
两名开发者完成百余个合并,见证AI工程领域快速转型
新品牌营销 · @fabianstelzer▲ 540
分析Anthropic「保持思考」品牌定位的巧妙设计
解析Anthropic如何将LLM批评转化为精妙品牌定位
分析Anthropic「保持思考」品牌定位的巧妙设计
解析Anthropic如何将LLM批评转化为精妙品牌定位
Anthropic的“keep thinking”绝对是有史以来最天才的品牌定位之一,它巧妙地植根于麦克卢汉的理论:每一项新技术都会同时延伸和麻痹一种人类官能 → 大语言模型对思考就是这么做的 → 因此“keep thinking”这个口号就顺势把这点转化成了正面价值。
他们把针对大语言模型最重大也最站得住脚的批评观点,转变成了一个积极的人文主义品牌主张,而这种做法本身恰恰就是麦克卢汉本人认可的思路。
麦克卢汉就指出过一条出路:“只要人们愿意去思考当下正在发生的事”,也就是“keep thinking”。
这一天的 62 条信号到这里
📬 订阅
https://ai-pulse-lab.com/feed.xml