AI Pulse
📡 X 信号

光子AI芯片公司拿到了8800万美元A轮融资

光子AI芯片公司拿到了8800万美元A轮融资

Volantis Semiconductor完成了8800万美元A轮融资,总融资额达到9700万美元,这笔资金将用于通过光子技术解决AI的内存瓶颈问题。

投资方包括:OpenAI的Sam Altman、SemiAnalysis的Dylan Patel、Jeff Dean、John Doerr等人。

该公司正在构建一种光学“结构”,旨在将AI处理器连接到更大的内存池,同时大幅提升带宽。

Volantis表示,其架构可以将内存容量和带宽都提升10倍以上,目标是为参数量超过10万亿的模型提供推理服务,能达到单用户每秒最高10000 token的速度。

该公司试图解决的核心问题是“内存墙”。Volantis认为,当前的架构被迫做取舍:片上SRAM能提供极高带宽但容量有限,而基于HBM的GPU和TPU能提供大得多的内存,但随着模型规模扩大最终会遭遇带宽限制。

它的方案是用光信号替代大部分电信号数据传输,使用定制集成微VCSEL激光器,省去传统光纤,从而在AI系统内部短距离传输更多数据。

该公司表示,其数据传输距离已经超过芯片封装内同类细电线10倍以上,下一代设计已经流片完成。

短期应用场景是大幅提升推理速度。Volantis称,目前大约需要30分钟的编码智能体任务,该技术有可能在大约30秒内完成,同时还能通过更高吞吐量和更便宜的共享内存降低单token成本。

如果该技术按计划规模化,更大的愿景是支持更大的上下文窗口、容纳完整代码仓库进入上下文,以及解放那些目前受限于内存移动而非原始算力的AI系统。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新