尤洋教授出席第8届智源大会大模型产业论坛，发表主题演讲

2026年6月12日，第8届智源大会在北京中关村国际创新中心正式开幕。本届大会汇聚200余位顶尖专家学者与40余位AI企业CEO及联合创始人，聚焦Agent、世界模型、具身智能、AI自进化与AI安全等前沿议题。

潞晨科技创始人兼董事长、新加坡国立大学校长青年教授尤洋受邀出席大模型产业论坛，发表题为《面向未来芯片/集群的算法-系统协同优化》的主题演讲。

潞晨科技创始人尤洋在演讲中指出，无论哪家厂商、哪种架构，大模型训练都绕不开三个核心问题。

未来三年，AI芯片有三个根本挑战：

挑战一：通信

单芯片算力有限，只能靠大集群堆叠。但这里有个反直觉的代价——芯片越多，通信开销越大，计算/通信比随集群规模不断下降。超大规模训练的瓶颈，已经从"算得多快"转移到"同步多少次"。

挑战二：内存

训练大模型，更早撞上的往往不是算力不够，而是显存墙。优化器状态是最容易被低估的显存消耗——传统AdamW仅优化器状态就需要额外约2倍参数量的显存。过去一年，全球HBM与DRAM供给全面紧张，头部厂商2026年产能已被提前订满，显存正在成为比算力更稀缺的资源。

挑战三：持续Scaling

前两个挑战解决的是"算力能否被高效喂进去"，而第三个问题更根本：如果模型与训练方式不变，再多FLOPs也无处可用。必须持续scaling，才能把不断增长的算力真正转化为智能。

潞晨的技术，正好对应这三个方向

潞晨科技的技术路线恰好是针对这三个挑战逐一展开的：

LAMB / LARS → 通信

核心思想是支持超大Batch Size训练，让每个epoch的同步次数大幅减少。实测效果：通信次数下降约10倍；LAMB已将BERT预训练从3天压缩到76分钟。目前LAMB/LARS已成为大批量训练的基础算法，被Anthropic、Google、英伟达Apex、微软DeepSpeed、Meta等机构的大规模训练系统广泛采用。

CAME → 内存

针对AdamW优化器状态显存开销过大的问题，CAME基于Adafactor改进，引入置信度引导机制，在显著降低显存占用的同时，保持甚至超过AdamW的收敛速度与稳定性。该工作已获ACL 2023 Outstanding Paper Award。

Scaling路线判断 + 训练系统 → 持续Scaling

Scaling的演进可以理解为三个阶段：扩展参数量→扩展序列长度→扩展样本数。文本数据正在接近数据墙，多模态成为主要增量——但多模态scaling比的不是token总量，而是"有效逻辑信息密度×样本规模"。

AI系统的竞争从来不只是芯片本身，而是芯片+系统+编译器+优化器+训练框架的整体协同。潞晨做的事情，是不被动接受硬件约束，主动用算法创新重塑系统的能力边界——这是一种"软件补硬件"的协同优化实践。