活动概览
共探AIGC推理进化与商业破局
- 推理优化与算力池化
- AI原生企业转型
- 系统能力决定AI内容生产
- 算力成本焦虑
- 软件定义算力
活动信息依据公开来源整理,以主办方最新公告为准。如时间、地点、票价有变动,平台会更新并保留变更记录。报名前请通过原始来源核对。
活动详情
大模型的能力边界仍在拓展,企业的AI应用正从“能不能做”步入“能不能用好”的关键转折期。当单点POC阶段结束,降本增效的经济账正成为每一家AIGC企业的现实课题。从API调用到自建算力,从单模型依赖到多模型路由,从碎片化工具到系统化流程,这场关于“高算效、低成本”的探索不仅是技术命题,更是对企业战略、组织协同与商业模式的系统性重构。
第39期人机沙龙围绕“高算效,低成本:AIGC推理进化与商业破局”主题,从AI基础设施优化、企业级智能体落地、AIGC内容工业化生产、智慧法务应用及成本管控策略等维度,系统梳理了当前AI产业化面临的真实成本挑战与可行的破局路径。以下现场实录,摘编自本期深圳人机沙龙,为AI创业者、企业技术决策者及数字化转型从业者提供从算力到应用的全链路降本参考框架。
本期沙龙由深圳市人工智能产业办公室、深圳市龙岗区人工智能(机器人)署、深圳市南山区人工智能产业办公室、深圳市人工智能与机器人研究院、深圳市人工智能产业协会、深圳市人工智能行业协会、深圳市人工智能学会、深圳市机器人协会、深圳市机械行业协会、全球首家机器人6S店、全球首家人工智能6S店、深圳市清华大学校友会计算机分会、深圳市清华大学校友会电子信息分会、哈尔滨工业大学校友会、深圳市电子科技大学校友会等单位主办。
活动特别邀请南宁市腾云智算科技有限公司云产品总监张香华、深圳标普智元科技有限公司AI解决方案专家李萌、深圳市智法数科信息科技有限公司COO雷震、深圳三二数字内容有限公司创始人郭伟亮、北京趋动科技有限公司南区总经理许旋、深圳得理科技有限公司副总裁周剑平等80余位嘉宾及观众参加。
围绕本期主题
与会嘉宾分享了以下核心观点
↓↓↓
AI正从训练主导转入推理主导的“下半场”,推理需求呈指数级增长,企业的算力成本焦虑随之加剧。量化与算子优化成为推理降本的关键路径——训推一体化流水线通过QAT/PTQ量化、NVFP4低精度压缩、投机推理(如Eagle-3)及Attention算子优化(如FlashAttention)等手段提升吞吐量。某情感陪护AI公司量化后单卡并发能力翻倍,某数字营销公司视频生成效率提升60%、成本降低8至10倍。
“软件定义算力”则致力于将固定算力转化为按需流动的资源池。动态调用释放、跨节点聚合、显存复用及模型热切换等能力,使资源利用率提升3至8倍,大幅减少硬件采购支出。相关企业正参与GPU池化及智算中心建设等多项行业标准制定。
AI变革速度远超互联网,技术迭代已从年缩短至月甚至周级别。部分企业提出的AGI路线图中,关键跃迁在于L4层级AI-centric重构工作流、L5层级AI驱动经营管理,前提是企业必须优先构建数据与知识本体库。
企业智能化落地的另一障碍是ERP、CRM、OA等系统间数据割裂。统一的企业级上下文平台通过整合权威数据源形成知识记忆层与工作记忆层。对于合同审查、报销审批等稳定流程,预设Workflow的稳定性远优于概率性Skill+Loop结构。“LAURENCE”数字员工平台配套六步转型法:识别语义劳动—梳理系统上下文—搭建平台—试点数字员工—沉淀Workflow—规模化复制。
AI电影的核心壁垒不是生成能力,而是生产系统。全AI生成院线电影送审的成功,关键在于构建了包含项目拆解、资产管理、模型路由、版本控制、导演审核、后期整合的封闭式生产系统,集成70个运行中的智能体替代重复性流程劳动。
当前“算力贵”的普遍感知,本质是流程失控导致的无效消耗——算力被大量浪费在重复生成、无效试错与缺乏管理的调用中。多模型可替换架构根据镜头需求灵活选择最优模型,避免过度依赖高价闭源模型;自有数字资产库解决了AI无记忆导致的一致性问题,避免同一角色在不同镜头中出现偏差而反复重制。在关键环节如剪辑与特效合成上,由人工主导把关,以人机结合的模式兼顾创意质量与生成效率。
法律领域对AI“幻觉”零容忍,必须基于真实法条与判例输出。当前,法律垂直大模型的训练已具备海量数据支撑,如依托1.6亿份裁判文书与300万+法律法规库构建底层知识体系。在应用端,相关AI技术正逐步深度融入法律实务,应用场景已涵盖合同智能生成与审查、文书起草、AI检索、证据分析、知识库构建、合规风控及案件管理等环节。服务模式上,SaaS服务、API接口开放、私有化部署三种方式并行。API可嵌入主流Agent平台为律师或企业法务提供法规支持;私有化部署保障敏感合同与案卷数据不出内网,满足大型企业与政府机构的合规要求。
AI使用管理正在从粗放走向精细。AI安全网关过滤敏感信息外泄风险并记录所有请求用于审计与成本分析;token使用量纳入绩效考核指标;总开关管控限制非必要对话触发,配合每周研究机制引导理性测试。降本策略已形成共识:按任务步骤选用合适价位模型,打通系统减少冗余上下文,用Workflow替代不可控的Skill Loop;部分企业转向托管模式,租用专属虚拟主机访问模型,将推理成本从不可控变量转化为可预期的月度支出。
第40期人机沙龙将于7月12日14:30在智慧广场D栋二楼咖啡厅举办,届时将围绕“数智远航·全域互通——AI时代的出海新机遇”的主题进行深入探讨。
还记得人机沙龙(AI・R)
往期的前沿技术分享与精彩案例吗?
点击下方链接回顾
来源:深圳市龙岗区人工智能(机器人)署