课程概览
大模型能力技术培训,介绍LLM能力、技术和发展趋势。
🗓 时间03-28 周六 09:00
📍 地点线上
单节价 = 总价 ÷ 课时;每小时价 = 总价 ÷ 总时长。帮你把"贵不贵"算清楚。
避坑提示 报名前先看这些
- ⚠ 价格 未公开,报名前务必确认
- ? 课时 未说明,无法折算单节价
- ✓ 退款 退款规则已公开
- ⚠ 老师 老师信息待核验
- ✓ 大纲 课程内容已公开
- ⚠ 工具费用 是否额外收取工具/账号费用未说明
- ? 学员评价 暂无足够已验证学员评价,口碑待积累
活动已结束
课程内容
- 语言模型发展历程
- LLM的影响
- LLM的关键特性
- LLM的技术细节
- LLM的应用开发
- LLM的评估
课程详情
今天分享一份《大模型能力技术培训》,介绍了大语言模型(LLM)的能力、技术和发展趋势。1. 语言模型发展历程:从早期的统计学方法到深度学习时代的Transformer架构,LLM经历了巨大的发展,参数规模从几十亿到几千亿不等。国内外涌现了众多LLM,如GPT系列、PaLM、ChatGLM等,它们在自然语言处理、信息检索、计算机视觉等领域展现出强大的能力。对技术领域:推动自然语言处理、信息检索、计算机视觉等领域的发展,并催生新的AI范式,如AI Agent和AGI。对商业领域:赋能AI Agent,如数字人、智能助理等,并引发对未来人工智能发展的思考和规划。 涌现能力:能够通过少量样本处理新任务,实现上下文学习、指令遵循和逐步推理。多元应用支持:可作为基座模型,应用于文本生成、翻译、信息检索等多种场景。对话作为统一入口:以对话形态完成各种任务,实现“Conversation as a Platform”的理念。训练过程:包括预训练、指令微调、奖励建模和强化学习等阶段。 分布式训练:使用GPU集群进行并行训练,并采用数据并行、模型并行和混合并行等策略。 模型微调:使用提示学习、LoRA等方法,实现参数高效微调,并解决长文本建模等挑战。 强化学习:通过奖励模型和人类反馈,提升模型输出质量和可靠性,并解决幻觉问题。LangChain框架:提供接口和工具,简化LLM应用开发,实现数据感知和环境交互。 智能代理:利用LLM构建具有思考、记忆和工具调用能力的智能体,实现自动化决策和行动。 知识和能力评估:包括任务核心评估和以人为核心评估,如MMLU、C-EVAL等基准测试。 伦理与安全评估:针对典型安全场景和指令攻击进行评估,如红队测试方法。推理能力评估:包括知识推理、符号推理和数学推理等,使用CSQA、SVAMP、MATH等数据集进行评估。