正版资源 getfromcodeAI 会员免费
51CTO
51CTO 深度学习模型优化与推理实战 编辑点评 系统讲解LLM推理优化、性能指标评估、模型压缩与加速，实战性强。 ⭐ 编辑推荐 全面解析深度学习模型优化策略，从基础到实战，助你掌握LLM性能调优。 ✨ 课程亮点 ✦ LLM推理优化 ✦ 性能指标评估 ✦ 模型压缩与加速 课程目录 课程目录 60 集
单课价¥29.90新品 上架
正版保障 极速发货 售后无忧
51CTO
深度学习模型优化与推理实战
编辑点评
系统讲解LLM推理优化、性能指标评估、模型压缩与加速，实战性强。
⭐ 编辑推荐
全面解析深度学习模型优化策略，从基础到实战，助你掌握LLM性能调优。
✨ 课程亮点
✦LLM推理优化
✦性能指标评估
✦模型压缩与加速
课程目录
课程目录60 集
- replyreload += ',' + 2079115;1-1 课程内容介绍.mp4
- 1-2 LLM推理基础-预填充与解码阶段.mp4
- 1-3 LLM推理基础-推理阶段与KVCache的关系.mp4
- 1-4 LLM推理基础-生成KVCache过程推演.mp4
- 1-5 LLM推理基础-为何需要对KVCache优化.mp4
- 1-6 LLM推理基础-如何估算模型占用内存.mp4
- 1-7 LLM推理基础-GPU内部运算原理与推理机制的关系.mp4
- 1-9 LLM推理基础-优化思路-参数量化-运行时加速-IO优化.mp4
- 1-10 LLM推理基础-章节总结.mp4
- 1-11 LLM性能指标-内容介绍.mp4
- 1-12 LLM性能指标-推理评估指标全景图.mp4
- 1-13 LLM性能指标-首词生成时间.mp4
- 1-14 LLM性能指标-每词生成时间.mp4
- 1-15 LLM性能指标-端到端的请求时间.mp4
- 1-16 LLM性能指标-系统吞吐量TPS.mp4
- 1-17 LLM性能指标-业务指标SLO.mp4
- 1-18 LLM性能指标-评测过程与评测工具.mp4
- 1-19 LLM性能指标-章节总结.mp4
- 1-20 模型压缩-内容介绍.mp4
- 1-21 模型压缩-压缩策略-量化-剪枝-蒸馏.mp4
- 1-22 模型压缩-模型量化-参数存储空间的组成.mp4
- 1-23 模型压缩-模型量化前后使用的方法AWQ与GPTQ.mp4
- 1-24 模型压缩-AWQ针对PPL的实验结果.mp4
- 1-25 模型压缩-AWQ量化过程与实现-.mp4
- 1-26 模型压缩-GPTQ量化过程以及优化IO策略.mp4
- 1-27 模型压缩-GPTQ量化工具与实践.mp4
- 1-28 模型压缩-剪枝分类和过程详解.mp4
- 1-29 模型压缩-模型蒸馏分类和应用场景.mp4
- 1-30 模型压缩-章节总结.mp4
- 1-31 运行时加速方案-内容介绍.mp4
- 1-32 运行时加速方案-多头注意力机制原理与弊端.mp4
- 1-33 运行时加速方案-多头注意力计算过程与分析.mp4
- 1-34 运行时加速方案-MQA与GQA机制以及性能比较.mp4
- 1-35 运行时加速方案-GPU运算与数据传输分析.mp4
- 1-36 运行时加速方案-FlashAttention切块和算子.mp4
- 1-37 运行时加速方案-PagedAttention原理解析.mp4
- 1-38 运行时加速方案-持续批处理原理解析.mp4
- 1-39 运行时加速方案-核心推理框架选型.mp4
- 1-40 运行时加速方案-章节总结.mp4
- 1-41 推理部署实战指导与总结.mp4
- 2-3 显卡驱动安装与配置.mp4
- 2-4 Docker进行vLLM模型安装与部署.mp4
- 2-5 测试vLLM部署的大模型 .mp4
- 2-6 vLLM分布式部署思路.mp4
- 2-7 系统构建网络配置和框架安装.mp4
- 2-8 Head和Worker节点配置创建推理集群.mp4
- 2-9 测试vLLM分布式部署.mp4
- 3-1 量化实战-量化目的与结果介绍.mp4
- 3-2 量化实战-思路与实战步骤讲解.mp4
- 3-3 量化实战-了解硬件架构量化工具.mp4
- 3-4 量化实战-安装WSL与Conda.mp4
- 3-5 TensorRT模型优化器安装与配置 .mp4
- 3-7 模型量化脚本解析与校准数据集.mp4
- 3-8 模型量化以及结果查看.mp4
- 3-9 测试量化之后模型查看返回结果.mp4
- 3-10 介绍EvalScope与Perf命令组成.mp4
- 3-11 使用EvalScope评测量化模型.mp4
- 3-12 介绍LLMCompressor量化工具.mp4
- 3-13 安装LLMCompressor .mp4
- 3-15 针对两种量化工具比较四种量化结果.mp4
适合人群
- 深度学习工程师
- AI研发人员
🎯 学习收获
- 掌握LLM推理优化技巧
- 了解性能指标评估方法
- 学习模型压缩与加速技术
🎉 祝您学习愉快！
