AI大模型硬件架构

适合人群：
运维工程师借助 GPU 服务器与集群管理知识提升运维效率；
网络工程师利用网络设计等内容优化网络；
开发工程师通过 GPU 架构等底层知识，更好利用硬件资源，优化算法程序，提升软硬件适配性 。

你将会学到：
运维掌握 GPU 相关管理运维；网络熟悉相关体系设计及协议以优化网络；开发了解架构原理

课程简介：
人群专属课程：运维工程师、网络工程师、开发工程师

1 AI大模型硬件架构-课程介绍.mp4
2 AMD晓龙处理器ROME7742架构.mp4
3 DGXA100-IB网与以太网方案.mp4
4 DGXA100-三种GPU连接方式.mp4
5 DGXA100-以太网连接方案.mp4
6 GPU Direct P2P-Peer-to-Peer.mp4
7 GPU板卡级算力调度技术-总结.mp4
8 GPU板卡级算力调度技术.mp4.mp4
9 GPU初登场-英伟达H100基本架构与CPU通信方式.mp4
10 GPU多组用户实现-从Ampere到Hopper.mp4
11 GPU服务器设计与实现总结.mp4
12 GPU集群的网络设计与实现-三张网与两套方案.mp4
13 GPU集群的网络设计与实现-总结.mp4
14 GPU集群的专线与互联网访问.mp4
15 GPU内部架构以及运作原理总结.mp4
16 GPU与用户内存通信.mp4
17 K8s容器独占模式.mp4
18 KVMPCI-e直通模式.mp4
19 KVM直通模式-租户独占GPU全过程.mp4
20 NVLink-Switch多个A100如何连接.mp4
21 PCIE-Switch在DGX中的应用.mp4
22 RDMA实现方式-4种协议.mp4
23 SM流式多处理器内部架构-从指令缓存到运算单元.mp4
24 传统AI服务器-Apollo6500架构解析.mp4
25 分布式训练IO体系-MagnumIO概要和组成.mp4
26 分布式训练IO体系-总结.mp4
27 管理GPU集群-BMC与IPMI的实现.mp4
28 跨服务器的GPU互通-GPU Direct RDMA.mp4
29 英伟达DGX服务器架构设计与分析.mp4
30 英伟达H100-GPU核心详解-计算控制与缓存.mp4
31 英伟达H100缓存机制梳理-指令缓存与数据缓存.mp4
32 英伟达H100提升计算效率-TMA原理解析.mp4
02-大模型硬件架构.pptx