大模型AI集群如何组成？AI集群需要哪些硬件？

  Рет қаралды 1,228

ZOMI酱

ZOMI酱

Күн бұрын

Пікірлер: 2
@syuu-ji4nf
@syuu-ji4nf 2 ай бұрын
谢谢您制作如此精美的视频
@ZOMI666
@ZOMI666 Жыл бұрын
所有材料都开源在：github.com/chenzomi12/DeepLearningSystem， 欢迎一起贡献！
大模型在AI集群分布式架构：参数服务器 or 集合通信架构？ #大模型 #AI系统
11:48
大模型在AI集群分布式架构：参数服务器 or 集合通信架构？ #大模型 #AI系统
ZOMI酱
Рет қаралды 661
【人工智能】如何搭建10万个H100的GPU集群 | 40亿美元成本| 电力150兆瓦 | 并行化挑战 | 网络拓扑结构 | 可靠性与恢复 | 成本优化
17:01
【人工智能】如何搭建10万个H100的GPU集群 | 40亿美元成本| 电力150兆瓦 | 并行化挑战 | 网络拓扑结构 | 可靠性与恢复 | 成本优化
最佳拍档
Рет қаралды 17 М.
Incredibox Sprunki Phase 1 vs Phase 2 - Which team will win? #sprunki #animation #trend
00:39
Incredibox Sprunki Phase 1 vs Phase 2 - Which team will win? #sprunki #animation #trend
Slime Cat
Рет қаралды 35 МЛН
Помоги Тревожности Головоломка 2 Найти Двойника Шин Тейпс Кетнепа
00:32
Помоги Тревожности Головоломка 2 Найти Двойника Шин Тейпс Кетнепа
Ной Анимация
Рет қаралды 4,4 МЛН
Чистка воды совком от денег
00:32
Чистка воды совком от денег
FD Vasya
Рет қаралды 5 МЛН
Smart Parenting Gadget for a Mess-Free Mealtime 🍽️👍 #parenting #gadgets #asmr
00:33
Smart Parenting Gadget for a Mess-Free Mealtime 🍽️👍 #parenting #gadgets #asmr
Coo-Cool Reacts!
Рет қаралды 15 МЛН
【AI】什么是InfiniBand | 发展历程 | 工作原理 | AI的计算网络底座 | 训练GPT的网络 | Mellanox | Nvidia | RDMA | RoCE
14:43
【AI】什么是InfiniBand | 发展历程 | 工作原理 | AI的计算网络底座 | 训练GPT的网络 | Mellanox | Nvidia | RDMA | RoCE
最佳拍档
Рет қаралды 14 М.
为什么C口数据线越来越乱？
14:26
为什么C口数据线越来越乱？
林亦LYi
Рет қаралды 241 М.
【硬件科普】显卡挖矿为何如此疯狂？你也试试不就知道了
18:34
【硬件科普】显卡挖矿为何如此疯狂？你也试试不就知道了
硬件茶谈
Рет қаралды 90 М.
AI集群超级互联Google TPUv4 光交换机 #AI芯片 #TPU系列 #AI集群
16:45
AI集群超级互联Google TPUv4 光交换机 #AI芯片 #TPU系列 #AI集群
ZOMI酱
Рет қаралды 1 М.
【人工智能】中国的算力产业究竟该如何发展 | 五个问题 | 资源分散 | 公有云发展乏力 | 大模型红利 | 国产替代 | 产业政策
20:27
【人工智能】中国的算力产业究竟该如何发展 | 五个问题 | 资源分散 | 公有云发展乏力 | 大模型红利 | 国产替代 | 产业政策
最佳拍档
Рет қаралды 13 М.
黄仁勋：“别再学编程，如果一切重来，我会学习。。。” 聊聊 AI 阴影下的程序员生存技能 | 回到Axton
14:58
黄仁勋：“别再学编程，如果一切重来，我会学习。。。” 聊聊 AI 阴影下的程序员生存技能 | 回到Axton
回到Axton
Рет қаралды 330 М.
为什么AI训练使用GPU而不是CPU？【AI芯片】GPU原理02
17:34
为什么AI训练使用GPU而不是CPU？【AI芯片】GPU原理02
ZOMI酱
Рет қаралды 9 М.
如何实现集群的通信？硬件PCIE、NVLINK、RDMA原理！通信NCCL、MPI原理！【大模型与分布式训练】系列第五篇！
12:12
如何实现集群的通信？硬件PCIE、NVLINK、RDMA原理！通信NCCL、MPI原理！【大模型与分布式训练】系列第五篇！
ZOMI酱
Рет қаралды 6 М.
趣话Redis第四弹：Redis集群是如何工作的？
4:41
趣话Redis第四弹：Redis集群是如何工作的？
轩辕的编程宇宙
Рет қаралды 8 М.
OpenAI o1大模型炸了，数学逻辑推导能力堪比博士！#OpenAI
29:00
OpenAI o1大模型炸了，数学逻辑推导能力堪比博士！#OpenAI
ZOMI酱
Рет қаралды 1 М.
Incredibox Sprunki Phase 1 vs Phase 2 - Which team will win? #sprunki #animation #trend
00:39
Incredibox Sprunki Phase 1 vs Phase 2 - Which team will win? #sprunki #animation #trend
Slime Cat
Рет қаралды 35 МЛН