2023年最强大的深度学习多机集群配置推荐

UltraLAB 2023年6月7日浏览：1096

2023年随着ChatGPT的大热，人工智能研究再次火热，如果A100被限制，A800被阉割，还不断涨价，搞研究，完全可以考虑RTX4090，更多的GPU组成集群，性价比超高

2023年最强大的深度学习多机集群配置推荐的图1

相关机型：

（1）GPU计算服务器（计算节点）

机型：UltraLAB GX650M（2021年上市的最新机型）

技术特点：采用intel第3代Xeon可扩展处理器、配备nvidia RTX 40系列GPU计算卡，网口配备56G IB网口，硬盘采用SSD，保证硬件配置计算更强、io带宽更高、整机性能全方位优化，保证多用户多任务神经元完美计算能力。

（2）存储服务器（存储节点）

相关机型：UltraLAB N630A（8盘位）、N630B（16盘位）

技术特点：

CPU 采用intel Xeon第2代可扩展处理器

高速缓存盘：配备M2.SSD确保数据处理的高速读写(读写3G/s以上)及超低io延迟、

配备并行存储：数据备份安全可靠、最大容量到112TB（8盘位）/240TB（16盘位）

网口:配备双56G光口，

另外，整机性能全方位优化支持远程操作、远程管理，系统管理员和使用者直接在办公室甚至异地进行操作。

方案1 CX650深度学习集群配置推荐

计算节点3个

GPU卡：18块RTX4090（相当于36块RTX3090Ti）

集群FP32单精度浮点算力：1486Tflops

配置方案

NO	货物名称	型号	数量
1	GPU计算服务器GT420	*2Xeon银4314（32核2.8Ghz ）/256GB DDR4 /6块RTX4090 24GB** /960GB SSD /4U机架式/56G IB光口/无显示器	3
2	存储服务器N650C	2颗Xeon 4310（24核2.3Ghz ）/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显	1
3	交换机	36个56G IB	1
4	服务器机柜	42U，含PDU、托盘	1
5	KVM	16口 HDMI KVM切换器	1
6	集群系统	CentOS/Ubuntu、作业调度管理	1
7	深度学习框架	Tensorflow、Pytorch…	1

合计	¥771,300元

方案2 CX650深度学习集群配置推荐

计算节点4个

GPU卡：24块RTX4090（相当于48块RTX3090Ti）

集群单精度fP32浮点算力：1982Tflops

配置方案：

NO	货物名称	型号	数量
1	GPU计算服务器GT420	*2Xeon银4314（32核2.8Ghz ）/256GB DDR4 /6块RTX4090 24GB** /960GB SSD /4U机架式/56G IB光口/无显示器	4
2	存储服务器N650C	2颗Xeon 4310（24核2.3Ghz ）/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显	1
3	交换机	36个56G IB	1
4	服务器机柜	42U，含PDU、托盘	2
5	KVM	16口 HDMI KVM切换器	1
6	集群系统	CentOS/Ubuntu、作业调度管理	1
7	深度学习框架	Tensorflow、Pytorch…	1

合计	¥965,800元