2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐

基于GPU计算应用越来越火爆,ChatGPT、蛋白质折叠、电磁仿真、分子动力模拟等等,一个好的算法,改变了应用,CPU、GPU也在不断的升级换代,计算架构也在提升,

本期的硬件配置特点:

1)新架构: a1. 新增RTX6000Ada-最大9块,性能超过8块A100 80GB,

 a2. intel 4代Xeon超频处理器+最大6块GPU

2)新机型: 科研型(GA320i) 、高性能-GX650M(9块RTX6000 Ada卡)、极致超频GT430M(6块卡)

3)热门应用: ChatGPT、人工智能、仿真计算、蛋白质折叠、冷冻电镜、图像处理等

4)AI开发框架:支持PyTorch、TensorFlow、Keras,Caffe、Theano、MXNet、MatLAB

5)系统 :独有的Windows、Linux、虚拟系统、集群系统,科研应用和使用率大幅提升

6)环境 :A1)静音级办公环境, A2)多机GPU集群

7)性能承诺:最快硬件架构-->任何品牌同一配置,同一性能,直接退货

目录

1 高性价比--深度学习科研超频工作站配置方案

2 深度学习高性能工作站配置方案

3 地球最强大--深度学习超算工作站配置方案

4 市场唯一配备A100高速AI便携工作站配置方案

5 具备超频能力--深度学习超算服务器配置方案

6 支持A100+水冷---人工智能超级工作站配置方案

7 2022年最强大的深度学习多机集群配置方案

(一)深度学习科研超值型硬件配置方案

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的图1

计算架构:intel第13代超频处理器(8核5.8GHz)+RTX4090/RTX6000Ada+DDR5 5600

计算特点:RTX6000Ada,性能超RTX4090/超A100,超2块RTX3090Ti

报价日期:2023年04月21日

No

产品型号

主要配置

显存

CUDA-FP32性能指标

价格

1.1

UltraLAB GA320i 14932-MAX

intel第13代超频处理器(14核,其中6核4.9Ghz/8核3.8GHz)/32GB DDR5/ RTX4080 /1TB PCIe SSD /6TB SATA/微塔式(2000w) /24"2K图显

16GB

48.5T

¥35,000

1.2

UltraLAB GA320i 15064-MAT

intel第13代超频处理器(14核,其中6核5.0Ghz/8核3.8GHz)/64GB DDR5/ RTX4090 /1TB PCIe SSD /8TB SATA/微塔式(2000w) /24"2K图显

24GB

82.58T

¥46,500

1.3

UltraLAB GA320i 157128-PCT

intel第13代超频处理器(24核,其中8核5.7Ghz/16核4.0GHz)/128GB DDR5/ RTX4090 /3.84TB PCIe SSD/16TB SATA/微塔式(2000w) /24"2K图显

24GB

82.58T

¥57,000

1.4

UltraLAB GA320i 153128-MBF

intel第13代超频处理器(14核,其中8核5.3Ghz /8核4.0GHz)/128GB DDR5/RTX6000Ada 48GB /3.84TB PCIe SSD/16TB SATA/微塔式(2000w) /24"2K图显

48GB

91T

¥99,990

1.5

UltraLAB GA320i 157128-PC2F

intel第13代超频处理器(24核,其中8核5.7Ghz /16核4.2GHz)/128GB DDR5/2*RTX6000Ada 48G /7.68TB NVME/18TB SATA/微塔式(2000w) /24"2K图显

96GB

182T

¥175,000

(二)深度学习高性能工作站硬件配置方案

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的图2

---超DGX Station A100、最大6块GPU+静音

架构1(AMD):AMD霄龙7003(768MB缓存)+6块RTX4090(全速)

架构2(Intel):Xeon W-34xxX/24xxX3代(最大40核)+4块RTX 4090(全速)

报价日期:2023年4月21日

No

产品型号

主要配置

显存

CUDA-FP32性能指标

价格

2.1

UltraLAB GA320P 15364-MB2X

intel第13代超频处理器(16核,其中8核5.3GHz,8核4.0Ghz)/64GB DDR5/2*RTX4080 /2TB M2NVME +8TB SATA/双塔式(2000w) /27"-4K图显

48GB

97T

¥68,500

2.2

UltraLAB GA320P 153128-PC3T

intel第13代超频处理器(24核,其中8核5.7GHz ,16核4.0Ghz)/128GB DDR5 /3*RTX4090 /3.84TB NVME +16TB SATA/双塔式(2000w) /27"-4K图显

72GB

248T

¥113,500

2.3

UltraLAB GT420M 128128-MB4T

Xeon银牌4316处理器(20核2.8Ghz)/128GB DDR4 /4*RTX4090/3.84TB NVME/16TB SATA /双塔式(2000w)/27"-4K图显

96GB

330T

¥132,000

2.4

UltraLAB GR420M 125192-PD6X

AMD霄龙7773x(64核2.5Ghz)/192GB DDR4 /6*RTX4080 /7.68TB NVME /2*18TB SATA /双塔式(双2000w)/27"-4K图显

96GB

291T

¥165,000

2.5

UltraLAB GR420M 125256-PD6T

AMD霄龙7773x(64核2.5Ghz)/256GB DDR4 /6*RTX4090 /7.68TB NVME /2*18TB SATA /双塔式(双2000w)/27"-4K图显

144GB

495T

¥210,000

2.6

UltraLAB GT420M 128256-PC4E

Xeon银牌4314处理器(16核2.8Ghz) /256GB DDR4/4*A6000 48GB/ 960GB SSD /3.84TB NVME /18TB SATA /双塔式(双2000w)/27"-4K图显

192G

160T

¥205,000

2.7

UltraLAB GT420M 130384-80T4E

Xeon铂金8358(32核3.0GHz)/384GB DDR4/4* A6000Ada 48GB/1.9TB SSD /7.68TB NVME /80TB并行存储/双塔式(双2000w)/27"-4K图显

192G

364T

¥398,000

2.8

UltraLAB GR420M 128512-PE6E

AMD霄龙7773x(64核2.5Ghz)/512GB DDR4/6* A6000Ada 48GB/1.9TB SSD /15.36TB NVME /80TB并行存储/双塔式(双2000w)/27"-4K图显

288G

546T

¥535,000

 (三) 地球最强GPU超算平台--人工智能工作站配置推荐

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的图3

 ---市场唯一支持9块RTX6000Ada(820Tflops)+静音级 性能超8块A100 80GB(616Tflops)

计算架构:CPU最大80核,8/10块全速PCIe 4.0 16X,双/三槽GPU卡通吃,最大300T高速存储

报价日期:2023年4月21日

No

产品型号

主要配置

显存

CUDA-FP32性能指标

价格

3.1

UltraLAB GX650M 228128-PC4X

2*Xeon银4314(32核2.8GHz/128GB DDR4 /4*RTX4080 /3.84TB NVME/2*18TB SATA/双塔式(2000w) /27"-4K图显

64GB

194T

¥119,000

3.2

UltraLAB GX650M 228192-PC4T

2*Xeon银4314(32核2.8GHz) /192GB DDR4 /4*RTX4090 /3.84TB NVMED/2*18TB SATA/双塔式(双2000w) /27"-4K图显

96GB

330T

¥149,990

3.3

UltraLAB GX650M 228256-PC6X

2*Xeon银4316(40核2.8GHz) /256GB DDR4 /6*RTX4080/960GB SSD/3.84TB NVME/4*16TB SATA/双塔式(双2000w) /27"-4K图显

144GB

213T

¥165,000

3.4

UltraLAB GX650M 233256-PC6T      

2*Xeon金牌6326(32核3.3GHz) /256GB DDR4 /6*RTX4090/960GB SSD/3.84TB NVME/4*18TB SATA/双塔式(双2000w) /27"-4K图显

96GB

330T

¥217,000

3.5

UltraLAB GX650M 231384-PD6T      

2*Xeon铂金8358(64核3.1GHz)/384GB DDR4 /6*RTX4090/960GB SSD /7.68TB NVME /112TB并行存储/双塔式(双2000w) /27"-4K图显

96GB

330T

¥268,000

3.6

UltraLAB GX650M 231384-PD4F      

2*Xeon金牌6348(563.1GHz)/384GB DDR4 /4*RTX6000 Ada 48G/960GB SSD /7.68TB NVME/80TB并行存储/双塔式(双2000w)/27"-4K图显

192G

364T

¥415,000

3.7

UltraLAB GX650M 230512-PD6F

2*Xeon金牌6348(563.1GHz)/512GB DDR4 /6*RTX6000 Ada 48G/960GB SSD /7.68TB NVME/80TB并行存储/双塔式(双2000w)/27"-4K图显

288G

546T

¥565,000

3.8

UltraLAB GX650M 231768-PE8F

2*Xeon铂金8358(64核3.1GHz)/768GB DDR4 /8*RTX6000 Ada 48G/1.92TB SSD/15.36TB NVMED /112TB并行存储/双塔式(双2000w) /32"-4K图显

384G

728T

¥735,000

3.9

UltraLAB GX650M -T1

2*Xeon铂金8380(80核3.3GHz)/1TB DDR4 /9*A6000 Ada 48G/3.84TB NVME/15.36TB NVME /126TB 并行存储/双塔式(双2000w) /32"-4K图显

432G

820T

¥870,000

(四)支持A100+水冷---人工智能推理超级工作站硬件配置推荐

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的图4

---逻辑推理超算平台,支持8块A100+水冷静音级

完美计算架构:双xeon3代(最大80核),最大6块全速PCIe 4.0 16X全速 A100+海量存储(最大300T)

 性能出众: FP16算力(8块RTX6000Ada)728Tflops,可以代替A100

报价日期:2023年4月21日

No

产品型号

主要配置

显存

CUDA-FP32性能指标

价格

4.1

UltraLAB GT430M 145256-PC2F

Xeon W7-3465X超频处理器(28核4.5GHz/256GB DDR5 /2*RTX6000Ada 48GB /960GB SSD/ 3.84TB NVME/56TB并行存储/双塔式(双2000w) /27"-4K图显

96G

CUDA FP16:182Tflops

¥258,000

4.2

UltraLAB GT430M 1448384-MC2A

Xeon W9-3475X超频处理器(36核4.4GHz/384GB DDR5 /2*A100 80GB+水冷 /960GB SSD/ 3.84TB NVME/56TB并行存储/双塔式(双2000w) /27"-4K图显

160GB

CUDA FP16:156Tflops

¥399,990

4.3

UltraLAB GT430M 143512-PD4F

Xeon W9-3495X超频处理器(56核4.3GHz/512GB DDR5 /4*RTX6000 Ada 48GB /1.92TB SSD/ 7.68TB NVMED/112TB并行存储/双塔式(双2000w) /27"-4K图显

192GB

CUDA FP16:364Tflops

¥450,000

4.4

UltraLAB GX660M 2351T-PE4A

2*Xeon铂金6448Y(64核3.0GHz)/1TB DDR5 /4*A100 80GB+水冷 /1.92TB SSD/ 15.36TB NVME/112TB并行存储/双塔式(双2000w) /27"-4K图显

320GB

CUDA FP16:312Tflops

¥750,000

4.5

UltraLAB GX660M 2321T-PF8F

2*Xeon铂金8458P(88核3.2GHz)/1TB DDR5 /8*RTX6000Ada 48GB/3.84TB SSD/ 30TB  NVME/126TB并行存储/双塔式(双2000w) /27"-4K图显/100G网口

384G

CUDA FP16:728Tflops

¥899,990

4.6

UltraLAB GX650M 2312T-PF6A

2*Xeon铂金8480+(112核3.0GHz/2TB DDR4 /6*A100 80GB+水冷 /3.84TB SSD/ 双30TB NVME/126TB并行存储/双塔式(双2000w) /27"-4K图显/100G网口

480GB

CUDA FP16:468Tflops

118 

(五)GPU超算服务器配置推荐-机房专用型

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的图5

硬件架构:配备PCIe 4.0插槽,高频处理器+工业级水冷散热,+最大8块RTX30系列

机器特点:极致性能深度学习集群、云计算平台

报价日期:2023年4月21日

No

产品型号

主要配置

显存

CUDA-FP32性能指标

价格

5.1

UltraLAB GA320 15364-MBT

intel第13代高频处理器(16核,其中8核5.3Ghz/8核3.8GHz)/水冷散热/64GB DDR5 /1.9TB SSD /8TB SATA/2 RTX4090/4U机架式(2000w)/双口万兆电口

24GB

82.5T

¥47,900

5.2

UltraLAB GA320 15364-MBF

intel第13代高频处理器(16核,其中8核5.3Ghz/8核3.8GHz)/水冷散热/64GB DDR5 /1.9TB SSD /6TB SATA/RTX6000Ada 48GB/4U机架式(2000w)/双口万兆电口

48GB

91.06T

¥99,800

5.3

UltraLAB GA320 153128-MB2T

intel第13代高频处理器(24核,其中8核5.7Ghz/16核4.2GHz)/128GB DDR4/1.9TB SSD /8TB SATA 2*RTX4090/4U机架式(2000w)双口万兆电口

48GB

71Tflops

¥81,500

5.4

UltraLAB GT420 128192-SA4D

Xeon 银4316(20核2.8Ghz ) /192GB DDR4 /1.9TB SSD /8TB SATA /4*A5000 24GB/4U机架式(2000w)/双口万兆电口

96GB

111T

¥99,990

5.5

UltraLAB GT420 128192-SA4E

Xeon 银4316(20核2.8Ghz) /192GB DDR4 /1.9TB SSD /8TB SATA/4*A6000/4U机架式(2000w)/双口万兆电口

192GB

160T

¥179,000

5.6

UltraLAB GT420 128256-SC4F

Xeon 银4316(20核2.8Ghz) /256GB DDR4 /3.84TB SSD /8TB SATA /4*A6000Ada 48GB/4U机架式(2000w)/双口万兆电口

192G

364T

¥320,000

5.7

UltraLAB GX650 228256-SC2A

2*Xeon 银4316(40核2.8Ghz) /256GB DDR4 /3.84TB SSD /8TB SATA /2*A100 40GB/4U机架式(2000w)/双口万兆电口

80GB

CUDA FP16:156Tflops

¥245,000

5.8

UltraLAB GX658 228256-PC8D

2*Xeon 银4316(40核2.8Ghz) /256GB DDR4 /960GB SSD+7.68TB PCIeSSD /8*A5000/4U机架式(2000w 2+2冗余)/双40GbE光口

192GB

222T

¥239,990

5.9

UltraLAB GX658 228256-PC8E

2*Xeon 银4316(40核2.8Ghz) /384GB DDR4 /960GB SSD+7.68TB PCIeSSD /8*A6000 /4U机架式(2000w 2+2冗余)/双40GbE光口

384G

320T

¥399,990

5.10

UltraLAB GX658 228512-PD8F

2*Xeon 银4316(40核2.8Ghz) /512GB DDR4 /960GB SSD+双7.68TB PCIeSSD /8*RTX6000 Ada 48GB /4U机架式(2000w 2+2冗余)/双40EbE光口

384G

728T

¥660,000

  (七)2022年最强大的深度学习多机集群配置推荐

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的图6

相关机型:

(1)GPU计算服务器(计算节点)

机型:UltraLAB GX650M(2021年上市的最新机型)

 技术特点:采用intel第3代Xeon可扩展处理器、配备nvidia RTX 40系列GPU计算卡,网口配备56G IB网口,硬盘采用SSD,保证硬件配置计算更强、io带宽更高、整机性能全方位优化,保证多用户多任务神经元完美计算能力。

(2)存储服务器(存储节点)

 相关机型:UltraLAB N630A(8盘位)、N630B(16盘位)

技术特点:

 CPU 采用intel Xeon第2代可扩展处理器

高速缓存盘:配备M2.SSD确保数据处理的高速读写(读写3G/s以上)及超低io延迟、

配备并行存储:数据备份安全可靠、最大容量到112TB(8盘位)/240TB(16盘位)

 网口:配备双56G光口,

另外,整机性能全方位优化 支持远程操作、远程管理,系统管理员和使用者直接在办公室甚至异地进行操作。

方案1 CX650深度学习集群配置推荐

 计算节点3个

 GPU卡:18块RTX4090(相当于36块RTX3090Ti)

集群FP32单精度浮点算力:1486Tflops 配置方案

方案1 CX650深度学习集群配置推荐

计算节点3个

 

GPU卡:18块RTX4090(相当于36块RTX3090Ti)

 

集群FP32单精度浮点算力:1486Tflops

配置方案

NO

货物名称

型号

数量

单价

小计

1

GPU计算服务器GT420

2*Xeon银4314(32核2.8Ghz )/256GB DDR4 /6块RTX4090 24GB /960GB SSD /4U机架式/56G IB光口/无显示器

3



2

存储服务器N650C

2颗Xeon 4310(24核2.3Ghz )/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显

1



3

交换机

36个56G IB

1



4

服务器机柜

42U,含PDU、托盘

1



5

KVM

16口 HDMI KVM切换器

1



6

集群系统

CentOS/Ubuntu、作业调度管理

1 



7

深度学习框架

Tensorflow、Pytorch…

1 









合计

¥771,300





 

方案2 CX650深度学习集群配置推荐

计算节点4个

 

GPU卡:24块RTX4090(相当于48块RTX3090Ti)

 

集群单精度fP32浮点算力:1982Tflops

配置方案:

NO

货物名称

型号

数量

单价

小计

1

GPU计算服务器GT420

2*Xeon银4314(32核2.8Ghz )/256GB DDR4 /6块RTX4090 24GB /960GB SSD /4U机架式/56G IB光口/无显示器

4



2

存储服务器N650C

2颗Xeon 4310(24核2.3Ghz )/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显

1



3

交换机

36个56G IB

1



4

服务器机柜

42U,含PDU、托盘

2



5

KVM

16口 HDMI KVM切换器

1



6

集群系统

CentOS/Ubuntu、作业调度管理

1 



7

深度学习框架

Tensorflow、Pytorch…

1 









合计

¥965,800







UltraLAB图形工作站供货商:
西安坤隆计算机科技有限公司
国内知名高端定制图形工作站厂家
业务电话:400-705-6800,18601230361

咨询微信号:

微信号.jpg
计算机硬件CPUgpu

2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的评论0条

    暂无评论

    2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的相关视频课程

    2023年人工智能训练与推理工作站、服务器、集群硬件配置推荐的相关案例教程

    下列是2022年11月30日最新深度学习基准配置报价,新增RTX4090,intel第13代酷睿超频、AMD 霄龙EPYC 7773X处理器等,提供了更完整架构和不同计算规模、不同应用场景的的台式、便携式、机架式、多机集群等应用解决方案 1 高性价比--深度学习科研超频工作站配置方案 2 深度学习高性能工作站配置方案 3 地球最强大--深度学习超算工作站配置方案 4 市场唯一配备A100高速AI便
    升级更新日期:2022年1月5日 关键点: 硬件架构 (1)全部采用PCIe 4.0接口,(2)所有方案里的配置完美优化,整机性能大幅提升 系统和软件:开机即用 配置:增加 支持8块GPU、10块GPU方案 价格: 再次下调 目录 1 UltraLAB深度学习计算设备介绍 2 最新多GPU算力汇总表2021v3 3 深度学习计算硬件配置推荐2021v3 3.1 深度学习工作站GA300i配置推荐-
    ChatGPT出色的表现,带动了人工智能的应用加速,人工智能大模型、多模态机器学习,多模态大模型+物联网等各个行业的专业应用,算力不够是最大的不足,市场上A100/A800/H100/H800的GPU卡的缺货、涨价等,成本上升,不得不考虑GPU替代型号的、性能接近A100/H100的方案 (一)GPU计算卡选型 下面是目前市场上可选GPU卡之间,基于深度学习训练与推理的关键技术指标对比 No 关键
    目录 1 UltraLAB深度学习计算设备介绍 2 最新多GPU算力汇总表2021v3 3 深度学习计算硬件配置推荐2021v3 3.1 深度学习工作站配置推荐---最大2块GPU 3.2 深度学习工作站配置推荐-—最大7块GPU 3.3 深度学习工作站配置推荐---最大6块GPU 3.4 便携GPU工作站配置推荐—-最大4块GPU 3.5 深度学习服务器配置推荐--最大8块GPU 3.6 深度学
    (一)MATLAB科学计算工作站与集群配置方案 UltraLAB专注于为科学计算在各个行业应用的算法,量身定制匹配的高性能计算硬件配置的品牌,提供塔式、机架、便携、特种等全方位完美计算架构方案。 UltraLAB结合最新计算机硬件技术(intel 13代酷睿超频/4代Xeon3400x超频等), 将MATLAB的应用/学科工具箱,进行科学分类,从而给出合理高效完整科学计算硬件配置。 早期我们对Ma
    本科/销售经理
    影响力
    粉丝
    内容
    获赞
    收藏
      项目客服
      培训客服
      0 0