AI GPU 云基础架构

由 NVIDIA A100 和 H100 GPU 提供支持的 Gcore 裸金属服务器和虚拟机。 以突破性的高性能提高 AI 任务的效率!

top image

配置和定价

Nvidia H100 定价

H100每GPU价格 1个月滚动 保留6个月 保留12个月 保留36个月
超过512个GPU €3.30/小时 €3.15/小时 €3.05/小时 €2.90/小时
128至512个GPU €3.60/小时 €3.30/小时 €3.25/小时 €3.10/小时
32 至128个GPU €3.70/小时 €3.50/小时 €3.40/小时 €3.25/小时
少于32个GPU €3.75/小时 €3.60/小时 €3.50/小时 €3.35/小时

专门为AI和HPC任务而设计,它拥有第四代Tensor内核和Transformer引擎

Bare Metal

风格 ID 服务器配置 GPUs GPU Memory Infiniband Interconnect (Gbit/s) 数量 价格
bm3-ai-large-a100-40-42 Intel Xeon 8468 / 2 TB RAM / 4x3.84 TB NVMe / 4x Nvidia A100 / 8x200G Infiniband 4xA100 40 GB 200
€ 15.52 / 1 hour
€ 11,174.4 / 1 month
€ 127,388.16 / 1 year
bm3-ai-large-a100-80-82 Intel Xeon 8468 / 2 TB RAM / 8x3.84 TB NVMe / 8x Nvidia A100 / 8x200G Infiniband 8xA100 80 GB 800
€ 16.48 / 1 hour
€ 11,865.6 / 1 month
€ 135,267.84 / 1 year
(€1.52 per A100)
bm3-ai-large-h100-80-82 Intel Xeon 8468 / 2TB RAM / 8x3.84 TB NVMe / 8x Nvidia H100 / 8x400G Infiniband 8xH100 80 GB 1600
€ 30.01 / 1 hour
€ 21,608.00 / 1 month
€ 246,331.2 / 1 year
(€3.91 per H100)

Virtual Instance

风格 ID 服务器配置 GPUs GPU Memory Infiniband Interconnect (Gbit/s) 数量 价格
g3-ai-24-232-1100-a100-80-124 vCPU / 232 GB RAM / 1100 GB NVMe / A100-1GPU 1xA100 80 GB 800
€ 2.06 / 1 hour
€ 1,483.2 / 1 month
€ 16,908.48 / 1 year
g3-ai-48-464-2200-a100-80-248 vCPU / 464 GB RAM / 2200 GB NVMe / A100-2GPU 2xA100 80 GB 800
€ 4.12 / 1 hour
€ 2,966.4 / 1 month
€ 33,816.96 / 1 year
g3-ai-96-1856-8800-a100-80-896 vCPU / 1856 GB RAM / 8800 GB NVMe / A100-8GPU 8xA100 80 GB 800
€ 16.48 / 1 hour
€ 11,865.6 / 1 month
€ 135,267.84 / 1 year
g3-ai-24-232-1100-h100-80-124 vCPU / 232 GB RAM / 1100 GB NVMe / H100-1GPU 1xH100 80 GB 1600
€ 3.75 / 1 hour
€ 2,701.0 / 1 month
€ 30,791.4 / 1 year
g3-ai-48-464-2200-h100-80-248 vCPU / 464 GB RAM / 2200 GB NVMe / H100-2GPU 2xH100 80 GB 1600
€ 7.5 / 1 hour
€ 5,402.0 / 1 month
€ 61,582.8 / 1 year
g3-ai-96-1856-8800-h100-80-896 vCPU / 1856 GB RAM / 8800 GB NVMe / H100-8GPU 8xH100 80 GB 1600
€ 30.01 / 1 hour
€ 21,608.0 / 1 month
€ 246,331.2 / 1 year
(€2,31 per H100)

用于大型语言模型(LLM)推理、训练、图形和视频任务的革命性加速

Bare Metal

风格 ID 服务器配置 GPUs GPU Memory 数量 价格
bm3-ai-large-l40s-48-42xIntel Xeon 6438M / 1TB RAM / 2x3.84 TB NVMe / 4 GPU L40s / 2x100G 4xL40s 48 GB
€ 9.02 / 1 hour
€ 6,500 / 1 month
€ 72,000 / 1 year

Virtual Instance

风格 ID 服务器配置 GPUs GPU Memory 数量 价格
g3-ai-16-232-1100-l40s-116vCPU / 232GB RAM / 1100GB NVMe / L40s-1GPU 1xL40s 48GB
€ 2.25 / 1 hour
€ 1,623.6 / 1 month
€ 18,000 / 1 year
g3-ai-32-464-2200-l40s-2 32vCPU / 464GB RAM / 2200GB NVMe / L40s-2GPU 2xL40s 48GB
€ 4.51 / 1 hour
€ 3,247.2 / 1 month
€ 36,000 / 1 year
g3-ai-64-928-3400-l40s-464vCPU / 928GB RAM / 3400GB NVMe / L40s-4GPU 4xL40s 48GB
€ 9.02 / 1 hour
€ 6,500.00 / 1 month
€ 72,000 / 1 year

专门为AI和HPC任务而设计,它拥有第四代Tensor内核和Transformer引擎

Bare Metal

风格 ID 服务器配置 GPUs GPU Memory Infiniband Interconnect (Gbit/s) 数量 价格
bm3-ai-large-a100-40-42 Intel Xeon 8468 / 2 TB RAM / 4x3.84 TB NVMe / 4x Nvidia A100 / 8x200G Infiniband 4xA100 40 GB 200
€ 15.52 / 1 hour
€ 11,174.4 / 1 month
€ 127,388.16 / 1 year
bm3-ai-large-a100-80-82 Intel Xeon 8468 / 2 TB RAM / 8x3.84 TB NVMe / 8x Nvidia A100 / 8x200G Infiniband 8xA100 80 GB 800
€ 16.48 / 1 hour
€ 11,865.6 / 1 month
€ 135,267.84 / 1 year
(€1.52 per A100)
bm3-ai-large-h100-80-82 Intel Xeon 8468 / 2TB RAM / 8x3.84 TB NVMe / 8x Nvidia H100 / 8x400G Infiniband 8xH100 80 GB 1600
€ 30.01 / 1 hour
€ 21,608.00 / 1 month
€ 246,331.2 / 1 year
(€3.91 per H100)

Virtual Instance

风格 ID 服务器配置 GPUs GPU Memory Infiniband Interconnect (Gbit/s) 数量 价格
g3-ai-24-232-1100-a100-80-124 vCPU / 232 GB RAM / 1100 GB NVMe / A100-1GPU 1xA100 80 GB 800
€ 2.06 / 1 hour
€ 1,483.2 / 1 month
€ 16,908.48 / 1 year
g3-ai-48-464-2200-a100-80-248 vCPU / 464 GB RAM / 2200 GB NVMe / A100-2GPU 2xA100 80 GB 800
€ 4.12 / 1 hour
€ 2,966.4 / 1 month
€ 33,816.96 / 1 year
g3-ai-96-1856-8800-a100-80-896 vCPU / 1856 GB RAM / 8800 GB NVMe / A100-8GPU 8xA100 80 GB 800
€ 16.48 / 1 hour
€ 11,865.6 / 1 month
€ 135,267.84 / 1 year
g3-ai-24-232-1100-h100-80-124 vCPU / 232 GB RAM / 1100 GB NVMe / H100-1GPU 1xH100 80 GB 1600
€ 3.75 / 1 hour
€ 2,701.0 / 1 month
€ 30,791.4 / 1 year
g3-ai-48-464-2200-h100-80-248 vCPU / 464 GB RAM / 2200 GB NVMe / H100-2GPU 2xH100 80 GB 1600
€ 7.5 / 1 hour
€ 5,402.0 / 1 month
€ 61,582.8 / 1 year
g3-ai-96-1856-8800-h100-80-896 vCPU / 1856 GB RAM / 8800 GB NVMe / H100-8GPU 8xH100 80 GB 1600
€ 30.01 / 1 hour
€ 21,608.0 / 1 month
€ 246,331.2 / 1 year
(€2,31 per H100)

水平滚动以查看表格

价格不包含增值税。

专为 AI 和计算密集型工作负载而设计

AI 训练

图形处理单元 (GPU) 拥有数千个处理核心,可以并行执行多个矩阵运算和计算。 因此,GPU 完成 AI 训练任务的速度要远远快于传统 CPU。

深度学习

GPU 可以轻松处理深度神经网络和循环神经网络的高计算需求,这是开发复杂深度学习模型(包括生成式 AI)的基础。

高性能计算

卓越的 GPU 性能非常适合计算密集型工作负载,包括动态编程算法、视频渲染和科学模拟。

数据分析

GPU 提供高内存带宽和高效的数据传输能力, 可以提升大数据集的处理和操作,从而加快分析速度。

GPU 优势

NVIDIA A100 和最新的 H100 GPU 处于企业级 GPU 市场的领先地位。 这两款功能强大的多功能加速器适用于多种多样的 AI 和高性能计算 (HPC) 工作负载。

gpu

A100 规格

  • AI 推断性能比 CPU 高 249 倍
  • 性能比上一代 NVIDIA GPU(即 V100)高 20 倍
  • 第 3 代 Tensor Core
  • 高达 80GB 的 HBM2e 内存

H100 规格

  • 在 GPT-3 上进行 AI 训练时,性能比 A100 GPU 高 4 倍
  • 对于 HPC 应用,其性能比 A100 GPU 高 7 倍
  • 第 4 代 Tensor Core
  • 高达 100GB 的 HBM3 内存
A100
H100

AI 框架的理想之选

NVIDIA GPU 非常适合运行帮助构建、训练和部署 AI 模型的 AI 框架和工具。

tensor-flow
pytorch
keras
paddle
onnx
hf
chainer
tensor-rt
rapids
apache
jupyter
sci

想要专用的裸金属 GPU 服务器或虚拟 GPU 实例?

选择最适合您的解决方案!

裸金属 GPU 服务器

裸金属服务器提供了对物理硬件(包括 GPU)的直接访问。 这意味着所有 GPU 资源都是专门为您提供的。 裸金属 GPU 可为 AI 和计算密集型工作负载提供最佳性能。

虚拟 GPU 实例

如果采用相同配置,虚拟机上 GPU 的执行速度会略慢于裸金属服务器上的 GPU。 但与裸金属 GPU 服务器相比,虚拟机管理起来更加简单,支持扩缩并且价格更低。

具有 GPU 工作节点的托管式 Kubernetes

Kubernetes 具有自动扩缩和自动修复等功能,因此非常适用于动态工作负载,包括机器学习、视频处理,以及其他计算密集型任务。 利用 Gcore 的托管式 Kubernetes,在使用裸金属服务器和虚拟机时,您可以将 GPU 用作工作节点(A100 和 H100)。 只需请求自定义 GPU 资源便可在容器中利用 GPU,就像请求 CPU 或内存时一样。

kubernetes
kuberneteskubernetes
详细了解托管式 Kubernetes

充分利用 Gcore Cloud 解决方案

AI IPU

使用由 Graphcore IPU 提供支持的 Gcore AI 云基础架构加速机器学习。

裸金属服务器

在高性能物理服务器上部署资源密集型应用和服务。

虚拟机

利用专为各种工作负载和可预测性能而设计的生产级虚拟机。

托管式 Kubernetes

Kubernetes 集群,SLA 高达 99.9%,并支持裸金属节点。

常见问题解答

图形处理单元 (GPU) 是专为改进计算机图形渲染而设计的电子电路。 GPU 用于各种应用,包括视频游戏、3D 建模和 AI 训练。

GPU 可以实现并行处理,这意味着 GPU 可以同时执行多条指令。 这是 GPU 与中央处理单元 (CPU) 的主要区别;后者一次只能执行一条指令。

我们将根据您选择的特定配置收取相应费用。 如果您购买的是不属于 Kubernetes 集群的单独 GPU 实例,则会向您收取相应虚拟机或裸金属配置的费用。 请参见上文中的配置和定价部分详细了解价格信息。

请发送电子邮件至sales@gcore.com与我们的销售团队联系,并提供您所需的新实例配置。 如果您需要销售团队帮助您选择配置,他们会根据您的请求提供最佳解决方案。

具体取决于您选择的实例类型是裸金属还是虚拟机。 如果您选择的是裸金属服务器,它的全部资源都是您专属的。

如果您选择的是虚拟机,您将获取虚拟计算资源,包括 GPU 的资源。 实例(服务器)的物理资源是共享的,但虚拟资源不是。 您可以访问您所购买的全部资源。

在您购买 GPU 实例后,该实例立即可用:

  • 3–5 分钟内(对于虚拟机)
  • 15–20 分钟内(对于裸金属服务器)

提供。填写此表,我们的销售团队将联系您探讨此问题。 请注意,在您的试用期结束时,将切换为标准的即用即付套餐。

可以。 填写此表,我们的销售团队将联系您探讨此问题。

有。填写此表,我们的销售团队将联系您探讨具体情况,并将您添加到我们的等待名单。

联系我们以获得个性化报价