我在 Latitude.sh 的单个实例中最多可以使用多少GPU?

答案

Latitude.sh 的分布式训练支持:

NVLink 互连,每个实例最多支持 8 GPU。多节点训练:

作为参考,训练一个70B参数模型通常需要8个以上带有高带宽互连的GPU。Latitude.sh 提供的GPU型号包括:

A30, RTX A5000, RTX A6000, L40S, RTX 6000 Ada, A100 SXM, H100 SXM, GH200, RTX PRO 6000

请访问 查看多GPU实例配置和价格。

请访问 他们的官方网站 了解 Latitude.sh 如何处理分布式训练基础设施。

更多关于 Latitude.sh 的常见问题

包含 Latitude.sh 的指南

这些指南将 Latitude.sh 与其他云GPU提供商一起列出,按GPU特性、框架、可用性和开发者需求分组。

Latitude.sh GPU提供商评测及关键事实(五月 2026)

Latitude.sh概览:最大资金、利润分成、回撤规则、杠杆、工具、支付计划、支付方式、交易权限及KYC。数据验证于五月 2026。

Latitude.sh GPU提供商评测及关键事实(五月 2026)
Latitude.sh
覆盖23个全球地点的裸金属GPU云
Visit Latitude.sh
概览
Trustpilot 评分 3.7
总部 Brazil
供应商类型 裸金属
适用场景 AI 训练、推理、裸金属 GPU、微调、研究、专用工作负载、生成式 AI
GPU硬件
GPU 型号 A30 RTX A5000 RTX A6000 L40S RTX 6000 Ada A100 SXM H100 SXM GH200 RTX PRO 6000
最大显存 (GB) 96
每实例最大 GPU 数 8
互联 NVLink
定价
起始价格 ($/小时) $0.35/hr
计费粒度 按小时计费
竞价/可抢占
预留折扣 不适用
免费额度 通过推荐计划获得200美元
出站费用
存储 包含本地NVMe(最高4个3.8TB),块存储0.10美元/GB/月,文件系统存储0.05美元/GB/月
基础设施
区域 23个地点:美国(8个城市)、拉美(5个)、欧洲(5个)、亚太(4个)、墨西哥城。GPU位于达拉斯、法兰克福、悉尼、东京
正常运行时间 SLA 99.9%
开发者体验
框架 机器学习优化镜像,PyTorch,TensorFlow(用户安装),CUDA
Docker 支持
SSH 访问
Jupyter 笔记本
API / 命令行界面
设置时间 秒级
Kubernetes 支持
业务条款
最小承诺
合规性 单租户隔离,支持DPA
Latitude.sh