GPU · 已售罄
NVIDIA L40S GPU 服务器
数据中心级 L40S，配备 48 GB 显存，搭载 24 核 EPYC 与 256 GB ECC 内存：可运行更大的模型和更繁重的流水线。
24C / 48T · 2.9–4.15 GHz- 256 GB DDR5 ECC
- 2 × 3.84 TB NVMe SSD
- 48 GB 显存
为什么选择这款服务器
48 GB 显存
相比
20–24 GB 显存的显卡，可容纳更大的模型、更长的上下文和更大的批次。568 个 Tensor Core
第 4 代 Tensor Core，支持 FP8，专为推理和微调打造。
10 Gbps 不限流量
标配 10 Gbps 端口，快速传输数据集和检查点。
完整规格
处理器
- 型号
- AMD EPYC 9254
- 核心 / 线程
- 24 核 / 48 线程
- 主频
- 基础频率 2.9 GHz，最高 4.15 GHz
- 架构
- Zen 4 (Genoa) · 5 nm
- L3 缓存
- 128 MB
- TDP
- 200 W
GPU
- 型号
- NVIDIA L40S
- 内存
- 48 GB GDDR6 ECC
- CUDA 核心
- 18,176
- Tensor / RT Core
- 568 第 4 代 · 142 第 3 代
- 板卡功耗
- 350 W
内存与存储
- 内存
- 256 GB DDR5 ECC
- 内存通道
- 12 通道平台
- 存储
- 2 × 3.84 TB NVMe
- 默认布局
- 软件 RAID 1（可选 RAID 0 或不配置 RAID）
- PCIe
- PCIe 5.0
网络
- 端口
- 10 Gbps，不限流量
- IP 地址
- 1 个 IPv4 + 路由 /64 IPv6
- DDoS 防护
- 始终开启，已包含
- 私有网络
- 同一机房内免费 VLAN
访问与计费
- 访问权限
- 完整 root / Administrator 权限
- 带外管理
- IPMI / KVM 控制台，虚拟介质
- 管理
- 控制面板与 API：重启、重装系统、救援模式
- 账单
- 按月计费，免安装费，可随时取消
非常适合
2 个机房提供
所有机房的硬件和价格完全相同。不确定哪个机房离您的用户最近？试试延迟测试。
L40S 48 GB 与同类服务器对比
优先列出同系列服务器，再按价格接近程度排序。每核价格便于比较性价比；完整信息请查看各服务器页面。
| 服务器 | 核心 · 睿频 | L3 | 内存 | 存储 | 价格 | 每核价格 |
|---|---|---|---|---|---|---|
| NVIDIA L40S | 128 MB | 256 GB DDR5 ECC | 2 × 3.84 TB | $1,099/月 | $45.79 | |
| NVIDIA RTX 4000 SFF Ada | 32 MB | 64 GB DDR5 ECC | 2 × 1.92 TB | $435/月 | $54.38 | |
| AMD EPYC 9354P | 256 MB | 384 GB DDR5 ECC | 2 × 3.84 TB | $699/月 | $21.84 | |
| AMD EPYC 7443P | 128 MB | 256 GB DDR4 ECC | 2 × 3.84 TB | $439/月 | $18.29 | |
| AMD Ryzen 9 9950X | 64 MB | 128 GB DDR5 | 2 × 2 TB | $269/月 | $16.81 |
NVIDIA L40S
$1,099/月
不含增值税 · 免安装费 · 可随时取消
- root 权限 + IPMI/KVM 控制台
- 含 DDoS 防护
- 1 个 IPv4 + /64 IPv6
常见问题
关于 L40S 48 GB
全部问题NVIDIA L40S 在哪些机房提供？
该服务器在 2 个机房提供：纽约和法兰克福。各机房价格相同：每月 $1,099，不含增值税，免安装费。
什么时候会补货？
热门配置会定期补货，但我们不会公布无法保证的日期。您可以在本页留下邮箱以接收到货通知，或者现在先部署 NVIDIA RTX 4000 SFF Ada，以后再迁移：无需签约。
可以安装哪些操作系统？
Ubuntu、Debian、AlmaLinux、Rocky Linux、Fedora Server、FreeBSD、Proxmox VE、Proxmox Backup Server 和 Windows Server 均可一键安装。您也可以通过 IPMI 控制台挂载自己的 ISO。凭借 256 GB 内存，这台服务器也能轻松胜任 Proxmox 主机。
是否配备 ECC 内存？
是的。它配备 256 GB DDR5 ECC 内存，能在内存错误损坏数据或导致进程崩溃之前将其检测并纠正。
能否增加 IP、存储或升级更快的端口？
可以。额外 IPv4 地址、额外 NVMe 硬盘（需有空闲硬盘位）和异机备份空间均以按月计费的附加服务形式提供，可在订购页面选购，也可稍后在控制面板中添加。
