热线电话400-810-9900
NVIDIA L40S
价格:电话咨询
配置信息:
NVIDIA Ada Lovelace 架构,48GB GDDR6,864GB/s带宽,PCIe 4.0 x16:双向 64 GB/s,300 瓦
产品特点:
为数据中心赋予出色的 AI 和图形性能。
产品介绍

功能强大的通用型 GPU

NVIDIA L40S GPU 可为您提供突破性的多工作负载性能体验。 精心设计的 L40S GPU 将强大的 AI 计算性能与出色的图形和媒体加速功能相结合,旨在为新一代数据中心工作负载提供支持。从生成式 AI 和大型语言模型(LLM)推理与训练,到 3D 图形、渲染和视频,都能应对自如。

亮点

通用性极高的出色性能

Tensor 性能

1,466 TFLOPS¹

RT Core 性能

212 TFLOPS

单精度浮点运算性能

91.6 TFLOPS

1 峰值速率基于 GPU 加速频率。






特性

由 NVIDIA Ada Lovelace 架构提供支持

第四代 Tensor Core

第四代 Tensor Core

针对结构化稀疏和优化的 TF32 格式提供硬件支持,为更快的 AI 和数据科学模型训练提供开箱即得的性能提升。可利用 DLSS 技术加速 AI 增强型图形功能,从而在特定应用中提供更高的分辨率和更出色的性能。

第三代 RT Core

第三代 RT Core

增加的吞吐量以及并发光线追踪和着色功能可提升光线追踪性能,从而加快产品设计以及架构、工程和施工工作流程的渲染。可利用硬件加速的动态模糊技术提供令人惊艳的实时动画效果,以帮助了解逼真设计的实际效果。

NVIDIA CUDA Core 核心

CUDA Core 核心

加速单精度浮点(FP32)吞吐量和更高的能效可显著提升 3D 模型开发和计算机辅助工程(CAE)仿真等工作流程的性能。可使用增强的 16-bit Math Capability(BF16)支持混合精度工作负载。

Transformer 引擎

Transformer 引擎

Transformer 引擎可显著加速 AI 性能,并提高训练和推理的内存利用率。凭借 Ada Lovelace 第四代 Tensor Core 的强大功能,Transformer 引擎可以智能地扫描转换器架构神经网络的各个层,并在 FP8 和 FP16 精度之间自动重铸,从而提供更快的 AI 性能并加速训练和推理。

效率和安全性

效率和安全性

L40S GPU 针对全天候企业数据中心运营进行了优化,经过 NVIDIA 的精心设计、构建、测试和支持,可确保更大限度地提高性能、耐用性和正常运行时间。L40S GPU 符合新数据中心标准,支持网络设备构建系统(NEBS)3 级标准,并且采用了信任根技术实现安全启动,可为数据中心提供额外的安全保护。

NVIDIA DLSS 3

DLSS 3

依靠 NVIDIA DLSS 3 的加持,L40S GPU 可以支持超快渲染和更高帧率,使画面有如行云流水。这项突破性的帧生成技术利用深度学习及 Ada Lovelace 架构和 L40S GPU 中的新一代硬件创新(包括第 4 代 Tensor Core 和光流加速器)来提升渲染性能,在提高每秒帧数(FPS)的同时显著降低延迟。

NVIDIA L40S GPU 规格


GPU 架构NVIDIA Ada Lovelace 架构
GPU 显存带错误校验的 48GB GDDR6
显存带宽864GB/s
互联接口PCIe 4.0 x16:双向 64 GB/s
基于 NVIDIA Ada Lovelace 架构的 CUDA® Core 核心18,176
NVIDIA 第三代 RT Core142
NVIDIA 第四代 Tensor Core568
RT Core 性能(单位:TFLOPS)212 
FP32(单位:TFLOPS)91.6
TF32 Tensor Core(单位:TFLOPS)183 I 366*
Bfloat16 浮点运算性能 Tensor Core(单位:TFLOPS)362.05 I 733*
FP16 Tensor Core362.05 I 733*
FP8 Tensor Core733 I 1,466*
INT8 Tensor TOPS 峰值
INT4 Tensor TOPS 峰值
733 I 1,466*
733 I 1,466*
外形规格4.4"(高)x 10.5"(长),双插槽
显示端口4 个 DisplayPort 1.4a
最大功耗300 瓦
电源接口16 针
散热被动
虚拟 GPU(vGPU)软件支持
支持的 vGPU 配置文件请参阅《虚拟 GPU 许可指南》
NVENC I NVDEC3x I 3x(包含 AV1 编解码)
通过信任根进行安全启动
NEBS 支持3 级
多实例 GPU(MIG)支持
NVIDIA® NVLink® 支持

与NVIDIA产品相关的图片或视频(完整或部分)的版权均归NVIDIA Corporation所有。

数据源来自:https://www.nvidia.cn/data-center/l40s/


上一篇:NVIDIA V100 TENSOR CORE GPU
下一篇:没有了
相关推荐