NVIDIA推出了安全的AI通用可用性，并增强了对大语言模型的保护

2025-04-29 21:00 view 学习

NVIDIA Launches Secure AI General Availability with Enhanced Protection for Large Language Models

Joerg Hiller Apr 23, 2025 15:28

NVIDIA announces the general availability of its Secure AI solution, focusing on protecting large language models with enhanced security features.

NVIDIA随着企业越来越多地采用AI进行培训和推理目的，正式宣布了其安全AI解决方案的总体可用性，旨在加强大型语言模型（LLMS）的安全性。艾米丽·萨卡塔（Emily Sakatae AI操作中的数据和知识属性。

增强的安全功能

安全AI版本引入了旨在增强数据保护的几个关键功能。杰出的功能之一是受保护的PCIE（PPCIE）模式，该模式在机密虚拟机中保护多GPU配置。此模式标志着与以前的单个GPU配置的重大转变，为复杂的AI工作负载提供了更健壮的安全性。

此外，NVIDIA已删除了NV链接加密以提高性能而不损害安全性。认证过程的更改进一步确保GPU和开关都以PPCIE模式牢固地配置。

数据安全的重要性

在当今的数字景观中，确保数据至关重要。企业产生大量具有巨大潜力和价值的数据。尽管传统的安全措施集中在静止数据和数据上，但NVIDIA的机密计算（CC）AD穿衣服通常被忽视的保护使用中的数据。这种方法可防止未经授权的访问和修改，确保敏感信息保持安全。

硬件和软件需求

安全的AI解决方案与NVIDIA H100和H200 TENSOR CORE GPU兼容，该解决方案集成在HGX 8-GPU系统中。为了获得最佳性能，系统还应采用支持信任的执行环境（TEE）的CPU，例如AMD SEV-SNP和Intel TDX Technologies。

支持的CPU包括AMD的EPYC Milan和Genoa系列，以及Intel的第5和第6代Xeon Xeon可伸缩处理器。该解决方案还需要最新的NVIDIA驱动程序（CUDA 12.8数据中心驱动程序）和固件，并且与Microsoft Azure Azure Hyper-V和KVM等管理程序兼容。支持的操作系统包括AMD和Ubuntu 24.04的Ubuntu 25.04，以及用于Intel的补丁。

一般可用性和资源

发布CUDA 12.8，对PPCIE的支持是现在通常可以使用，允许企业利用最新的安全性增强功能来利用完整的8-GPU性能。对于详细的部署指导，NVIDIA提供了广泛的文档和资源，可以通过其官方网站直接访问。