AI 红色团队

代理 AI 工作流通常 涉及执行由 大语言模型 (LLM) 生成的代码，以执行创建数据可视化等任务。但是，此代码应在安全环境中清理和执行，

每年 8 月，成千上万的安全专业人员都会参加最前沿的安全会议 Black Hat USA 和 DEF CON。这一年，

随着 AI 模型在功能和创建成本方面的增长，它们保存了更多敏感或专有数据，保护静态数据变得越来越重要。为此，组织正在设计策略和工具，

本文是 NVIDIA AI Red Team 持续漏洞和技术研究的一部分。NVIDIA AI Red Team’…