Posts by Joseph Lucas
网络安全/欺诈检测
2024年 7月 11日
使用 Canaries 防止 AI 模型文件未经授权访问
随着 AI 模型在功能和创建成本方面的增长,它们保存了更多敏感或专有数据,保护静态数据变得越来越重要。为此,组织正在设计策略和工具,
2 MIN READ
网络安全/欺诈检测
2024年 6月 27日
保护应用程序完整性的安全 LLM 令牌化解决方案
本文是 NVIDIA AI Red Team 持续漏洞和技术研究的一部分。NVIDIA AI Red Team’…
1 MIN READ
网络安全/欺诈检测
2023年 10月 19日
AI 红队:机器学习安全培训
在 Black Hat USA 2023 上, NVIDIA 举办了为期两天的培训课程,为安全专业人员提供了一个现实的环境和方法,
1 MIN READ
网络安全/欺诈检测
2023年 10月 4日
分析机器学习研究代码的安全性
我们的 NVIDIA AI 红队 专注于在数据、科学和 AI 生态系统中扩展安全开发实践。我们参与 开源安全倡议,发布 工具,
2 MIN READ
对话式人工智能
2023年 8月 4日
缓解针对 LLM 应用程序的存储提示注入攻击
Large Language Model (LLM) 的应用程序安全性中存在即时注入攻击。这些攻击是独特的,因为恶意文本会被存储在系统中。
2 MIN READ
网络安全/欺诈检测
2023年 6月 14日
NVIDIA AI 红队简介
机器学习有希望改善我们的世界,而且在很多方面它已经做到了。然而,研究和生活经验继续表明,这项技术存在风险。
2 MIN READ