Joseph Lucas

Joseph Lucas 是 NVIDIA 的高级攻击性安全研究员,专注于人工智能。他是 DEF CON 30 AI Village Capture the Flag 比赛的建筑师和主持人之一,热衷于机器学习安全教育。他曾在美国网络司令部和 101 空降师服役。他拥有佐治亚理工学院计算机科学硕士学位和美国军事学院数学学士学位。

Posts by Joseph Lucas

网络安全/欺诈检测

使用 Canaries 防止 AI 模型文件未经授权访问

随着 AI 模型在功能和创建成本方面的增长,它们保存了更多敏感或专有数据,保护静态数据变得越来越重要。为此,组织正在设计策略和工具, 2 MIN READ
网络安全/欺诈检测

保护应用程序完整性的安全 LLM 令牌化解决方案

本文是 NVIDIA AI Red Team 持续漏洞和技术研究的一部分。NVIDIA AI Red Team’… 1 MIN READ
网络安全/欺诈检测

AI 红队:机器学习安全培训

在 Black Hat USA 2023 上, NVIDIA 举办了为期两天的培训课程,为安全专业人员提供了一个现实的环境和方法, 1 MIN READ
网络安全/欺诈检测

分析机器学习研究代码的安全性

我们的 NVIDIA AI 红队 专注于在数据、科学和 AI 生态系统中扩展安全开发实践。我们参与 开源安全倡议,发布 工具, 2 MIN READ
对话式人工智能

缓解针对 LLM 应用程序的存储提示注入攻击

Large Language Model (LLM) 的应用程序安全性中存在即时注入攻击。这些攻击是独特的,因为恶意文本会被存储在系统中。 2 MIN READ
网络安全/欺诈检测

NVIDIA AI 红队简介

机器学习有希望改善我们的世界,而且在很多方面它已经做到了。然而,研究和生活经验继续表明,这项技术存在风险。 2 MIN READ