Rich Harang

Rich Harang 是 NVIDIA 的首席安全架构师,专门研究 ML / AI 系统,在计算机安全、机器学习和隐私领域拥有十多年的经验。 2010 年,他在加州大学圣巴巴拉分校获得统计学博士学位。在加入 NVIDIA 之前,他领导 Duo 的算法研究团队,在 Sophos AI 领导使用机器学习模型检测恶意软件、脚本和网络内容的研究,并在美国陆军研究实验室担任团队领导。他的研究兴趣包括对抗性机器学习、解决机器学习中的偏见和不确定性,以及使用机器学习支持人类分析的方法。 Richard 的作品曾在 USENIX 、 BlackHat 、 IEEE s & P 研讨会和 DEF CON AI Village 等会议上发表,并在 The Register 和 KrebsOnSecurity 上发表。

Posts by Rich Harang

对话式人工智能/自然语言处理

加强 LLM 应用安全性的最佳实践

大型语言模型 (LLM) 为几乎所有处理文本的应用程序提供了各种强大的增强功能。同时,它们也引入了新的风险,包括: 2 MIN READ
网络安全/欺诈检测

AI 红队:机器学习安全培训

在 Black Hat USA 2023 上, NVIDIA 举办了为期两天的培训课程,为安全专业人员提供了一个现实的环境和方法, 1 MIN READ
网络安全/欺诈检测

保护 LLM 系统不受即时注入的影响

即时注入是一种新的攻击技术,专门针对 大语言模型 (LLMs),使得攻击者能够操纵 LLM 的输出。由于 LLM 越来越多地配备了“插件”, 3 MIN READ
网络安全/欺诈检测

在 DEF CON 竞赛中提高机器学习安全技能

机器学习( ML )安全是一门新的学科,关注机器学习系统及其所建立的数据的安全。它存在于信息安全和数据科学领域的交叉点。 2 MIN READ