Posts by John Irwin
代理式 AI/生成式 AI
2025年 11月 3日
代码执行如何推动代理式 AI 系统中的主要风险
AI 驱动的应用正从被动工具演变为能够生成代码、做出决策并采取自主行动的代理式系统。这一转变带来了严峻的安全挑战。
2 MIN READ
代理式 AI/生成式 AI
2025年 10月 2日
NVIDIA AI Red 团队的实用 LLM 安全建议
近年来,NVIDIA AI 红队(AIRT)已对多款在投产前的支持 AI 的系统进行了潜在漏洞和安全风险评估。
1 MIN READ
网络安全
2024年 7月 11日
使用 Canaries 防止 AI 模型文件未经授权访问
随着 AI 模型在功能和创建成本方面的增长,它们保存了更多敏感或专有数据,保护静态数据变得越来越重要。为此,组织正在设计策略和工具,
2 MIN READ
网络安全
2023年 10月 19日
AI 红队:机器学习安全培训
在 Black Hat USA 2023 上, NVIDIA 举办了为期两天的培训课程,为安全专业人员提供了一个现实的环境和方法,
1 MIN READ