Joseph Lucas

Joseph Lucas 是 NVIDIA 的高级攻击性安全研究员,专注于人工智能。他是 DEF CON 30 AI Village Capture the Flag 比赛的建筑师和主持人之一,热衷于机器学习安全教育。他曾在美国网络司令部和 101 空降师服役。他拥有佐治亚理工学院计算机科学硕士学位和美国军事学院数学学士学位。

Posts by Joseph Lucas

网络安全

借助受语法限制的解码,改进小语言模型中的 Bash 生成

Bash 是面向 AI 智能体的最灵活、最强大的接口之一。在正确的系统中,发出 、、 或 shell 工作流的模型正在生成可执行动作, 3 MIN READ
智能体/生成式 AI

更新视觉语言模型的分类器规避

AI 架构的进步解锁了多模态功能,使 Transformer 模型能够在统一的上下文中处理多种类型的数据。例如, 3 MIN READ
智能体/生成式 AI

NVIDIA AI Red 团队的实用 LLM 安全建议

近年来,NVIDIA AI 红队(AIRT)已对多款在投产前的支持 AI 的系统进行了潜在漏洞和安全风险评估。 1 MIN READ
网络安全

为什么 CVE 属于框架和应用,而非 AI 模型

通用漏洞与暴露(CVE)系统是用于记录软件安全漏洞的全球标准。该计划由MITRE公司维护,并得到CISA的支持, 1 MIN READ
网络安全

构建应用程序以安全使用 KV 缓存

在与基于 Transformer 的模型 (如 大语言模型 (LLM) 和 视觉语言模型 (VLM)) 交互时,输入结构会塑造模型的输出。 2 MIN READ
对话式人工智能

借助 WebAssembly 实现沙箱 Agentic AI 工作流

代理 AI 工作流通常 涉及执行由 大语言模型 (LLM) 生成的代码,以执行创建数据可视化等任务。但是,此代码应在安全环境中清理和执行, 2 MIN READ