Auspex: Building Threat Modeling Tradecraft into an Artificial Intelligence-based Copilot
作者: Andrew Crossman, Andrew R. Plummer, Chandra Sekharudu, Deepak Warrier, Mohammad Yekrangian
发布时间: 2025-03-13
来源: arxiv
研究方向: 基于生成式人工智能的威胁建模
主要内容
本文介绍了Auspex，一个利用生成式人工智能方法构建的威胁建模系统。该系统通过将威胁建模人员的实战知识编码到驱动生成式人工智能威胁建模系统的提示中，实现了威胁建模的自动化和高效化。
主要贡献
1. 设计并开发了一个轻量级、灵活、模块化和可扩展的生成式人工智能系统，该系统可以将系统表示映射到威胁模型，同时捕获威胁建模实战知识。
2. 对威胁建模任务进行了技术性表述，包括系统表示、威胁模型以及它们之间的映射。
3. 提出了一种基于领域专家反馈的初步评估程序，用于衡量Auspex生成的针对真实银行系统的威胁模型的质量和实用性。
研究方法
1. tradecraft prompting：通过将威胁建模人员的实战知识编码到提示中，驱动生成式人工智能威胁建模系统。
2. 两阶段处理：第一阶段通过编码系统分解和描述的威胁建模实战知识，处理系统架构信息；第二阶段通过编码威胁识别、分类和缓解的实战知识，将系统分析链接起来。
3. 多模态输入：Auspex可以处理系统图和系统文本描述。
4. 模块化设计：Auspex的设计允许其与不同的威胁建模框架和更广泛的网络安全框架相结合。
实验结果
对真实银行系统的评估表明，Auspex生成的威胁模型具有清晰和可理解的威胁场景，并且专家们普遍认为Auspex增强了整体威胁建模体验。此外，Auspex生成的威胁场景被认为是现实的安全威胁，并且与专家指定的类别之间的汉明损失值非常低，表明Auspex生成的威胁场景被正确分类。
未来工作
未来的工作将包括在Auspex中添加代理框架、微调方法、接地方法等，以及通过“左移”路径将威胁建模的起点提前，同时扩大其范围以涵盖业务发展和组织层面的战略。