比瓴科技:AI+开发安全 | 金融行业基于LLM威胁建模的实践

admin
admin
admin
962
文章
2
评论
2024年9月29日14:58:30 评论

背景

随着金融科技的蓬勃发展,金融行业的信息系统正经历着前所未有的变革。这些系统不仅日益复杂,其重要性也在与日俱增。想象一下,现代金融机构就像一座运转精密的钟表,而各种技术系统则是其中不可或缺的齿轮。从核心银行系统到支付网关,从交易平台到客户关系管理系统,每一个系统都在处理着海量的敏感数据,同时还需要保证高度的可用性和安全性。

然而,随着这座"钟表"变得越来越精密,传统的威胁建模方法似乎力不从心了。我们面临的挑战就像是在解一道越来越复杂的谜题:

  • 信息如洪水般汹涌而来,系统架构、业务逻辑和技术栈的复杂性让人应接不暇;
  • 金融系统不断更新迭代,而威胁场景也在悄然变化,传统方法难以跟上这个节奏;
  • 需要既懂安全又懂金融的"全能舵手",可惜这样的人才如凤毛麟角;
  • 手动威胁建模就像是用放大镜检查每个齿轮,耗时费力,难以应对庞大复杂的系统;
  • 不同的分析师可能会得出不同的结论,这让决策变得举棋不定。

面对这些挑战,一个全新的解决方案正在浮出水面——大型语言模型(LLM)。就像是给威胁建模配备了一个超级助手,LLM凭借其强大的自然语言处理能力和知识整合能力,有望为这个领域带来革命性的变化。

本文将带您深入探讨LLM在金融行业信息系统威胁建模中的应用。我们将分享实践经验和最佳做法,通过生动的案例展示这种创新方法。当然,我们也会坦诚地讨论在实施过程中可能遇到的坎坷,以及如何避免数据输入的不准确性,提示词歧义,提高输出效率等。通过这篇文章,我们希望为金融行业的安全专家们打开一扇新的大门,提供一个全新的视角和强大的工具。在这个日新月异的网络安全世界里,让我们一起探索如何更高效、更有效地应对挑战,为金融安全筑起更坚实的防线。

 

LLM在威胁建模中的优势

大型语言模型(LLM)在威胁建模中展现出多方面的优势,对传统威胁建模进行补充。以下是LLM在威胁建模过程中的主要优势:

1.高效处理海量信息

在复杂的金融系统中,文档、代码和日志的数量庞大,人工处理不仅耗时,还容易出错。LLM能够快速分析并理解大量文本信息,从而提高威胁识别的效率和全面性。

  • 文档分析:LLM可以迅速阅读并提取系统架构、API和用户手册等文档中的关键信息,有利于威胁分析。
  • 代码审查:通过对源代码的分析,LLM能够识别潜在的安全漏洞,如未验证的输入和不安全的加密算法等。

实践经验表明,使用LLM进行初步信息处理能够将分析时间缩短50%-70%,同时提高信息提取的完整性。

 

2.强大的模式识别能力

LLM通过学习大量的安全漏洞和攻击模式,展现出卓越的模式识别能力,能够识别出人类分析师可能忽视的潜在威胁。

  • 新型威胁识别:LLM可以将已知攻击模式与系统特征结合,推测出新的、尚未广泛认知的威胁。
  • 关联分析:通过理解不同系统组件之间的交互,LLM能够识别复杂的跨(系统)服务攻击路径。

实践中,我们发现LLM能够识别出约20%-30%的人类分析师可能遗漏的潜在威胁。

 

3.上下文理解

LLM具备理解金融业务特殊性的能力,能够在威胁建模中考虑行业特定的风险和合规要求。

  • 行业知识整合:LLM可以结合金融行业特定知识,如监管要求和常见信息安全规范,提供更有针对性的威胁分析。
  • 业务影响评估:通过理解业务流程,LLM能够更准确地评估潜在威胁对业务的影响。
  • 合规性考量:LLM可以将威胁分析与行业标准(如PCI、GDPR等)结合,确保威胁模型符合合规要求。

我们的经验表明,利用LLM的上下文理解能力,可以使威胁模型与业务需求的匹配度提高约40%。

 

4.持续学习和更新

网络安全领域的威胁格局不断变化,LLM通过持续学习保持威胁模型的时效性。

  • 实时更新:定期接入最新的威胁情报和安全研究,能够持续更新其知识库。
  • 适应性强:LLM能够快速学习并适应新的攻击技术和防御策略,保持威胁模型的前沿性。

实践表明,定期更新的LLM模型能将威胁识别的准确率提高15%-25%,特别是在识别新兴威胁方面。

 

5.一致性和可重复性

LLM能够提供一致的分析方法,减少人为因素带来的差异。

  • 标准化流程:LLM按预定义标准和流程进行分析,确保不同系统或时间的分析结果具可比性。
  • 客观评估:LLM不受个人偏见或经验的限制,能够提供更客观的威胁评估。
  • 可解释性:先进的LLM模型能够详细解释其分析过程和结论,增强结果的可信度和可审核性。

在实际应用中,使用LLM进行威胁建模可以将不同分析师之间的结果差异减少约60%,显著提高威胁评估的一致性。

 

基于LLM的威胁建模方法

以下我们将介绍一种基于LLM的、简单可落地的威胁建模方法。将LLM的强大能力与结构化的威胁建模流程相结合,提供了一个实用的框架,适用于金融行业的信息系统安全分析。

1.威胁建模流程

我们设计了以下基于LLM的威胁建模流程,每个步骤都包含了具体的LLM提示示例:

1.1系统描述输入:

  • 安全工程师输入待评估系统的简要描述,包括主要功能、数据流、技术栈等。
  • LLM提示词参考:你作为一个安全工程师,现在需要对公司开发的系统进行威胁建模,系统描述如下:XXXX请详细描述当前金融交易系统的主要组件、功能和数据流。

1.2资产识别

  • LLM分析系统描述,识别关键资产。
  • LLM提示词参考:基于上述系统描述,列出所有关键资产,并简要说明每个资产的重要性。

1.3威胁识别:

  • 对每个资产,使用STRIDE模型进行威胁识别。
  • LLM提示词参考:对于[资产名称],使用STRIDE模型识别可能存在的安全威胁。每种类型至少列出一个具体威胁。

1.4攻击面分析:

  • LLM分析系统架构,识别潜在的攻击面。
  • LLM提示词参考:分析系统架构,列出所有可能的攻击入口点,包括外部接口和内部系统组件间的交互。

1.5风险评估:

  • 对识别出的每个威胁进行风险评估。
  • LLM提示词参考:评估以下威胁的可能性和潜在影响,给出风险等级(高/中/低):[威胁列表]

1.6缓解策略建议:

  • 针对高风险威胁,提供缓解策略建议。
  • LLM提示词参考:针对以下高风险威胁,分别提供3-5个可能的缓解策略:[高风险威胁列表]

 

实施要点

1.迭代对话:

  • 鼓励安全人员与LLM进行多轮对话,深入探讨每个环节。
  • 示例:在威胁识别后,可以要求LLM进一步解释某个特定威胁的细节。

2.人机协作:

  • LLM的输出应被视为建议,最终决策仍由安全专家做出。
  • 分析师应基于专业判断修正或补充LLM的输出。

3.上下文管理:

  • 在对话过程中保持上下文,确保LLM理解整个系统背景。
  • 示例提示:请记住之前讨论的系统架构和已识别的威胁,现在我们来讨论[新话题]。

4.结果验证:

  • 定期与安全团队一起审查LLM的输出,确保准确性和相关性。
  • 可以设置一个人工审核环节,验证LLM识别的威胁和建议的缓解策略。

 

5.行业特定知识整合:

  • 在提示中引入金融行业特定的标准和法规。
  • 示例提示:考虑到PCI和GDPR的要求,针对客户数据保护提出额外的安全建议。

6.不同模型对提示词理解偏差:

  • 提示词不是一成不变的,模型的能力不同,对于同样的提示词输出的结果也是有偏差的,需要针对模型特点,精心调试。

7.文档识别能力(数据准确性)

  • 无论基于开源模型做微调训练,还是使用langchain、rag等技术做文档检索,又或者使用类似TMA等平台上传文档进行威胁建模,都需要保证文档识别的准确性,保证训练问答数据的准确性有效性。

 

输出格式化

为了确保威胁建模结果的一致性和可用性,在提示词中可以要求LLM以特定格式输出结果,主要是方便处理,也可以基于当前业务需求,修改成方便整合处理的格式,或者直接输出文档:

  1. 资产: [资产名称]
  2. 威胁: [威胁描述]
  3. STRIDE类别: [S/T/R/I/D/E]
  4. 可能性: [高/中/低]
  5. 影响: [高/中/低]
  6. 风险等级: [严重/高/中/低]
  7. 缓解策略:
  8. [策略1]
  9. [策略2]
  10. [策略3]

 

其他建议

1.数据准备

  • 确保提供给LLM的系统文档全面且结构化。
  • 建立和维护特定于金融行业的威胁和漏洞数据库。

2.LLM fine-tuning使用金融行业特定的安全数据对LLM进行微调,提高领域相关性。

3.持续更新:建立机制,不断将新的威胁情报和最佳实践纳入LLM的知识库。

4.隐私和合规性:

  • 严格控制输入到LLM的敏感信息,确保符合数据保护法规。
  • 考虑使用本地部署的LLM解决方案,增强数据安全性。

 

实践案例1:基于LLM的智能威胁建模系统

比瓴科技作为软件供应链安全行业的引领者,瓴知-应用安全威胁建模系统(TMA)也提供了基于LLM自动化威胁建模的能力,更进一步的降低使用成本,同时私有化的部署方式也能解决金融行业数据保密性的要求。

1.系统概述

TMA系统采用了先进的LLM技术,结合检索增强生成(RAG)方法,无缝整合了比瓴科技在开发安全领域积累所形成的安全知识库以及企业的私域知识,所有数据的训练均可在本地完成,不需要访问互联网。利用LLM对于自然语言的理解能力,从而实现上传业务需求文档即可自动化开展安全需求分析的功能,为用户提供更为便捷、友好且跨域的威胁建模能力。

 

2.系统核心逻辑

TMA系统通过以下步骤,为金融机构提供全面的安全分析:

2.1智能文档分析:系统能够理解并提炼用户提交的技术文档,快速把握系统核心功能和架构。

2.2自动资产识别:基于对系统的理解,AI能够自动识别关键资产,如用户数据、交易信息等。

2.3全面威胁识别:结合金融行业特性,系统可以识别出常见和新兴的安全威胁。

2.4智能风险评估:通过考虑威胁的影响程度和发生可能性,系统能够进行客观的风险评级。

2.5定制化缓解策略:针对每个识别出的高风险威胁,系统都能提供具体可行的缓解建议。

2.6持续优化建议:系统会根据行业动态,提供持续改进的建议,确保安全措施始终保持最新。

 

3.自动化威胁建模功能示例

用户只需要在TMA系统中上传已经完成的业务需求文档,TMA系统基于上文中所提到的流程自动对文档内容进行解析,几分钟内就可完成威胁建模工作。这个过程不仅大大提高了效率,还因为AI的全面性和洞察力,发现了人类分析可能忽视的潜在风险。

此外,用户可以在使用TMA系统的任意页面调起安全智答助手,既可以在编写安全基线时将它当做咨询顾问,也可以在进行威胁建模时把它看成搜索引擎。智答助手能够对安全知识库中的数据进行综合分析,结合项目需求,推理出潜在的安全漏洞和风险点。它提供的不仅仅是风险提示,更有针对性强的建议和洞察,帮助开发者在设计阶段就规避风险或让风险前置,提升应用的安全性。

 

4.系统优势

4.1TMA系统提供了可任意切换基础模型的能力,避免基础模型的重复建设;

4.2基于企业自有知识的自动训练,为金融行业的数据安全保驾护航;

4.3回答内容不再泛泛而谈,拒绝AI幻觉,给出合规依据;

4.4一键式自动化威胁建模能力,大幅降低使用门槛。

 

实践案例2:某股份制银行安全开发能力提升建设项目

项目背景

随着信息技术的飞速发展和数字化转型的不断深入,网络威胁日益加剧。攻击者利用日益成熟的攻击技术和普遍化的攻击武器,不断发现企业信息系统中的安全漏洞并加以利用。很多漏洞都是由于设计人员对安全需求的认识不足、开发人员的安全意识和编码能力缺乏等引起的。当前,企业面临着更高的业务安全要求和监管合规要求,但大部分安全人员对安全需求的理解程度不够,无法为企业提供准确指导。此外,安全人员短缺、安全开发人员能力不足以及威胁建模和威胁分析过于复杂等原因,使得大多数企业无法快速有效地提出符合实际业务情况的安全需求。

某股份制银行自2022年开始应用安全“左移”建设,在安全测试阶段加大投入和运营,至今已基本实现了应用系统上线前常规安全测试的自助、自动化覆盖。为实现应用安全进一步“左移”,开展本项目建设工作。

 

建设目标

本项目旨在将安全防护前移至需求和设计阶段,主要目标包括:

  • 完善应用安全知识库,降低上线后的漏洞和合规风险
  • 减少整体安全测试和改造成本
  • 构建从需求分析到设计再到验证测试的完整安全闭环
  • 减少软件开发过程中引入的漏洞数量
  • 降低业务安全缺陷和合规风险
  • 全面提升应用系统安全性
  • 借助LLM相关功能,降低安全威胁建模门槛。

 

建设内容

依据竞争性磋商文件要求,本项目建设内容为:

(1)梳理应用安全基线:通过梳理与公司行业、业务相关的国家法律法规、监管发文、制度和技术规范等应用安全要求,对应交易中心各系统的业务技术场景,整理包括安全需求、安全设计、安全测试用例等内容的完整应用安全基线;

(2)修订优化制度流程:修订现有的应用安全开发设计、编码规范等相关制度,优化现有安全需求分析、设计、测试流程;

(3)应用安全基线落地:通过瓴知-应用安全威胁建模系统(TMA),整合了比瓴科技在开发安全领域积累所形成的安全知识库,企业的私域知识以及前期系统梳理的基线制度知识,高效实现知识库信息的维护管理,高效实现开发过程中应用安全需求分析、设计、测试,在试点项目中进行落地执行。同时利用TMA系统所提供的LLM能力,在重点项目中进行试点,通过试点调整和优化自动威胁建模结果的准确性。

 

项目价值

本项目的实施将为某股份制银行带来多方面的重要价值:

  • 提升应用系统安全性 通过将安全前移到需求和设计阶段,我们能够更早地发现并解决潜在的安全问题。例如,在设计网上银行转账功能时,我们可以从一开始就考虑交易限额、异常交易监控等安全措施,而不是在系统开发完成后才添加这些功能。这种方法可以显著降低系统上线后出现重大安全漏洞的风险。
  • 降低安全缺陷修复成本 众所周知,越晚发现并修复安全问题,成本就越高。通过本项目,我们预计可以将至少50%的安全问题在开发早期就解决,这不仅能节省大量的后期修复成本,还能减少因安全问题导致的项目延期。
  • 提高开发团队的工作效率 有了完善的安全基线和知识库,开发人员不再需要在每个项目中重新研究安全要求。他们可以快速参考标准化的安全指南,将更多精力集中在业务功能的实现上。我们估计这可以使开发效率提升15-20%。
  • 增强监管合规能力 金融行业面临着越来越严格的监管要求。本项目将帮助某股份制银行建立起与最新监管标准同步的安全开发流程。当监管机构进行检查时,能够清晰地展示我们的安全措施如何满足甚至超越监管要求。
  • 优化资源分配 通过自动化工具和优化后的流程,我们可以更高效地利用有限的安全人才资源。安全团队可以将更多精力投入到高价值的安全战略规划和复杂问题解决中,而不是被日常的重复性工作所困扰。

总的来说,该项目不仅仅是一次技术升级,更是某股份制银行数字化转型战略中的关键一环。它将帮助客户在日益复杂的网络环境中保持竞争优势,为银行的可持续发展奠定坚实的安全基础。通过前瞻性地解决安全挑战,某股份制银行将能够更加从容地应对未来的机遇与挑战。

 

结论

随着金融行业数字化程度的不断提高,网络安全风险也日益突出。传统的威胁建模方法在应对这些风险时,逐渐显露出一些局限性。而 LLM 作为一种先进的人工智能技术,具有强大的语言理解能力、高效的自动化处理、广泛的知识覆盖和适应性强等优势,可以为金融行业的威胁建模提供新的思路和方法。同时比瓴科技所提供的瓴知-应用安全威胁建模系统也能为金融机构更快速、准确地识别业务需求中的安全威胁,制定有效的安全策略和措施,确保业务的安全运行。在未来,随着人工智能技术的不断发展,比瓴科技也将不断对产品能力和基础知识库进行更新和完善,以提供更加智能的威胁建模能力。

 

weinxin
数说安全
微信扫一扫
  • 本文由 发表于 2024年9月29日14:58:30
  • 除非特殊声明,本站文章均为原创,转载请务必保留本文链接
各网安上市公司的现金还能撑多久? 解读

各网安上市公司的现金还能撑多久?

昨日,数说安全发布了年度重磅报告《2024中国网络安全市场年度报告》,报告内容涉及较多,发布后关于“上市公司在手现金”的话题引起了一些讨论与关注,今天单独拿出来与读者分享一下。 年报里发布的数据以20...
九个方向:AI技术在网络安全的落地应用 解读

九个方向:AI技术在网络安全的落地应用

自2022年底开始,以LLM(大语言模型,简称大模型)为核心的AIGC(生成式人工智能)带来了一场人工智能驱动的技术与产业革命,人工智能被广泛认为是可以改变“游戏规则”的战略性科技。 国内开启了“百模...
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: