经典案例

四大新兴的 GenAI 最佳实践 媒体

2025-05-13

利用生成性人工智能应对网络安全挑战

关键要点

威胁行为者迅速采用生成性人工智能GenAI技术来提升攻击的速度和效果。45的网络安全领导者认为GenAI将有利于威胁行为者,43则认为对网络防御者是个好消息。网络防御者需利用GenAI来识别风险、分析威胁情报、发现威胁以及总结安全数据。建立有效的使用案例与最佳实践,可以帮助组织发展全面的GenAI安全策略。

随着生成性人工智能GenAI时代的到来,威胁行为者与网络防御者都在争相使用人工智能技术来互相对抗。根据近期的数据,约三分之一的网络安全领袖表示,人工智能驱动的网络攻击是他们最大的忧虑。面对威胁行为者不断采用GenAI,网络防御者必须充分利用这一潜力,才能与之抗衡。

在这场较量的初期阶段,尚无明确共识表明威胁行为者还是网络安全团队将占据GenAI的优势。大约45的网络安全领袖认为GenAI会推动威胁行为者的发展,而43则认为这对网络防御者是有利的。尽管GenAI在各个方面都能增值,但对抗的规则并未在双方之间保持一致。尤其是,威胁行为者并不受到与防御者相同的伦理、法律和监管标准的约束。

四大新兴的 GenAI 最佳实践 媒体

威胁行为者的使用方式

威胁行为者利用GenAI加大钓鱼诱饵的强度,执行更多攻击,同时将攻击内容翻译成目标的母语。甚至有国家级威胁行为者使用人工智能深度伪造技术,通过雇佣佛罗里达安全意识公司KnowBe4的方式,获取该公司的数据。这些威胁行为者所获得的GenAI潜力正是防御者必须认真考虑如何在以下领域有效使用GenAI的原因:

领域描述风险识别随着大型语言模型的成熟,它们在基于风险的警报方面会变得更加复杂,从而让防御者能够集中精力处理对业务真正重要的任务。威胁情报分析大型语言模型LLM有潜力改变威胁猎杀能力。通过提升防御者分析数据的能力,LLM有助于更有效地识别网络中的妥协指标,主动减轻威胁。威胁检测与优先级排序GenAI能够帮助评估和优先处理当前风险,最大程度地利用网络安全人员的时间,同时减少人为错误。安全数据总结随着近50的首席信息安全官CISO报告给董事会,传达公司的网络安全风险变得尤为重要。GenAI能够快速总结相关安全信息,并以董事会成员易于理解的方式呈现。

将使用案例与最佳实践结合

为了在GenAI的较量中获得优势,网络防御者需要将我们的使用案例与最佳实践相结合,使每个组织都能发展全面的GenAI安全策略。以下是实现这一目标的方法:

制定深思熟虑的GenAI政策:试图完全禁止GenAI工具可能会阻碍创新,同时打开阴影人工智能的机会。组织需要制定严格的协议并对员工进行如何安全使用人工智能的教育,以降低GenAI的潜在风险,同时提升员工的生产力和业务创新。

海鸥加速器6.6.2版本

强调团队间的协作与工具整合:在更多软件开发团队依赖GenAI协助代码生成的情况下,安全和开发团队需在整个开发过程中保持同步,这将导致更注重安全的软件构建,限制引入技术栈的脆弱点和风险。在此基础上,企业需整合技术栈,以简化网络安全监控,确保其工具能够监控到所有GenAI驱动的攻击表面。

与法律和合规部门合作:随着提交给SEC的新合规法规及网络攻击潜在的法律后果,CISO必须重视部门间的合作。定期安排与法律和合规团队的会议,确保政策和实践符合相关法规。同时,通过桌面演练发现安全和合规漏洞,企业能够向监管部门证明他们对网络