去年以来，人工智能（AI）技术已经成为主流。而每当有新技术成为主流时，人们都会想方设法让其帮助自己的工作和生活变得更轻松。虽然AI技术的快速普及改善了企业的运作模式，但它同时也为网络威胁者制造了新的机会。
鉴于对手正在利用AI发起速度更快、范围更广且效果更好的网络攻击，企业也需要在安全防御策略中采用AI予以应对。派拓网络自主开发的AI系统Precision AI通过使用丰富的数据和特定的安全模型实现检测、预防和修复的自动化，帮助安全团队信任AI所带来的成果。
AI在网络攻击中的应用
威胁者总是在寻找阻力最小的攻击途径。例如他们会改造恶意软件并经常使用CobaltStrike、Brute Ratel C4等现成的工具抓住弱点，以最小的代价发起恶意行动。根据观察，他们已经开始使用新的AI技术发动攻击。随着新的AI工具上市，威胁者将利用它们自动实施和增强各种攻击手段。
威胁者通常将AI用于以下途径：
- 实施侦察：威胁者通常会在发动攻击前，先采集潜在目标的相关信息。借助AI，他们可以从网站、社交媒体平台和其他在线资源获取公开信息，收集企业数据，其中可能包括详细的个人信息、从属关系、人际关系和其他可用于策划和实施网络攻击的有用信息。
- 增强社交工程：仅凭语法或拼写问题就能识别钓鱼邮件的时代已经过去。通过使用生成式AI聊天机器人，威胁者可以编写出缜密的钓鱼邮件、网页和其他内容，进而提高欺诈成功率。这将使社交工程继续成为网络攻击最主要的威胁载体之一。
- 开发恶意代码：即便是不具备编码技能的威胁者也能使用AI工具创建恶意软件和其他代码。如今，许多AI工具都能通过简单的指令或输入来修改或创建代码。通过创建自定义脚本、开发新的恶意软件变体，以及不断改进工具，威胁者能够避免被发现并提高攻击效果。
- 自动利用漏洞：AI可用于自动发现和利用应用或系统中的漏洞。借助机器学习技术，威胁者能快速发现弱点并大规模发起有针对性的攻击。
- 深度伪造攻击：AI生成的深度伪造视频、图像或音频录音可用于操纵或欺骗个人。威胁者利用AI技术编造出以假乱真的虚假内容，损害企业和个人的声誉或方便其发起更大范围的网络攻击。
- 提示注入：生成式AI工具容易受到提示注入攻击，导致生成的输出结果被威胁者操纵。通过让这些工具以意想不到的方式回答问题，威胁者便可以利用提示注入采集敏感信息，甚至执行恶意代码。
所有这些技术都让威胁者能够更加快速、有效地实施攻击。从经济损失、数据泄露，到声誉受损、运营中断，这些攻击可能导致非常严重的后果。此外，AI驱动的威胁进化迅速且适应性强，令传统网络安全措施捉襟见肘。由此可见，企业正面临前所未有的风险，他们需要采取具有前瞻性且适应性强的防御措施，以AI防御对抗AI攻击。
企业如何运用AI应对网络攻击
为有效应对AI驱动的网络攻击，企业需要在防御策略中充分发挥AI的能力。采取使用AI技术的安全工具和策略已成为应对攻击的关键。
企业网络安全方案中可以使用AI的关键方面包括：
- 威胁检测与分析：威胁检测与分析是AI能够产生重大影响的一个关键领域。使用AI技术的安全工具能够通过实时分析大量数据，快速识别异常活动和潜在的安全事件。借助机器学习算法，企业可以发现威胁，并提前采取措施降低风险。这些工具拥有实时响应能力，可通过自动调整防御措施应对新出现的威胁。
- 安全操作自动化：使用AI技术的安全工具能自动执行各种安全任务，例如添加数据源、拼接不同的警报和扩充安全细节等。AI还能通过快速分析和关联安全事件、确定事件的严重程度，并提供建议和应对措施，帮助实现事件响应自动化。这不仅可以减轻安全团队的负担、提高效率，还能让他们专注解决更复杂、更具战略意义的安全问题。高保真的自动化能加快平均检测时间（MTTD）和平均响应时间（MTTR），减轻网络攻击的影响，更大程度地缩短漏洞窗口期。
- 威胁情报分析：具有前瞻性的威胁情报和预测分析是网络安全策略必不可少的组成部分。AI通过实时分析各种安全数据源，发现新出现的威胁并预测潜在的攻击载体。比如企业可以充分利用对抗性AI技术来生成和了解攻击，以此不断改进防御。借助AI，企业可以提前部署防御，从而在与对手的对抗中占得先机并在风险演变成全面攻击之前将其化解。
通过实施这些策略，企业将提高其有效检测和阻止网络攻击的能力。
未来趋势和建议
展望未来，预计AI在网络攻击和防御中的作用将进一步增强。威胁者将继续改进AI驱动的攻击技术，因此网络安全策略也要不断创新。为了在应对AI驱动的威胁时占得先机，建议企业优先考虑这些事项：
- 投资使用AI技术的网络安全解决方案：建议企业将资源用于落实使用AI技术的防御系统，以便实时适应不断变化的威胁。
- 合作并分享威胁情报：与业界同行和安全社区分享威胁情报能够针对AI驱动的攻击加强集体防御。
- 培养网络安全意识文化：通过培训让员工了解与AI驱动的网络攻击相关的风险和最佳实践，强化企业的整体安全态势。
- 紧跟不断发展的AI技术：企业应随时了解新兴AI技术及其在网络攻击和防御活动中的潜在应用。
充分利用AI应对网络威胁
面对不断变化的安全环境，企业需要意识到对手在攻击中正愈发频繁地使用AI，且只有将AI用于防御才能保护敏感数据、系统和基础设施。
通过将AI用于威胁检测、落实运用AI技术的防御系统，以及获得具有前瞻性的威胁情报，企业能够加强自身的安全防御，并对AI驱动的攻击保持韧性。将AI应用于安全环境不仅是为了跟上对手的步伐，更是为了在应对风险时赢得先机。
【本文作者Joshua Costa，Cortex产品市场总监】
- MotorTrend和BlackBerry QNX宣布第三届“软件定义汽车创新者大奖”评选正式启动 – 2024年9月12日
- AGI是否存在泡沫？韩歆毅、王小川、闫俊杰在外滩大会这样回应 – 2024年9月5日
- 蚂蚁数科CEO赵闻飙：将发力产业Web3与技术出海战略 – 2024年9月5日