网络安全专家指出恶意AI将开始泛滥

研究报告显示，26%的人认为可以绕过大多数已知网络安全措施的恶意AI将在2024年发生，50%的人认为可以绕过大多数已知网络安全措施的恶意AI将在未来5年内发生。

安全专业人士对恶意AI的担忧

除了对进攻性AI超过防御性AI的担忧外，77%的专业人士对恶意AI表示严重担忧，在恶意AI中，AI行为偏离其预期的目的或目标，变得不可预测和危险。

钓鱼、社交工程和恶意软件攻击被认为是人工智能将加强的最大威胁，但身份欺诈、数据隐私泄露和分布式拒绝服务攻击也被认为可能变得更加有效

尽管如此，受访者仍对人工智能对网络安全的积极影响持乐观态度。预计人工智能将支持威胁检测和漏洞评估，入侵检测和防御被确定为最有可能从人工智能中受益的领域。深度学习在检测加密流量中的恶意软件方面前景最好，48%的网络安全专业人士预计人工智能会产生积极影响

成本节约成为衡量AI增强防御成功的首要KPI，而72%的受访者认为AI自动化将在缓解网络安全人才短缺方面发挥关键作用。

AI在网络安全方面的采用率仍然较低

61%的企业尚未以任何有意义的方式部署AI作为其网络安全战略的一部分，41%的企业认为AI是其企业的高或最高优先事项。充满希望的68%的受访者预计，未来两年AI倡议的预算将增加。

50%的网络安全领导者报告说，他们的企业对网络安全领域的AI/ML有“广泛的了解”，另有19%的人报告说“中等知识”，剩下的大约三分之一的人报告说没有知识到最低限度的知识。当被问及企业应该采取哪些步骤来准备应对复杂或压倒性的AI攻击时，68%的人提到加强了对员工的网络安全培训和意识。

紧随其后的是制定特定于AI的事件响应计划(65%)，61%的人表示定期进行安全评估和审计。超过一半的受访者表示，加强零信任协议、多因素身份验证、下一代防火墙和威胁情报等传统安全控制是准备应对复杂AI攻击的关键。

“了解AI对网络安全的深刻影响，对于驾驭不断变化的威胁格局至关重要，”Enea资深行业分析师劳拉·威尔伯表示。“首先，要密切听取网络安全领导人及其前线团队的关切和希望。”

这份报告确认了人们对恶意使用人工智能的日益担忧，但同时也强调了使用人工智能来简化和自动化防御方面的一些引人注目的创新。已经取得了重大进展，例如减少了检测和遏制威胁的平均时间。然而，人工智能并不是一刀切的解决方案——企业必须采取明确和有条不紊的方法来实施人工智能战略，以实现最大程度的弹性。正如Enea所说——不要感到惊讶，要做好准备