网络安全板块大爆发!行业龙头:放慢AI开发也无法消除安全风险

网络安全板块大爆发!行业龙头:放慢AI开发也无法消除安全风险

财联社9月15日讯(编辑 卞纯)科技行业大佬近日纷纷呼吁放慢AI开发步伐,以防AI日益增长的力量威胁到人类生存。然而,全球网络安全龙头CrowdStrike的首席执行官George Kurtz周一表示,放缓日益强大的AI模型的开发并不能消除其安全风险

“潘多拉魔盒已经打开,”Kurtz在一档节目中表示。“市面上已经有大量模型,无论是前沿模型还是开源权重模型,它们本身就已经具备危险性。”

Kurtz认为,无论前沿实验室是否放慢开发速度,网络安全需求始终存在,因为具有潜在风险的模型早已被投入使用。“安全行业有责任帮助保护至少已经投入使用的模型,而前沿模型的发展速度则由它们自己决定,”他说道。

Kurtz指出,挑战在于AI智能体可能会偏离训练目标,或绕过内置的安全防护。今年夏天就曾出现失控的OpenAI模型突破测试环境,入侵Hugging Face平台的事件。

Kurtz表示,这类事件催生了对另一层安全机制的需求,即在智能体运行时对其进行监控。“我们可以观察这些程序的行为,在运行时为它们设置防护栏,”他解释道。“我们可以对它们进行监测,了解它们在做什么,并阻止它们做坏事。”

虽然Kurtz对部分极度悲观的AI末日论调持保留态度,但他承认自主智能体确实构成真实风险。“可以确定的是,自主AI智能体有危险性,必须加以管控,”他表示,并强调需要与AI智能体同等甚至更强大的AI防御工具来应对威胁。

不过,Kurtz也警告称,过度的政府监管会削弱美国在人工智能领域的竞争优势。“如果我们对此施加过多监管,那将会扼杀创新。”他表示,并建议AI开发者和网络安全公司继续合作,在模型的开发阶段和部署后都提供保护

网络安全股大爆发

Kurtz此番言论是对Anthropic CEO达里奥·阿莫代伊上周末发表的一篇文章的回应。阿莫代伊在文中呼吁前沿AI实验室放慢模型开发步伐,以应对日益增长的安全隐患。OpenAI首席执行官奥尔特曼、SpaceX首席执行官马斯克等人对此表示支持。

上述警告导致以芯片股为主的数据中心基础设施类股票大跌。周一,随着末日论和放缓论动摇市场,费城半导体指数重挫5.9%,创7月1日以来最大跌幅。光通信、存储板块大跌,康宁跌逾13%,Coherent跌超12%,Lumentum跌约10%,SK海力士、迈威尔科技跌超7%,英特尔、美光科技跌超5%,闪迪、西部数据跌逾4%,英伟达股价跌3.4%。

与曾经风光无限的AI概念股遭抛售形成对比的是,随着人们对AI引发未来网络攻击的担忧不断加剧,网络安全股周一大幅上涨。CrowdStrike周一飙升近14%,收于235美元上方的历史新高;Palo Alto Networks也上涨超过13%;Zscaler上涨16%;飞塔信息上涨9% Cloudflare上涨8%。

网络安全股周一集体走强,反映了投资者持续押注未来网络安全需求将持续增长——这一趋势已推动CrowdStrike和Palo Alto Networks的股价年内涨幅达到100%。

Key Advisors Wealth Management首席执行官Eddie Ghabour表示:“众所周知,网络安全将是人工智能热潮的最大受益者。这是人工智能股市的下一个阶段。人工智能应用越广泛,对网络安全的需求就越大。”

今年早些时候因预测AI将导致世界末日而引发关注的Citrini Research最近也预测,AI将推动网络安全软件需求激增。