港大携手全球网络安全联盟 成立人工智能与网络安全研究所

港大与全球网络安全联盟(GCSA)宣布联合成立「人工智能与网络安全研究所」(Centre for AI and Cybersecurity Research)。研究所将整合双方在人工智能与网络安全领域的科研与专业资源,推动前沿研究,促进科研成果与真实安全场景深度融合,并探索人工智能(AI)与网络安全领域的新技术、新方法及治理框架。

研究所将由港大计算与数据科学学院网络安全讲座教授陈浩担任署理,将汇聚来自港大、GCSA及国际合作机构的研究人员,并邀请人工智能、网络安全及科技治理领域的专家参与研究和,推动跨学科、跨机构合作。

研究所将推动学术研究与产业实践相结合,并逐步发布AI与网络安全研究成果、安全基准及开源工具。其主要研究方向包括:

1. 模型原生安全与可信AI:提升大模型与生成式AI的安全点、可解释性及稳健性;

2. AI驱动的自动化威胁防御:应用AI提升对复杂网络攻击的感知与自动化防御能力;

3. 前沿技术安全评估:针对具身智能、机械人及物联网等新一代技术的潜在风险开展评估;

4. 全球AI安全标准与治理:研究AI安全评估标准与治理机制,推动相关国际交流与合作。

陈浩教授表示:「人工智能的快速发展带来了新的安全风险与治理挑战。研究所将连接学术研究、安全测试与产业实践,通过跨学科和国际合作,推动人工智能安全研究成果的转化与应用。」