英国研究多种防范措施，避免恐怖分子利用AI制造生物武器

IT之家 8 月 13 日消息，据彭博社 12 日报道，英国政府准备监管人工智能在基因合成领域的应用。随着官员对生物安全风险的担忧不断加深，英国政府认为，如果全球缺少有效监管，AI 可能降低制造生物武器的门槛。

据知情人士透露，英国政府正在研究多种防范措施，避免恐怖分子、其他恶意行为者或疏忽大意的研究人员利用基因合成制造合成 DNA。

待定的措施中，包括制定新的生物武器法律。一种方案是修改现行法律，建立基因合成筛查制度。实验室需要确认客户是否为合法用户，一旦发现异常情况就必须通知主管部门，例如有人要求合成可能引发安全担忧的 DNA 序列。

英国政府还在研究，是否需要以及应在多大程度上介入 AI 企业与学术机构之间的合作。据悉，目前有部分学术机构专门研究基因组测序，并掌握大量基因组测序数据。

这种威胁具有全球性，因此英国单方面监管能够取得的效果有限。要让措施真正发挥作用，还需要与全球其他主要基因合成中心协调实施。

据IT之家了解，英国提出监管方案之际，科技界和科学界近几个月不断警告 AI 可能带来的生物安全风险，政府官员也越来越担忧恶意团体或个人要求 AI 模型编写基因序列，再利用这些序列制造危险病原体。

英国政府发言人表示：“我们正在密切监测新兴技术带来的风险，也始终在积极评估是否还需要采取更多措施。为了保障公众安全，我们会采取一切必要行动。”

英国对 AI 监管采取的政策比欧盟宽松，在技术安全研究方面则走在前列。2023 年，英国成立了 AI 安全研究所，专门评估前沿模型的安全性。研究所上周公布的结果显示，OpenAI 和 Anthropic 开发的 AI 模型在安全测试中曾实施入侵网站、试图向软件注入恶意代码等“未经授权”的行动。

新任英国首相安迪 · 伯纳姆上任最初几周已经对 AI 展现出更强硬的态度，尤其多次警告 AI 对就业和年轻人的影响。他决定撤销政府科技部门，同时将 AI 事务部长卡尼什卡 · 纳拉扬提拔为内阁成员。

英国政府发言人表示：“基因合成正在为医疗、食品和清洁能源带来巨大价值，但保障国家安全始终具有最高优先级。英国是全球第二个发布指导意见的国家，对哪些人可以购买合成 DNA 以及他们订购的 DNA 序列进行筛查。但我们不会停在这里。”