英国报告：人工智能可能加剧网络威胁

【欧洲时报10月26日编译】近日，英国一份新的政府报告称，到2025年，人工智能可能会增加网络攻击风险，并削弱人们对在线内容的信任。报告警告，人工智能技术甚至可以帮恐怖分子策划生物或化学袭击。

英国BBC报道，英国首相苏纳克会在26日特别强调了人工智能技术带来的机遇和威胁。政府报告着眼于生成型人工智能，这是一种目前非常流行的聊天机器人和图像生成软件提供动力的系统。该报告警告称，到2025年，生成人工智能可能“用于收集非国家暴力行为者关于人身攻击的相关数据，包括化学、生物和放射性武器”。

报告指出，虽然相关公司正在努力阻止这种情况，但“这些保障措施的有效性各不相同”。报告称，原本发起这类攻击所需的知识、原材料和设备存在障碍，但这些障碍正在减少。报告警告，到2025年，人工智能很可能也会促进“更快、更有效、更大规模”的网络攻击。

英国皇家联合军种研究所研究网络威胁的乔瑟夫·乔纳克表示，人工智能可以帮助黑客，尤其擅长模仿官方语言。“网络犯罪分子很难模仿官僚语言中的语气。”

这份报告是在苏纳克26日发表演讲之前发布的，他在演讲中阐述英国政府如何实现人工智能安全，并使英国成为人工智能安全的全球领导者。苏纳克表示：“人工智能将带来新知识、新的经济增长机会、人类能力的新进步，以及解决我们所研究的问题的机会。但它也带来了新的危险和新的恐惧。”他将致力于正面解决这些恐惧，“确保你和你的孩子拥有人工智能所能带来的更美好未来”。

该演讲为近日的政府峰会奠定了基础，该峰会将讨论高度先进的人工智能所构成的威胁。它将重点监管所谓的“前沿人工智能”。部长们表示，未来强大的人工智能系统“可以执行各种任务，会超过当今最先进模型”。

为首相和内阁提供建议的政府科学办公室最新发布的另一份报告称，“许多专家认为，这一风险很低，几乎没有可行性。”并表示，人工智能要想对人类的生存构成风险，需要控制武器或金融系统等重要系统，此外，还需要新的技能，比如改进编程的能力、逃避人类监督的能力，并拥有自主意识。