中关村AI会议精彩纷呈就在一周多前有人参加了在北京繁华的高科技区——中关村举办的一场大型人工智能会议。会议内容丰富涵盖从递归自我改进即模型可以自行调整代码并无限发展的理念到人形机器人等各个方面。传奇人物齐聚会上有几位计算机领域的传奇人物包括公钥密码学的共同发明者惠特菲尔德·迪菲Whitfield Diffie以及与理查德·萨顿Rich Sutton因在强化学习领域的开创性工作而荣获图灵奖的安德鲁·巴托Andrew Barto。中美应搁置AI竞争参会者最大的收获是美国和中国应该搁置激烈的人工智能竞争。前沿人工智能带来的网络安全和系统性风险十分严重不容忽视。除非全球人工智能强国能够携手合作否则能力日益强大的自主模型可能很快就会引发混乱。麻省理工学院MIT的计算机科学家斯蒂芬·卡斯珀Stephen Casper表示“人工智能是一项全球性技术它能带来全球范围的益处也会造成全球性危害而且新能力最终总会扩散开来”。美国限制措施及影响此前美国主要将中国在人工智能领域的进展视为经济和国家安全威胁。华盛顿对芯片和芯片制造设备实施了严格限制以阻碍中国强大人工智能的发展。最近美国政府出于国家安全考虑要求安普ropicAnthropic阻止外国公民访问其最强大的模型 Mythos 和 Fable 5安普ropic 取消了所有人的访问权限。《连线》杂志曾披露一家备受关注的公司是一家据称与中国有关联的韩国电信巨头。合作至关重要由北京人工智能研究院组织的这次会议强化了一种观点如果人工智能发展得过快、过于鲁莽中美双方都将受损。随着人工智能变得更强大、更具自主性且与日常生活的联系更加紧密它被用于进行网络攻击或出现灾难性故障的风险只会增加。由于中美这两个主导人工智能的大国拥有最先进的模型它们之间的合作显得至关重要。卡斯珀指出有研究表明在应对人工智能风险方面开展国际合作的益处超过了合作带来的任何国家安全风险他将当前的情况比作美国和苏联在核危险问题上的合作。“目前人工智能领域几乎所有人都认同的一点是人工智能不能出现类似切尔诺贝利核事故那样的时刻。”AI网络挑战普遍一场为期一天的会议强调了更先进的人工智能所带来的网络挑战具有普遍性包括人工智能生成代码中的新型漏洞、利用自主工具攻击系统的新方式以及实施社会工程攻击的自动化方法。专家观点合作优先会后与上海交通大学的林云教授交谈得知他在人工智能和计算机安全领域成果斐然。林云预计短期内黑客会占据优势但随着时间的推移包括人工智能的新应用在内的新对策应该会使局势向防御方倾斜。林云表示即使国际合作会因竞争而变得复杂但仍应将其作为优先事项。“如果不同国家对风险的理解相似就更容易制定共同的安全原则和技术标准。”“关键是要找到既能降低系统性风险又不泄露敏感操作细节的领域。”中美面临的紧迫问题或许对中美两国来说最紧迫的问题是如何在开放与风险之间取得平衡。开放权重模型对于研究和创新至关重要中国的模型在美国很受欢迎。但随着这些模型的发展要确保它们不会帮助黑客识别安全漏洞也不会被用作网络武器将变得更加困难。那么中美究竟该如何平衡开放与风险呢