美国和其他国家签署了一项协议,旨在就“前沿”人工智能(AI)技术的开发进行合作和交流,以期限制未来几年该技术可能带来的风险。

“我们鼓励所有相关主体就其计划测量、监测和缓解可能产生的有害能力以及相关影响提供上下文相关的透明度和问责制,特别是为了防止误用和控制问题,以及其他风险的放大,”28个国家,包括美国、中国和欧盟成员国签署的布莱切利宣言称。

国际社会一直在努力平衡人工智能这样先进技术可能带来的明显和新兴风险与英国国王查尔斯三世所称的”难以估量的利益”之间。

因此,布莱切利宣言阐述了两个关键点:”识别AI安全风险”和”根据这些风险在我们各国建立相应的基于风险的政策,以确保安全。”

美国和英国已经宣布成立致力于这些任务的研究所。

英国周五宣布成立的研究所将作为全球性的”国际合作平台”,旨在安全开发人工智能。该研究所还将与美国和新加坡的领先AI公司合作,以避免潜在风险。

该研究所将”仔细测试新型前沿AI技术,以在其发布前后应对人工智能模型可能产生的有害能力,包括探讨所有风险,从偏见和误导信息等社会伤害,到人类完全失去对AI的控制这样极端但可能性较小的风险。”

英国首相拉希·苏纳克还承诺近5亿美元资助AI领域,大幅提高英国的开发力度-这比其初期1.25亿美元的芯片投资承诺要高很多。据《泰晤士报》报道,这笔投资旨在激发创新,保持英国在该领域的领先地位。

英国一直寻求在人工智能技术的开发和监管方面发挥领导作用,这一点通过在阿兰·图灵开发第一台计算机以协助破解密码的布莱切利公园举办首届国际人工智能安全峰会得到了明确表述。

图灵在发明破解密码机后不久就考虑过人工智能,1950年在《心灵》杂志上发表了《计算机与智能》一文。他在其中讨论了机器的意识论点并驳斥了否定开发此类智能的论点。

“看到全球合作伙伴和AI公司本身都愿意共同合作,以确保AI的安全开发和惠及所有人民,这真是太好了,”苏纳克在新闻稿中就研究所成立表示,”这对英国长远利益来说是正确的做法。”

根据首相办公室的说法,阿兰·图灵研究所和伦敦帝国理工学院的研究人员也”欢迎”该研究所的成立。

在微软旗下开放AI发布ChatGPT后,公众对这项技术的可能性产生了积极和消极两方面想象,部分人士也表达了对可能出现”终结者”未来的担忧。

特斯拉和SpaceX创始人埃隆·马斯克今年早些时候表示,他认为AI”很可能会出错并摧毁人类”-这种可能性”虽小但不为零”。

布莱切利宣言将寻求确保这种情况不会发生,声明将坚定不移”参与包容性的全球对话,吸纳现有国际论坛以及其他相关计划,以开放方式为更广泛的国际讨论做出贡献,并继续研究前沿AI安全,以负责任地利用这项技术的利益惠及所有人。”