美国七家AI头部企业将作出承诺 保障自家AI系统安全性和透明度

智通财经APP获悉，美国七家领先的人工智能公司将于当地时间7月21日在白宫参加一次活动，公开承诺接受白宫要求，对人工智能技术进行保障，最大限度地减少对这项新兴技术的滥用和偏见。

七家公司包括亚马逊(AMZN.US)、Anthropic、谷歌(GOOGL.US)、Inflection、Meta(META.US)、微软(MSFT.US)和OpenAI，这些公司都将在透明度和安全承诺的条款中做出承诺。

根据协议，公司将在新的人工智能系统发布前对其进行内部和外部测试，并要求外部团队调查其系统的安全漏洞、歧视倾向或对美国人权利、健康信息或安全的风险。

另外，这些公司承诺将与政府、民间社会和学术界共享信息，以改善风险缓解，并在出现漏洞时出具报告。人工智能公司将在他们生成的材料中加入虚拟水印，提供一种帮助区分是真实的图像和视频还是计算机生成的方法。

白宫助手表示，这一承诺有助于平衡人工智能技术的前景与风险，是数月密集幕后游说的结果。据悉，预计将于周五出席白宫会议的许多高管曾在5月参加了与拜登和副总统哈里斯的会议，政府在会上警告该行业，它有责任确保其技术的安全。

白宫办公厅主任Jeff Zients在接受采访时表示：“我们必须确保这些公司在开发产品的过程中，以及在发布产品之前，对产品进行压力测试，以确保它们不会产生意外后果，比如容易受到网络攻击，或者被用来歧视某些人。”

自愿保障措施

尽管如此，这些公司提出的承诺是自愿的，这说明，美国政府在引导最先进的人工智能模型远离潜在滥用方面所能做的有限。

该指导方针没有规定要获得特定外部专家的批准才能发布技术，公司只需要报告——而不是消除——可能的不当使用或偏见等风险。并且，水印系统需要进一步改善，当前的系统可能难以对试图在互联网上散布虚假信息的恶性行为者的内容印上不轻易被删除的标记。

除了公众舆论之外，几乎没有什么机制可以迫使人们承诺将这些技术用于医学和气候变化等社会优先事项。

“这是一个不可能实现的目标，”Zients表示，“因此，我们不仅必须执行和履行这些承诺，而且还必须随着技术的变化制定下一轮承诺。”

Zients和其他政府官员也承认，如果没有国会立法，就很难跟上新兴技术的步伐。国会立法既有助于政府实施更严格的规则，又能提供资金，让政府能够聘请专家和监管机构。

白宫助手表示，近几个月来，对人工智能的担忧是总统拜登的首要任务。拜登经常在与经济、国家安全和卫生顾问的会议上提到这个话题，并与内阁秘书长进行了对话，告诉他们优先研究这项技术如何与他们的机构相互联系。

在与外部专家的对话中，拜登被警告称，算法社交媒体(如Meta的Facebook、Instagram等)已经展示了人工智能可能带来的一些风险。一位外部顾问建议，总统应该考虑类似于20世纪90年代的克隆问题，需要明确的原则和保障。

白宫表示，在周五的声明发布之前，它已与20个国家的政府进行了磋商。

副幕僚长Bruce Reed表示：“我认为各方都愿意或渴望在这方面尽快采取行动。”