谷歌、Meta、微软、OpenAI等公司同意自愿提供人工智能保障
白宫周五表示,几家开发人工智能的美国顶级公司已经同意与美国政府合作,并承诺遵守几项原则,以确保公众对人工智能的信任。
亚马逊、人类、谷歌、Inflect、Meta、微软和 OpenAI 都签署了让人工智能安全、可靠和值得信赖的承诺。今年5月,拜登政府曾表示,将与领先的人工智能开发人员会面,以确保他们符合美国的政策。
这些承诺没有约束力,不遵守这些承诺也不会受到惩罚。这些政策也不能追溯到已经部署的人工智能系统-其中一项规定称,这些公司将承诺在发布人工智能之前对其进行内部和外部的安全漏洞测试。
尽管如此,新的承诺是为了让公众(在某种程度上也是立法者)放心,人工智能可以负责任地部署。拜登政府已经提议在政府内部使用人工智能来简化任务。
也许最直接的影响将在人工智能艺术上感受到,因为所有各方都同意使用数字水印来识别一件人工智能生成的艺术品。一些服务,如必应的Image Creator,已经在做这项工作了。所有签约人还承诺将人工智能用于公共利益,如癌症研究,以及识别适当和不适当的使用领域。这一点没有定义,但可能包括现有的保障措施,例如防止 chatgpt 帮助策划恐怖袭击。这些人工智能公司还承诺保护数据隐私,这是微软在企业版必应聊天和微软365 Copilot中坚持的优先事项。
所有这些公司都承诺在其人工智能系统发布之前对其进行内部和外部安全测试,并与业界、政府、公众和学术界分享有关管理人工智能风险的信息。他们还承诺允许第三方研究人员访问以发现和报告漏洞。
微软总裁布拉德·史密斯支持新的承诺,并指出微软一直主张建立全国高风险人工智能系统注册中心。(加州一名国会议员呼吁成立一个监管人工智能的联邦办公室。)谷歌还披露了自己的黑客“红色团队”,这些黑客试图通过即时攻击、毒化数据等攻击来破解人工智能。
OpenAI在一份声明中表示:“作为我们构建安全、有益的AGI使命的一部分,我们将继续试点和完善具体的治理实践,这些实践专门为我们生产的高能力基础模型量身定做。”我们还将继续投资于有助于为监管提供信息的领域的研究,例如评估人工智能模型中潜在危险能力的技术。
外链关键词: fred怎么读 妈祖文化节 大学数学软件 系统建设原则 做梦梦见好多兔子 中国地质大学武汉分校 中国旅游报官网 农学类专业认证本文地址: https://www.q16k.com/article/ecaf8224bb6d42f27de0.html