顶级风险投资公司签署自愿承诺,承诺负责任地使用人工智能 - 彭博社
Shirin Ghaffary
新的自愿指南虽然开放性很强,但是是为了对人工智能行业中可能涉及的成千上万家初创公司制定一些限制措施。
摄影师:Krisztian Bocsi/Bloomberg近三十家风险投资公司已经签署了一系列自愿承诺,经过拜登政府的反馈,规定了它们支持的众多初创公司应该如何负责任地开发人工智能技术。
负责任创新实验室(RIL)是一个由投资者和科技高管组成的非营利联盟,计划在周二发布有关新指南的详细信息,其中包括承诺在初创公司内部“获得组织支持”以推动负责任的人工智能发展,“预测人工智能的风险和益处”,以及“审计和测试以确保产品安全性”。该团体与美国商务部、学术界和民间社会团体进行了磋商,制定了这项自愿协议,并将在周二与商务部长吉娜·雷蒙多在旧金山举行的圆桌会议上讨论这一协议。
根据乔·拜登总统最近签署的人工智能行政命令,商务部被要求为人工智能公司制定评估标准,但这些强制性评估仅适用于构建最强大人工智能模型的公司。新的自愿指南虽然开放性很强,但是是为了对人工智能行业中可能涉及的成千上万家初创公司制定一些限制措施。
最初签署承诺的35家公司包括General Catalyst、Felicis Ventures、Bain Capital、IVP、Insight Partners和Lux Capital。除了这些准则,RIL还发布了更详细的“协议”——或者说操作指南——供初创公司和投资者尝试实施这些原则,包括关于如何构建负责任的人工智能团队、进行安全测试以及与外部利益相关者互动的建议。
“这带来了一种额外的管理层面,如果你愿意这么说的话,来管理投资,” Insight Partners的董事总经理Ganesh Bell在接受彭博新闻采访时说道。“我们从投资基础设施和人工智能公司中知道,建立信任是重要的。建立安全性是重要的。”
在一份声明中,莱蒙多表示,这一声明反映了拜登采取的“全员参与”的方法,以确保我们不遗余力地利用人工智能的力量造福人民,同时保护人们免受其风险。她表示,这些自愿协议“展示了私营部门的重要领导力。”
由于这些标准并非具有约束力,将由风险投资公司和初创公司自我执行。RIL的执行董事Gaurab Bansal表示,他希望公司能够遵守这些新原则。“我们认为创始人将会寻求签署者来确保他们在风险投资承诺上跟进,反之亦然,”他说。