Anthropic首席执行官表示，AI模型需要强制安全测试 - 彭博社

达里奥·阿莫代伊

摄影师：本杰明·吉雷特/彭博社Anthropic 首席执行官达里奥·阿莫代伊表示，包括他自己在内的人工智能公司应该受到强制测试要求，以确保其技术在发布前对公众是安全的。

阿莫代伊在周三于旧金山举行的人工智能安全峰会上回应有关该主题的问题时表示：“我认为我们绝对必须使测试成为强制性的，但我们也需要非常小心地进行。”

在美国和英国人工智能安全研究所发布了对Anthropic的Claude 3.5 Sonnet模型在网络安全和生物能力等多个类别的测试结果后，阿莫代伊发表了上述言论。Anthropic与竞争对手OpenAI之前已同意将其人工智能模型提交给政府机构。

阿莫代伊指出，主要公司已经同意了一系列自愿的、自我施加的安全指南，例如Anthropic的负责任扩展政策和OpenAI的准备框架，但他说需要更明确的要求。

阿莫代伊表示：“没有什么真正可以验证或确保公司真的遵循这些计划的字面和精神。他们只是说他们会。”他说：“我认为公众的关注以及员工的关心确实造成了一些压力，但我最终认为这还不够。”

阿莫代的思考部分受到他对更强大的人工智能系统的信念的影响，这些系统能够超越甚至是最聪明的人类，可能会在2026年到来。虽然人工智能公司正在测试生物威胁和其他仍然是假设的灾难性危害，但他强调这些风险可能会很快变为现实。

与此同时，阿莫代警告说，测试要求应该保持“灵活”，以适应技术变化的速度。“我们将不得不解决一个非常困难的社会政治问题，”他说。