人类学共同创始人赞扬拜登在安全人工智能努力中的会议 - 彭博社

Daniela Amodei，人工智能公司Anthropic的联合创始人，称上周在白宫与人工智能领袖举行的会议是“确保技术安全的一个令人难以置信的第一步”。

Amodei在周一接受彭博电视台采访时强调了与美国及海外的政策制定者、学者和其他团体“及早而频繁地沟通”的必要性。

Amodei表示，这家自称正在开发更安全类型的聊天机器人的初创公司，一直致力于确保其技术的最新版本，名为Claude 2，能够对有害问题返回无害答案。她说：“当然，市场上没有一个模型是100%免疫于越狱或绝对安全的，但我们的目标确实是尽可能提供一个尽可能安全的模型。”

总部位于旧金山的Anthropic于2021年由一些前OpenAI员工，包括Amodei及其兄弟Dario Amodei创立。这家初创公司公开呼吁谨慎对待开发和发布人工智能系统的竞赛，以及这些工具可能带来的影响。该公司在五月份表示，筹集了4.5亿美元的资金，迄今为止已筹集的总额超过10亿美元。