人类学共同创始人赞扬拜登在安全人工智能努力中的会议 - 彭博社
Anne VanderMey, Caroline Hyde
Daniela Amodei,人工智能公司Anthropic的联合创始人,称上周在白宫与人工智能领袖举行的会议是“确保技术安全的一个令人难以置信的第一步”。
Amodei在周一接受彭博电视台采访时强调了与美国及海外的政策制定者、学者和其他团体“及早而频繁地沟通”的必要性。
Amodei表示,这家自称正在开发更安全类型的聊天机器人的初创公司,一直致力于确保其技术的最新版本,名为Claude 2,能够对有害问题返回无害答案。她说:“当然,市场上没有一个模型是100%免疫于越狱或绝对安全的,但我们的目标确实是尽可能提供一个尽可能安全的模型。”
总部位于旧金山的Anthropic于2021年由一些前OpenAI员工,包括Amodei及其兄弟Dario Amodei创立。这家初创公司公开呼吁谨慎对待开发和发布人工智能系统的竞赛,以及这些工具可能带来的影响。该公司在五月份表示,筹集了4.5亿美元的资金,迄今为止已筹集的总额超过10亿美元。