暴力邪教植根于硅谷对人工智能安全的追求——彭博社
Ellen Huet
某科技行业展会上的人工智能标识。
摄影师：安吉尔·加西亚/彭博社 欢迎阅读《科技深一度》，这是我们改版后的每日通讯，汇集彭博社全球记者关于科技行业的报道与分析。今天，埃伦·休特将撰文探讨围绕一个小型暴力组织的矛盾浪潮，以及硅谷社区致力于遏制可能失控的人工智能的努力。
全球科技动态
**芯片议题：**据悉阿联酋一名高级官员正准备访问华盛顿，敦促特朗普政府官员放宽对先进半导体的出口管制。
**外卖势力：**中国外卖巨头美团在英国竞争对手Deliveroo退出香港市场后获得更大市场份额，使其旗下Keeta占据主导地位。
AirPod新功能：苹果计划推出一项让AirPods实现实时对话翻译的功能。此举将使该公司耳机具备谷歌Pixel Buds等竞品已有的能力。
价值重估
Adobe周四成为标普500指数中表现最差的股票，其平淡的季度业绩叠加投资者撤离科技股的操作导致股价下跌14%至377.84美元——创2023年5月以来最低价。这家Photoshop制造商曾连续十年保持增长引擎地位，2012-2021年间年均回报率约35%。但面对AI初创企业的竞争，投资者纷纷抛售该软件公司股票，其市值自2024年初以来已缩水37%。
关于齐兹人的解读
若您尚未听闻齐兹人，我们将为您快速梳理要点。简而言之，齐兹人是一个小型邪教式团体，近期被指控涉及四起谋杀、两起暴力致死、数起自杀及几桩伪造死亡事件。
这些袭击事件的具体细节错综复杂、超现实且令人困惑。但最引人注目的是，齐兹人与理性主义社群存在关联——后者是硅谷极具影响力的团体，致力于理性思考并防止人工智能毁灭人类。
许多齐兹人（因其领袖自称"齐兹"得名）曾属于理性主义社群，或活跃在其边缘地带。他们中有些人从事科技和软件工作，并信奉与理性主义者相同的原则。随着涉嫌犯罪细节不断曝光，一个更宏观的问题浮现：这些离奇谋杀案对AI安全领域和理性主义者意味着什么？
背景补充：科技界存在一个强大的亚文化群体，它融合了三个社群——追求无偏见思维的理性主义者、运用量化指标为他人谋取最大福祉的有效利他主义者，以及认为当前人类面临最紧迫问题是失控AI灭绝威胁的AI安全研究者。当下关于AI可能灭绝人类的讨论，主要源自这三个群体的推动。
那么，Zizians在哪些方面代表了这种亚文化？就像许多理性主义者一样，Ziz和她的伙伴们极度关注人工智能带来的生存风险——致力于研究如何确保超级智能与人类利益保持一致。许多Zizians也是素食主义者，并关注动物福利，这是有效利他主义运动中常见的议题。
值得注意的是，Zizians花费大量时间尝试寻找认知“黑客”，或升级大脑的方法，以更理性或更清晰地思考，目标是能够解决人类的问题。曾在理性主义研究小组工作的杰西卡·泰勒表示，这种愿望在理性主义圈内广泛存在。泰勒说，在那个圈子里，“人们认为我们应该非常密集地进行心理学研究，因为考虑到我们处于人工智能带来的绝望境地，这非常重要。”他们有时称这些努力为“调试”。
不过，Zizians比大多数人走得更远。他们尝试了各种方法，包括试图一次只让大脑的一半进入睡眠状态。随着他们的信仰和实践变得越来越极端，一些理性主义者开始与Ziz及其追随者保持距离。
“他们长期以来被理性主义者排斥，”泰勒说。一些人开始担心Ziz可能会煽动她的追随者采取暴力行为。另一位理性主义者内森·杨表示，他参加了一个关于人工智能和慈善的会议，他相当确定会议因对Zizians的安全担忧而更换了地点。
理性主义者和有效利他主义者喜欢用定量思维寻找最优策略——做最大的善事，成为最理性的人，解决最大的问题。这种意识形态强烈倾向于极端主义，结果可能是毁灭性的。曾经是有效利他主义代言人的山姆·班克曼-弗里德，犯下了巨大的欺诈行为，可能出于一种信念，即这是正当的，因为这是赚取大量利润然后捐赠给有效慈善机构的最优方式。
人们有理由质疑，这种对功利主义的强调是否也可能导致极端甚至凶残的后果。2023年，理性主义论坛LessWrong上的一篇帖子试图假设为什么有效利他主义者（EAs）和理性主义者"有时会变得疯狂"，并以Zizians为例。但理性主义者们反驳了这种盲目、非道德的功利主义观点。
“理性主义者有一些非常强烈的反对暴力的规范，“杨说。“当面对可能为暴力辩护的极端情况时，他们会说，‘不要这样做！’”
杨强调，理性主义领域是由多个子群体组成的，这些子群体之间可能非常不同。因为这个社区强调寻求独立思考，而不是接受既有的社会规范，其成员可能会得出离经叛道的结论。
“理性主义附近的群体差异非常大，“杨说。“如果你有一群人说，‘你必须为自己思考’，那么有些人可能非常非常好，有些人可能非常非常坏，这并不奇怪。”
引用
“我认为DeepSeek所做的贡献是让市场意识到许多参与者效率低下。这是一个非常健康的警钟。”
艾丹·戈麦斯
Cohere联合创始人兼首席执行官
戈麦斯在谈到包括他自己公司在内的企业引入可以在更少的芯片与更低的功耗。### 阅读
今日科技与娱乐领域阅读量最高的故事：
即将上任的英特尔CEO陈立武表示，他将坚持这家芯片制造商颇具争议的转型计划——成为其他半导体公司的合约制造商。英特尔去年亏损192亿美元，同时斥资数十亿美元建造和扩建晶圆厂，这一战略部分导致了前任CEO帕特·基辛格的下台。
动态
- 30亿美元康卡斯特旗下NBC为延长奥运会转播权至2036年支付的费用。该协议赋予NBC美国全平台媒体权利，在当前合约基础上新增四年奥运周期，为电视台提供更多热门节目内容。
影音俱乐部
彭博社Vlad Savov评测新款iPhone 16e，这是苹果最经济的手机。他指出，其软件体验出色，但对于寻求低价机型的用户而言，定价可能略高。
更多彭博资讯
订阅《科技深度解析》及其他彭博科技简报：
- 《网络公报》——揭秘黑客与网络间谍的暗黑世界
- 《游戏进行时》——深入电子游戏产业
- 《开机启动》——获取苹果独家消息、消费科技新闻等
- 《银幕时间》——直击好莱坞与硅谷的碰撞现场
- 《声浪》——追踪播客、音乐产业与音频趋势
- 《问答AI》——解答所有关于人工智能的疑问