OpenAI首席执行官Sam Altman与AI悲观论者Eliezer Yudkowsky的Twitter争执解释 - 彭博社
Ellen Huet
OpenAI标志排列在北京一台笔记本电脑上，2023年2月24日星期五。中国人工智能股票的上涨显示出进一步降温的迹象，媒体报道称当局禁止访问OpenAI的ChatGPT服务。Bloomberg随着科技行业朝着越来越令人眼花缭乱的人工智能技术迈进，人类面临一个无法回避的问题：这是好消息还是坏消息？
在硅谷，有一小群但实力强大的人认为这可能是非常非常糟糕的消息——如果人工智能处理不当，可能会在几十年内消灭人类。也有一群人认为我们的人工智能未来将是令人惊叹的——带来无数未来的能力、丰富和乌托邦。
本周在《彭博商业周刊》特写中，我深入探讨了科技行业中认为自己正在拼命拯救世界免受杀手威胁的派别。这个故事涉及到一种称为有效利他主义的慈善哲学和人工智能悲观主义的结合，主角包括Sam Bankman-Fried、Elon Musk、Peter Thiel，以及令人难以置信的哈利·波特。它还有一个不良的底层——性虐待指控和末日宗教的气息。
在过去几年里，硅谷对未来人工智能的巨大风险的痴迷已经变成了一场激烈的争吵。目前，这种分裂正在在线上两个人之间展开：人工智能理论家Eliezer Yudkowsky和OpenAI首席执行官Sam Altman。自2000年代初以来，Yudkowsky一直在警告人工通用智能可能与人类价值观“不一致”，并可能决定消灭我们。他积极努力说服他人将防止人工智能启示录作为一项优先任务——足以说服Musk认真对待这一风险。Musk于2015年与Altman共同创立了非营利性OpenAI，旨在创建更安全的人工智能。
在过去几年中，OpenAI采用了营利模式，并推出了更大、更快、更先进的人工智能技术。该公司已经筹集了数十亿美元的投资，Altman为人工通用智能（AGI）的进展欢呼雀跃。“在我们迈向AGI水平系统的过程中，将会有一些可怕的时刻和重大的颠覆，但好处可能是如此惊人，以至于克服巨大的挑战是非常值得的，”他在十二月份发推文说。 发推文。
与此同时，Yudkowsky表示，他几乎已经失去了对人类负责任地处理人工智能的所有希望，他在上个月的一个 播客中说。在OpenAI成立之后，由于其致力于推动人工智能发展的承诺，他说他在深夜独自哭泣，并想到，“哦，这就是人类将选择做的事情。我们不会超越。我们甚至在最后时刻也不会更加优雅。”
考虑到这一背景，当Altman最近 发推文说Yudkowsky“比任何其他人都做得更多以加速AGI的发展”，并且可能有一天“应该因他的工作而获得诺贝尔和平奖”时，这似乎就是火上浇油。以某种方式来看，他在戏弄Yudkowsky，说这位人工智能理论家在试图阻止他最严重的恐惧时，实际上加速了它的到来。（Yudkowsky表示他不知道Altman是否在戏弄他；Altman拒绝置评。）
这就是它。两位AI思想家之间的某种晦涩、内部斗争，但它突显了这些天你将看到的许多AI新闻中潜在的全有或全无、拯救或毁灭的背景。
再说一遍，也许这场争执并没有我们想象的那么严重。上个月，Altman在推特上发了一张自拍照，照片中他一边是Yudkowsky，另一边是埃隆·马斯克的前女友、加拿大歌手Grimes。所以无论AI是否会在20年内杀死我们，至少目前，每个人仍然可以一起在派对上玩耍。
重要新闻
英特尔已经开始大规模扩建德国的新生产线，以帮助重新平衡东亚制造业的集中度，但糟糕的经济状况迫使这家芯片巨头推迟了其马格德堡工厂的建设，因为它寻求额外的德国政府补贴。
充分充电
FTX的崩溃暴露了许多数字资产平台缺乏保险，以及在重建加密行业信任面前的漫长道路。
Salesforce推出了一项2.5亿美元基金用于生成式AI初创公司 — 这是该软件巨头迄今为止最大的一笔投资 — 因为该公司试图进入AI领域。
韩国的火箭科学家已经转向一个简单的互联网搜索服务，以找到他们可以模仿的发动机因为该国正努力建立太空计划。
**WeWork，这家长期陷入困境的工作空间租赁公司，**正在就筹集数亿美元现金进行谈判。
更多来自彭博社的信息
收听：《Foundering: 约翰·麦菲故事》是一个全新的六集播客系列，追溯硅谷偶像的生活、神话和自我毁灭。在Apple上免费订阅，或在Spotify或其他播客平台收听。
观看：《未来与汉娜·弗莱》探讨寿命延长、情感敏感的计算机等在这个彭博原创节目中的潜力。
在您的收件箱中获取彭博科技周刊：
- 网络公告涵盖黑客和网络间谍的阴影世界
- 游戏进行中报道视频游戏业务
- 开机苹果独家报道、消费者科技新闻等
- 屏幕时间近距离观看好莱坞和硅谷的碰撞
- 声音片段播客、音乐行业和音频趋势报道