为什么要理解OpenAI和GPT-4？_风闻

最近Lex对话了OpenAI创始人Sam Altman ，此前对长达3小时的对话，做了核心观点提炼 ：《Lex Fridman、Sam Altman 艺术性对话摘要，从高维度看 ChatGPT 是什么？》

这里，也把 Lex 对话 Sam Altman 开头的一段话，完整分享给大家。

这段话让我感受到 Lex 的博学、视角、洞察、同理心以及决心。非常敬佩。

我相信这是一个关键时刻：我们站在根本性社会转型的悬崖边上，包括我在内的许多人相信在我们有生之年，与我们大规模构建和部署的人工智能相比，人类的集体智慧将落后许多数量级。 

这既令人兴奋又令人恐惧：令人兴奋，因为我们知道和还不知道的无数人工智能应用将赋予人类创造、繁荣以及摆脱当今世界普遍存在的贫困和苦难的能力，并实现古老的 All Too Human 书中对成功的追寻。令人恐惧，是因为超级智能的通用人工智能（AGI）拥有：

1.有意或无意毁灭人类文明的力量；2.以乔治·奥威尔 1984 里的极权主义方式窒息人类精神的力量或者像赫胥黎的Brave New World中提到的由享乐激发全民歇斯底里的力量；在赫胥黎看来，人们开始热爱他们的压迫，崇拜那些破坏他们思考能力的技术。

这就是为什么现在与乐观的和愤世嫉俗的领导人、工程师和哲学家进行这些对话很重要。这些不仅仅是关于人工智能的技术对话，这些对话是：

关于权力；

关于部署制衡这种权力的公司、机构和政治系统；

关于建设分布式经济系统以激励这种安全，确保人工智能的开发和部署与人类的价值和目标保持一致；

关于工程师和部署 AGI 的领导者的的心理状态；

以及关于人性的历史，人类在集体规模上所具备的行为善恶倾向。