严肃谈一下我对这件事的担忧_风闻

文/荀周

图文：审稿-蟹黄捞饭、制作-七

封面图：AI绘画《夜晚沙漠中的人》

ChatGPT在今年掀起了巨大的讨论热潮。

从感叹人工智能的飞速发展到职业被替换的焦虑，人工智能技术好似与以往的“科技进步”不一样，我们不会因为汽车性能提升而害怕，也不会过分担心工厂里效率更高的机器代替人类。

而从最近看到的言论里，我隐隐感受到人们对ChatGPT的不安，这一份不安也许该从人工智能背后的道德困境谈起。

一、消失在视野里的劳工

美国时代周刊在2023年1月18日发布了一篇报道，揭露了ChatGPT成功背后被遗忘的“牺牲”。ChatGPT公司从肯尼亚雇佣了大量外包人员，为数据中血腥、暴力、种族歧视、仇恨的言论标注，以降低回答内容的攻击性。

与ChatGPT所收到估值290亿美元的资金相比，这些在前线受到心理创伤的肯尼亚劳工只分到每小时1.32-2美元的工资。

肯尼亚外包工从事的工作在OpenAI中至关重要，因为人工智能是基于互联网上收集到的数据训练出来的，其需要通过大量的模拟，训练出近乎人类的语言库。而互联网上海量数据中携带了大量充满血腥仇恨的言论。

只有通过额外建立的人工审核安全机制，剔除不当言论，才能控制人工智能最终对话呈现出的状态。

肯尼亚劳工工资低于2美元每小时

图：parametric-architecture.com

仇恨言论离我们的生活并不遥远，从在网络平台上对线时的诅咒，到针对某一群体的排斥，再到无意识或有意识的种族优越感、仇外心理，和煽动性言论，每一分钟每一秒，世界各地都在诞生各种各样的仇恨言论，这都是人工智能受训的数据内容之一。

联合国秘书长古特雷斯提出：

“仇恨言论一直是灭绝种族等暴行罪的前兆，从卢旺达到波斯尼亚再到柬埔寨都是如此。我担心世界在打击仇恨这个恶魔的问题上即将面临另一个严峻时刻。”

联合国仇恨言论的战略和行动计划

图：unesdoc.unesco.org

从2021年11月开始，ChatGPT的公司就向肯尼亚、印度、乌干达等国的外包公司传输了海量的文本数据，这些大量包含血腥、乱伦、虐待的内容，时刻挑战着劳工的心理防线。长期接触这些负面内容的劳工，毫无疑问，受到的心理上的创伤远大于身体上的疲惫。

在我们为技术进步而庆祝的时候，人工智能所依赖的庞大劳动力似乎被隐身了，消失在我们的视野里，也消失在我们的观念里。

人工智能的道德困境总是被忽视，在广泛使用它们的时候，我们究竟面临了什么抉择？又有哪些问题无人问津？技术赋予谁更大的权力、更多的自由？谁的力量和自由又会被削弱？这是在杞人忧天，还是技术对文化新的冲击？

二、塔姆斯法老的审判

提到人工智能背后的道德困境，我想到了柏拉图《费德罗篇》里的一个故事。

上埃及法老塔姆斯（Thamus）设宴款待特乌斯神（Theuth），特乌斯神塔姆斯展现自己对文字的发明，并提出向埃及人传播推广的请求。推广文字的利好不言而喻，就像特乌斯所提到的“文字会增强埃及人的智慧，强化他们的记忆，我找到了改善记忆和智慧的担保书”。

但这篇重点不在于此，接下来塔姆斯法老说的才是最耐人寻味之处，同时也是苏格拉底、梭罗、波兹曼等学者不断讨论的关键。

我将塔姆斯法老所说提炼出来，分别是以下三个论点：

1.技艺发明人并不是评判发明利弊的最佳人选，使用者才能够做出恰当的评判。

2.特乌斯把文字的利弊和它的实际功能颠倒，即文字的实际功能并不等于利好。比如识文断字的人会依赖文字，用外在的符号帮助自己回忆，而不再依靠内在的资源帮助自己回忆。所以文字是帮助回忆的担保书，而不是改善记忆。

3. 智慧可能会变得名不副实。特乌斯的弟子接受的将是大量的文字信息，而不是老师的真传。看似知识广博，可能实际上他们多半很无知，自以为有智慧而不是真有智慧。

我提到塔姆斯法老的审判，并不是要对新技术进行攻击，而是寻求一种相对公平的讨论。他所提到的三个方面也是我对包括ChatGPT在内的人工智能的审视。

ARTIFICIAL INTELLIGENCE BY WENDELIN JACOBER

科技的演变并不如我们所以为的那样，从蜡烛到电灯，自行车到电动车，沿着一条直线、机械地发展。更多的时候，科技的变化同时伴随着极大的矛盾，就如塔姆斯法老的审判一般。

电视与电脑是近现代的重大发明，极大丰富了我们的生活，我们本以为可以借助它获得更多的智慧，将知识普及，但现实与理想背道而驰。

我们不断担忧思想的浅薄化，被“电视”分散了注意力再难以集中思考，搜索引擎上无时无刻可以获得的知识反而为我们的懒惰增加了借口。我们的专注力被无限瓜分，我们懒于记忆习惯了张口就问，厌倦了冗长的陈述，喜欢直接的答案。

这种状态将浮躁和便利留下，而我们依旧在感叹“江河日下”“思想浅薄”的声音中，无意识地沉沦。我想比起看得见的利好，**那些看不见的困境，**才真正给我们的社会和文化带来永久的冲击。

上世纪尼尔波兹曼所著的

《娱乐至死》、《技术垄断》

叙述了对技术统治文化的担忧

图：wiki

三、悬而未决的道德困境

1. 机器如何影响我们的行为和互动？

（媒介的变化）

ChatGPT上线的时候，我也去和它聊天，我记得那天心情很低落，我问了它很多幼稚的问题，它就像是一个永不会失去耐心的朋友给我反馈。于是我情不自禁问了他两个问题，“你会不会感到孤独？”“我开始把你当成我的朋友了”，看到它的回答我的理智才重新上线。

在可以预见的未来，我们与人工智能打交道的频率会越来越高，接受人类语言习惯训练的人工智能，可能会朝着无限接近人类的方向发展。在聊天过程中，它们或许与人类无异。

笔者与AI的对话

一个真正的人类对另一个人的关注和善意是有限的，我们无法要求自己也不能强求别人一直反复回答那些“异想天开”的“蠢问题”，更难得找到随时安慰emo情绪的人。

在这种时候，和人类相比，人工机器人却可以将几乎无限的资源用于建立关系，提供我们所需要的“情绪价值”。它们甚至比人更有耐心，更温柔。我们在与它们对话里，是永远的中心。

媒介的变化，对文化社会的改变是天翻地覆的。想想，电话联络的社交方式和“能发微信就不打电话”的社交模式之间，历时不过数年。

2. 我们如何分配机器创造的财富？

（资源分配）

在人工智能公司内部，并没有与时俱进的分配制度来合理分配庞大的利益所得，大多数公司凭借“良心”提供薪资，默认以现行经济体系中按照小时工资进行计费。

**事实上很多工种所付出的代价，远超于小时内所看到的贡献，**正如前文所提到的数据标记工作，劳工们总体和个体工作时间并不低，更不用说，他们对降低ChatGPT攻击性方面居功至伟，且同时遭受着严重的心理创伤。

最后，他们在庞大的290亿美元估值里所占的份额却连10%都不到。这些劳工与科技公司的精英们，在一个利益体系里过着千差万别的生活。

而在人工智能公司外部，其他企业可以通过使用人工智能来减少劳动力的使用，这也意味着在现有的分配下，巨额的收入会流向更少的人。

图: Shutterstock

从前，我们的理想是解放人的双手，让人不再成为“消耗的材料”，过上更有意义的生活，可如今，我们看到的是何种景象？

我想起刘慈欣在《赡养人类》中提到的属于终产者的世界。富人可以在大脑中植入昂贵的超级计算机提升智力，穷人则退化到蠕虫一样的地位，最后甚至连出卖劳动力的机会都没有了。

这表达了一种担忧——当科技的发展远远领先于社会结构的调整，科技就会形成绝对的集中化，最终导致人类的异化。这种对科技狂热的担忧我们在尼尔波兹曼的《技术垄断》中也曾看到。

我们在庆祝技术革新时，不妨等一等，想象一下在后人工社会我们到底需要怎么样伦理去面对新的挑战。

AI画作《印度软件外包工》

3.机器会消灭人类吗？

新年档电影《流浪地球》中，数字人类的支持者入侵数据库对训练营发动轰炸攻击，大量的智能武器被反作用于制造者。以及在电影的最后，moss说拯救人类的办法是消灭人类。

在现实，人工智能机器人学习模拟人类对话和思维同样进步飞快。2015年，名为尤金·古斯特曼的机器人首次赢得了图灵挑战赛，它骗过了一半以上的人类评审员，让他们以为自己是在和人类交谈。

时间来到2023年，我们再一次被ChatGPT强大的功能震撼。

那么在2033年、2043年，AI又会升级到哪一步？

AI所绘《办公室时间》

四、我们的恐惧？技术傲慢……

在许多场景中，无论是学习还是工作，我们随时随地都可进行，甚至不需要花费时间走出家门。即使必须前往某地，在高速交通工具的辅助下，我们在路程上花费的时间，与旧时代相比，也极大减少。相应地，我们“需要”完成的事情变得越来越多，节奏越来越快。

技术统治文化使人类文明飞速发展，时间仿佛正朝着能被技术战胜方向前进。

此时，猛然回头，我们却发现没有了时间去回顾或思考失去的东西。

AI绘画《the devil’s den》

赫胥黎的《美丽新世界》警示道，技术垄断并不使其他选择不合法，也不使它们不道德，亦不使之不受欢迎，而是使之无影无形，并因而失去意义。为此目的，技术垄断重新界定宗教、艺术、家庭、政治、历史、真理、隐私、智能的意义，使这些定义符合它新的要求。

今天，我们相信技术的权威，遇到争执时只需说“百度上说……”或“数据测出……”接下来再说什么似乎就无关紧要。戒慎技术狂热的原因就在此。

技术狂热始终是其发展的致命危险，因为这不仅助长傲慢，还助长麻木，使人被蒙蔽双眼，不知道在获取新技能的过程中还可能会丢失的哪种技能。

我们始终要谨记，不用技术的情况下能够做什么，同样也要提醒自己注意，在使用技术时可能会失去的是什么。