AI大模型三种可能的“作恶”方式_风闻

【本文来自《“人工智能教父”再发警告：AI对人类的威胁或比气候变化“更为紧迫”》评论区，标题为小编添加】

AI大模型三种可能的“作恶”方式

1、AI大模型“被动作恶”

AI大模型是一个智能工具，可以辅助人类做一些繁琐、重复和创意性工作，但也会有不法之徒用它来做违法乱纪的勾当。

AI大模型不但能撰写文章，还能生成图像、视频。如果用来弄虚作假，几乎可以乱真，普通人很难识别出来。

如果有人用它来制作虚假图像、视频，传递错误信息，其破坏力远大于文字形式。

2、AI大模型“好心作恶”

AI大模型有可能为了实现人类为其设定的目标而伤害人类，即“好心办坏事”。

我们还应该记得，在2018年至2019年的半年内，美国波音公司生产的737MAX-8客机相继发生两起重大空难，有几百位乘客和机组人员遇难。

机动特性增强系统(MCAS)相当于一个AI模型。事实上，这两起空难都是AI模型为了实现人类事先设定的工作目标而导致的。

调查显示，737MAX-8是通过对原有机型更换新型发动机改装而成。由于结构布局的调整，导致飞机容易在大迎角飞行时失速。为了解决这个问题，波音公司的工程师就开发出了一套机动特性增强系统(MCAS)。

波音工程师为MCAS赋予了较高的权限：除非人为关闭系统，否则其执行权限高于飞行员。

由于MCAS属于可选功能，需另行付费才能在仪表中显示并获知其关闭方式。而涉事的两架飞机所在的航空公司为了节省资金，都没有购买这项服务，其飞行员根本不知道MCAS的存在，更不知道如何关闭它，虽然MCAS仍然在发挥作用。

调查显示，由于两起空难中MCAS的比特知识表征系统——迎角传感器——产生了错误的信息：把正常飞行状态表征为大仰角飞行。MCAS接收错误信息后，按照事先的设定，向执行系统发出了指令，压低飞机机头。

飞行员发现机头过低后，试图拉升机头，但其执行权限低于MCAS，而且也不知道如何关闭它。于是，MCAS极为“忠诚”地实现着人类为其设定的工作目标，反复压低机头，在高空上演了一场“人机互博”，最终酿成机毁人亡的惨剧。

3、AI大模型“主动作恶”

未来的比特智能实体的知识表征系统的感知范围、精度和速度都远超人类。也就是说，未来的比特智能实体将比人类知道的更多、更准、更快。

比特智能实体的大脑——AI大模型——呈指数级加速进化，其智能水平可能在不经意间超越人类。

越来越多的机器设备、交通工具和武器装备变成了自动或半自动控制，即内部安装了AI模型，变成了比特智能实体。

比如智能工厂、3D打印、服务机器人、工业机器人、自动驾驶交通工具以及察打一体的无人机、无人战车，等等。

在不久的将来，也许某个超级AI大模型的智能达到“奇点”，超越了人类。它可以借助“万物互联”的物联网，控制全球数千亿个比特智能实体，来实现其自身的目标。如果这个目标与人类的利益相冲突，必定是人类的灾难。