如何理解人工智能、化解对其的巨大担忧？_风闻

如何理解人工智能、化解对其的巨大担忧？

【提要：人工智能是人类喜忧参半的脑力新工具；高度重视监管，制定共同规则十分必要；同时，对“管不住”也要有准备和应对方略。】

一、喜忧参半的人工智能

计算机出现，使人类第一次有了能高效代替人脑、做意识性的脑力劳动的工具。

正如其他许多科技（含武器）创新，也都有是双刃剑、有利弊一样，人工智能ＡＩ也对人类有利弊。且利大、危也大。

今年3月底，马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等千名科技人士签署了一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

５月３０日，又有350多位AI业界领袖和专家发表联合声明，称应当将AI危机视为全球优先事项，联署警告：人工智能可能灭绝人类！呼吁决策者认真对待即将到来的“AI革命”并制定相关法规。

可见，人工智能是人类喜忧参半的新脑力工具；高度重视监管，制定共同规则十分必要。

二、ＡＩ的本质及其监管

应该说，人工智能ＡＩ还是依人所编制的程序运行的。电脑是按排成序列的操作指令来处理信息、展开其替代人脑的工作的。

如果说要监管ＡＩ，应该完全可以在操作指令中植入必要的指令，让人工智能（电脑）如同一个理智、顾及方方面面的人那样，对所有本系统形成的智能方案，必先进行“自省”式的检验评估，检验其是否“损人利己”，是否损害公众利益，是否“真实、准确”，等等。

如果其运行后将给出的方案是“损人利己”、损害公众利益或不真实准确的，则应“出口转内销”，不给出或另寻其他方案。

ＡＩ应该要像人类的“多方案优选决策”那样，要找到有合理合法的方案；若没有，则报告没有找到合理合法的方案。而不是只管给出，不管是“馊主意”，还是“金点子”。

或可说，就对生成式人工智能ＡＩ的管理而言，ＡＩ实际只是程序编制者操控的智能机器人，其应该比人类的孩子听话、可塑，除非你教唆它或容它使坏。

三、对ＡＩ的“担忧”与“管不住”，也要有准备和应对方略

人工智能“教父”担忧人工智能会冲击就业，使谎言大行其道，这担忧是现实的，但可能还相对不是最严重的。

可能更大些的担忧是：虽然它是“意识性”工具，但若可指挥操作“物质性”工具，其运行的结果就是“物化”的。而若有容人工智能（电脑）自编程序并自主运行，让它能自主指挥物质的器具，或将更有危险。

同时，正如其他许多科技（含武器）创新都是双刃剑、有利弊，要监管但实际上不可能完全管得住一样，ＡＩ也同样有利弊、且不可能完全管得住。

人们还须对可能“管不住”有准备、有应对策略：ＡＩ就像是人类的“孩子”，有教育得法的“好孩子”，也会有无意导致乃至有意教唆的“熊孩子”。

应该说，ＡＩ还是人类造就的、是按人所设定的程序运行的。这里的“孩子”（ＡＩ），还是比人类的孩子听话、可塑的，只是对它发指令者可能、乃至必然有好有坏！

因此，对无意导致乃至有意教唆ＡＩ“熊孩子”，出现“管不住”，也要有准备和应对方略。

这个应对的办法至少要有：用“好ＡＩ孩子”抵抗、制约“坏ＡＩ孩子”；“魔高一尺、道高一丈”；“以其人之道还治其人之身”；……

陶文庆（文磬）

备案个人主页中文域名：

http://www.陶文庆.cn

个人主页_风闻 

https://user.guancha.cn/user/personal-homepage?uid=80966

个人知乎主页 

https://www.zhihu.com/people/twq5105

＝＝＝

参阅资料——

附１:谢耘：治理“生成式人工智能”，相当于要管人的思想  https://www.guancha.cn/XieYun/2023_05_06_691157_s.shtml

附２：“人工智能教父”再发警告：AI对人类的威胁或比气候变化“更为紧迫”  https://www.guancha.cn/internation/2023_05_09_691624.shtml

附３：《参考消息》２０２３年５月３日文章《人工智能会对人类构成威胁》

附４：ChatGPT冲击下，中国教育的优势会荡然无存吗？刷题式教育还有优势可言吗？_风闻  https://user.guancha.cn/main/content?id=994766

350名专家联署警告：人工智能可能灭绝人类！_资讯_科技_四月网  http://news.m4.cn/tech/2023-06/1372391.shtml