科技的双刃就是难题，从核武器到生物武器到人工智能_风闻

【本文来自《现在是搞AI的在喊限制，大众不以为然嘲讽，这才是人类最大的嘲讽》评论区，标题为小编添加】

• 背山远行
• 开发者或者外行，这与是真正支持创新还是真正支持守旧，是完全没有对应关系的两件事。守旧者在专业上极其内行是很常见的事，你不可以借口他们是内行而说他们思维不守旧。无论内行外行，在创新之初绝大多数人会选择守旧，这是从来就没有例外的。

　　现代人类的确是远古人类在生理上的连续进化结果，进化本身已经不完全是生理继承关系了，你的表述本身已经有不符合事实的部分。而未来，没有任何理由要说这样的生理进化之外不能有其他创新性的因素加进来——甚至，我们现在连最基本的物理规律都没有彻底搞清楚，在这之上高得多的生物运动和社会运动层次未来会如何发展，我们更没理由给子孙后代设限。

　　人类社会，永远不应该放弃本位思维，这是没错的。本位思维，就是本文明的根本利益不容凌驾的意思。但这个本位思维是针对文明整体的，不是针对生命个体的，这点很重要，不可以搞混。

　　我说“而只是我们必然的努力目标”，这话的汉语措辞有点问题，我本来要表达的意思是这样的：生命个体形态被替代，是我们必然的努力目标，这是没有选择余地的。你针对这句的表述，我没有完全理解，估计是因为我措辞不清晰造成的。

　　对生存能力与博弈，你的表述是有问题的，我也从未从所谓的政治正确出发讨论问题。实践和认识能力的不同，以及进化能力的不同，本身就是生存能力不同，这方面有差别，就意味着旧的人类生命物种已经不适合当时的生存发展需要了。生存竞争与博弈，是“自然选择，适者生存”的生物运动层次的自然系统下的生态，不是社会运动层次中反自然系统的生态。自主创新，自己设计自己的未来（包括设计出自己生命体的替代物），才是这种反自然系统下的常态。你这种表述，实际上就是在用守旧思维在看问题。

　　将人类社会分成生命体集合和工具集合两部分，这也是在用守旧思维看问题——过去的历史中我们曾用这样的思维走了过来，所以假定未来这种分类思维永恒不变，这就是守旧。我个人对文明本质的认识是，它是有序性进化的载体，而不是自然生命得以存续的支撑系统——最初当然曾经如此，但不会永远如此。在我这个认识下，就没有“自己”和“工具”的这种明显分类，而只有加速进化中的有序系统。

　　人类可能因为错误而自毁，我从不否认这一点，而且我反而认为这种自毁远比真正的进化发展容易得多。但这种难易关系绝不能成为否定创新的借口——我说过，我们需要的是谨慎和科学，很清楚。而现在，所有的“警告”都不是在提谨慎和科学，而是将AI发展和人类发展对立起来看待，甚至连人类文明整体的发展出路都不顾。我从不反对前者，而只是反对后者，这一点请你搞清楚。

开发者立场是否守旧不是问题的关键，还涉及守旧和激进的利弊取舍呢，我们需要判断的只是专业人士的意见是否成立。

“我们现在连最基本的物理规律都没有彻底搞清楚，在这之上高得多的生物运动和社会运动层次未来会如何发展，我们更没理由给子孙后代设限。”---那核武器和生物武器开发为什么会有国际条约约束？不设限不就应该人人有权开发，国国有权使用，普及任何技术？作为核武大国的中国，凭什么要五大善人一起坚持核不扩散，那不是对非核国家的阻挡吗？对核技术热核技术的研发，科研上的超算模拟在继续，但实际的核爆谁还在做？

生物武器技术甚至比核技术更麻烦，门槛更低更迅速更影响无孔不入，效费比超高，带来的麻烦也更大。开不开发生物技术呢？科研上肯定要开发，但是，请注意，自从有了新冠的颠覆式深刻教训，中国对生物技术的课题审查就收紧了，课题稍微不注意没有风险意识去材料交换带来的灾难，就不说了，我反正是提前很多年就在说生物战风险。新冠几年了还不承认是生物武器呢，最怕后果都摆出来了还不知不觉。并且，目前对生物技术的防范约等于没有，因为回旋镖对释放者的自伤较大，如果一旦开发出相应的生物技术防护，那叫个血洗，全人类都如履薄冰赌着呢。当然也不是说不希望防而是真不好防（我自己是捋过能物理防住的），这也是必然的，越危险正是因为越两难不好防。但是真正的战略思考，依然应该去严肃着眼思考解决难题，而不是埋头扎进沙子，自我洗脑这是应该放纵的。如果从危险性来说，生物技术和人工智能风险都高，人工智能更具有颠覆性但属于中远景风险，生物技术风险更现实紧迫些。

“就意味着旧的人类生命物种已经不适合当时的生存发展需要了。生存竞争与博弈，是“自然选择，适者生存”的生物运动层次的自然系统下的生态，不是社会运动层次中反自然系统的生态。自主创新，自己设计自己的未来（包括设计出自己生命体的替代物），才是这种反自然系统下的常态。”-------我看了好几遍这段，驳完第一遍发现理解错了，你其实是说“生存竞争博弈是生物运动的自然系统，而技术改造和替代是社会运动反自然系统。”

原则上说，我赞成考虑对人类自身的生物科技突破只要有利于人类生存博弈，但不意味着使用“替代”，这个词的可怕在于直接放弃了本体性存在性，都能允许替代了，还防范遏止什么呢，直接认了丛林规则被替代就是了。你经常流露出这种圣父角度，好像旁观抽离不在人类梯队似的😑。什么叫反自然常态呢？人就是自然的一部分，物种生存博弈、技术发展改革，本身都是自然系统的一部分。总不至于只有人的社会性不属于自然系统，但除了人以外包括人造工具AI都叫自然系统？事实上，自然科学与社会科学的壁，本质上是研究【客观】与【主客观混沌】问题，并不是把人排除出自然系统，最容易出现叶文洁式的：“人类在破坏自然生态”。而随着科学的触及，其实研究客观与主观本身也快没有壁了。

“我个人对文明本质的认识是，它是有序性进化的载体，而不是自然生命得以存续的支撑系统——最初当然曾经如此，但不会永远如此。在我这个认识下，就没有“自己”和“工具”的这种明显分类，而只有加速进化中的有序系统。”-----又来了，冷血圣父式发言，你缺乏人类立场，请在你的视网膜打上人本主义几个大字。自己和工具都无差别无立场了，今晚你回家喂你家的斧头电视机洗衣机吃饭可好？你就别吃了，喂饱了你家的洗衣机就文明了。你可以说自然系统是冷酷的，人类的生存是需要博弈的，结果是未知的--但你不能说你不在乎人类的生存博弈只在乎自然的有序系统。没有人类的文明，毫无意义。

“而现在，所有的“警告”都不是在提谨慎和科学，而是将AI发展和人类发展对立起来看待，甚至连人类文明整体的发展出路都不顾。我从不反对前者，而只是反对后者。”-----科技的双刃就是难题，从核武器到生物武器到人工智能，AI发展就是会跟人类文明整体的生存出路相博弈，我提出的就是审慎，从业者提的也是审慎，而从来都不是禁止AI技术，而是不能野蛮发展，要控制下发展。如果你赞同我们的这一点，也算是一致。