周城雄：对AI发展的两大担忧怎么看

作者：周城雄

2024-04-25

<article><section data-type=“rtext”>人工智能（AI）如今已经成为全社会的关注热点。今年全国两会期间，“人工智能+”首次被写入政府工作报告。与此同时，人工智能也带来了一系列影响和挑战，这些影响和挑战将会对人工智能的未来发展方向产生深远影响。首先，有人担心现在的人工智能热潮可能形成资本泡沫。自2023年3月GPT-4发布后，全球掀起以大模型为代表的生成式人工智能行业浪潮，人工智能迈向全面应用新阶段。国内科技企业纷纷跑步入场，百度“文心一言”、阿里巴巴“通义千问”、华为“盘古”、京东“言犀”、腾讯“混元”、商汤“日日新”等大模型先后登场。据不完全统计，截至2023年底，我国已推出的通用大模型数量达到130多个，若算上各类行业大模型，数量更达数千之多，可以用“千模大战”来形容当前的产业态势。在相关应用大规模落地之前，人工智能的概念已经被广泛炒作，形成新的“风口”。大量资本涌入这一领域，资本的驱动往往要求回报，如果资本无法从中获得预期的回报或相关领域的商业潜力被高估，那么泡沫就将破灭。笔者认为，人工智能作为人类历史上的一个全新工具，具有革命性意义，它对社会的影响很可能将不亚于历史上的电气化和互联网革命。未来的人工智能，或将和电一样渗透到生产生活的方方面面。在这样的发展前景下，任何行业和企业都需要加大对人工智能的投入，寻找在人工智能时代发展的有效路径。人工智能领域目前确实存在一定程度的泡沫化现象，但这与其他科技领域的泡沫化过程具有相似性。这种泡沫并非全然是负面的，在某种程度上，它可以被视为市场的一次深度筛选，汰弱留强，为未来人工智能更稳健、更广泛的应用奠定基础。值得注意的是，许多技术产品都经历过泡沫阶段，如门户网站、社交网络、电商等，不宜仅仅为了防止泡沫就限制资本投入到人工智能领域。其次，人工智能既是科技进步的产物，也可以成为推动科技进步的工具。科学技术很可能逐渐AI化。一方面，科学技术的各种设备工具将全面AI化，这是科研设备走过“电气化—电子化—网络化”后的下一个阶段。AI化后的科研设备可以大量节约科研人员的体力和脑力，大幅提升科研效率，加快科技进步的步伐。另一方面，科学技术的研究过程和研究对象也将AI化。由于算力提升，AI处理数据的能力强大，很多过去需要通过实验进行的研究，现在可以大量使用AI进行模拟，科研人员的工作将越来越多地转移到与AI的互动中。当然，最令人担心的是未来科学技术的研究主体是否也会AI化，也就是科研人员会不会被AI取代。或许可以说，大量中级、初级科研人员会被AI取代。现在的实验机器人已经可以代替人类进行许多复杂的实验操作，人工智能也可以进行复杂的数学定理证明。也就是说，人工智能可以代替实验型和理论型的科研人员。然而，不确定的是，未来的科学技术问题或者科技发展目标是否会由人工智能提出和设定。一旦人工智能可以自己独立提出问题，加上其本身强大的解决问题能力，它就可能脱离人类发展。从发展趋势来看，这种可能性是存在的。如果这样，那么这将对人类与人工智能未来的相处模式提出挑战。对于中国来说，人工智能技术的发展目前尚处于追赶阶段，需要更多关注的是怎样拥抱人工智能革命，怎样抓住历史机遇加快技术发展，同时在发展中注重人工智能治理问题的解决。首先，需要鼓励各类机构和企业发展人工智能技术，尽可能地逐步缩小我们在技术上的差距。其次，尽可能破除国内外多种限制，大规模应用世界先进的人工智能技术，解决各种应用场景中的复杂问题。总之，人工智能是不能错失的一次科技革命。对此，我们需要迅速、坚决、开放地拥抱它，用具有明显优势的应用速度和场景来加快技术迭代，推动我国人工智能技术的快速发展。（作者是中国科学院科技战略咨询研究院研究员）</section></article>