AI扩散风险迫在眉睫，谷歌前CEO：防不住的危机来了？

【环球网科技综合报道】10月10日消息，据CNBC报道，谷歌前首席执行官埃里克·施密特日前发出强烈警示，人工智能（AI）的扩散风险正成为亟待解决的重大问题，同时，在AI泡沫论甚嚣尘上的当下，他对AI的未来依然充满信心。

施密特指出，人工智能存在严重的扩散风险。这种风险主要体现在技术可能落入不良行为者手中，进而被重新利用和滥用。他举例称，无论是封闭模型还是开放模型，都存在被黑客攻击、移除防护机制的可能。在训练过程中，AI可能学到不良行为，甚至学会如何杀人。尽管各大公司都在努力确保模型不会回答危险问题，但仍有证据表明这些模型可以被逆向工程。

AI系统的脆弱性还体现在易受多种攻击手段的影响，如提示注入和越狱攻击。黑客可以通过隐藏恶意指令，诱使AI分享私人数据或执行有害命令；也可以操纵AI的回应，使其无视安全规则，生成受限或危险内容。

面对如此严峻的形势，施密特坦言，目前还没有一个有效的“防扩散机制”来遏制AI的危险。然而，他并没有因此对AI失去信心。相反，他认为AI技术没有得到应有的关注，甚至被低估了。

在AI领域投资热潮不断、泡沫论频现的背景下，施密特的乐观态度显得尤为突出。他认为，投资者愿意投入大量资金，是因为他们相信从长期来看，AI的经济回报是巨大的。（旺旺）