中国掀起DeepSeek热潮之际，网络安全专家警告依赖人工智能存在风险 | 南华早报

过度依赖人工智能进行决策可能带来安全风险，使用户暴露于黑客和其他恶意行为者的威胁之下。在中国国产聊天机器人DeepSeek引发全国热潮之际，一位网络安全专家发出警告。据国内媒体报道，总部位于北京的网络安全公司奇安信（QAX）董事长齐向东周二在东南部城市福州举行的数字中国峰会上表示，大型AI模型带来了安全挑战和风险。

“随着AI在各行业深度融合，大模型将变得越来越强大，用户可能过度依赖AI辅助决策和判断，”齐向东说。他同时也是中国最高政治咨询机构——中国人民政治协商会议的成员。“从外部威胁角度看，黑客可利用漏洞或进行数据‘投毒’来操控模型决策，以大型模型为幌子实施恶意行为，”他表示。

“从内部运营角度看，如果相关人员在更新知识库时引入错误信息，会污染模型学习环境，导致错误输出。”

中国AI初创公司深度求索（DeepSeek）今年1月推出了一款媲美ChatGPT等美国竞争对手的聊天机器人，震惊科技界并在公众和政府机构中引发全国性AI热潮。当局坚定支持推动人工智能的广泛应用。面对西方制裁限制中国获取高科技芯片的局面，北京方面称赞深度求索（DeepSeek）是国家创新驱动发展战略的成功典范。