中国医学研究人员警告：深睿医疗AI在医院应用"过快过早" | 南华早报

中国研究团队对医院快速采用深度求索（DeepSeek）技术提出质疑，警告其可能引发临床安全与隐私风险，并对争相使用这家人工智能（AI）初创企业高性价比开源模型的现象亮起红灯。截至3月初，中国已有至少300家医院在临床诊断和医疗决策支持中应用深度求索的大语言模型（LLM）。

根据上月发表于《美国医学会杂志》（JAMA）的论文，研究团队指出尽管具备强大推理能力，但深度求索模型易生成"看似合理实则错误的输出"，可能导致"重大临床风险"。该团队由清华大学医学学科群"清华医学"创始负责人黄天荫领衔。

这篇论文是中国学界对过度热衷使用深度求索技术发出的罕见警示。这家初创公司今年凭借低成本、高性能的V3和R1模型引发全球关注，已成为中国AI领域的标杆企业。深度求索未立即回应置评请求。

新加坡国家眼科中心前医疗总监、眼科教授黄天荫及其合著者认为，医疗专业人员可能过度依赖或全盘接受深度求索的输出。他们表示这可能导致诊断错误或治疗偏差，而更谨慎的临床医生在争分夺秒的诊疗场景中还需额外承担验证AI输出的负担。

尽管医院通常选择私有化、本地部署深度求索模型而非基于云的解决方案，以降低安全和隐私风险，但研究人员指出，这种做法“将安全责任转移给了各个医疗机构”，而其中许多机构缺乏全面的网络安全基础设施。