周鸿祎谈AI幻觉：在AI安全方面，可能会带来严重问题

近日，全国政协委员周鸿祎接受采访时表示，AI“幻觉”虽有利于文学创作，但在AI安全方面，“幻觉”可能会带来严重问题。企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造，就会带来严重后果。

如何防止AI出现“幻觉”？周鸿祎认为，企业应用相关技术时，要连接企业专有的知识库，进行校正。部分“幻觉”问题能通过知识库解决。