观点 | 香港必须在重新构想人工智能时代安全方面发挥引领作用 | 南华早报

2023年1月，亚利桑那州居民詹妮弗·德斯特法诺接到了一个陌生来电，原以为是诊所来电。然而电话那头传来酷似她女儿的哭喊声，背景中还有男子吼叫：“躺下！把头往后仰！”

“妈妈，坏人抓了我！救救我！”她听见“女儿”如此哀求。绑匪最初索要100万美元，经讨价还价降至5万美元。

就在准备转账时，另一位家长提醒德斯特法诺这可能是AI诈骗。最终她成功联系上真实女儿，证实这是场骗局。德斯特法诺在美国参议院司法委员会作证时表示，这场通过AI伪造的绑架骗局中，歹徒使用语音克隆技术复制了她女儿的声音。如今，这位美国母亲的噩梦正在香港上演。作为全球数字化程度最高的城市之一，香港同样面临日益强大的AI诈骗威胁。本港网络诈骗案件频发，官方数据显示，仅2024年前11个月，市民因诈骗案损失85.2亿港元（约11亿美元）。AI技术开辟了危险的新战场，通过克隆声音与面容以极具欺骗性的真实度呈现。这大幅降低了网络欺诈的成本，使得大规模快速诈骗成为可能。深度伪造技术发展如此迅猛，以至于我们缺乏有效工具来辨别真伪。几个月前，香港电台电视主持人梁芷菁接到一个冒充演员吴君如的视频电话，对方声称"有位导演把她卖到了柬埔寨"，并要求梁支付5000港元"购买返回香港的船票"。尽管梁芷菁敏锐识破了这场AI骗局，但许多人——尤其是老年人和青少年——可能缺乏识别此类虚假信息的技术能力和警觉意识。