保护人工智能系统技术指南 网安局本月展开公众咨询 | 联合早报

新加坡网络安全局这个月将针对“保护人工智能系统技术指南”展开公众咨询，新指南将为本地系统所有者提供可用以应对潜在风险的实用措施。

资讯通信专才协会（Association of Information Security Professionals，简称AiSP）星期三（7月3日）举办首届人工智能安全峰会。

卫生部兼通讯及新闻部高级政务部长普杰立医生出席峰会致辞时宣布，网安局将于7月为“保护人工智能系统技术指南”（Technical Guidelines for Securing AI Systems）展开公众咨询。

普杰立说，在过去几年中，人工智能迅速普及，并被广泛应用于各个领域，这极大地影响了网安威胁格局。

他举例说，美国麻省理工学院的研究人员曾让人工智能将一只三维打印的乌龟误认为是一支步枪。

延伸阅读

[新加坡推出“登月计划”——大型语言模型测试工具

](https://www.bdggg.com/2024/zaobao/news_2024_06_01_685942) [全球深伪诈骗俱增 网安专家警告情况可能更糟

](https://www.bdggg.com/2024/zaobao/news_2024_05_29_685166) 他指出：“人工智能的快速发展和应用给我们带来了许多新的风险，包括对抗性机器学习，它能让攻击者破坏模型的功能。”

对抗性机器学习（adversarial machine learning）是一种机器学习方法，它通过输入欺骗性信息，来干扰与欺骗原本的机器学习模型，从而导致人工智能产生分类错误。

为应对不断变化的网安威胁，这项新指南旨在为现有的人工智能安全资源提供支持，并为本地系统所有者提供可用来应对系统和用户潜在风险的实用措施。

广邀人工智能生态所有成员 为指南提供改进建议与反馈

普杰立提到，当局邀请人工智能生态中的所有成员，包括AiSP成员和国际合作伙伴，就如何改进指南提供建议与反馈。

他也指出，政府清楚人工智能在广泛环境中应用，并涉及多种应用实例。“我们希望确保这些指南切实有用。”

他提醒，人工智能也容易受到数据隐私威胁，尤其是人工智能的广泛应用导致数据暴露、外流或损坏的可能性增加。

接下来几周，网安局将发布有关公众咨询的更多详细信息。

资讯通信专才协会成立兴趣小组 供交流人工智能见解与经验

同时，资讯通信专才协会也在现场宣布启动人工智能特别兴趣小组（AI Special Interest Group），为成员提供一个讨论人工智能发展的平台，让专业人士交流关键见解、洞察与经验。

普杰立也说，成员可以使用这个平台讨论网安部门如何在与人工智能共存的同时，继续确保数码领域既可信又安全。

他也提到，如果使用得当，人工智能也可以帮助防御者以更快速度、更大规模和更高精度识别风险，从而更快地应对风险。“越来越多的应用案例利用机器学习算法来检测异常情况，或对潜在威胁做出自主响应。”