保護人工智能系統技術指南 網安局本月展開公眾諮詢 | 聯合早報

新加坡網絡安全局這個月將針對“保護人工智能系統技術指南”展開公眾諮詢，新指南將為本地系統所有者提供可用以應對潛在風險的實用措施。

資訊通信專才協會（Association of Information Security Professionals，簡稱AiSP）星期三（7月3日）舉辦首屆人工智能安全峯會。

衞生部兼通訊及新聞部高級政務部長普傑立醫生出席峯會致辭時宣佈，網安局將於7月為“保護人工智能系統技術指南”（Technical Guidelines for Securing AI Systems）展開公眾諮詢。

普傑立説，在過去幾年中，人工智能迅速普及，並被廣泛應用於各個領域，這極大地影響了網安威脅格局。

他舉例説，美國麻省理工學院的研究人員曾讓人工智能將一隻三維打印的烏龜誤認為是一支步槍。

延伸閲讀

[新加坡推出“登月計劃”——大型語言模型測試工具

](https://www.bdggg.com/2024/zaobao/news_2024_06_01_685942) [全球深偽詐騙俱增 網安專家警告情況可能更糟

](https://www.bdggg.com/2024/zaobao/news_2024_05_29_685166) 他指出：“人工智能的快速發展和應用給我們帶來了許多新的風險，包括對抗性機器學習，它能讓攻擊者破壞模型的功能。”

對抗性機器學習（adversarial machine learning）是一種機器學習方法，它通過輸入欺騙性信息，來干擾與欺騙原本的機器學習模型，從而導致人工智能產生分類錯誤。

為應對不斷變化的網安威脅，這項新指南旨在為現有的人工智能安全資源提供支持，併為本地系統所有者提供可用來應對系統和用户潛在風險的實用措施。

廣邀人工智能生態所有成員 為指南提供改進建議與反饋

普傑立提到，當局邀請人工智能生態中的所有成員，包括AiSP成員和國際合作夥伴，就如何改進指南提供建議與反饋。

他也指出，政府清楚人工智能在廣泛環境中應用，並涉及多種應用實例。“我們希望確保這些指南切實有用。”

他提醒，人工智能也容易受到數據隱私威脅，尤其是人工智能的廣泛應用導致數據暴露、外流或損壞的可能性增加。

接下來幾周，網安局將發佈有關公眾諮詢的更多詳細信息。

資訊通信專才協會成立興趣小組 供交流人工智能見解與經驗

同時，資訊通信專才協會也在現場宣佈啓動人工智能特別興趣小組（AI Special Interest Group），為成員提供一個討論人工智能發展的平台，讓專業人士交流關鍵見解、洞察與經驗。

普傑立也説，成員可以使用這個平台討論網安部門如何在與人工智能共存的同時，繼續確保數碼領域既可信又安全。

他也提到，如果使用得當，人工智能也可以幫助防禦者以更快速度、更大規模和更高精度識別風險，從而更快地應對風險。“越來越多的應用案例利用機器學習算法來檢測異常情況，或對潛在威脅做出自主響應。”