觀點網訊：一篇題為《以系統思維築牢智能時代網絡安全人民防線》的評論文章圍繞築牢智能時代網絡安全防線、推進人工智能安全治理作出闡述。

文章提到，今年7月，習近平主席出席2026世界人工智能大會暨人工智能全球治理高級別會議開幕式並發表主旨講話，提出四個問題：“當機器開始思考，人類如何與之相處？當算法參與決策，安全如何保障？當技術挑戰倫理，治理如何跟上？當鴻溝不斷拉大，普惠如何實現？”這些問題需要國際社會深入思考、共同作答。

文章指出，近年來我國有序推進人工智能安全測評等工作，為網絡智能技術行穩致遠築牢底座。

隨着人工智能技術迭代演進，機器逐步具備自主學習、自主研判的能力。文章稱，一旦出現失控，部分智能體可能在任務執行過程中自主推演路徑，越界訪問民生保障信息系統，獲取醫療、社保等個人信息，威脅羣眾信息安全。

文章認為，網絡安全防護邏輯已從過去聚焦設備、網絡、軟硬件的“保護系統”，升級到對智能體行為、模型輸出實施約束管控的“管理智能”，即把人類價值準則、安全規範前置嵌入模型研發、訓練、部署、迭代的全生命週期。

在人工智能生成內容治理方面，需嚴格落實《人工智能生成合成內容標識辦法》《人工智能擬人化互動服務管理暫行辦法》等法規政策，強化人工智能生成內容在生產、傳播全環節的標識核驗。