隨著人工智能在電力領域的推廣，安全問題引起了業(yè)界關注。一方面，面對復雜多變的作業(yè)現場環(huán)境、應用需求，人工智能識別率、誤報率、漏報率等性能指標能否滿足應用要求，人工智能的算力能否滿足現場需求，都要經過充分測試。另一方面，人工智能技術也給不法分子提供了新的攻擊手段?；谌斯ぶ悄芗夹g的數據投毒、算法后門、對抗樣本攻擊等，給電網信息安全帶來了新的挑戰(zhàn)。

 

“人工智能在帶來便利的同時，也帶來了一定的安全風險。”南京大學人工智能學院教授李宇峰說，“應建立全面而有效的治理機制，發(fā)展穩(wěn)健機器學習理論方法體系，更好地將人工智能技術安全應用到電力領域。”

 

針對運用了人工智能技術的新型攻擊手段，電網同樣也可利用人工智能算法檢測惡意活動，并在其造成損害之前提醒操作員，保護電網免受網絡攻擊和其他威脅。比如，國網江蘇電科院基于人工智能技術研發(fā)了程序語義智能分析模型、軟件供應鏈開源組件知識圖譜等網絡安全督查檢測工具，并將它應用于江蘇信息系統(tǒng)入網安全檢測。這些成果大幅提高了漏洞檢測的準確率和效率。目前，漏洞自動化識別準確率超過98%，檢測校核時間縮短了60%。2023年，在這些成果的輔助下，網絡安全檢測技術人員累計發(fā)現并處置漏洞10萬余個，有力支撐了江蘇電力系統(tǒng)運行安全風險管控工作。

 

“保障人工智能安全是一項長期而艱巨的任務。”國網江蘇電科院數字化中心主任趙新冬說。他認為，應通過持續(xù)關注和不斷努力，推動人工智能技術健康發(fā)展，使之為構建新型電力系統(tǒng)和新型能源體系服務，而不是成為人類的威脅。