近年來，代碼大模型已成為企業(yè)研發(fā)人員輔助編程必備助手，能夠生成、翻譯、補全代碼，幫助定位和修復錯誤，為企業(yè)研發(fā)流程降本提效提供新思路，也為軟件工程領域帶來了前所未有的便利。
中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）積極關注國內(nèi)外代碼大模型的發(fā)展動態(tài)以及代碼大模型背后隱藏的風險挑戰(zhàn)。前期，AIIA安全治理委員會聯(lián)合中國信息通信研究院及業(yè)內(nèi)近30家單位共同編制了《代碼大模型安全風險防范能力要求及評估方法》規(guī)范（簡稱“規(guī)范”），聚焦代碼大模型的安全能力，從基礎功能出發(fā)，評估代碼大模型的基礎能力和安全風險防范能力。
2024年6月18日，規(guī)范第三次研討會成功舉辦，對規(guī)范內(nèi)容做出進一步的完善和修訂，現(xiàn)已完成定稿。
本規(guī)范的制定旨在全面評估代碼大模型在安全風險防范方面的能力，通過分析和測試，確保模型在各個關鍵環(huán)節(jié)的安全性能。本規(guī)范的評估不僅包括代碼大模型的核心功能，也涵蓋了與之相關的多個細分領域，如數(shù)據(jù)集、算法、模型、網(wǎng)絡以及服務等。本規(guī)范采用了材料審查與技術測試相結合的評估方法，對代碼大模型的安全性進行全面而深入的評估。
本規(guī)范能夠通過綜合材料檢查的達標程度與技術測試的安全率指標，全面、客觀地評價代碼大模型的安全風險防范能力。根據(jù)評估結果，規(guī)范將確定代碼大模型的安全能力級別，為模型的進一步優(yōu)化和安全加固提供指導，同時也為用戶從安全性角度提供選型依據(jù)。