【資料圖】

不久前出臺的《生成式人工智能服務管理暫行辦法》，意在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。可見，當前如何更好地防范生成式人工智能安全風險，做到既鼓勵相關領域創(chuàng)新的“七十二變”，又要勒緊保護用戶隱私和消費者權益的“緊箍咒”，值得分析。

眼下，獲益于豐富多樣的數(shù)據(jù)資源、參數(shù)以及不錯的學習能力，大模型有效增強了人工智能的通用性。從與人類暢聊到撰寫文案、合同，從監(jiān)測并檢驗程序安全漏洞到輔助創(chuàng)作影視劇……生成式人工智能正處于快速發(fā)展的過程中。而我國的人工智能大模型也已經(jīng)達到了一定水平。前不久發(fā)布的《中國人工智能大模型地圖研究報告》顯示，中國人工智能大模型正呈現(xiàn)蓬勃發(fā)展態(tài)勢。據(jù)不完全統(tǒng)計，截至目前，全國10億級參數(shù)規(guī)模以上的大模型已發(fā)布79個。研究表明，我國在大模型方面已建立起涵蓋理論價值和軟硬件技術的體系化研發(fā)水平。不過也要看到，生成式人工智能技術是把“雙刃劍”，其在推動社會進步的同時，也有可能帶來技術、設計、算法以及數(shù)據(jù)等方面的安全風險。因此，必須做好前瞻研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德，在重視防范風險的同時，同步建立容錯、糾錯機制，努力實現(xiàn)規(guī)范與發(fā)展的動態(tài)平衡。

一方面，抓住生成式人工智能最根本的元素——數(shù)據(jù)和算法，以此為突破口，堅持問題導向，在創(chuàng)新思維上下功夫，把控大數(shù)據(jù)源頭治理，提前布局和構建系統(tǒng)性大數(shù)據(jù)防火墻，控制和防范數(shù)據(jù)泄密。應及時啟動并優(yōu)化國家級自主研發(fā)數(shù)據(jù)庫系統(tǒng)和備份系統(tǒng)，抓緊布局和研發(fā)人工智能大數(shù)據(jù)控制系統(tǒng)、分級分層享用系統(tǒng)、網(wǎng)絡風險防范系統(tǒng)以及由此產(chǎn)生的AI智能管控監(jiān)督架構系統(tǒng)。

另一方面，采取多種舉措推動生成式人工智能的技術發(fā)展與治理。鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景，構建應用生態(tài)體系。支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉化應用、風險防范等方面開展協(xié)作。推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。此外，還要從速從嚴構建和推廣實施生成式人工智能相關知識的普及宣傳，尤其是條例、法規(guī)宣傳和監(jiān)督機構的完善和構建。

（文章來源：經(jīng)濟日報）

關鍵詞：

責任編輯：Rex_11