久久久亚洲精品成人,色五月丁香六月欧美综合,午夜影视啪啪免费体验区,噜噜综合亚洲AV中文无码

安全資訊

專家解讀 | 促進生成式人工智能有序向善發(fā)展

| 復旦大學計算機科學技術學院院長 楊珉

當前,生成式人工智能正加速發(fā)展,不斷催生新行業(yè)、新賽道、新模式,是發(fā)展新質生產力、布局未來產業(yè)的重要抓手。黨的二十大報告強調,“健全網(wǎng)絡綜合治理體系,推動形成良好網(wǎng)絡生態(tài)”。習近平總書記在主持召開中共中央政治局會議時指出:“要重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防范風險?!睘榇龠M我國生成式人工智能健康發(fā)展和規(guī)范應用,國家網(wǎng)信辦聯(lián)合有關部門公布了《生成式人工智能服務管理暫行辦法》(以下稱“《辦法》”),圍繞鼓勵人工智能創(chuàng)新發(fā)展的主旋律,堅守輿論引導、文化建設和國家安全底線。近日,全國網(wǎng)絡安全標準化技術委員會組織全國多家龍頭企業(yè)和科研院所,編制發(fā)布全球首個清晰、具體、可操作的安全評估要求--《生成式人工智能服務安全基本要求》(以下稱“《要求》”),從語料安全、模型安全、安全措施等方面提出了服務提供者需遵循的安全標準,通過系統(tǒng)性、規(guī)范性、創(chuàng)新性制度設計,首次回應了對生成式人工智能服務的安全管理要求,為生成式人工智能服務的規(guī)范發(fā)展提供了基本技術遵循和評估依據(jù),是支撐《辦法》有效落地的關鍵性技術文件。為全力抓好生成式人工智能產業(yè)布局深化、生態(tài)優(yōu)化、系統(tǒng)支撐,加快推動我國人工智能發(fā)展高地建設取得新的更大突破奠定堅實基礎。

在《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》《互聯(lián)網(wǎng)信息服務管理辦法》等上位法框架下,《要求》有效支撐了《辦法》中關于生成式人工智能模型管理、模型安全評估、生成內容管理、備案管理等制度規(guī)定,對生成式人工智能服務管理機制、責任范圍等作出了具體技術安排。《要求》立足于促進生成式人工智能健康發(fā)展和規(guī)范應用,在總體撰寫中落實了國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則。


一、源頭治理,嚴控人工智能訓練語料安全

生成式人工智能依賴海量數(shù)據(jù)構建,此類數(shù)據(jù)來源廣泛,面臨違法不良、知識產權侵權、個人隱私侵權等多維度安全風險,直接影響大模型有用性、可靠性和安全性?!兑蟆逢P注數(shù)據(jù)源頭治理,圍繞訓練數(shù)據(jù)生命周期提出全方位安全要求,從源頭上保證生成式人工智能服務生成內容合法合規(guī)。一是強調語料來源的安全合規(guī)。《要求》明確對特定語料來源實施采集前評估、采集后核驗、使用后追溯的安全要求,嚴格控制語料內容中違法不良信息比例,構建可追溯、可檢驗的語料合規(guī)閉環(huán)。二是明確語料內容安全的多元內涵。《要求》從違法不良信息、知識產權、個人信息三方面明確語料內容安全的具體維度,對服務提供者提出違法不良信息過濾、知識產權風險識別、個人隱私信息授權等數(shù)據(jù)合規(guī)要求。三是明確語料標注安全要求。為保障標注過程切實產生有助于生成式人工智能發(fā)展的訓練數(shù)據(jù),堅持發(fā)展和安全并重的主基調,從功能性和安全性兩方面分別明確標注規(guī)則制定原則。


二、夯實地基,保障基礎模型有序向善發(fā)展

基礎模型是提供生成式人工智能服務的核心部件,然而,其底層所采用深度學習技術在可靠性、魯棒性、透明性等方面存在風險,受攻擊后容易產生包括違反核心價值觀、違法犯罪、歧視偏見、隱私侵權等在內的多種風險內容,對輿論引導、文化建設乃至國家安全產生重大威脅?!兑蟆访嫦蚰P桶踩@一薄弱環(huán)節(jié)精準施策,提出解決方案。一是強調第三方基礎模型使用的合規(guī)性。《要求》明確規(guī)定服務提供者在基于第三方基礎模型提供服務時,必須采用已通過主管部門審核備案的基礎模型,確保底層技術資源的安全合法。二是突出模型生成內容的安全控制機制。《要求》提出在模型訓練環(huán)節(jié),須將生成內容的安全性納入評價生成結果的關鍵指標體系之外,《要求》還強調了動態(tài)監(jiān)控和評測的重要性,要求服務提供者建立健全常態(tài)化的監(jiān)測機制,對服務過程中發(fā)現(xiàn)的安全問題能夠迅速響應,以消除潛在風險,引導生成式人工智能模型自主向善發(fā)展。三是明確生成內容準確性的技術保障措施。《要求》規(guī)定服務提供者采取有效技術手段,著力提升模型響應用戶輸入意圖的精準度。


三、堅守底線,審慎開展大模型安全評估備案
生成內容安全逐漸成為基礎模型應用生態(tài)安全的重中之重:當生成式大模型產生的自主行為規(guī)劃在物理世界中具象執(zhí)行,原本停留于屏幕的歧視偏見、違法犯罪乃至反人類的違規(guī)內容將對社會生活造成實際嚴重安全風險?!兑蟆犯叨葟娬{安全評估的重要性,細致闡述了生成式人工智能服務安全評估方法多個關鍵環(huán)節(jié)的標準操作程序,為大模型備案制度有序執(zhí)行提供了可量化的明確要求。一是關注生成式人工智能服務安全評估的動態(tài)持續(xù)性特點。《要求》要求規(guī)范模型更新升級過程中的安全評估舉措,需面向大模型迭代特性建立安全管理策略,在關鍵更新升級后重新進行內部安全評估。二是確立全面而細致的安全評估覆蓋范圍。安全評估過程必須囊括語料安全、模型安全、安全措施和基礎設施相關條款,覆蓋違反社會主義核心價值觀、歧視性內容、商業(yè)違法違規(guī)、侵犯他人合法權益、無法滿足特定服務類型等主要安全風險。三是壓實安全評估結論的主體責任,體現(xiàn)了堅守生成內容安全底線的基本原則。此外,《要求》編制過程中組織一線工作者對各類評估內容指標進行細化和反復論證,針對具體的評估內容,對所需的關鍵詞庫、生成內容測試題庫、拒答測試題庫和分類模型等安全評估基礎設施提出具體清晰的建設規(guī)范,形成了清晰、具體、可操作的安全評估標準。

四、

五、多方協(xié)作,共促生成式人工智能服務安全透明
此外,《要求》還對生成式人工智能服務應用范圍、系統(tǒng)安全、流程安全和服務透明度提出了明確治理要求,與《辦法》"鼓勵生成式人工智能創(chuàng)新發(fā)展,對生成式人工智能服務實行包容審慎和分類分級監(jiān)管"的治理方針同頻共振。一是生成式人工智能應用分級分類管理。生成式人工智能服務提供者,既是新技術新應用的創(chuàng)造者、受益者,也應是控制技術風險、引導技術向善的責任踐行者?!兑蟆窂娬{,服務提供者必須審慎評估并確保在其服務所涉各領域應用生成式人工智能的必要性、適用性和安全性。對于關鍵信息基礎設施及其他重要領域,服務提供者應采取與風險水平及應用場景相適應的保護措施,并對未成年人用戶提出多項保護要求。二是加強系統(tǒng)安全保障。《要求》提出,服務提供者需評估并確保生成式人工智能系統(tǒng)運行在安全環(huán)境中,隔離訓練與推理環(huán)境以防止數(shù)據(jù)泄露,持續(xù)監(jiān)測輸入內容防御惡意攻擊,定期開展安全審計保障智能系統(tǒng)供應鏈安全漏洞,構建完整的數(shù)據(jù)、模型、框架備份與恢復體系,保障服務穩(wěn)定性和連續(xù)性。三是細化服務提供環(huán)節(jié)安全管控,須借助關鍵詞過濾、內容分類、監(jiān)看人員等對用戶輸入進行實時監(jiān)測,對連續(xù)違規(guī)、誘導生成不良信息、明顯偏激和違法誘導內容依法依規(guī)采取限制服務等措施。四是提升服務透明度和健全投訴舉報機制。《要求》提出服務提供者在網(wǎng)站主頁等顯著位置公示服務適用對象、場景及用途,并建議披露基礎模型使用詳情、服務局限性、個人信息采集與使用情況等,并為用戶數(shù)據(jù)是否參與訓練的靈活選擇機制和多元化的公眾及用戶投訴舉報渠道和反饋方式。

六、守正創(chuàng)新,貢獻生成式人工智能服務治理中國方案
習近平總書記指出:“要深度參與全球科技治理,貢獻中國智慧,塑造科技向善的文化理念,讓科技更好增進人類福祉,讓中國科技為推動構建人類命運共同體作出更大貢獻!”近年來,我國加快推進新行業(yè)新技術新賽道創(chuàng)新發(fā)展,并對技術發(fā)展過程中帶來的挑戰(zhàn)及時回應,針對新興技術領域加速出臺相關立法,為保障網(wǎng)絡強國高質量發(fā)展、提升我國網(wǎng)絡強國治理能力提供了法治保障。

針對生成式人工智能技術帶來的顛覆性風險挑戰(zhàn),多個國家和地區(qū)不斷探索生成式人工智能服務的治理路徑:2023年10月,美國總統(tǒng)拜登簽署《安全、穩(wěn)定、可信的人工智能行政令》,同年12月,歐洲議會、歐盟成員國和歐盟委員會三方就人工智能領域的全面監(jiān)管法規(guī)《人工智能法案》達成協(xié)議。盡管如此,當前尚未有國家就生成式人工智能服務管理層面推出切實可行的安全評估標準?!兑蟆纷鳛槭澜缟鲜讉€針對生成式人工智能給出清晰、具體、可操作的安全評估的技術參考,在總體撰寫中始終堅持國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則,編制過程始終遵循"務實功、求實效"的原則,匯聚眾多行業(yè)專家智慧和前沿實踐經驗,為服務提供方持續(xù)提升安全水平提供重要技術遵循,為相關主管部門監(jiān)管生成式人工智能服務提供技術支撐,必將成為我國人工智能治理體系中的標桿性技術藍本。
《要求》是我國對新興領域立法后展開技術評估的又一次探索?!兑蟆烦浞謪f(xié)調發(fā)展與安全之間的關系,構建生成式人工智能精細化治理體系,有利于推動生成式人工智能健康有序發(fā)展,為世界貢獻人工智能治理的中國理念和中國方案。

(來源:網(wǎng)安標委網(wǎng)站)

服務熱線

138-6598-3726

產品和特性

價格和優(yōu)惠

安徽靈狐網(wǎng)絡公眾號

微信公眾號

沽源县| 漾濞| 北票市| 乐东| 尚志市| 紫云| 岱山县| 湘潭市| 广丰县| 大港区|