專家解讀|以安全助發(fā)展 以治理促創(chuàng)新
近日,,國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委,、教育部,、科技部,、工業(yè)和信息化部、公安部,、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),,這充分體現(xiàn)了國家對生成式人工智能發(fā)展和應(yīng)用的高度重視,也標(biāo)志著我國生成式人工智能治理邁出了堅實的一步,?!掇k法》堅持發(fā)展與安全并重、促進(jìn)創(chuàng)新與依法治理相結(jié)合的原則,,為生成式人工智能的健康發(fā)展和規(guī)范應(yīng)用提供了制度“錨點”和實踐指引,,在推動相關(guān)技術(shù)進(jìn)步與產(chǎn)業(yè)落地的同時,確保生成式人工智能服務(wù)更好地造福人民,。
近兩年,,生成式人工智能大模型在內(nèi)容生成、理解推理,、多輪對話等方面達(dá)到超預(yù)期的高度,,將為數(shù)字經(jīng)濟蓬勃發(fā)展提供垂直化、場景化,、個性化的應(yīng)用工具,廣泛賦能電子商務(wù),、創(chuàng)意產(chǎn)業(yè),、金融服務(wù)、醫(yī)療健康等領(lǐng)域,。但目前主流的生成式人工智能屬于“黑箱”模型,,在應(yīng)用中可能會產(chǎn)生有害言論、虛假信息,、隱私泄露,、偏見歧視等風(fēng)險。發(fā)展可信安全的生成式人工智能已成為全球共識,。發(fā)展與安全是一體兩翼,、辯證統(tǒng)一的關(guān)系,,安全為生成式人工智能發(fā)展提出規(guī)范要求,同時也是其被市場應(yīng)用,、社會接受的基礎(chǔ),。
《辦法》堅持發(fā)展與安全并重、創(chuàng)新與治理相結(jié)合的原則,,對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管,。一方面,圍繞應(yīng)用,、研發(fā),、基礎(chǔ)設(shè)施等多措并舉打造自主開放的創(chuàng)新生態(tài),鼓勵生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用,,支持相關(guān)機構(gòu)在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用,、風(fēng)險防范等方面開展協(xié)作,鼓勵基礎(chǔ)技術(shù)的自主創(chuàng)新,,平等互利開展國際交流與合作,,推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)。另一方面,,構(gòu)建起了鼓勵多方主體參與,、貫穿生成式人工智能服務(wù)全流程的規(guī)范體系,對訓(xùn)練數(shù)據(jù)處理,、生成式人工智能服務(wù)規(guī)范做了相應(yīng)要求,,規(guī)定了安全評估、算法備案,、投訴舉報等配套制度,,明確了法律責(zé)任和發(fā)現(xiàn)違法內(nèi)容的處置措施?!掇k法》還對國家有關(guān)主管部門的管理提出了要求,,針對生成式人工智能的技術(shù)特點和服務(wù)特征,完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,,制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引,。《辦法》為生成式人工智能健康有序發(fā)展奠定了堅實的制度基礎(chǔ),,也為大模型等新技術(shù)的監(jiān)管做出了示范,。
下一步,落實《辦法》精神和相關(guān)要求,,需要業(yè)內(nèi)科研機構(gòu)和企業(yè)一起努力,,在相關(guān)部門支持下,,推進(jìn)重點領(lǐng)域攻關(guān),打造我國生成式人工智能“發(fā)展”與“安全”的雙基座,。在發(fā)展基座方面,,進(jìn)一步研發(fā)并開源高質(zhì)量的基礎(chǔ)模型,同時構(gòu)建面向大模型研發(fā)與應(yīng)用的全鏈條開源體系,,貫穿數(shù)據(jù),、預(yù)訓(xùn)練、微調(diào),、部署和評測各個環(huán)節(jié),,降低我國大模型研發(fā)和商用開發(fā)的門檻。在安全基座方面,,推進(jìn)構(gòu)建生成式人工智能高質(zhì)量數(shù)據(jù)集,,研發(fā)相關(guān)系列標(biāo)準(zhǔn),建設(shè)生成式人工智能評測平臺,,打造“數(shù)據(jù),、標(biāo)準(zhǔn)、評測”一體化的生成式人工智能大模型可信安全體系,,為生成式人工智能健康發(fā)展和規(guī)范應(yīng)用保駕護(hù)航,。(作者:喬宇 上海人工智能實驗室主任助理、教授)
掃一掃在手機端打開當(dāng)前頁