專家解讀｜加強(qiáng)算法風(fēng)險(xiǎn)全流程治理 創(chuàng)設(shè)算法規(guī)范“中國(guó)方案”
2022年3月1日,，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部,、公安部,、市場(chǎng)監(jiān)管總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡(jiǎn)稱《規(guī)定》）正式施行。在大數(shù)據(jù)經(jīng)濟(jì)時(shí)代,，算法是個(gè)人信息處理者收集和處理數(shù)據(jù),、推送信息、調(diào)配資源的核心力量,。算法一旦失范,，將給國(guó)家利益、社會(huì)公共利益和公民合法權(quán)益帶來(lái)嚴(yán)重威脅,。因此,，《規(guī)定》的施行具有鮮明的時(shí)代意義和現(xiàn)實(shí)需求。
算法是計(jì)算機(jī)的核心運(yùn)行邏輯,，是一套基于設(shè)計(jì)目的的數(shù)據(jù)處理指令的總和,，在底層上體現(xiàn)出專業(yè)科技的特點(diǎn)。算法也是一門賦能技術(shù),，應(yīng)用場(chǎng)景為賦能領(lǐng)域，當(dāng)算法應(yīng)用到具體的商業(yè)模式當(dāng)中,，就會(huì)產(chǎn)生應(yīng)用型風(fēng)險(xiǎn),。算法關(guān)系就是這樣一種“方式”與“領(lǐng)域”的疊加關(guān)系或結(jié)合關(guān)系。因此,，算法規(guī)范不能不談“方式”,，算法的設(shè)計(jì)、測(cè)試、評(píng)估屬于科技活動(dòng),，“算法黑箱”,、“算法霸權(quán)”部分是因科技活動(dòng)本身的不規(guī)范所致；算法規(guī)范也不能只談“方式”,，因?yàn)檎撬惴▽映霾桓F的應(yīng)用場(chǎng)景,，使得算法現(xiàn)實(shí)地影響我們的權(quán)益，影響人的自由發(fā)展,?！兑?guī)定》充分把握了算法的內(nèi)生性風(fēng)險(xiǎn)和應(yīng)用型風(fēng)險(xiǎn)，有針對(duì)性地設(shè)計(jì)風(fēng)險(xiǎn)防范規(guī)則,。
第一,，算法內(nèi)生性風(fēng)險(xiǎn)的控制重點(diǎn)在算法的設(shè)計(jì)和運(yùn)行階段。算法的設(shè)計(jì),、測(cè)試,、評(píng)估非專業(yè)人士不能為之，這種“排他性”表明算法活動(dòng)是一項(xiàng)專門技術(shù),?！八惴ê谙洹薄ⅰ八惴ㄆ缫暋钡瑞蠹驳漠a(chǎn)生,，部分也源于科技活動(dòng)本身的復(fù)雜性,。因此，對(duì)科技活動(dòng)的規(guī)范,，需要從科技風(fēng)險(xiǎn)防范的角度設(shè)計(jì)專門規(guī)則,。《規(guī)定》鼓勵(lì)使用算法傳播正能量,、抵制違法和不良信息,，不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等有違倫理道德的算法模型,，推動(dòng)算法向上向善,。表明了作為科技活動(dòng)的算法研發(fā)不能僅有工具理性，必須具有價(jià)值理性,。
在具體規(guī)則層面,，《規(guī)定》也側(cè)重于從技術(shù)角度，直接規(guī)范算法設(shè)計(jì)和運(yùn)行,。例如,，第9條第1款要求算法推薦服務(wù)提供者建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn),、規(guī)則和程序,；第10條要求算法推薦服務(wù)提供者加強(qiáng)用戶模型和用戶標(biāo)簽管理,；第12條鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,，并優(yōu)化檢索,、排序、選擇,、推送,、展示等規(guī)則的透明度和可解釋性等等。
特別值得關(guān)注的是,，《規(guī)定》第24條規(guī)定算法備案制度,，要求算法推薦服務(wù)提供者提供算法類型、算法自評(píng)估報(bào)告,、擬公示內(nèi)容等信息,。科技活動(dòng)風(fēng)險(xiǎn)控制首推風(fēng)險(xiǎn)評(píng)估與實(shí)驗(yàn)數(shù)據(jù)記錄,。如果算法活動(dòng)缺乏風(fēng)險(xiǎn)評(píng)估,，則使得風(fēng)險(xiǎn)無(wú)法從源頭控制；如果算法設(shè)計(jì)和檢驗(yàn)缺乏記錄,，則監(jiān)管機(jī)構(gòu)無(wú)法進(jìn)行有效地評(píng)估,、追溯和驗(yàn)證復(fù)雜算法。備案制度一定意義上倒逼算法推薦服務(wù)提供者積極進(jìn)行風(fēng)險(xiǎn)評(píng)估和全流程記錄,，既能督促運(yùn)營(yíng)者在整個(gè)算法活動(dòng)階段考慮算法合規(guī)問(wèn)題,，也有助于幫助執(zhí)法機(jī)關(guān)監(jiān)督算法活動(dòng)。
第二,，算法應(yīng)用型風(fēng)險(xiǎn)的治理覆蓋了算法運(yùn)行的全生命周期,。算法既是科學(xué)技術(shù)，也是賦能手段,，其除了具備科技固有的風(fēng)險(xiǎn)之外,，也因在商業(yè)和公共事業(yè)領(lǐng)域的嵌入式應(yīng)用，對(duì)源于工業(yè)時(shí)代立法模式和治理模式不斷沖擊,，引發(fā)了諸多治理痛點(diǎn),。在應(yīng)用環(huán)節(jié)，我們也要貫徹程序性控制,。但算法應(yīng)用有著不同于算法研發(fā)的特殊性：算法應(yīng)用直接作用于算法相對(duì)人,。算法應(yīng)用將影響算法相對(duì)人的合法權(quán)益——算法針對(duì)算法相對(duì)人的訴求做出決定。為了解決應(yīng)用型風(fēng)險(xiǎn),，《規(guī)定》針對(duì)未成年人,、老年人、勞動(dòng)者和大數(shù)據(jù)殺熟等場(chǎng)景,，分別配置相應(yīng)的行為規(guī)則（第19條至第21條）,。為了實(shí)現(xiàn)自下而上的算法治理，《規(guī)定》還通過(guò)權(quán)利路徑,，賦予個(gè)人對(duì)抗算法決策的權(quán)利,。
《規(guī)定》第17條第1款規(guī)定：“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng),。用戶選擇關(guān)閉算法推薦服務(wù)的,，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)?！毕噍^于《個(gè)人信息保護(hù)法》第24條第2款的規(guī)定,，本條進(jìn)一步明確規(guī)定了算法應(yīng)用拒絕權(quán)。
此外,，第17條第2款規(guī)定：“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能,。”該條規(guī)定為我國(guó)首創(chuàng),，能夠更全面地保護(hù)算法相對(duì)人的利益,。算法相對(duì)人可能并不是要求算法使用人停止推薦服務(wù)，而是禁止推定特定類型的服務(wù),。通過(guò)賦予算法相對(duì)人刪除標(biāo)簽的權(quán)利,，能夠更全面的滿足用戶的要求。
同時(shí),，《規(guī)定》第17條第3款還規(guī)定：“算法推薦服務(wù)提供者應(yīng)用算法對(duì)用戶權(quán)益造成重大影響的,，應(yīng)當(dāng)依法予以說(shuō)明并承擔(dān)相應(yīng)責(zé)任?！北热?，在動(dòng)態(tài)定價(jià)當(dāng)中，如果推薦給用戶的價(jià)格偏高,，可能構(gòu)成對(duì)用戶權(quán)益的重大影響,。用戶可以要求算法推薦服務(wù)提供者給予說(shuō)明。如果構(gòu)成侵犯民事權(quán)益的,，算法推薦服務(wù)提供者應(yīng)根據(jù)法律規(guī)定承擔(dān)相應(yīng)責(zé)任,。
算法風(fēng)險(xiǎn)的全流程治理，在“風(fēng)險(xiǎn)-規(guī)制”框架下尋找新的平衡點(diǎn)和組合方式,。算法在本質(zhì)上是處理數(shù)據(jù)的代碼,，是一項(xiàng)應(yīng)用科學(xué)技術(shù)。但技術(shù)并非中立,，尤其是當(dāng)算法處理的不是“物”,、而是“個(gè)人信息”時(shí)，算法活動(dòng)就兼具社會(huì)活動(dòng)屬性,、內(nèi)涵倫理和社會(huì)風(fēng)險(xiǎn),。因此,，算法規(guī)范難題部分來(lái)源于科技的專業(yè)性和工具性，部分來(lái)源于應(yīng)用場(chǎng)景當(dāng)中的價(jià)值復(fù)雜性,?！兑?guī)定》針對(duì)科技風(fēng)險(xiǎn)與應(yīng)用風(fēng)險(xiǎn)設(shè)計(jì)規(guī)則，在“風(fēng)險(xiǎn)-規(guī)制”框架下創(chuàng)設(shè)了算法規(guī)范的中國(guó)方案,。（作者：林洹民 浙江大學(xué)光華法學(xué)院講師,，工業(yè)與信息化法治研究院研究員）
掃一掃在手機(jī)端打開當(dāng)前頁(yè)
京公網(wǎng)安備11040102700079號(hào)