算法合規——解讀《互聯網信息服務算法推薦管理規定（徵求意見稿）》_風聞

走出去智庫觀察

8月27日，國家網信辦發佈了關於《互聯網信息服務算法推薦管理規定（徵求意見稿）》（以下簡稱《算法規定草案》）公開徵求意見的通知。根據《算法規定草案》，不得根據消費者的偏好、交易習慣等特徵，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。

走出去智庫（CGGT）特約法律專家、中倫律師事務所高級顧問蔡榮偉指出，《算法規定草案》適用範圍較廣，幾乎涵蓋了所有提供算法推薦服務的互聯網企業，且其對算法推薦活動亦做了較為全面的規範，一些規則更是直指算法推薦領域的一些亂象，因此，《算法規定草案》的內容對提供算法推薦服務的企業影響較大，根據《算法規定草案》要求，準備制定相關服務規則、管理制度，並配備相關專業人員及技術支撐。

《算法規定草案》有哪些規定？企業如何做好合規管理？今天，走出去智庫（CGGT）刊發蔡榮偉和楊傑律師的文章，供關注數據合規管理的讀者參考。

要 點

CGGT，CHINA GOING GLOBAL THINKTANK

1、《算法規定草案》規定，具有輿論屬性或者社會動員能力的算法推薦服務提供者（“特殊算法推薦服務提供者”）應當通過相關備案系統填報相關信息，進行備案，並在其對外提供服務的平台的顯著位置標明其備案編號並提供公示信息鏈接。

2、算法推薦具有一定隱蔽性，常常使得公眾在無形之中被“算計”。因此，《算法規定草案》在增加算法推薦的公開透明度，保障用户知情權方面作出了一系列規定。

3、根據《算法規定草案》要求，增加算法推薦服務的公開透明度，保障用户知情權和自主選擇權，待《算法規定草案》生效後，及時履行相關告知、公示義務。

正 文

CGGT，CHINA GOING GLOBAL THINKTANK

文/蔡榮偉、楊傑

中倫律師事務所

在互聯網時代，算法推薦逐漸侵入我們的生活，影響着我們生活的方方面面，同時也滋生了“大數據殺熟”“流量造假”“過度推薦”及“操縱榜單”等損害公眾利益，破壞正當競爭，擾亂社會秩序的行為。2021年08月27日，國家互聯網信息辦公室（“網信辦”）公佈了《互聯網信息服務算法推薦管理規定（徵求意見稿）》（“《算法規定草案》”），意在有針對性地對算法推薦領域的亂象進行監管，並全面規範各類算法推薦活動。

一、《算法規定草案》適用於哪些主體？

《算法規定草案》第二條規定，在中國境內應用算法推薦技術提供互聯網信息服務（“算法推薦服務”）的，適用本規定，並進一步明確了“應用算法推薦技術”的定義，即“應用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用户提供信息內容”。

以上適用範圍非常廣泛，各類提供算法推薦服務的互聯網公司幾乎都在監管範圍內，如各類短視頻平台、電商平台、社交平台及餐飲外賣平台等。

二、算法推薦服務由誰監管？主要有哪些監管措施？

**1.**建立全面監督管理體系

（1）各級網信部門監管

《算法規定草案》第三條規定，國家網信部門負責全國算法推薦服務的監督管理執法工作，省級網信部門依職責負責本行政區域內算法推薦服務的監督管理執法工作。

（2）加強行業自律

《算法規定草案》鼓勵相關行業組織加強行業自律，建立健全自律制度、行業準則及行業標準，並督促指導算法推薦服務提供者建立健全服務規範。（見《算法規定草案》第五條）

（3）完善社會監督

《算法規定草案》為社會監督提供渠道，發動社會公眾，開展監督。《算法規定草案》規定，算法推薦服務提供者應為公眾投訴舉報設置便捷的投訴舉報入口，同時建立用户申訴渠道和制度。（見《算法規定草案》第二十六條）

**2.**建立分類分級制度

《算法規定草案》第十九條規定，網信辦應“根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用户規模、算法推薦技術處理的數據敏感程度、對用户行為的干預程度等對算法推薦服務提供者實施分類分級管理。”該分類分級制度的具體實施規則仍待進一步明確，如應劃分為哪幾類，哪幾個等級，分別適用何種監管措施等。

**3.**對特殊算法推薦服務提供者的監管措施

（1）實施備案管理

 《算法規定草案》規定，具有輿論屬性或者社會動員能力的算法推薦服務提供者（“特殊算法推薦服務提供者”）應當通過相關備案系統填報相關信息，進行備案，並在其對外提供服務的平台的顯著位置標明其備案編號並提供公示信息鏈接。[1]《算法規定草案》未對特殊算法推薦服務提供者的定義和範圍進行説明，仍待相關配套規定以及網信部門執法案例進一步明確。

（2）需進行安全評估

 《算法規定草案》規定，特殊算法推薦服務提供者應當按照國家有關規定開展安全評估。網信辦及省級網信部門將會同有關主管部門對算法推薦服務負責開展算法安全評估和監督檢查工作，相關算法推薦服務提供者應提供必要的支持和協助。[2]相關安全評估的具體實施規則仍待進一步明確。

三、在算法推薦活動中如何保障用户自主選擇權？

保障用户的知情權和自主選擇權是保障公平交易、維持市場秩序的重要前提，國家對算法可能不當影響用户自主決定權的問題日益關注，並積極進行立法予以回應。如《個人信息保護法》（ “個保法”）中規定，通過自動化決策方式進行推送或營銷，應同時提供不針對其個人特徵的選項，或向個人提供便捷的拒絕方式。[3]近日出台的《禁止網絡不正當競爭行為規定（公開徵求意見稿）》亦強調，經營者不得利用數據、算法等技術手段，通過收集、分析交易相對方的信息、瀏覽內容及次數等方式，對交易相對方不合理地提供不同的交易信息，侵害交易相對方的知情權、選擇權。[4]《算法規定草案》此次也從以下方面明確規定保護用户知情權及自主選擇權：

**1.**增加算法推薦的公開透明度，保障用户知情權

算法推薦具有一定隱蔽性，常常使得公眾在無形之中被“算計”。因此，《算法規定草案》在增加算法推薦的公開透明度，保障用户知情權方面作出了一系列規定，如《算法規定草案》規定了特殊算法推薦服務提供者的備案義務、算法推薦服務提供者以顯著方式告知用户其提供算法推薦服務情況的告知義務、算法推薦服務提供者公示算法推薦服務基本原理、目的意圖、運行機制等的公示義務以及優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性義務[5]。上述規則增加了算法推薦相關信息及推薦方式的透明度，一定程度上保證了用户知情權，同時也有利於公眾去監督互聯網企業的算法推薦功能。

**2.**明確用户選擇權

與個保法相關規定相呼應，《算法規定草案》也明確了用户接受算法推薦服務的選擇權。《算法規定草案》第十五條規定，“算法推薦服務提供者應當向用户提供不針對其個人特徵的選項，或者向用户提供便捷的關閉算法推薦服務的選項。用户選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。”該規定主要針對實踐中眾多互聯網平台未提供算法推薦服務關閉選項或難以關閉相關服務的情形。據報道，通過微信設置功能，經過至少14個步驟，可關閉為期六個月的個性化定製廣告。費盡千辛萬苦關閉後，用户其實仍會接收到普遍投放的廣告。[6]本條款生效後，可督促相關平台設置更為便捷的算法推薦服務關閉方式，真正便利用户行使選擇權。 

《算法規定草案》第十五條進一步規定，“算法推薦服務提供者應當向用户提供選擇、修改或者刪除用於算法推薦服務的用户標籤的功能。”該條在算法推薦方面給了用户一定主動權，可以避免企業根據自己所確定的用户標籤，持續向用户推送相關信息。

四、《算法規定草案》對哪些不正當競爭行為作出明確規範？

**1.**不得實施流量造假

在移動互聯網時代，注意力成為稀缺資源，流量造假逐漸形成產業鏈，對公平競爭的市場秩序造成破壞，也不斷侵蝕網絡空間的社會信任。對此，《算法規定草案》第十三條明確規定，“算法推薦服務提供者不得利用算法虛假註冊賬號、非法交易賬號、操縱用户賬號，或者虛假點贊、評論、轉發、網頁導航等，實施流量造假、流量劫持”，對流量造假、流量劫持行為明令禁止。

**2.**不得操縱搜索結果

互聯網時代，信息量爆炸，很多商家或流量網紅為了脱穎而出，不惜通過重金以購買熱搜或精選，操縱榜單等方式“做廣告”，破市場壞公平競爭，擾亂市場秩序，佔用公共資源。對此，《算法規定草案》第十三條進一步規定，“不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施自我優待、不正當競爭、影響網絡輿論或者規避監管”。

但值得注意的是，《算法規定草案》對違反上述規定所設置的行政處罰金額上限為人民幣三萬元[7]，並未根據流量造假方或搜索結果操縱方因流量造假或操縱搜索結果所獲利潤金額設置更高的處罰金額上限。因此，對上述行為的處罰可能仍需主要依靠刑法等其他法律進行處罰和整治。

五、《算法規定草案》對特定羣體有哪些特殊保護？

**1.**禁止“大數據殺熟”，保障消費者合法權益

近年來，隨着互聯網不斷滲透到我們的生活，“大數據殺熟”已變成一個熱詞，從訂機票、訂酒店甚至訂外賣都會被“大數據殺熟”。[8]2021年8月20日發佈的《個人信息保護法》（“個保法”）針對“大數據殺熟行為”提出了相關應對措施，如規定個人信息處理者利用個人信息進行自動化決策，不得對個人在交易價格等交易條件上實行不合理的差別待遇[9]。

與個保法相呼應，《算法規定草案》也針對“大數據殺熟”提出了類似措施，規定算法推薦服務提供者向消費者銷售商品或者提供服務的，“不得根據消費者的偏好、交易習慣等特徵，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。”（見《算法規定草案》第十八條）

**2.**防止未成年人沉迷網絡，保障未成年人身心健康

在互聯網飛速發展的時代，未成年人沉迷網絡的問題引起了社會的廣泛關注。由於未成年人價值觀尚未健全，缺乏辨別正確價值觀的能力，極易掉進互聯網的“算法陷阱”裏，成為資本逐利的犧牲品。因此，《算法規定草案》針對未成年人網絡保護進行了特殊規定，要求算法推薦服務提供者向未成年人提供服務的，應當開發適合未成年人使用的模式、提供適合未成年人特點的服務，不得向未成年人用户推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息內容，或利用算法推薦服務誘導未成年人沉迷網絡（見《算法規定草案》第十六條）。但該規定較為概括，且對違反本規定的處罰措施亦不明確，僅規定由主管部門依據職責，按照有關法律、行政法規和部門規章的規定予以處理。因此，仍待在實踐中探索更為具體的保護措施。

**3.**完善平台調度服務，保障勞動者權益

此前，外賣平台通過算法來測算外賣員配送時間引熱議。在外賣平台智能算法的深度學習下，外賣員送餐的時間被平台逐漸壓縮，給外賣員造成了巨大壓力，也一度使得外賣騎手被貼上了最危險職業的標籤。對此，《算法規定草案》第十七條規定，“算法推薦服務提供者向勞動者提供工作調度服務的，應當建立完善平台訂單分配、報酬構成及支付、工作時間、獎懲等相關算法，履行勞動者權益保障義務。”但該規定亦相對概括，且相應的處罰措施亦不夠明確，仍待結合實際處罰案例探索有關主管部門的執法尺度和力度。

六、《算法規定草案》還規定了算法推薦服務提供者哪些主要義務？

**1.**落實算法安全主體責任

《算法規定草案》規定，算法推薦服務提供者作為算法安全主體，應履行以下主體責任[10]：

（1）建立健全用户註冊、信息發佈審核、算法機制機理審核、安全評估監測、安全事件應急處置、數據安全保護和個人信息保護等管理制度；

（2）制定並公開算法推薦相關服務規則；及

（3）配備與算法推薦服務規模相適應的專業人員和技術支撐。

**2.**維護法律及公序良俗，倡導主流價值導向

《算法規定草案》除了強調算法推薦服務應遵守法律法規，同時也強調應尊重公序良俗，倡導主流價值導向。為此，《算法規定草案》規定算法推薦服務提供者應：

（1）定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用户沉迷或者高額消費等違背公序良俗的算法模型（見《算法規定草案》第八條）；

（2）加強信息內容管理，防止違法信息擴散，保存有關記錄，並向網信部門報告。（見《算法規定草案》第九條） 

（3）加強用户模型和用户標籤管理，不得將違法和不良信息關鍵詞記入用户興趣點或者作為用户標籤並據以推送信息內容，不得設置歧視性或者偏見性用户標籤（見《算法規定草案》第十條）；及 

（4）加強算法推薦服務版面頁面生態管理，建立完善人工干預和用户自主選擇機制，在各個重點環節積極呈現符合主流價值導向的信息內容（見《算法規定草案》第十一條）。

七、企業應根據《算法規定草案》做哪些準備？

《算法規定草案》適用範圍較廣，幾乎涵蓋了所有提供算法推薦服務的互聯網企業，且其對算法推薦活動亦做了較為全面的規範，一些規則更是直指算法推薦領域的一些亂象，因此，《算法規定草案》的內容對提供算法推薦服務的企業影響較大，故相關企業應根據《算法規定草案》的相關規定着重從以下方面進行準備：

（1）根據《算法規定草案》要求，準備制定相關服務規則、管理制度，並配備相關專業人員及技術支撐；

（2）對開展的算法推薦活動進行自我審核、評估，排除違法和不良信息、誘導性算法模型、偏見性用户標籤及其他不符合法律法規、公序良俗及和主流價值導向的情形；

（3）根據《算法規定草案》要求，增加算法推薦服務的公開透明度，保障用户知情權和自主選擇權，待《算法規定草案》生效後，及時履行相關告知、公示義務；以及

（4）密切關注《算法規定草案》及相關立法及執法活動對待明確問題的進一步解釋，如關注特殊算法推薦服務者的範圍，以自查是否需進行相關備案及安全評估。

註釋：

[1] 《互聯網信息服務算法推薦管理規定（徵求意見稿）》第二十條、第二十二條。

[2]《互聯網信息服務算法推薦管理規定（徵求意見稿）》第二十三、二十四條。

[3]《個人信息保護法》第二十四條。

[4] 《禁止網絡不正當競爭行為規定（公開徵求意見稿）》第十三條、第二十一條。

[5] 《互聯網信息服務算法推薦管理規定（徵求意見稿）》第十二條、第十四條。

[6] 《“查三次攻略共14個步驟”難以關閉的微信朋友圈廣告》，21世紀經濟報道2020年03月25日訊。

[7] 《互聯網信息服務算法推薦管理規定（徵求意見稿）》第二十七條。

[8] 新華網《紹興首例“大數據殺熟”案成功維權》。

[9] 《個人信息保護法》第二十四條。

[10] 《互聯網信息服務算法推薦管理規定（徵求意見稿）》第七條。

來源：中倫視界