網信辦：推進算法分級分類安全管理

9月29日，國家互聯網信息辦公室印發《關於加強互聯網信息服務算法綜合治理的指導意見》的通知。通知指出，堅持風險防控，推進算法分級分類安全管理，有效識別高風險類算法，實施精準治理；堅持權益保障，引導算法應用公平公正、透明可釋，充分保障網民合法權益。主要目標為利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規範的算法安全綜合治理格局。

《指導意見》全文如下：

關於加強互聯網信息服務算法綜合治理的指導意見

近年來，互聯網信息服務算法（以下簡稱“算法”）在加速互聯網信息傳播、繁榮數字經濟、促進社會發展等方面發揮了重要作用。與此同時，算法不合理應用也影響了正常的傳播秩序、市場秩序和社會秩序，給維護意識形態安全、社會公平公正和網民合法權益帶來挑戰。為深入貫徹落實黨中央、國務院決策部署，管理好使用好發展好算法應用，全面提升網絡綜合治理能力，現就加強互聯網信息服務算法安全治理提出如下意見。

一、總體要求

（一）指導思想

堅持以習近平新時代中國特色社會主義思想特別是習近平總書記關於網絡強國的重要思想為指導，深入貫徹黨的十九大和十九屆二中、三中、四中、五中全會精神，堅持正能量是總要求、管得住是硬道理、用得好是真本事，以算法安全可信、高質量、創新性發展為導向，建立健全算法安全治理機制，構建完善算法安全監管體系，推進算法自主創新，促進算法健康、有序、繁榮發展，為建設網絡強國提供有力支撐。

（二）基本原則

堅持正確導向，強化科技倫理意識、安全意識和底線思維，充分發揮算法服務正能量傳播作用，營造風清氣正的網絡空間；堅持依法治理，加強法律法規建設，創新技術監管模式，打擊違法違規行為，建立健全多方參與的算法安全治理機制；堅持風險防控，推進算法分級分類安全管理，有效識別高風險類算法，實施精準治理；堅持權益保障，引導算法應用公平公正、透明可釋，充分保障網民合法權益；堅持技術創新，大力推進我國算法創新研究工作，保護算法知識產權，強化自研算法的部署和推廣，提升我國算法的核心競爭力。

（三）主要目標

利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規範的算法安全綜合治理格局。

——治理機制健全。制定完善互聯網信息服務算法安全治理政策法規，算法安全治理的主體權責明確，治理結構高效運行，形成有法可依、多元協同、多方參與的治理機制。

——監管體系完善。創新性地構建形成算法安全風險監測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規行為處置等多維一體的監管體系。

——算法生態規範。算法導向正確、正能量充沛，算法應用公平公正、公開透明，算法發展安全可控、自主創新，有效防範算法濫用帶來的風險隱患。

二、健全算法安全治理機制

（一）加強算法治理規範。健全算法安全治理政策法規，加快制定算法管理規定，明確算法管理主體、管理範圍、管理要求和法律責任等，完善算法安全治理措施，制定標準、指南等配套文件。

（二）優化算法治理結構。進一步明確政府、企業、行業組織和網民在算法安全治理中的權利、義務和責任，科學合理佈局治理組織結構，規範運作、相互銜接，打造形成政府監管、企業履責、行業自律、社會監督的算法安全多元共治局面。

（三）強化統籌協同治理。網信部門會同宣傳、教育、科技、工信、公安、文化和旅遊、市場監管、廣電等部門，建立部門協同聯動長效機制，履行監管職責，共同開展算法安全治理工作。

（四）強化企業主體責任。企業應建立算法安全責任制度和科技倫理審查制度，健全算法安全管理組織機構，加強風險防控和隱患排查治理，提升應對算法安全突發事件的能力和水平。企業應強化責任意識，對算法應用產生的結果負主體責任。

（五）強化行業組織自律。互聯網信息服務行業應當加強行業自律，積極開展算法科學技術普及工作，逐步組建算法安全治理力量，吸引專業人才隊伍，匯聚多方資源投入，承擔算法安全治理社會責任，為算法安全治理提供有力支撐。

（六）倡導網民監督參與。鼓勵廣大網民積極參與算法安全治理工作，切實加強政府、企業、行業組織和網民間的信息交流和有效溝通。政府積極受理網民舉報投訴，企業自覺接受社會監督並及時做好結果反饋。

三、構建算法安全監管體系

（七）有效監測算法安全風險。對算法的數據使用、應用場景、影響效果等開展日常監測工作，感知算法應用帶來的網絡傳播趨勢、市場規則變化、網民行為等信息，預警算法應用可能產生的不規範、不公平、不公正等隱患，發現算法應用安全問題。

（八）積極開展算法安全評估。組織建立專業技術評估隊伍，深入分析算法機制機理，評估算法設計、部署和使用等應用環節的缺陷和漏洞，研判算法應用產生的意識形態、社會公平、道德倫理等安全風險，提出針對性應對措施。

（九）有序推進算法備案工作。建立算法備案制度，梳理算法備案基本情況，健全算法分級分類體系，明確算法備案範圍，有序開展備案工作。積極做好備案指導幫助，主動公佈備案情況，接受社會監督。

（十）持續推進監管模式創新。持續研判算法領域技術發展新形勢，推進監管模式與算法技術協同發展，不斷完善、升級、創新監管的方式方法和治理舉措，防範監管模式落後導致的算法安全風險。

（十一）嚴厲打擊違法違規行為。着力解決網民反映強烈的算法安全問題，對算法監測、評估、備案等工作中發現的、以及網民舉報並查實的涉算法違法違規行為，予以嚴厲打擊，堅決維護互聯網信息服務算法安全。

四、促進算法生態規範發展

（十二）樹立算法正確導向。弘揚社會主義核心價值觀，在算法應用中堅持正確政治方向、輿論導向、價值取向。提高正能量傳播的精準性和有效性，規範信息分發行為和秩序，推動企業藉助算法加強正能量傳播，引導算法應用向上向善。

（十三）推動算法公開透明。規範企業算法應用行為，保護網民合理權益，秉持公平、公正原則，促進算法公開透明。督促企業及時、合理、有效地公開算法基本原理、優化目標、決策標準等信息，做好算法結果解釋，暢通投訴通道，消除社會疑慮，推動算法健康發展。

（十四）鼓勵算法創新發展。提升算法創新能力，積極開展算法研發工作，支持算法與社會、經濟各領域深度結合。提高算法自主可控能力，加強知識產權保護，提高自研算法產品的推廣和使用，增強算法核心競爭力。

（十五）防範算法濫用風險。維護網絡空間傳播秩序、市場秩序和社會秩序，防止利用算法干擾社會輿論、打壓競爭對手、侵害網民權益等行為，防範算法濫用帶來意識形態、經濟發展和社會管理等方面的風險隱患。