負責任地推動新一代人工智能倫理與治理_風聞

對新一代AI倫理的考量需貫穿整個產品生命週期

來源：中國科技網   科技日報   作者：曾 毅    時間：2020-06-05

 原文網址：http://www.stdaily.com/kjrb/kjrbbm/2020-06/05/content_952594.shtml

封面用圖   圖文無關

人工智能科學與技術的發展日新月異，它直接作用於社會，也將以最直接的方式接收到社會的反饋。它在推動科技、經濟、社會的發展中起到的持續性積極作用毋庸置疑，然而如果在其發展過程中沒有對社會潛在影響和可持續性進行充分考慮，可能會造成預期之外的負面影響。因此，對人工智能倫理的考量應貫穿於人工智能產品與服務的整個生命週期。

需秉承以人為本及可持續發展的理念

符合人類倫理與價值觀的人工智能應秉承以人為本及可持續發展的理念，尊重隱私，促進公平公正，不引入種族、文化等偏見，人工智能技術的發展應做到透明與可解釋、安全可控、可驗證、可追責，為推動技術普惠各行各業、各個國家與地區，應避免惡意競爭，促進開放合作與包容共享。

倡導和諧發展應當是新一代人工智能倫理與治理的主旋律。一方面為實現通過人工智能增進人類共同福祉這一目標，採用的途徑並不唯一，應當始終秉承與實踐和而不同、和合向善的發展理念。另一方面應推動人類與技術的和諧共生，避免技術的誤用、濫用、惡用對人類權益的傷害，總體願景應是發展對人類與生態有益的人工智能。

無論採取哪種技術途徑實現新一代人工智能，都無法杜絕在發展過程中可能帶來的潛在技術與社會風險及對現代科技倫理的潛在衝擊。技術發展的途徑與方式的多樣性使得其所帶來的風險也具有不確定性，因此應當在探索新一代人工智能，特別是不同類型的高等智能的過程中，建立對其技術與社會風險的持續戰略性前瞻研究，以避免、降低潛在風險帶來的負面影響。

在對未來人工智能的潛在風險及應對策略的研究方面，應最大限度地共享對隱患的認識及危機處理方案與經驗。只有建立全球共享、羣策羣力的機制並採取行動，才能保證安全，避免顛覆性技術可能帶來的災難性風險。

多方協作實現發展與治理雙輪驅動

作為我國新一代人工智能戰略的牽頭單位，2019年3月，科技部組建了國家新一代人工智能治理專業委員會。同年6月，該委員會發布了《新一代人工智能治理原則——發展負責任的人工智能》，這是我國新一代人工智能戰略對發展與治理關係的原則性闡述，也是中國新一代人工智能治理的重要基礎。

為了確保中國新一代人工智能向對社會有益的方向發展，新一代人工智能應採取發展與治理雙輪驅動的戰略。治理的目的並不是阻礙發展，而是保持發展的穩健。

敏捷治理應成為中國人工智能治理重要特徵之一。這裏敏捷治理可以被解讀為有兩方面的含義：一方面是人工智能治理隨人工智能技術的進展進行自適應，使得治理工作能夠更適應發展的特點；另一方面是相關治理工作動作迅速。

與新一代人工智能發展一脈相承，作為中國人工智能發展的重要方面，人工智能治理在中國也應通過多部門聯動深度協作的方式進行。政府部門、科研機構、企業等創新單元在人工智能治理工作中應各自承擔相應的責任並深度協作，真正從技術和社會等不同視角實現新一代人工智能的敏捷治理。

建立人工智能治理公共服務體系防患於未然

未來，一方面需要政府相關部門、科研機構、產業對人工智能可能存在的風險、安全與倫理隱患加以足夠的重視，並對人工智能倫理與治理進行戰略性的關注與投入，加強自律自治。另一方面，對於國家和地方相關機構而言，應當推動人工智能治理相關高端智庫、執行機構、協作網絡的建立，並鼓勵公眾參與討論，及時瞭解公眾對技術參與變革社會的思考。

需要指出，新一代人工智能治理工作的重點應當是防患於未然，而不僅僅是事後的警戒、責令整改與懲治。發展與治理的雙輪驅動需要將人工智能倫理與治理工作推動為兼服務與監管於一身的公共體系。應鼓勵政府相關部門、科研機構、企業及其他創新單元，乃至公眾共建新一代人工智能倫理與治理公共體系。應在政府和相關機構的指導下，鼓勵新一代人工智能倫理與治理公共服務平台的建設並面向政府、科研機構、企業、公眾提供服務，從而負責任地推動並確保新一代人工智能的穩健發展。

（作者系中科院自動化研究所研究員、北京智源人工智能研究院人工智能倫理與安全中心主任）