周鴻禕新智者大會稱： AI最後的底線是人

“原來機器人永遠不要傷害人類的原則，現在看來已經被打破。所以，我們建議應該把AI最後的決定權交給人類，讓人來做最後的控制，而不是完全讓AI做自動的判斷、自動的決策。”7月27日，由中國互聯網協會指導、微博和新浪新聞主辦的人工智能領域峯會新智者大會在京順利召開。三六零集團創始人周鴻禕出席大會並發表主題演講。

他指出，面對人工智能帶來各種複雜安全挑戰，網絡安全行業應當被重新定義，將計算機安全、網絡安全升維到數字安全。其中，《國家安全戰略（2021年-2025年）》明確提出加快提升網絡安全、數據安全、人工智能安全等領域的治理能力，這也是國家戰略層面首次提出人工智能安全的概念，説明人工智能安全是數字安全的一部分。

演講中，周鴻禕指出AI已應用在戰爭中，不傷人原則已被打破。今年俄烏衝突中，烏克蘭軍隊就使用了美國的彈簧刀無人機，該無人機具備監視、偵察和打擊功能，在AI的加持下，單兵就能熟練掌握。“從人下指令，到AI自動識別、自動判斷、自主發起攻擊，我覺得就是一層薄薄的窗户紙。所以把AI武器最後的決定權交給人類，讓人來做最後的控制至關重要。人工智能最後的底線必須是人。”周鴻禕説道。

除應用於戰場上外，人工智能安全也面臨着七重挑戰，包括：硬件、軟件、通信協議、算法、數據、應用和社會倫理。周鴻禕指出經典的“電車難題”就是很好的例證。面對電車選擇難題，AI程序該如何來做出判斷。與此同時，如果出了車禍，這個責任到底該誰來負？應該算AI的？算車廠的？還是算駕駛員的？這些AI安全問題，目前都還沒有明確答案。

然而，風險與機遇並存。對於人工智能的風險與積極作用，周鴻禕認為需辯證對待。在此方面，360一直高度重視人工智能安全，率先佈局構建起人工智能安全能力體系。360不僅對自身積累的全球最大的安全大數據進行AI分析，形成了360雲端安全大腦的原型，為行業或企業提供強大的數據和情報支撐；同時積極承擔“安全大腦國家新一代人工智能開放創新平台”的建設；此外還牽頭研發的“人工智能安全測評與風險監測預警平台”入選工信部“人工智能產業創新任務揭榜單位”名單，有效夯實了人工智能安全的底座。

值得關注的是，周鴻禕還直言僅靠一家企業不能解決所有威脅，需要注重生態合作，並表示作為中國數字安全的領軍企業，360願意開放自身安全大數據，將產學研力量聯合起來，共建AI安全生態，集中推動數字安全的創新。