周伯文：99%算力用於模型訓練，不到1%用於安全優先，要探索人工智能發展的“45度平衡律”

7月4日至7日，2024世界人工智能大會暨人工智能全球治理高級別會議（WAIC 2024）將在上海舉行。

在開幕式上，人工智能治理技術方向首席專家、清華大學惠妍講席教授、清華大學電子系長聘教授、銜遠科技創始人周伯文表示，目前AI的發展是失衡的。

他指出，橫軸是AI的技術能力的提升，在transformer為代表的基礎模型架構下，將以大數據、大參數量、大計算量的尺度定律，讓目前的AI能力呈指數級增長；與之對比，在縱軸的AI安全維度，典型的技術如紅隊測試、安全標識、安全護欄與評估測量等，呈現離散化、碎片化且後置的特性。

他表示，目前世界上99%的算力用於模型的訓練，只有不到1%用於更多“安全優先”的考量。所以我們需要找到AI安全優先，但又能保證AI能力長期發展的技術體系。我們把這樣一種技術思想體系叫做“AI的45度平衡律”，是指從長期的角度來看，我們要大體上沿着45度的安全與性能平衡發展，所謂的平衡是指短期內可以有波動，但不能長期低於45度。