政務系統接入DeepSeek，幾個問題不容忽視

人民中科研 究院：DeepSeek在政務服務應用中的問題與對策

數字化轉型浪潮席捲各行各業，大模型在政務服務領域的應用已成為政府提升服務水平的重要抓手。作為一款開源大模型，DeepSeek憑藉其在成本和性能上的優勢，在政務服務、公共管理和城市治理等多個領域展現出巨大的應用潛力。然而，在未經過系統論證和整體規劃的情況下，簡單地接入或碎片化地部署DeepSeek，將面臨數據安全、系統適配、成本效益等多重挑戰。

賦能政務服務現狀

據不完全統計，全國已有超過100家政府單位接入DeepSeek，涵蓋智能問答、政策分析、交通便民、12345熱線等多個場景。這些實踐表明，政府正在努力讓DeepSeek成為提升服務效能的重要工具，爭取為公眾帶來更便捷、更智能的服務體驗。但同時部分地方也出現了“你上我也上”的現象，缺乏對實際需求和應用效果的系統性思考和論證，個別地方甚至出現了誇大宣傳。

暴露出來的問題

如果未經系統化的規劃和設計，簡單地部署DeepSeek大模型也面臨諸多風險。

資源浪費與效率失衡風險。 目前，部分地方政府在引入DeepSeek時缺乏統一的規劃和標準，導致重複建設和資源浪費。例如，一些地方政府在未充分評估實際需求的情況下，投入大量資金引入DeepSeek及算力設備，但由於技術適配性不足或使用場景有限，最終未能實現預期效果，造成投入產出比失衡。此外，當前人工智能技術發展很快，不斷出現新的技術和設備迭代，如果沒有進行系統和長遠的規劃，數月之後又要進行系統升級甚至重建。

生成式模型的幻覺所引發的可信度風險。 DeepSeek作為生成式AI模型，其輸出結果可能存在不可解釋性和“幻覺”問題，即生成的內容看似合理但並不符合實際情況。在政策諮詢場景中，如果系統提供的答案存在錯誤或誤導性信息，可能引發公眾對政府服務的不信任，甚至導致決策失誤。

數據安全與模型可靠性帶來的系統性風險。 DeepSeek的應用依賴於海量數據的訓練和調用，這可能帶來數據泄露、濫用或被惡意攻擊的風險。例如，政務數據中涉及大量敏感信息，如果安全防護不到位，可能導致隱私泄露、數據篡改等，進而影響政府公信力和社會穩定。

過度依賴技術導致的系統脆弱性與應急能力不足風險。 如果政府部門過度依賴DeepSeek等人工智能技術，可能導致系統在面對技術故障、網絡攻擊或突發事件時顯得脆弱。例如，一旦DeepSeek系統出現故障，可能直接影響政務服務的正常運行，甚至引發公眾對政府應急能力的質疑。

建議對策

針對以上可能的風險與挑戰，人民中科研究院從四個方面提出技術對策和建議，如下圖所示。

對策建議框架示意圖

一是準確評估業務應用場景對模型的需求，避免資源浪費與效率失衡。 在引入DeepSeek之前，政府部門應充分調研和評估實際業務場景的需求，明確技術的適用性和優先級。例如，對於高頻、標準化程度高的業務（如政策諮詢、信息查詢），可以優先引入DeepSeek以提升效率。而對於複雜、涉及重大決策的業務，則需謹慎評估技術的適用性。同時，建議建立統一的建設標準和評估機制，避免各地重複建設，確保資源投入與產出效益相匹配。

二是準確評估模型和算力成本，平衡投入與收益的關係。 在推進DeepSeek大模型與政務服務的深度融合前，系統化論證算力資源、模型開發運維成本與業務收益的平衡關係，是規避技術盲目投入、實現可持續智能化轉型的核心前提。例如有的行政審批的智能化應用中，人工智能系統雖將部分環節處理時間大幅壓縮，但因需額外增設人工複核崗位，實際綜合成本不降反升。因此，需通過嚴謹的經濟性論證，才能避免因短期政績驅動導致的資源錯配，真正實現“技術投入-治理效能-財政可持續性”的三角平衡。

三是準確評估數據載體的安全邊界，築牢數據安全防線。 DeepSeek的應用依賴於海量數據的訓練和調用，因此必須明確數據的安全邊界，確保敏感信息不被濫用或泄露。具體措施包括，對於非公開數據，要禁止使用API調用的方式，避免數據被截取或泄露。同時，優先採用國產化算力基礎設施，確保數據主權和系統安全性。此外，引入加密技術和訪問控制機制，防止數據在傳輸和使用過程中被篡改或竊取。定期開展數據質量與安全審計，及時發現和修復潛在風險。通過這些措施，確保數據在安全邊界內高效流動，為DeepSeek的應用提供可靠保障。

四是建立內容安全常態化防控機制，提升技術可信度與公眾信任。 針對DeepSeek可能存在的生成內容不可解釋性和“幻覺”問題，政府部門應建立常態化全生命週期的內容安全防控機制。在模型上線前，要對模型和相關數據進行全面的內容安全評測，達到安全要求方可上線。模型上線後，要對模型運行中的輸入內容、推理過程和輸出結果進行即時監測和防控。此外，應構建內容安全“紅隊攻擊”機制，不定期對模型進行模擬攻擊以發現漏洞，時刻保障智能系統的安全性。

結語

DeepSeek大模型在政務領域的應用可以為政府服務帶來效率的提升和智能化水平的升級，但同時也面臨資源浪費、數據安全、技術可信等多重挑戰。需要準確評估業務需求、平衡投入產出、築牢數據安全邊界、建立內容安全防控機制，主動應對這些潛在風險，推動技術與政務服務的深度融合，為公眾提供更智能、更可靠的政務服務。

人民網·人民中科推出的智能客服，以松耦合方式已經接入了DeepSeek以及自研的“白澤”大模型，能夠在有限算力資源下實現私有化部署，引入針對模型、計算、數據、知識、生成和場景的約束機制大幅提升了可信度和安全性，並通過推理路徑的溯源和解釋以提升模型可解釋性。智能客服已在多個部委、省級政務平台投入使用，可實現對羣眾口語化的投訴、建議、辦事等提問進行意圖識別、多輪交互、精準回答和個性服務，引導企業和羣眾高效便利辦事，助力“高效辦成一件事”。

（本文作者李兵系人民中科研究院院長，阮曉峯、吳方系人民中科研究院研究員）

來源｜人民中科