人工智能能否被信任獨立工作？ - 南華早報青年郵報
scmp
人工智能（AI）可以撰寫故事、解決數學問題，甚至能在人類最愛的遊戲中擊敗人類。未來，AI或許還會成為你的新“同事”，即AI代理。
什麼是AI代理？
AI代理能在無需人類過多協助的情況下學習信息並做出決策。
多年來，AI代理已逐步發展，能夠承擔日益複雜的任務（見圖表）。許多公司正努力打造最優秀的AI代理，但大多數仍處於研發階段。
這項技術與AI聊天機器人有何不同？AI聊天機器人能回答問題，但與AI代理的能力相比仍顯簡單。
若給AI代理分配任務，它們會制定最佳方案，並能在不同平台上完成任務。你只需發出初始指令，它們便會在工作完成前不再打擾你。
AI代理有哪些不同類型？
以下是三種AI代理及其應用示例：
- **計算機操作代理（CUAs）**可同時幫你預訂餐廳、在線購物等。CUAs會掃描網頁並通過輸入、點擊和滾動完成任務。例如，OpenAI於一月推出的Operator代理，目前仍在完善中。
- 多代理系統由多個AI代理協同處理複雜任務。例如Anthropic開發的功能，利用多個Claude AI代理進行研究。在該系統中，每個AI代理會根據發現即時調整研究方向。這類似人類的信息檢索方式，但多個AI代理協作使過程更加高效。
- 混合代理讓人與AI代理協作。用户可確保AI代理做出合理決策，類似微軟Copilot通過AI為用户提供建議的模式。有人認為，當AI代理需做出高風險決策時，保持人類參與尤為重要。
我們能信任AI代理嗎？
如果AI代理正在自主決策並採取行動，我們需要確保它們安全運作。
去年12月，世界經濟論壇發佈了一份關於AI代理的報告。報告指出AI可能製造虛假信息、表現出偏見併產生誤解。
該報告強調在推出AI代理前測試研究其影響的重要性。
隨着AI系統日益複雜，若想充分利用其優勢，我們必須應對相關風險。
贊助商
在PST，我們為各年齡段學習者提供有趣且易獲取的科技教育。我們的使命是點燃對技術的熱情，使他們能自信駕馭數字世界。Preface邀請您參加AI知識測試——您對這項新技術瞭解多少？點擊此處瞭解更多。
查看我們的內容，請關閉廣告攔截器點擊此處查看説明訂閲YP教師通訊
獲取直接發送至郵箱的教師資訊
註冊即表示您同意我們的條款與條件和隱私政策評論
青年郵報我們涵蓋香港學生、校園生活、體育和本地教育的最新新聞、觀點和故事，同時追蹤熱門話題和冷門動態。