科技通識 · AI 與運算

AI Agent 是什麼:AI 代理怎麼用工具做事,權限與人工核准怎麼設

AI Agent,中文常稱 AI 代理,是讓 AI 模型代替使用者把任務做完的軟體系統。使用者交代目標,代理自己決定下一步,呼叫瀏覽器、程式或公司系統等工具執行,看了結果再決定接著做什麼,直到完成或停下來請人確認。OpenAI 的簡化定義是,代理包含任務指示、行為限制與工具存取,讓系統代表使用者採取行動1。

AI 代理和聊天機器人差在哪

問一個只回答問題的聊天機器人「東京三天兩夜怎麼排」,它給一份行程建議;交給接了訂房工具、設了預算上限的代理,它會查空房、比價、備好訂單,付款前交回給你確認。兩者差在能不能呼叫工具動手,以及下一步由誰決定。

聊天是互動方式,和代理可以並存,GitHub 就說明聊天介面也能啟動代理2。Anthropic 另把程式預先排好路徑的系統稱為 workflow,讓模型自己決定流程與工具用法的稱為 agent,也提到這個詞沒有單一定義3。

代理迴圈:規劃、呼叫工具、觀察結果、再決定

GitHub 把代理描述為依目標規劃、使用工具、檢查結果再調整的系統2。使用者先交代目標與預算、期限等限制,代理再進入一個重複的迴圈:

  1. 規劃:模型讀目標與目前進度,決定下一步。
  2. 呼叫工具:模型只產生文字,照約定格式寫出要用哪個工具、帶什麼參數,由外面的程式執行。
  3. 觀察結果:工具回傳的結果放回模型讀得到的範圍,這段範圍稱為上下文。
  4. 再決定:依結果繼續、換做法或停下。

停下的條件要事先設好,例如完成、步數用完、出錯,或遇到要人核准的動作。每轉一圈,上下文就長一點,花費與等待跟著增加。Anthropic 也建議先用夠簡單的做法,需要時才增加代理的複雜度3。

AI 代理迴圈示意圖,使用者在權限邊界外交代目標後,規劃、呼叫工具、觀察結果、再決定四個節點繞成一圈,工具在沙箱裡執行,呼叫工具前有人工核准閘門,整個迴圈被權限邊界的方框包住,出口經驗證後交付;示意,各家實作不同

工具與權限:代理能做什麼,看它被給了什麼

代理能做的事,取決於它拿到哪些工具、在什麼環境執行、被授予多少存取權2。代理接工具有幾種方式:透過 API,或 MCP 這類讓 AI 接上外部工具的協定;直接操作瀏覽器;或用使用者的登入身分進入沒有 API 的網站4。工具可以放在隔離的執行環境裡跑,也就是沙箱,Meta 的個人代理 Muse 就為每位使用者配一台專屬雲端虛擬機5。

權限給多少,決定出事時損失多大。美國國家安全局等五眼聯盟資安機關 2026 年 4 月底的共同指引寫,代理被賦予的權限直接決定它能帶來多少風險,並建議每個代理有自己的身分,高衝擊動作改用短期憑證4。這是資安的最小權限原則:只給工作所需、用完收回,而且設在系統與帳號層級,光靠指令叮嚀不夠。

人工核准:可做、已核准、已執行、已驗證是四件事

代理提出動作,要過幾道關才算完成:可做是權限允許,已核准是人或規則放行,已執行是程式真的跑了,已驗證完成是有人或測試確認結果正確。OpenAI 的代理文件把自動檢查和人工核准分成兩種控制,後者在敏感動作執行前暫停等人核准6。核准點由應用事先設計,Muse 就在寄信或付款前回頭要使用者核准4。

哪些工作適合交給代理,Microsoft 建議看工作重不重複、出錯影響多大、結果好不好驗證與時效,人仍要審核並為結果負責7。任務重複、出錯影響有限、結果容易驗證,省下的時間多過審核與整合的成本,代理才有商業價值。

常見風險

多步驟任務會累積錯誤,所以要有停止條件、驗證與人的檢查36。網頁、信件或工具回傳裡可能夾帶偽裝成指令的文字,誘導代理做使用者沒要求的事,這叫提示注入;SpaceXAI,依媒體報導是改名後的 xAI,在 2026 年 8 月推出的 Grok Bot,官方安全文件就寫現有防線只能降低這類風險4。

權限過大,代理也可能變成攻擊跳板。2026 年 9 月,資安研究員公開概念驗證,指出 Muse Mac 版的權限可能直接變成攻擊者的權限,依媒體報導,Meta 隔天推出修補4。

為什麼現在大家在談:代理把需求同時推向加速器與 CPU

模型讀寫文字以 token 計。依 OpenRouter 平台的研究,代理工作消耗的 token 約在 2026 年 2 月初超過人類直接使用8,這是單一平台的統計。

代理同時用到兩種晶片。模型每想一步,就在 GPU、TPU 等加速器上跑一次推論,也就是用訓練好的模型算出下一段輸出;依 SemiAnalysis 的代理推論基準,前一輪的全部歷史都會放進下一輪,工具執行時 GPU 則暫停等待9。模型以外的步驟落在中央處理器 CPU,依輝達 2026 年 5 月底的 Vera CPU 技術文章,沙箱裡的程式與工具執行、資料處理、排程與編排都跑在 CPU 上,步數越多,CPU 時間越多8。

兩邊都有需求與供給的訊號。Alphabet 揭露,模型 API 每分鐘處理的 token 一季內由約 160 億增至約 220 億,管理層說運算供給受限10,這個數字沒有拆出代理。CPU 這邊,Meta 在 2026 年 4 月宣布把數千萬個 AWS Graviton 核心納入運算組合,用來跑 AI 代理背後的 CPU 密集工作;依第三方逐字稿,輝達財務長 8 月 26 日說 AI 代理的採用正在加速資料中心 CPU 需求,Intel 財務長同日說 Intel 2026 年的伺服器 CPU 一定供不應求5。

一次問答與一段代理任務的對照示意圖,左邊一次問答只經過一次模型推論,右邊代理任務在加速器上的模型推論與 CPU 沙箱裡的工具執行之間來回多輪,上下文逐輪變長,工具執行時加速器等待;示意,不按比例

份量還沒有定論。站上 AI 代理 CPU 需求產業主線 2026 年 10 月 30 日的判斷是,代理沙箱、具名的 CPU 容量承諾與新 CPU 的初始交付已有證據,新增的實體 CPU 出貨、利用率與可歸屬代理的收入還沒有量化連結11。

誰在做哪一段

  • 代理產品:Meta 的 Muse、Google 放在 Gemini 應用程式裡的常駐代理 Gemini Spark、SpaceXAI 的 Grok Bot;GitHub Copilot 本身也提供代理功能2;寫程式的代理另有 Anthropic 的 Claude Code 與 OpenAI 的 Codex。
  • 伺服器 CPU:AWS 的 Graviton、AMD 的 EPYC、輝達的 Vera 與 Arm 的 AGI CPU,都有客戶或原廠說明用在代理工作上5;這裡的 AGI 是產品名,不代表通用人工智慧。
  • 身分與權限:Okta、Palo Alto Networks、CrowdStrike 與微軟推出管理代理身分的產品,Zscaler 與 Cloudflare 管代理和工具之間的連線4。

以上是各家做的環節,不等於已證實的訂單或獲利。

延伸閱讀

來源

  1. Building agents,OpenAI 官方開發者教學,代理的簡化定義。↩
  2. About GitHub Copilot agents,GitHub 官方文件,聊天與代理的區分、代理的運作方式與能力邊界,Copilot 提供代理功能。↩
  3. Building effective agents,Anthropic 官方技術文章,workflow 與 agent 的區分、定義的分歧、多步驟的錯誤累積與先用簡單做法的建議。↩
  4. AI 代理開始動手之後的資安分工,Trend Core 免費研究頁,2026-09-28 發布,導言與〈AI 代理的安全分工〉。↩
  5. Muse 每人一台雲端電腦,代理工作怎麼落到 CPU,Trend Core 免費研究頁,2026-09-23 發布,第一到第四節。↩
  6. Guardrails and human review,OpenAI 官方 SDK 文件,自動檢查與人工核准兩種控制。↩
  7. Decide when Copilot or an agent is the right tool for your work,Microsoft 官方支援文件,任務委派的考量與人的責任。↩
  8. 代理工作落到 CPU,Trend Core 免費研究頁,2026-09-25 發布,〈代理型工作落到 CPU〉一節與文末來源清單。↩
  9. 一段代理工作階段和一次請求差在哪,Trend Core 付費研報,2026-08-29 發布,引用〈AgentX 把跑分單位從一個請求換成一段生命週期〉第一段,位在付費牆之前。↩
  10. TPU 產業鏈的需求側,Trend Core 付費研報,2026-08-20 發布,引用〈2026 年的轉折〉需求側一段,位在付費牆之前。↩
  11. AI 代理 CPU 需求產業主線,Trend Core 免費產業主線頁,〈目前判斷 2026.10.30〉。↩

免責聲明

研究紀錄,非投資建議。

本文為不預測漲跌研究團隊整理公開資料的科技與商業通識內容,僅供教育與研究參考,不構成投資建議。文中提到的公司只說明其產業角色,不代表推薦,也不代表訂單或獲利已獲證實。資料以文中標示的日期與來源為準,後續變化請以最新公告為準。