Agent的應用場景正在變得越來越細分。從Claude Code等AI編程工具，到能夠處理文檔、操...
Agent的應用場景正在變得越來越細分。
從Claude Code等AI編程工具，到能夠處理文檔、操作軟件的辦公助手，再到幫助用戶規劃行程、管理日程的個人助理，Agent開始承擔越來越多具體任務。
應用場景的不斷拓展，也對底層算力提出了新的要求。
在這一背景下， $Arm Holdings (ARM.US)$ 近日推出一套面向Agent的CPU性能評估方法論，試圖通過更貼近真實應用場景的測試，幫助企業判斷不同CPU在Agent任務中的表現。
這不是孤例。AMD此前已提出針對Agent AI的CPU工作負載評測框架，將工具執行、數據檢索和任務編排等環節納入測試；英特爾也針對Xeon 6處理器開展了相關測試，重點關注Agent任務的吞吐量與併發執行效率。
多家芯片廠商相繼探索新的評測方法，背後是Agent正在改變CPU的工作負載。
過去幾年，大模型算力競爭主要圍繞GPU展開，Token生成速度、吞吐量等指標成爲衡量AI推理性能的重要依據。
隨着Agent開始執行實際任務，除了調用大模型進行推理，還需要訪問數據庫、執行代碼、調用工具等，這些環節都可能消耗大量CPU資源。
Arm雲AI解決方案架構總監Ravi Malhotra以軟件開發Agent爲例指出，模型首先進行推理並生成代碼，隨後CPU還需要完成代碼構建、編譯和測試，這些操作可能耗費大量時間。
「在這類用例中非常重要的一點是，CPU能多快完成自己的那部分工作，從而讓控制權儘快回到更昂貴的GPU或加速器，以便執行流水線中的下一步。」Ravi Malhotra向全天候科技等媒體表示，「如果CPU不夠快，更昂貴的GPU就會處於閒置狀態。」
更復雜的是，不同Agent的性能瓶頸並不相同。部分任務主要受GPU推理速度限制，部分任務則受CPU沙箱執行能力或數據檢索效率制約。即便是同一類Agent的性能瓶頸也可能隨着模型、部署環境和具體任務的變化而改變。
以軟件開發爲例，代碼編譯和測試往往需要持續佔用CPU資源，因此更看重單個Agent的執行性能。相比之下，企業客戶支持、個人助理等場景中的單次操作通常較短，但可能需要同時處理大量請求，對CPU的併發能力提出了更高要求。
這些差異也讓CPU性能評估開始關注完整Agent任務的執行效率，以及不同工作負載下的性能表現。
此次Arm提出將組件級測試與端到端Agent基準測試結合起來。
其中，組件級測試覆蓋Web服務器、數據庫、模型服務及沙箱執行等環節，端到端測試則引入SWE-bench、Terminal-Bench等Agent基準，考察完整工作流程中的性能表現。
在單核性能、多核吞吐量等傳統指標之外，Arm還關注Agent併發數量、任務執行效率以及每機架性能。
Ravi Malhotra強調，性能評估需要在吞吐量與SLA（服務等級協議）要求之間取得平衡，不能單純追求同時運行更多Agent。
由於不同場景的需求存在差異，Arm也不建議對各類Agent用例採用統一的權重分配方式，而是主張企業根據自身應用選擇相應的評測指標。
隨着Agent逐漸進入企業的實際業務流程，這些性能指標也成爲企業選擇和升級CPU基礎設施的重要參考。
Ravi Malhotra認爲，軟件開發、客戶支持、供應鏈管理及個人助理等場景，將成爲推動企業升級CPU基礎設施的重要動力。
「對企業而言，客戶支持、供應鏈管理，以及個人助理等場景，更關注每機架性能，而Arm AGI CPU的可擴展性和能效優勢在這些場景中尤爲突出。」Ravi Malhotra表示。
Ravi Malhotra進一步指出，無論是爲Agent應用升級現有基礎設施，還是設計開發全新的基礎設施，這些場景都會形成明確的升級需求，並有望成爲推動Arm AGI CPU增長和普及的主要動力。
對企業來說，CPU性能提升帶來的價值，最終還需要體現在實際運營效率和成本上。
不同Agent的工作負載差異較大，基準測試中的性能優勢能否真正轉化爲任務執行效率的提升和部署成本的下降，仍有待更多實際應用驗證。