IT之家 6 月 3 日消息，隨著 AI 智能體（Agent）能力不斷提升，越來越多企業(yè)開始將其部署到應(yīng)用程序、業(yè)務(wù)流程和產(chǎn)品之中。但與此同時(shí)，如何確保 AI 智能體在不同環(huán)境下始終按照預(yù)期執(zhí)行任務(wù)，也成為企業(yè)面臨的新挑戰(zhàn)。
在今天開幕的 Build 2026 大會上，微軟宣布推出一項(xiàng)名為 Agent Control Specification（ACS，智能體控制規(guī)范）的開源標(biāo)準(zhǔn)，希望為開發(fā)者提供更加統(tǒng)一且細(xì)粒度的 AI 智能體行為控制方式。
微軟表示，ACS 允許開發(fā)團(tuán)隊(duì)、合規(guī)團(tuán)隊(duì)以及安全團(tuán)隊(duì)共同制定智能體需要遵循的策略規(guī)則。這些規(guī)則可以明確規(guī)定智能體允許執(zhí)行哪些操作、禁止執(zhí)行哪些操作、哪些行為必須經(jīng)過人工審批，以及需要記錄哪些證據(jù)以供后續(xù)審計(jì)。
據(jù)介紹，當(dāng) AI 智能體執(zhí)行任務(wù)時(shí)，ACS 會在多個(gè)“攔截點(diǎn)”檢查這些策略文件，以確保智能體始終處于既定約束范圍內(nèi)運(yùn)行。
微軟指出，目前開發(fā)者控制 AI 智能體行為的方式較為分散。隨著越來越多關(guān)于 AI 工作流因工具誤用或意外操作導(dǎo)致連鎖故障的案例出現(xiàn)，開發(fā)者通常會通過系統(tǒng)提示詞、應(yīng)用程序中的自定義檢查邏輯，或利用分類模型篩查輸入與輸出內(nèi)容來限制智能體行為。IT之家注意到，雖然這些方法也有用，但往往會導(dǎo)致控制機(jī)制分散在不同組件中，既不利于審計(jì)，也難以在不同框架、接口和系統(tǒng)之間復(fù)用。
ACS 的目標(biāo)是將這些控制能力整合統(tǒng)一。微軟表示，該規(guī)范能夠在 AI 智能體工作流的多個(gè)階段執(zhí)行策略檢查，包括接收輸入之前、調(diào)用工具之前、工具返回結(jié)果之后以及向用戶發(fā)送最終回復(fù)之前。
根據(jù)策略設(shè)置，系統(tǒng)可以允許某項(xiàng)操作執(zhí)行、直接阻止操作、對敏感信息進(jìn)行脫敏處理，或者要求人工審批后才能繼續(xù)執(zhí)行。
除了基礎(chǔ)策略控制之外，開發(fā)者還可以在 ACS 中集成分類器，對輸入和輸出內(nèi)容進(jìn)行分類、預(yù)測結(jié)果或決定智能體應(yīng)采取的響應(yīng)方式；也可以接入大語言模型（LLM），通過提示詞讓模型充當(dāng)策略“裁判”；同時(shí)還能增加針對工具調(diào)用、工具選擇、輸入準(zhǔn)確性、輸出使用方式以及最終響應(yīng)內(nèi)容的檢查邏輯。
微軟表示，由于這些策略能夠以單一文件形式進(jìn)行定義，因此可以與 AI 智能體一同打包部署。這意味著一套安全策略可以隨著智能體在不同框架和運(yùn)行環(huán)境之間遷移，而無需重復(fù)配置，從而提高治理能力的一致性。
ACS 目前以 SDK 形式發(fā)布，并提供對多個(gè)主流 AI 智能體開發(fā)框架和工具的支持，包括 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI 以及 MCP 工具生態(tài)等。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。