AI Agent無疑是當(dāng)下大模型最激動人心的發(fā)展主線，被稱為“大模型下一場戰(zhàn)事”“最后的殺手產(chǎn)品”“開啟新工業(yè)革命時代的Agent-centric”。11月7日，OpenAI首屆開發(fā)者大會（OpenAI DevDay）引爆了AI Agent。OpenAI發(fā)布了AI Agent初期形態(tài)產(chǎn)品GPTs，并推出了相應(yīng)的制作工具GPT Builder。

用戶僅僅通過跟GPT Builder聊天，把想要的GPT功能描述一遍，就能生成專屬GPT。專屬GPT可以在日常生活、特定任務(wù)、工作或家庭中更為適用。為此，OpenAI還開放了大量的新API（包括視覺、圖像DALL·E3、語音），以及新推出的Assistants API，讓開發(fā)者可以更便捷地開發(fā)自己專屬的GPT。比爾·蓋茨最新發(fā)表一篇文章明確提出，5年內(nèi)AI Agent將大行其道，每個用戶都將擁有一個專屬AI Agent。用戶不需要再因為不同的功能需求而使用不同的APP，他只需用日常語言告訴他的Agent想做什么就可以。[1]

GPTs發(fā)布后在一周內(nèi)，已經(jīng)累計超過17500多個

那么，AI Agent究竟是什么？為什么如此重要，以至于業(yè)界有這么高的關(guān)注度，甚至有學(xué)者斷言“美國Agent Store（智能體商店）發(fā)展得好，這會令中美大模型差距持續(xù)拉大”[2]

一

AI Agent是什么？

在計算機、人工智能專業(yè)技術(shù)領(lǐng)域，一般將agent譯為“智能體”，其定義是在一定的環(huán)境中體現(xiàn)出自治性、反應(yīng)性、社會性、預(yù)動性、思辨性（慎思性）、認知性等一種或多種智能特征的軟件或硬件實體。[3]

OpenAI將AI Agent定義為，以大語言模型為大腦驅(qū)動，具有自主理解感知、規(guī)劃、記憶和使用工具的能力，能自動化執(zhí)行完成復(fù)雜任務(wù)的系統(tǒng)。[4]AI Agent基本框架如下圖：

基于LLM驅(qū)動的Agent基本框架[5]

它具有記憶、規(guī)劃、行動和使用工具四個主要模塊：

（1）記憶（Memory）。記憶模塊負責(zé)存儲信息，包括過去的交互、學(xué)習(xí)到的知識，甚至是臨時的任務(wù)信息。對于一個智能體來說，有效的記憶機制能夠保障它在面對新的或復(fù)雜的情況時，調(diào)用以往的經(jīng)驗和知識。例如，一個具備記憶功能的聊天機器人可以記住用戶的偏好或先前的對話內(nèi)容，從而提供更個性化和連貫的交流體驗。它分為短期記憶和長期記憶：a.短期記憶，所有的上下文學(xué)習(xí)都是利用短期記憶來學(xué)習(xí)；b.長期記憶，這為智能體提供了長時間保留和回憶（無限）信息的能力，通常是通過利用外部向量數(shù)據(jù)庫和快速檢索，比如某個行業(yè)領(lǐng)域沉淀的大量數(shù)據(jù)和知識。有了長期記憶，很多數(shù)據(jù)可以被積累下來，使得智能體的可用性更加強大，更具行業(yè)深度、個性化、能力專業(yè)化等優(yōu)勢。

（2）規(guī)劃（Planning）。規(guī)劃模塊具有事前規(guī)劃和事后反思兩個階段。在事前規(guī)劃階段，這里涉及對未來行動的預(yù)測和決策制定，如執(zhí)行復(fù)雜任務(wù)時，智能體將大目標(biāo)分解為更小的、可管理的子目標(biāo)，從而能夠高效地規(guī)劃一系列步驟或行動，以達到預(yù)期結(jié)果。在事后反思階段，智能體具有檢查和改進制定計劃中不足之處的能力，反思錯誤不足并吸取經(jīng)驗教訓(xùn)進行完善，形成和加入長期記憶，幫助智能體之后規(guī)避錯誤、更新其對世界的認知。

（3）工具使用（Tool use）。工具使用模塊指的是智能體能夠利用外部資源或工具來執(zhí)行任務(wù)。如學(xué)習(xí)調(diào)用外部API來獲取模型權(quán)重中缺失的額外信息，包括當(dāng)前信息、代碼執(zhí)行能力、對專有信息源的訪問等，以此來補足LLM自身弱項。例如LLM的訓(xùn)練數(shù)據(jù)不是實時更新的，這時可以使用工具訪問互聯(lián)網(wǎng)來獲取最新信息，或者使用特定軟件來分析大量數(shù)據(jù)?，F(xiàn)在市場上已經(jīng)存在大量數(shù)字化、智能化的工具，智能體使用工具比人類更為順手和高效，通過調(diào)用不同的API或工具，完成復(fù)雜任務(wù)和輸出高質(zhì)量結(jié)果，這種使用工具的方式也代表了智能體的一個重要特點和優(yōu)勢。

（4）行動（Action）。行動模塊是智能體實際執(zhí)行決定或響應(yīng)的部分。面對不同的任務(wù)，智能體系統(tǒng)有一個完整的行動策略集，在決策時可以選擇需要執(zhí)行的行動，比如廣為熟知的記憶檢索、推理、學(xué)習(xí)、編程等。

總的來說，這四個模塊相互配合使智能體能夠在更廣泛的情境中采取行動和作出決策，以更智能、更高效的方式執(zhí)行復(fù)雜任務(wù)。[6]

二

AI Agent將帶來

更為廣泛的人機融合

基于大模型的Agent不僅可以讓每個人都有增強能力的專屬智能助理，還將改變?nèi)藱C協(xié)同的模式，帶來更為廣泛的人機融合。生成式AI的智能革命演化至今，從人機協(xié)同呈現(xiàn)了三種模式：

（1）嵌入（embedding）模式。用戶通過與AI進行語言交流，使用提示詞來設(shè)定目標(biāo)，然后AI協(xié)助用戶完成這些目標(biāo)，比如普通用戶向生成式AI輸入提示詞創(chuàng)作小說、音樂作品、3D內(nèi)容等。在這種模式下，AI的作用相當(dāng)于執(zhí)行命令的工具，而人類擔(dān)任決策者和指揮者的角色。

（2）副駕駛（Copilot）模式。在這種模式下，人類和AI更像是合作伙伴，共同參與到工作流程中，各自發(fā)揮作用。AI介入到工作流程中，從提供建議到協(xié)助完成流程的各個階段。例如，在軟件開發(fā)中，AI可以為程序員編寫代碼、檢測錯誤或優(yōu)化性能提供幫助。人類和AI在這個過程中共同工作，互補彼此的能力。AI更像是一個知識豐富的合作伙伴，而非單純的工具。

實際上，2021年微軟在GitHub首次引入了Copilot（副駕駛）的概念。GitHub Copilot是一個輔助開發(fā)人員編寫代碼的AI服務(wù)。2023年5月，微軟在大模型的加持下，Copilot迎來全面升級，推出Dynamics 365 Copilot、Microsoft 365 Copilot和Power Platform Copilot等，并提出“Copilot是一種全新的工作方式”的理念。工作如此，生活也同樣需要“Copilot”，“出門問問”創(chuàng)始人李志飛認為大模型的最好工作，是做人類的“Copilot”。

（3）智能體（Agent）模式。人類設(shè)定目標(biāo)和提供必要的資源（例如計算能力），然后AI獨立地承擔(dān)大部分工作，最后人類監(jiān)督進程以及評估最終結(jié)果。這種模式下，AI充分體現(xiàn)了智能體的互動性、自主性和適應(yīng)性特征，接近于獨立的行動者，而人類則更多地扮演監(jiān)督者和評估者的角色。

人類與AI協(xié)同的三種方式[7]

從前文對智能體記憶、規(guī)劃、行動和使用工具四個主要模塊的功能分析來看，智能體模式相較于嵌入模式、副駕駛模式無疑更為高效，或?qū)⒊蔀槲磥砣藱C協(xié)同的主要模式。

基于Agent的人機協(xié)同模式，每個普通個體都有可能成為超級個體。超級個體是擁有自己的AI團隊與自動化任務(wù)工作流，基于Agent與其他超級個體建立更為智能化與自動化的協(xié)作關(guān)系。現(xiàn)在業(yè)內(nèi)不乏一人公司、超級個體的積極探索。Github平臺上有一些基于Agents的自動化團隊——GPTeam項目。GPTeam利用大模型創(chuàng)建多個被賦予角色和功能的智能體，多智能體協(xié)作以實現(xiàn)預(yù)定目標(biāo)。比如，Dev-GPT是一個自動化開發(fā)和運維的多智能體協(xié)作團隊，包含了產(chǎn)品經(jīng)理Agent、開發(fā)人員Agent和運維人員Agent等角色分工。這個多智能體團隊可以滿足和支撐一個初創(chuàng)營銷公司的正常運營，這便是一人公司。又如，號稱是世界上第一個AI自由職業(yè)者平臺的NexusGPT。[8]該平臺整合了開源數(shù)據(jù)庫中的各種AI原生數(shù)據(jù)，并擁有800多個具有特定技能的AI智能體。在這個平臺上，你可以找到不同領(lǐng)域的專家，例如設(shè)計師、咨詢顧問、銷售代表等。雇主可以隨時在這個平臺上選擇一個AI智能體幫助他們完成各種任務(wù)。

三

AI Agent將改變軟件的游戲規(guī)則

促進AI基礎(chǔ)設(shè)施化

AI Agent正在重新定義軟件。比爾·蓋茨認為，AI Agent將徹底顛覆軟件行業(yè)，將影響我們?nèi)绾问褂密浖约叭绾尉帉戃浖9]

AI Agent將使軟件架構(gòu)的范式從面向過程遷移到面向目標(biāo)?，F(xiàn)有的軟件（包括APP）通過一系列預(yù)定義的指令、邏輯、規(guī)則和啟發(fā)式算法將流程固定下來，以滿足軟件運行結(jié)果符合用戶的預(yù)期，即用戶按照指令邏輯一步一步操作達成目標(biāo)。這樣一種面向過程的軟件架構(gòu)具有高可靠性、確定性。但是，這種面向目標(biāo)的架構(gòu)只能應(yīng)用于垂直領(lǐng)域，而無法普遍應(yīng)用到所有領(lǐng)域，因此標(biāo)準(zhǔn)化和定制化之間如何平衡也成為SaaS行業(yè)面對的難題之一。

軟件架構(gòu)范式遷移[10]

AI Agent范式將原本由人類主導(dǎo)的功能開發(fā)，逐漸遷移為以AI為主要驅(qū)動力。以大模型為技術(shù)基礎(chǔ)設(shè)施，Agent為核心產(chǎn)品形態(tài)，把傳統(tǒng)軟件預(yù)定義的指令、邏輯、規(guī)則和啟發(fā)式算法的任務(wù)層級演變成目標(biāo)導(dǎo)向的智能體自主生成。這樣一來，原本的架構(gòu)只能解決有限范圍的任務(wù)，未來的架構(gòu)則可以解決無限域的任務(wù)。[11]未來的軟件生態(tài)，不僅是最上層與所有人交互的媒介是Agent，整個產(chǎn)業(yè)的發(fā)展，無論是底層技術(shù)，商業(yè)模式，中間組件，甚至是人們的生活習(xí)慣和行為都會圍繞Agent來改變，這就是Agent-Centric時代的開啟。[12]

RPA范式（Robotic Process Automation）與APA范式（Agentic Process Automation）的比較[13]

以面壁智能發(fā)布的首個“大模型+Agent”SaaS級產(chǎn)品ChatDev智能軟件開發(fā)平臺為例。該平臺就像一家完全由AI Agents組成的軟件開發(fā)公司，里面會有CEO、CTO、開發(fā)經(jīng)理、產(chǎn)品經(jīng)理、測試專員、監(jiān)督員等各類Agent角色。用戶只需要把明確的需求告訴CEO角色的Agent，這個CEO就會基于用戶的需求，組織整個軟件開發(fā)流程。最后交付給用戶的包含了軟件產(chǎn)品和整個開發(fā)過程中的代碼，并且所有流程都是自動化的。[14]這將使軟件行業(yè)降低生產(chǎn)成本、提高定制化能力，進入軟件的“3D 打印”時代。

四

AI Agent的展望與挑戰(zhàn)

AI Agent是人工智能成為基礎(chǔ)設(shè)施的重要推動力?；仡櫦夹g(shù)發(fā)展史，技術(shù)的盡頭是成為基礎(chǔ)設(shè)施，比如電力成為像空氣一樣不易被人們察覺，但是又必不可少的基礎(chǔ)設(shè)施，還如云計算等。當(dāng)然這個要經(jīng)歷以下三個階段：創(chuàng)新與發(fā)展階段--新技術(shù)被發(fā)明并開始應(yīng)用；普及與應(yīng)用階段--隨著技術(shù)成熟，它開始被廣泛應(yīng)用于各個領(lǐng)域，對社會和經(jīng)濟產(chǎn)生深遠影響；基礎(chǔ)設(shè)施階段--當(dāng)技術(shù)變得普及到幾乎無處不在，它就轉(zhuǎn)變成了一種基礎(chǔ)設(shè)施，已經(jīng)成為人們?nèi)粘Ｉ钪胁豢苫蛉钡囊徊糠?。幾乎所有的人都認同，人工智能會成為未來社會的基礎(chǔ)設(shè)施。而智能體正在促使人工智能基礎(chǔ)設(shè)施化。這不僅得益于低成本的Agent軟件生產(chǎn)優(yōu)勢，而且因為Agent能夠適應(yīng)不同的任務(wù)和環(huán)境，并能夠?qū)W習(xí)和優(yōu)化其性能，使得它可以被應(yīng)用于廣泛的領(lǐng)域，進而成為各個行業(yè)和社會活動的基礎(chǔ)支撐。

人工智能智能體應(yīng)用一覽圖[15]

Agent下一步可能會朝著兩個方向同時迭代。一是與人協(xié)助的智能體，通過執(zhí)行各種任務(wù)來協(xié)助人類，側(cè)重工具屬性；二是擬人化方向的迭代，能夠自主決策，具有長期記憶，具備一定的類人格特征，側(cè)重于類人或超人屬性。

從技術(shù)優(yōu)化迭代和實現(xiàn)上來看，AI Agent的發(fā)展也面臨一些瓶頸：

首先，我們通過OpenAI的GPTs也能看到，LLM的復(fù)雜推理能力不夠強、延遲過高等問題抑制了Agent應(yīng)用的真正成熟。這也是接下來業(yè)界工程優(yōu)化和技術(shù)科研突破的方向。

其次，多智能體（Multi-agent）發(fā)展仍面臨較大困境。多智能體是一個非常復(fù)雜的學(xué)術(shù)研究方向，隨著智能體開始普及到大眾市場，已經(jīng)成為重要的技術(shù)現(xiàn)實問題。例如，斯坦福的虛擬小鎮(zhèn)就包含了25個智能體的多智能體研究。但是小鎮(zhèn)框架開源之后，根據(jù)開發(fā)者的測試一個Agent一天需要消耗20美金價格的token數(shù)，因為其需要記憶和行動的思考量非常大。這一價格是比很多人類工作者更高的，需要后續(xù)Agent框架和LLM推理側(cè)的雙重優(yōu)化。

突破多智能體的發(fā)展困境，是未來智能體社會（Agent Society）建立的重要前提。多智能體協(xié)同可以組成智能體社會這一最高形態(tài)的技術(shù)社會系統(tǒng)。智能體社會具有復(fù)雜、動態(tài)，自組織和自適應(yīng)的特性，能夠協(xié)作、競爭、不斷進化。在這個社會系統(tǒng)中，智能體能夠根據(jù)目標(biāo)和環(huán)境變化執(zhí)行復(fù)雜靈活的任務(wù)，并與人類及其他智能體進行高級別、多維度的互動和協(xié)作。智能體社會不僅有助于人類探索和拓展物理及虛擬世界，還能增強和擴展人類的能力與體驗。

同時，這些發(fā)展趨勢預(yù)示著AI Agent可能面臨諸如安全性與隱私性、倫理與責(zé)任、經(jīng)濟和社會就業(yè)影響等多方面的挑戰(zhàn)。

（1）安全性和隱私性是智能體的關(guān)鍵特性，對其穩(wěn)定運行和對用戶及社會的保護至關(guān)重要。這兩個因素直接影響AI代理的信任度和控制力。若AI代理出現(xiàn)漏洞、遭受攻擊或數(shù)據(jù)泄露等問題，則可能導(dǎo)致對用戶或社會的損害。比如，OpenAI的GPTs在發(fā)布后不久，出現(xiàn)了安全漏洞，導(dǎo)致了用戶上傳的數(shù)據(jù)泄露。

（2）倫理和責(zé)任是智能體的核心原則，決定其價值觀和目標(biāo)，以及對用戶和社會的尊重與保護。這些原則直接影響智能體的可信度和可控性。若智能體表現(xiàn)出不公平、不透明或不可靠等問題，可能引發(fā)用戶或社會對技術(shù)的排斥。責(zé)任歸屬也是智能體的關(guān)鍵議題，人與智能體協(xié)同中的責(zé)任歸屬不清晰或不公正也會帶來嚴重后果。

（3）經(jīng)濟和社會就業(yè)影響。未來工作中的一個重要挑戰(zhàn)是人類與智能體之間的競爭。例如，AI自由職業(yè)者平臺NexusGPT的出現(xiàn)便是對傳統(tǒng)自由職業(yè)者的沖擊。未來的社會工作協(xié)同中，也會出現(xiàn)越來越多的智能體，雇主基于效率和效益考慮，可能會盡量減少人力投入。隨著智能體技術(shù)的成熟，我們必須提前思考這些技術(shù)發(fā)展對社會和個人職業(yè)生涯的長期影響。

以ChatGPT的發(fā)布為分水嶺，全球自由職業(yè)平臺上的寫作/編輯類從業(yè)者的數(shù)量和收入都進入了斷崖式下跌的軌道[16]

參考資料來源:

[1]https://www.gatesnotes.com/AI-agents

[2]https://mp.weixin.qq.com/s/EWvw83Gch_xWmAcT7dVV5A

[3]全國科學(xué)技術(shù)名詞審定委員會.《計算機科學(xué)技術(shù)名詞（第三版）》[M].北京：科學(xué)出版社,2018年12月.

[4]如果從AI Agent概念入手，將它翻譯為“AI代理”，這是不準(zhǔn)確的。“agent”這個詞源自拉丁語動詞“agere”，意為“做”或“行動”（“to do”），涵蓋了廣泛的行為和活動。從這個詞演變而來名詞形式“agents”直譯為“行動者”或“執(zhí)行者”，用于描述那些執(zhí)行動作或具有行動能力的實體。 

[5]https://lilianweng.github.io/posts/2023-06-23-agent

[6]https://lilianweng.github.io/posts/2023-06-23-agent