前　　言
AI Agent（或簡稱為Agent）是建立在大語言模型之上的智能應用，是將人工智能與特定場景深度結合的重要方式。Agent模仿人類“思考–行動–觀察”的規(guī)劃模式，具備自主思考和自主決策的能力，能夠適應環(huán)境的變化，自主學習和改進，完成用戶設定的目標。與大語言模型的對話應用不同，Agent的突出特點是主動性，在行為上表現為多步操作、多角色會話、多輪迭代、反復修正答案以及調用外部資源的能力。
20世紀80年代，對于AI Agent是否能夠真正產生自主性的、生物意義上的“智能”這一問題已在哲學層面展開討論。20年前，深度學習的發(fā)展促進了Agent的進化。近幾年來，在大語言模型的支持下，Agent越來越具備主動性，“思考”問題的方法也在參考人類特征的基礎上，形成一套包含規(guī)劃、記憶、工具和行動的功能規(guī)范。在Agent與大語言模型技術結合方面，ReAct、ToT、Reflexion、CoT等思考框架的研究成果不斷，相關論文以及與之配套的開源代碼詮釋了理論如何變?yōu)楝F實。看似眼花繚亂實則科學嚴謹的提示詞工程，在與大語言模型的交互中，使得Agent像施展魔法般地實現了人類預定的目標。展望未來，基于Agent，人們對通用人工智能（Artificial General Intelligence， AGI）充滿了想象空間。
Agent的發(fā)展離不開大語言模型的支持，而大語言模型則通過Agent擴展其功能。隨著GPT-4、GLM-4、Llama3、Qwen2等模型的發(fā)布，依托這些模型的應用技術也取得了顯著的進步，GPT-4率先推出了Function-calling功能，其他模型也迅速跟進。這一創(chuàng)新反映了大語言模型將超越單純的內容生成，向更智能、更主動、更有規(guī)劃性的AGI方向發(fā)展。AutoGPT、BabyAGI等Agent應用的推出，使代表著主動思考、主動決策、主動執(zhí)行的AGI技術取得了長足的進步。同時，LangChain、AutoGen等Agent開發(fā)框架的問世與流行，使這個領域的應用開發(fā)變得更加便捷，多角色、多模態(tài)的Agent應用紛紛涌現。
目前，Agent正處于快速發(fā)展過程中，已在長記憶會話、任務處理、檢索增強、輔助編程等領域產生了許多產品和應用案例。本書詳細介紹了8種開源的主流Agent應用以及7種Agent開發(fā)框架，從基礎、應用、開發(fā)三個層面對Agent知識進行了循序漸進的講解�？紤]到實際應用場景，本書還涵蓋了支撐Agent應用的大型語言模型的安裝、服務開發(fā)以及微調技術，從而使Agent的知識體系更加完整。
本書特點
本書具有以下特點：
基于開源技術：本書中涉及的所有Agent技術都是開源項目，所使用的大模型也皆為開源模型且可在本地部署，而非依賴OpenAI等云服務。案例代碼中不依賴額外的API，均可在本地部署的模型支持下進行調試和運行。此外，本書所有案例代碼已在GitHub上開源。
技術廣泛：本書涵蓋了8種Agent應用（應用篇）和7種Agent開發(fā)框架（開發(fā)篇），共涉及15種開源Agent技術。Agent正在快速發(fā)展，覆蓋的技術越多，讀者學習或深入研究的選擇越多。
國內外并重：本書使用的技術中，國產Agent、國產大模型技術占有一定的比例，如QAnything、AgentScope、CodeFuse-ChatBot、Qwen-Agent、GLM-4、CogVLM2等。對于讀者來說，閱讀本書后，如果想了解相關技術細節(jié)，那么國產項目的中文文檔更易于深入學習。
詳解大模型技術：大語言模型是Agent的運行基礎，本書專門對大模型的開發(fā)技術進行了詳細講解，內容包括大語言模型的應用、服務開發(fā)與微調。通過學習，讀者能夠深入了解Agent背后的內容生成原理。
案例涉及的領域廣泛：本書提供了10個不同場景的Agent應用開發(fā)案例，案例涉及的領域廣泛，且貼近讀者的學習與生活，如任務驅動、多角色協同、輔助編程、RAG、圖像、多模態(tài)等，實用性強。
內容來源
本書的內容源于筆者的研究與實踐。在寫作過程中，我精心挑選了各類Agent技術，涵蓋多個領域和場景，力求在知識的廣度和深度上都有所考量，希望為讀者提供多元化的參考。具體來說，本書的寫作素材來源主要包括以下幾個方面：
實踐案例：在本書撰寫過程中，我實踐了大量Agent應用，并開發(fā)了一系列多領域的示例程序。
官方資源：本書整合了來自各種Agent應用和開發(fā)框架的官網資料，確保得到官方的前沿信息。
培訓課件：在過去兩年中，我作為培訓講師，為教師、學生以及軟件企業(yè)舉辦了多場大語言模型培訓，其中，Agent實操課程也是一個重要的培訓主題，因此獲得了大量學員反饋，從而優(yōu)化了本書內容。
讀者對象
本書涉及的Agent技術豐富、操作步驟詳細、源代碼完整，適合Agent使用者和開發(fā)者上手實踐。
對于使用者來說，8種典型的Agent開源應用，能夠滿足他們在部署與使用方面的需求。
對于開發(fā)者來說，10個不同場景的Agent應用開發(fā)案例以及多種大語言模型服務，能夠滿足他們學習、實踐的需求。
如何閱讀本書
這是一本講解Agent基礎知識、開發(fā)與應用方法的實戰(zhàn)指南，共分為三篇：
基礎篇：包括第1和2章，介紹了Agent定義、發(fā)展歷程、常用開源技術、主要組件等基礎知識和開發(fā)環(huán)境的搭建過程。
應用篇：包括第3～6章，從通用型、任務驅動型、輔助開發(fā)型和檢索增強型的分類角度，介紹了AutoGPT、MemGPT、BabyAGI、Camel、Devika、CodeFuse-ChatBot、DB-GPT、QAnything這8種流行度高、社區(qū)完善、正在快速發(fā)展的開源Agent應用，描述其運行原理、安裝方法和使用過程。
開發(fā)篇：包括第7～16章，完成10個不同場景的Agent應用開發(fā)實戰(zhàn)。一方面，以AgentScope、LangChain、LangGraph、AutoGen、LlamaIndex、CrewAI、Qwen-Agent這7種目前被廣泛應用的開源Agent開發(fā)框架為基礎，針對每個框架各講解一個開發(fā)案例。另一方面，通過案例介紹了Agent開發(fā)過程中關鍵的Function-calling特性及大語言模型開發(fā)技術。此外，對基于CogVLM2的多模態(tài)模型應用開發(fā)，也提供了案例演示。
實踐要求及說明
在本書的大部分示例中，Agent需要大語言模型具備Function-calling特性或對推理能力要求較高，所以基本上選用了8B、9B等參數規(guī)模的模型，運行這些模型所需的GPU內存在20GB左右。書中還涉及一些大模型的微調技術和多模態(tài)模型的應用開發(fā)，所以至少需要１張24GB內存的推理卡或顯卡。雖然部分示例在Ollama的量化環(huán)境下只需要6GB內存即可正常運行，但為了完整實踐所有示例，建議采用24GB或以上內存的推理卡或顯卡，以及與之配套的服務器或高端個人計算機。
以下是關于閱讀與實踐本書內容的注意事項。
①操作系統。Agent應用服務本身可以運行在Windows和Linux下。Agent需要大語言模型的支持，在本書所介紹的裝載大語言模型的三種方法中，只有Ollama支持Windows操作系統，其余兩種由于依賴vLLM而不能在Windows上運行。綜合以上情況，建議讀者在Ubuntu 22.04操作系統中實踐本書內容。書中涉及的文件下載、文件編輯、文件復制等操作系統命令均使用了Linux的方式描述，如果讀者使用Windows，則要根據情況采用對應的操作方法。
②命令換行。在操作系統命令行下執(zhí)行命令時，Linux系統支持對較長的命令采用“\”進行換行，命令執(zhí)行結果不會發(fā)生變化，而在Windows系統中要將“\”換成“^”。
例如，以下命令在Linux系統中運行正常：
pip install -r requirements.txt -i \
https://pypi.mirrors.ustc.edu.cn/simple
該命令如果要在Windows系統中正常運行，則需要把首行行尾的“\”替換成“^”，格式如下：
pip install -r requirements.txt -i ^
https://pypi.mirrors.ustc.edu.cn/simple
③命令注釋。本書中描述的在操作系統命令行下執(zhí)行的命令，如果以“#”開頭則為注釋，無須執(zhí)行。為了避免讀者將多條命令誤以為是一條連續(xù)的命令一起執(zhí)行而發(fā)生錯誤，我一般會在每條命令的前一行加注釋。
④示例代碼。得益于Python語言的精練以及各種Agent開發(fā)框架的封裝，本書的示例代碼大多在100行左右，開發(fā)篇中列出的基本上都是完整源代碼。但書中為了詳細地解釋程序原理，特意對代碼進行了分段敘述，這會因縮進難以觀察而影響代碼的整體性和可讀性，建議讀者調試程序時，從本書的配套代碼庫中下載所用的代碼。
⑤主機名稱。為了統一和規(guī)范書中程序的配置與訪問方式，減少可能的歧義，本書采用以下約定：如果是本機地址，則使用127.0.0.1表示；如果涉及GPU服務器，則使用主機名“server-dev”指代。主機名對應的IP地址可以通過配置DNS解析來確定，在Windows系統中修改C:\Windows\System32\drivers\etc\HOSTS文件，在Linux系統中修改/etc/hosts文件。
勘誤和支持
本書的所有源代碼和簡要操作步驟，已在https://github.com/little51/agent-dev上開源，讀者可自行查閱。
雖然我在寫作時已盡力謹慎，反復測試驗證，但本書中仍可能出現一些疏漏或者不準確之處，懇請讀者指正。若讀者有勘誤或意見，可通過郵件little51@126.com反饋，或者在https://github.com/little51/agent-dev代碼庫上提交issue。
致謝
2023年以后，我一直從事大語言模型應用開發(fā)與培訓工作。2024年初，我結合工作中積累的經驗，對培訓課件進行整理，形成一些關于大模型應用開發(fā)的原始寫作素材，并獲得與機械工業(yè)出版社合作的機會，開始撰寫《大模型項目實戰(zhàn)：多領域智能應用開發(fā)》一書。2024年7月，在該書的寫作接近尾聲時，為期半個月的人工智能培訓也在按計劃進行，我將AI Agent的一些內容加到課程中，得到了廣大學員的積極反饋和同事的建議，這激勵我撰寫一本關于Agent的圖書，于是我一邊開發(fā)多個領域的Agent示例程序，一邊進行文本書寫。經過近三個月不停歇的工作，這本新書即將問世。
在這一過程中，我要感謝以下朋友：
我要感謝我所在公司的集團領導梁明道先生，在我的印象中，十年前他就開始反復給我描繪“智體”的前景，這對我在Agent方面的研究大有裨益。在他的理論中，這種具有主動性、自我決策和自動執(zhí)行的實體，一定會成為AGI的發(fā)展方向。甚至在十年前，他就注冊了aiit.com這樣的四字域名，用于以后的智體產品研發(fā)與推廣。
感謝我的同事董煒，他一如既往、一絲不茍地安排培訓工作，使我在培訓過程中將所有精力都用到了課件的準備和與學員的交流上。學員的學習反饋和他們對課程的建議，對本書中的Agent技術選型起到關鍵作用。
感謝我的同事楊樂，他很早就開始研究Agent開發(fā)，得知我打算寫一本該領域的圖書時，他給了我很多建議，并協助我采購了雙推理卡設備。具備一定算力的機器，是Agent開發(fā)中最重要的基礎設施支持。
本書中涉及的Agent應用與開發(fā)框架以及各種大語言模型，都是開源項目，而且很大一部分使用的是極其寬松的MIT授權方式。作為開源社區(qū)的負責人和開源的受益者，本書的示例源碼也全部開源。感謝開源！

高強文