- Agent Bricks、AI Playground 和 MLflow 涵蓋了從原型到部署的所有環節,並在 Unity Catalog 中進行管理。
- ResponsesAgent 將串流、多代理和豐富的追蹤與 MLflow 和 AI Gateway 整合在一起。
- 使用 deploy() 進行部署會建立安全的端點,並具有即時追蹤和審查功能。

在 Databricks 中建立 AI 代理不再是技術精英的專屬領域:借助AI Playground 等視覺化環境、Agent Bricks 自動化功能以及 MLflow 框架,現在您可以從構思到原型,再從原型到生產,輕鬆完成整個流程。本指南將為您精簡建立、評估和部署代理程式所需的一切內容,這些代理程式可以呼叫工具、查詢資料並與Unity Catalog管理系統整合。
除了探索無程式碼方法和 Python 開發之外,您還將學習如何使用MLflow(ChatAgent 和 ResponsesAgent)打包代理程式、在目錄中註冊資源、啟用即時監控以及使用模型服務進行擴充。我們還提供了一個使用React 和 FastAPI構建的範例應用程序,可將您的代理無縫整合到企業 Web 介面中。
在 Databricks 中建立代理的選項
如果您注重速度和簡易性,Agent Bricks提供了一個自動化工作流程,用於建立高品質、領域相關的代理系統。您只需指定用例並連接Unity Catalog資料;平台即可產生代理變體,透過評估進行最佳化,並允許您進行改進,所有操作均內建治理和安全機制。
當您需要精細的控制並希望重複使用熟悉的程式庫時,基於程式碼的方法結合了Mosaic AI Agent Framework 和 MLflow。借助 Python,您可以定義代理邏輯、啟用工具呼叫、執行詳細跟踪,並最終將其打包並部署到 Databricks 生態系統中以進行生產。
如果您已經在使用第三方框架,MLflow 原生支援LangGraph/ LangChain、LlamaIndex或自訂 Python 實作。由於 MLflow 的模型簽名和代理接口,您可以直接將它們整合到評估和監控功能中,而無需從頭開始重寫程式碼。
想以閃電般的速度建構原型?使用AI Playground,您可以選擇模型和虛擬機,透過低程式碼介面為 LLM 新增工具,並透過聊天進行驗證。然後,您可以將代理程式匯出為可用於生產環境的程式碼,並繼續執行標準的開發生命週期。
模型簽名及與平台功能的相容性
Azure Databricks 使用MLflow 模型簽章來描述代理程式的輸入和輸出架構。產品功能(例如 AI Playground 或評估)要求代理程式符合受支援的簽章之一,以確保互通性。
如果您在建立代理程式時遵循建議方法,MLflow 會自動推斷相容的簽名,無需任何額外步驟。否則,請驗證您的實作是否符合代理輸入和輸出的舊版模式中的簽名之一,以避免在與 Databricks 工具整合時出現意外情況。
快速教學:使用 Mosaic AI Agent Framework 建立第一個代理
目標是創造一個能夠進行推理的智能體 由 Databricks 主辦的 LLM 並且能夠運行工具,例如內建函數 system.ai.python_exec 從 Unity Catalog 運行 Python 程式碼。此外,我們將啟用 使用 MLflow 進行追蹤 用於檢查痕跡和診斷。
基本工作區需求:啟用代理功能並具備 取得模型服務在運行時環境中,安裝諸如以下軟體包: mlflow, databricks-openai 以及代理包裝工(databricks-agent o databricks-agents(取決於你所遵循的指南和版本),然後重新啟動 Python 以載入依賴項。
使用 OpenAI 客戶端定義與模型服務的連接,該客戶端公開了該模型服務。 工作區客戶端, 積極的 mlflow.openai.autolog() 用於自動儀器測量,並記錄可用工具。其中包括: system.ai.python_exec 它充當無狀態 Python 解釋器,允許 LLM 在對話期間進行計算或操作資料。
使用類似這樣的函數 run_agent()您將用戶的提示傳送到聊天端點(例如,像“databricks-claude-3-7-sonnet«並管理可能的情況 調用工具 以連貫的列表形式傳回助手訊息和工具回應。
為了進行測試,請執行一個需要程式碼的查詢(例如,計算斐波那契數列的第 100 個數),並查看嚮導輸出以及相關筆記本或實驗中記錄的MLflow 追蹤資訊。這將幫助您在打包之前優化流程。
與 MLflow 打包並部署在模型服務中
為生產環境準備代理的建議方法是實作接口 MLflow ChatAgent你需要一種方法 predict() 它接收訊息,呼叫你的代理邏輯,並回傳一個 聊天代理回應 包含訊息清單(如果適用,包括與工具關聯的中間訊息)。
為了方便管理,請將所有程式碼合併到一個 Python 檔案中(例如,透過使用 %%writefile quickstart_agent.py (如果您使用的是筆記型電腦)。在最後一部分,請調用 mlflow.models.set_model() 傳遞你的類別實例(例如, QuickstartAgent)建立 入口點 的推理。
註冊代理人 統一目錄 同 mlflow.pyfunc.log_model, 包含 資源 您在生產環境中需要用到:LLM 模型端點(例如, DatabricksServingEndpoint)以及代理程式將呼叫的目錄函數(例如, DatabricksFunction 同 system.ai.python_exec因此,Databricks可以 配置身份驗證 部署這些資源時需要使用這些資源。
最後,使用代理 API 來 廢話 將模型映射到服務端點: from databricks import agents y agents.deploy(model_name, model_version)當終點站啟動時,您將能夠 來自 AI Playground 的聊天分享給有興趣的各方,並開始收集回饋意見。
如果您想繼續改進,Databricks 提供了衡量代理程式品質、建立具有檢索(RAG)的代理程式(針對非結構化資料)和控制多輪對話的指南,以及使用LangGraph、純 Python 或 OpenAI 的替代方案。
ResponsesAgent:生產代理的現代化介面
雖然 聊天代理 它運作良好,MLflow 今天也推薦它。 回應代理 適用於嚴肅的代理商。此介面與該方案相容。 Responses 來自 OpenAI,並允許整合來自 OpenAI 的代理 任何框架 透過 Databricks 的各項功能(註冊、追蹤、評估、部署和可觀測性),您可以輕鬆無阻地完成這些操作。
主要優勢:原生支持 系統 多代理退出模式 流完整的訊息和工具呼叫歷史記錄,工具呼叫確認資訊以及 持久耐用的工具。 此外,它還提供 類型化介面 在Python中,自動簽名推斷、自動追蹤 predict y predict_stream 並透過改進推理表 人工智慧網關.
此方案的安裝要求: databricks-agents 1.2.0+, mlflow 3.1.3+ y Python 3.10+ (使用 Serverless 或 Databricks Runtime 13.3 LTS+)。 Databricks 也推薦以下軟體包: AI Bridge 用於常見整合。
實用整合: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph) databricks-dspy (DSPy)和 databricks-ai-bridge (純 Python 編寫的智能體)。利用這些組件,您可以建立從簡單智能體到各種智能體。 複雜的管道 帶有恢復和工具呼叫。
如果您已經有內建代理,請將其包裝在繼承自以下類別的類別中: mlflow.pyfunc.ResponsesAgent。 實施 predict 將輸入和輸出轉換為 響應代理模式對於串流媒體播放,請依賴 predict_stream,發出 三角洲 以及最終活動 response.output_item.done 請提供完整答案。
對於串流錯誤,Mosaic AI 會將故障與最後一個令牌一起傳播。 databricks_output.error您的客戶應該能夠正確地捕獲和顯示它,從而提高… 淨化體驗.
恢復系統、自訂輸入和可追溯性
許多代理商使用 回收商 對於向量索引上的 RAG(隨機無序)系統。如果您的檢索範圍採用不同的方案,您可以將其對應為: mlflow.models.set_retriever_schema聲明 primary_key, text_column, doc_uri 以及其他欄位。因此,AI Playground 將顯示 連結至來源 已恢復,評估將適用 相關性評分者 自動。
如果您的代理人需要更多資訊(例如, 客戶端類型 o 會話ID), 用途 custom_inputs 並返回元數據 custom_outputs 這不應污染聊天記錄。 AI Playground 和評論應用程式都允許您進入。 自訂輸入 從使用者介面。
使用 deploy() 部署,要求和自動化操作
若要將您的代理商發佈到 Mosaic AI 模型服務平台,請使用以下功能 deploy() Python API。在 MLflow 3 中,安裝 mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (如果您在筆記本之外部署)。在 MLflow 2.x 中,最小值會改變(例如, mlflow >= 2.13.1 y databricks-agents >= 0.12.0確保 在 Unity 目錄中註冊代理程式。 部署前。
撥電至 deploy() 建構一個可擴展的端點 自動平衡,配置 安全認證 對於 Databricks 資源(向量索引、目錄函數)——檢查擁有者權限——並激活 審查申請 與利害關係人合作。
它還支援在 MLflow 中進行即時監控(在活動實驗和推理表中記錄追蹤資訊)。在 MLflow 3 中,可以設定具有自動品質評估的生產監控;REST 請求和評論會記錄在推理表中(使用現代回饋 API)。
若要進行自訂,請傳遞參數。 deploy() 如 scale_to_zero_enabled=True降低停機後的成本,代價是首次請求的延遲更高。此外,您還可以使用以下實用程式: 列出、取得和刪除 透過代理 API 進行部署。
狀態、配置和執行模式的良好實踐
模型服務是分散式的:避免 本機快取 並假設不同的回應可以應付對話中的不同回合。它會根據以下情況重建狀態: 字典 ResponsesAgentRequest 在每個 predict 並將該狀態設計為 線程安全.
初始化內部狀態 predict 而不是在代理建構函數中,因為單一副本可以處理來自不同使用者的對話。這可以防止這種情況發生。 資訊外洩 以及高吞吐量環境下的並發衝突。
用以下方式參數化智能體的行為 ModelConfig (字典或 YAML)。例如,定義如下: model_serving_endpointLLM 參數和提示範本;將該配置載入到開發環境並將其部署到生產環境。 無需修改程式碼.
避免在代理伺服器上引入事件循環或非同步幀:Databricks內部會處理並發。請使用同步程式碼或回呼;否則,您可能會遇到「此事件循環已在執行」之類的錯誤以及異常行為。
Agent Bricks:無需程式碼即可實現自動化,加速價值創造
Agent Bricks 於 2025 年推出,提供無需編碼的無縫代理創建工作流程。您只需用自然語言輸入任務,連接數據,平台即可選擇模型、生成合成數據、進行評估並不斷優化流程,最終交付一個符合Unity Catalog管理規範、可用於生產環境的代理。
它的優點包括端對端自動化、Databricks 的可擴展性(端點在 3 天不活動後可以縮減至零) 、Lakehouse 的使用情況和成本分析以及現成的代理類型(資訊提取、自訂 LLM、知識助理和用於複雜編排的多代理主管)。
其限制包括:產生的程式碼目前無法下載,這限制了深度自訂;模板目錄主要針對已整合 Lakehouse 和 Unity Catalog 的組織。部分用戶也反映成本指標不夠精細。
例如,多智能體和有狀態智能體
在官方文件中,您可以找到OpenAI(包含簡單的聊天和工具調用,適用於 Databricks 和 OpenAI 託管的模型)、LangGraph(工具調用)和DSPy (單回合工具調用)的筆記本。這些筆記本為使用自訂工具和品質評估擴充功能奠定了良好的基礎。
要協調多位專家,您可以使用 Genie 等工具建立協作系統。如果您對對話記憶感興趣,Genie 等工具還支援有狀態代理,允許設定檢查點和持久化聊天記錄。
在官方文件中,您可以找到OpenAI(包含簡單的聊天和工具調用,適用於 Databricks 和 OpenAI 託管的模型)、LangGraph(工具調用)和DSPy (單回合工具調用)的筆記本。這些筆記本為使用自訂工具和品質評估擴充功能奠定了良好的基礎。
Databricks 上的應用程式:使用 React 建立 UI,使用 FastAPI 建立後端
Databricks Apps提供了一個強大的平台,無需搭建外部基礎架構即可交付豐富的介面。它們與 Databricks SQL、Unity Catalog、Model Serving 和 Jobs 原生集成,並繼承了平台的安全性和合規性控制。
一個非常實用的模式是使用React建立前端(支援串流、訊息渲染和 Markdown 使用者體驗),並使用FastAPI建立後端,作為與代理端點的橋樑。後端將使用者的請求路由到模型服務,並將結構化回應傳回給客戶端。
在 FastAPI 中,子應用程式的組裝順序非常重要: app.mount("/api", api_app) 指導 API 路由(例如, /api/chat)和 app.mount("/", ui_app) 它提供 React 建置後根目錄中的靜態檔案。這種方案維護了 路線清晰度 並將使用者介面與端點分離。
配置環境變數(例如, SERVING_ENDPOINT_NAME 或 Unity Catalog 中代理模型的 FQN)來自 Databricks 中的應用程式定義。編譯前端(npm run build),同步文件,聲明依賴項(requirements.txt)並以 獨角獸 + 獨角獸 ASGI 的員工。
真實案例:用於製造營運的聊天機器人
在製造營運管理 (MOM) 場景中,Databricks 聊天機器人可以協助生產經理進行瓶頸分析、庫存追蹤和報告產生。這些功能以工具的形式(透過 SQL 或 Python)發佈在 Unity Catalog 中,聊天機器人會根據上下文呼叫這些工具。
範例:一個函數 identify_bottleneck_station 它在 Databricks SQL 中執行查詢,以檢測導致延遲最大的階段;另一個, check_inventory_levels它返回即時庫存資訊。該代理商還可以 傳送電子郵件產生報告並進行情感分析,所有這些都透過工具呼叫進行協調。
部署模型服務端點充當標準後端。 React 應用程式會使用此端點,以流暢的使用者體驗顯示即時回應,並在 ResponsesAgent 中啟用時支援令牌流。
從聊天補全遷移及相容性
如果您的舊版代理程式使用 OpenAI 的ChatCompletions API ,您可以遷移到ResponsesAgent,並使用一個容器來轉換傳入/傳出的訊息,您也可以選擇將串流增量對應到ResponsesAgentStreamEvent 。這樣可以在不重寫核心邏輯的情況下實現遙測和可觀測性的現代化。
代理程式 API 可用於列出和管理部署,您可以列出現有部署、擷取特定部署(按名稱和版本)以及刪除不再需要的端點。請記住使用環境變數和金鑰來管理外部資源憑證。
Databricks 提供完整的解決方案:從使用AI Playground進行創意構思或使用 Agent Bricks 實現自動化,到程式碼開發(Mosaic AI、MLflow、LangGraph、DSPy),再到包裝、在Unity Catalog中註冊、使用deploy()進行部署以及生產環境監控。透過遵循最佳實踐,例如正確的模型簽章、分散式環境中的安全狀態以及參數化配置,您可以交付可靠且受控的代理,並將其整合到平台上的 Web 應用程式中。
指數
- 1 在 Databricks 中建立代理的選項
- 2 模型簽名及與平台功能的相容性
- 3 快速教學:使用 Mosaic AI Agent Framework 建立第一個代理
- 4 與 MLflow 打包並部署在模型服務中
- 5 ResponsesAgent:生產代理的現代化介面
- 6 恢復系統、自訂輸入和可追溯性
- 7 使用 deploy() 部署,要求和自動化操作
- 8 狀態、配置和執行模式的良好實踐
- 9 Agent Bricks:無需程式碼即可實現自動化,加速價值創造
- 10 例如,多智能體和有狀態智能體
- 11 Databricks 上的應用程式:使用 React 建立 UI,使用 FastAPI 建立後端
- 12 真實案例:用於製造營運的聊天機器人
- 13 從聊天補全遷移及相容性
