- Sinasaklaw ng Agent Bricks, AI Playground, at MLflow ang lahat mula sa prototype hanggang sa deployment na may pamamahala sa Unity Catalog.
- Ang ResponsesAgent ay nagdadala ng streaming, multi-agent, at rich traces na isinama sa MLflow at AI Gateway.
- Ang pag-deploy gamit ang deploy() ay lumilikha ng mga secure na endpoint, na may real-time na pagsubaybay at pagsusuri.
Ang pagbuo ng mga AI agent sa Databricks ay hindi na eksklusibong sakop ng mga ultra-technical profile: sa pagitan ng mga visual environment tulad ng AI Playground , automation gamit ang Agent Bricks, at mga MLflow framework, maaari ka na ngayong lumipat mula sa ideya patungo sa prototype at mula sa prototype patungo sa produksyon nang hindi naliligaw sa proseso. Sa gabay na ito, pinagsasama-sama namin ang lahat ng kailangan mo upang lumikha, mag-evaluate, at mag-deploy ng mga agent na tumatawag sa mga tool, nag-query sa data, at nagsasama sa pamamahala ng Unity Catalog.
Bukod sa paggalugad sa no-code approach at pagbuo ng Python, matututunan mo rin kung paano i-package ang mga agent gamit ang MLflow (ChatAgent at ResponsesAgent) , irehistro ang mga resources sa catalog, paganahin ang real-time monitoring, at i-scale gamit ang Model Serving. Kasama rin namin ang isang sample app na ginawa gamit ang React at FastAPI para maayos na maisama ang iyong agent sa isang enterprise web interface.
Mga opsyon para sa paglikha ng mga ahente sa Databricks
Kung inuuna mo ang bilis at pagiging simple, ang Agent Bricks ay nagbibigay ng awtomatikong daloy ng trabaho para sa pagbuo ng de-kalidad at nakahanay na mga sistema ng ahente. Ikaw ang magtatakda ng iyong use case at magkokonekta ng iyong data ng Unity Catalog ; ang platform ay bubuo ng mga variant ng ahente, mag-o-optimize gamit ang pagsusuri, at magbibigay-daan sa iyong pinuhin ito, lahat gamit ang built-in na pamamahala at seguridad.
Kapag kailangan mo ng detalyadong kontrol at gustong gamitin muli ang mga pamilyar na library, pinagsasama ng code-based approach ang Mosaic AI Agent Framework at MLflow . Gamit ang Python, maaari mong tukuyin ang agent logic, paganahin ang mga tool call, magsagawa ng detalyadong pagsubaybay, at sa huli ay i-package at i-deploy sa produksyon gamit ang Databricks ecosystem.
Kung gumagamit ka na ng mga third-party framework, mayroong native support para sa LangGraph/ LangChain , LlamaIndex , o mga custom na implementasyon ng Python. Dahil sa mga model signature at agent interface ng MLflow, maaari mo itong ikonekta sa mga kakayahan sa pagsusuri at pagsubaybay nang hindi na muling nagsusulat mula sa simula.
Gusto mo bang mag-prototype nang napakabilis? Gamit ang AI Playground, pipili ka ng modelo at virtual machine, magdadagdag ng mga tool sa LLM sa pamamagitan ng low-code interface, at mag-chat para ma-validate. Pagkatapos, ie-export mo ang agent sa production-ready code at magpapatuloy sa standard development lifecycle.
Mga lagda ng modelo at pagiging tugma sa mga feature ng platform
Gumagamit ang Azure Databricks ng mga lagda ng modelo ng MLflow upang ilarawan ang input at output schema ng mga ahente. Ang mga tampok ng produkto—tulad ng AI Playground o pagtatasa—ay nangangailangan ng ahente na sumunod sa isa sa mga sinusuportahang lagda upang matiyak ang interoperability.
Kung susundin mo ang inirerekomendang pamamaraan kapag binubuo ang ahente, awtomatikong hinuhulaan ng MLflow ang katugmang lagda nang walang anumang karagdagang hakbang. Kung hindi, tiyakin na ang iyong implementasyon ay sumusunod sa isa sa mga lagda sa legacy schema para sa input at output ng ahente, upang maiwasan ang mga sorpresa kapag isinasama sa mga tool ng Databricks.
Mabilis na Tutorial: Unang Ahente na may Mosaic AI Agent Framework
Ang layunin ay lumikha ng isang ahente na nangangatuwiran sa a LLM na naka-host sa Databricks at makapagpatakbo ng mga tool, halimbawa ang built-in na function system.ai.python_exec mula sa Unity Catalog upang patakbuhin ang Python code. Bukod pa rito, paganahin namin ang pagsubaybay sa MLflow para sa pag-inspeksyon ng mga bakas at diagnostic.
Mga pangunahing kinakailangan sa workspace: paganahin ang mga feature ng ahente at magkaroon access sa Model ServingSa kapaligiran ng runtime, mag-install ng mga pakete tulad ng mlflow, databricks-openai at ang agent packer (databricks-agent o databricks-agents(depende sa gabay na sinusunod mo at ang bersyon), at i-restart ang Python para mag-load ng mga dependency.
Tukuyin ang koneksyon sa serbisyo ng modelo gamit ang OpenAI client na inilalantad nito WorkspaceClient, aktibo mlflow.openai.autolog() para sa awtomatikong instrumentasyon, at itinatala ang mga magagamit na tool. Sa kanila, system.ai.python_exec Ito ay nagsisilbing stateless Python interpreter at nagbibigay-daan sa LLM na lutasin ang mga kalkulasyon o manipulahin ang data sa panahon ng dialogue.
Sa isang function tulad ng run_agent(), ipinapadala mo ang prompt ng user sa chat endpoint (Halimbawa, isang modelo tulad ng «databricks-claude-3-7-sonnet«at pamahalaan ang posible tawag sa mga kasangkapan ibinabalik ang mga mensahe ng katulong at mga tugon sa tool sa isang magkakaugnay na listahan.
Para subukan, magpatakbo ng query na nangangailangan ng code (hal., pagkalkula ng ika-100 Fibonacci number ) at suriin ang parehong wizard output at ang mga MLflow trace na naka-log sa nauugnay na notebook o eksperimento. Papayagan ka nitong pinuhin ang orchestration bago ang packaging.
Naka-package sa MLflow at na-deploy sa Model Serving
Ang isang inirerekomendang paraan upang ihanda ang ahente para sa produksyon ay sa pamamagitan ng pagpapatupad ng interface MLflow ChatAgentKailangan mo ng paraan predict() na tumatanggap ng mga mensahe, tumatawag sa lohika ng iyong ahente, at nagbabalik ng a ChatAgentResponse kasama ang listahan ng mensahe (kabilang ang mga intermediate na mensahe na nauugnay sa mga tool, kung naaangkop).
Upang mapadali ang pagkaalipin, pagsama-samahin ang lahat ng code sa isang file na Python (halimbawa, sa pamamagitan ng paggamit %%writefile quickstart_agent.py (kung nagtatrabaho ka sa isang laptop). Sa huling bahagi, tumawag mlflow.models.set_model() pagpasa sa instance ng iyong klase (hal., QuickstartAgent) upang maitatag ang entry point ng hinuha.
Irehistro ang ahente sa Catalog ng Unity sa mlflow.pyfunc.log_model, kasama kayamanan na kakailanganin mo sa produksyon: ang LLM model endpoint (hal., DatabricksServingEndpoint) at ang mga function ng catalog na ipapatawag ng ahente (hal., DatabricksFunction sa system.ai.python_execKaya, magagawa ng Databricks I-configure ang pagpapatunay para sa mga mapagkukunang ito kapag nagde-deploy.
Panghuli, gamitin ang Agent API upang upang i-deploy ang modelo sa isang endpoint ng serbisyo: from databricks import agents y agents.deploy(model_name, model_version)Kapag nagsimula ang endpoint, magagawa mo Makipag-chat mula sa AI Playgroundibahagi ito sa mga interesadong partido at simulan ang pagkolekta ng feedback.
Kung gusto mong patuloy na humusay, nag-aalok ang Databricks ng mga gabay para sa pagsukat ng kalidad ng ahente , mga building agent na may retrieval (RAG) sa mga unstructured data at pagkontrol sa mga multi-turn na pag-uusap, pati na rin ang mga alternatibo sa LangGraph, purong Python o OpenAI.
ResponsesAgent: Ang modernong interface para sa mga ahente ng produksyon
Bagaman ChatAgent Gumagana ito nang maayos, inirerekomenda ito ng MLflow ngayon ResponsesAgent Para sa mga seryosong ahente. Ang interface na ito ay katugma sa scheme Responses mula sa OpenAI at pinapayagan ang pagsasama ng mga ahente mula sa anumang balangkas na may mga kakayahan ng Databricks (pagpaparehistro, pagsubaybay, pagsusuri, pag-deploy, at pagmamasid) nang walang alitan.
Mga pangunahing bentahe: katutubong suporta para sa sistemas maraming ahente, exit mode anod, kumpletong kasaysayan ng mga mensahe at mga tawag sa tool, kumpirmasyon ng mga tawag sa tool at pangmatagalang kasangkapan. Higit pa rito, nag-aalok ito mga na-type na interface Sa Python, awtomatikong signature inference, awtomatikong pagsubaybay sa predict y predict_stream at pinahusay na mga talahanayan ng hinuha sa pamamagitan ng Gateway ng AI.
Mga kinakailangan sa pag-install para sa diskarteng ito: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (gamit ang Serverless o Databricks Runtime 13.3 LTS+). Inirerekomenda din ng Databricks ang mga sumusunod na pakete: AI Bridge para sa mga karaniwang pagsasama.
Mga kapaki-pakinabang na pagsasama: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) at databricks-ai-bridge (Mga Ahente sa purong Python). Gamit ang mga piraso maaari kang bumuo ng kahit ano mula sa mga simpleng ahente hanggang kumplikadong mga pipeline may pagbawi at tool call.
Kung mayroon ka nang built-in na ahente, balutin ito sa isang klase na nagmana mula sa mlflow.pyfunc.ResponsesAgent. Ipatupad predict upang i-convert ang mga input at output sa Schema ng ResponsesAgentPara sa streaming, umasa sa predict_stream, nagpapalabas delta at isang pangwakas na kaganapan response.output_item.done Pakidagdag ang kumpletong sagot.
Tungkol sa mga error sa streaming, pinapalaganap ng Mosaic AI ang pagkabigo kasama ang huling token sa loob databricks_output.errorDapat makuha at ipakita ito ng iyong kliyente nang tama, na nagpapahusay sa karanasan sa depuration.
Mga system sa pag-recover, custom na input, at traceability
Maraming ahente ang gumagamit mga recycler para sa mga RAG sa mga indeks ng vector. Kung ang iyong mga retrieval span ay maglantad ng ibang scheme, maaari mo itong imapa mlflow.models.set_retriever_schemanagdedeklara primary_key, text_column, doc_uri at iba pang column. Kaya, ipapakita ang AI Playground Mga link sa mga mapagkukunan nabawi at ang pagsusuri ay ilalapat mga scorer ng kaugnayan awtomatiko.
Sa mga kaso kung saan ang iyong ahente ay nangangailangan ng karagdagang impormasyon (halimbawa, client_type o session_id), ginagamit custom_inputs at nagbabalik ng metadata sa custom_outputs na hindi dapat mahawahan ang kasaysayan ng chat. Parehong pinapayagan ka ng AI Playground at ng review app na makapasok custom_inputs mula sa UI.
Deployment na may deploy(), mga kinakailangan at mga automated na pagkilos
Upang i-publish ang iyong ahente sa Mosaic AI Model Serving, gamitin ang function deploy() ng Python API. Sa MLflow 3, i-install mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (kung mag-deploy ka sa labas ng mga notebook). Sa MLflow 2.x, nagbabago ang mga minimum (halimbawa, mlflow >= 2.13.1 y databricks-agents >= 0.12.0Siguraduhin mo Irehistro ang ahente sa Unity Catalog bago i-deploy.
Tumawag kay deploy() bumuo ng isang scalable endpoint na may awtomatikong pagbabalanse, i-configure ang secure na pagpapatunay para sa mga mapagkukunan ng Databricks (mga vector index, mga function ng catalog) —pagsusuri sa mga pahintulot ng may-ari—, at ina-activate ang pagsusuri ng aplikasyon para sa pakikipagtulungan sa mga stakeholder.
Nagbibigay-daan din ito ng real-time na pagsubaybay sa MLflow (na may mga trace sa aktibong eksperimento at sa mga inference table). Sa MLflow 3, maaaring i-configure ang pagsubaybay sa produksyon na may awtomatikong pagtatasa ng kalidad; ang mga kahilingan at komento ng REST ay naka-log in sa mga inference table (gamit ang mga modernong feedback API).
Upang i-customize, ipasa ang mga argumento sa deploy() bilang scale_to_zero_enabled=Truepagbabawas ng mga gastos pagkatapos ng downtime sa gastos ng mas mataas na latency sa unang kahilingan. Bukod pa rito, mayroon kang mga kagamitan para sa ilista, kunin at tanggalin mga deployment sa pamamagitan ng Agent API.
Magandang kagawian para sa estado, pagsasaayos, at mga pattern ng pagpapatupad
Ibinahagi ang Model Serving: iwasan mga lokal na cache at ipinapalagay na ang iba't ibang mga tugon ay maaaring humawak ng iba't ibang mga pagliko sa isang pag-uusap. Binubuo nito ang estado mula sa diksyunaryo ng ResponsesAgentRequest sa bawat isa predict at idisenyo ang magiging estado ligtas sa thread.
Sinisimulan ang estado sa loob predict at hindi sa tagabuo ng ahente, dahil ang isang solong replika ay maaaring humawak ng mga pag-uusap mula sa iba't ibang mga gumagamit. Pinipigilan nito mga pagtagas ng impormasyon at concurrency conflicts sa high-throughput na kapaligiran.
Parameterize ang pag-uugali ng ahente sa ModelConfig (diksyonaryo o YAML). Tukuyin, halimbawa, model_serving_endpointMga parameter ng LLM at mga prompt na template; i-load ang configuration na iyon sa development at i-promote ito sa production nang hindi hinahawakan ang code.
Iwasan ang pagpapakilala ng mga event loop o asynchronous frame sa agent server: Ang Databricks ay internal na humahawak ng concurrency . Gumamit ng synchronous code o mga callback; kung hindi, maaari kang makaranas ng mga error tulad ng "This event loop is already running" at hindi regular na pag-uugali.
Agent Bricks: "walang code" automation para mapabilis ang halaga
Ang Agent Bricks, na ipinakilala noong 2025, ay nag-aalok ng isang maayos na daloy ng trabaho sa paglikha ng ahente na hindi nangangailangan ng coding . Ilalagay mo ang gawain sa natural na wika, ikokonekta ang iyong data, at pipili ang platform ng mga modelo, bubuo ng sintetikong data , susuriin, at pinuhin ang proseso hanggang sa makapaghatid ito ng ahente na handa na para sa produksyon na may pamamahala ng Unity Catalog.
Kabilang sa mga bentahe nito ay ang end-to-end automation , scalability sa Databricks —na may mga endpoint na maaaring mag-scale hanggang zero pagkatapos ng 3 araw na hindi aktibo—, usage at cost analytics sa Lakehouse at mga uri ng ready agent (information extraction, custom LLM , knowledge assistant at multi-agent supervisor para sa complex orchestration).
Kabilang sa mga limitasyon ang katotohanang ang nabuong code ay hindi kasalukuyang maaaring i-download , na nagbabawas sa malalim na pagpapasadya, at ang template catalog ay nakatuon sa mga organisasyong naka-integrate na sa Lakehouse at Unity Catalog. Nakikita rin ng ilang user na kulang sa detalye ang mga sukatan ng gastos .
Mga halimbawa, multi-agent at stateful agents
Sa opisyal na dokumentasyon, makakahanap ka ng mga notebook na may OpenAI (mga simpleng chat at tool call, para sa parehong Databricks at OpenAI hosted models), LangGraph (tool invocation), at DSPy (tool calls nang sabay-sabay). Ang mga ito ay mahusay na pundasyon para sa pagpapalawak ng functionality gamit ang mga custom na tool at mga pagtatasa ng kalidad.
Para mapag-organisa ang maraming espesyalista, maaari kang mag-set up ng mga cooperating system gamit ang mga tool tulad ng Genie. At kung interesado ka sa conversation memory, mayroong suporta para sa mga stateful agent na nagpapahintulot sa mga checkpoint at chat thread persistence.
Sa opisyal na dokumentasyon, makakahanap ka ng mga notebook na may OpenAI (mga simpleng chat at tool call, para sa parehong Databricks at OpenAI hosted models), LangGraph (tool invocation), at DSPy (tool calls nang sabay-sabay). Ang mga ito ay mahusay na pundasyon para sa pagpapalawak ng functionality gamit ang mga custom na tool at mga pagtatasa ng kalidad.
Apps sa Databricks: UI na may React at backend sa FastAPI
Ang mga Databricks Apps ay nagbibigay ng isang matibay na plataporma para sa paghahatid ng mga rich interface nang hindi nagse-set up ng external infrastructure. Natively silang sumasama sa Databricks SQL, Unity Catalog , Model Serving, at Jobs, at minana ang mga kontrol sa seguridad at pagsunod ng platform.
Isang napaka-praktikal na padron ang paggawa ng frontend gamit ang React (sumusuporta sa streaming, message rendering, at Markdown UX) at isang backend gamit ang FastAPI na nagsisilbing tulay patungo sa agent endpoint. Iruruta ng backend ang kahilingan ng user papunta sa model service at ibabalik ang structured response sa client.
Sa FastAPI, ang pagkakasunud-sunod ng pagpupulong ng mga sub-application ay mahalaga: app.mount("/api", api_app) nagdidirekta ng mga ruta ng API (halimbawa, /api/chat) At app.mount("/", ui_app) Naghahain ito ng mga static na file mula sa React build sa root directory. Ang scheme na ito ay nagpapanatili kalinawan ng mga ruta at naghihiwalay sa UI mula sa mga endpoint.
I-configure ang mga variable ng kapaligiran (hal., SERVING_ENDPOINT_NAME o ang FQN ng modelo ng ahente sa Unity Catalog) mula sa kahulugan ng app sa Databricks. I-compile ang frontend (npm run build), nagsi-synchronize ng mga file, nagdedeklara ng mga dependencies (requirements.txt) at nagsisimula sa Gunicorn + Uvicorn manggagawa para sa ASGI.
Tunay na kaso: chatbot para sa mga pagpapatakbo ng pagmamanupaktura
Sa mga senaryo ng Manufacturing Operations Management (MOM), makakatulong ang isang Databricks chatbot sa mga production manager sa bottleneck analysis , pagsubaybay sa imbentaryo, at pagbuo ng ulat. Ang mga function ay inilalantad bilang mga tool sa Unity Catalog (sa pamamagitan ng SQL o Python), at ginagamit ng agent ang mga ito batay sa konteksto.
Mga halimbawa: isang function identify_bottleneck_station Nagpapatakbo ito ng mga query sa Databricks SQL upang makita ang yugto na nagdudulot ng pinakamaraming pagkaantala; isa pa, check_inventory_levelsNagbabalik ito ng real-time na stock. Pwede rin ang ahente magpadala ng mga email, gumawa ng mga ulat at magsagawa ng pagsusuri ng damdamin, lahat ay nakaayos sa mga tool-call.
Ang pag-deploy ng Model Serving endpoint ang nagsisilbing karaniwang backend . Ginagamit ng React app ang endpoint na ito, ipinapakita ang mga real-time na tugon na may pinakintab na karanasan ng user at sinusuportahan ang token streaming kapag pinagana sa iyong ResponsesAgent.
Paglipat mula sa ChatCompletions at compatibility
Kung ang iyong legacy agent ay gumagamit ng ChatCompletions API ng OpenAI , maaari kang lumipat sa ResponsesAgent gamit ang isang container na nagsasalin ng mga papasok/papalabas na mensahe at, opsyonal, nagmamapa ng mga streaming delta sa ResponsesAgentStreamEvent . Pinamoderno nito ang telemetry at observability nang hindi muling isinusulat ang core logic.
Para sa paglilista at pamamahala ng mga deployment, hinahayaan ka ng Agent API na ilista ang mga umiiral na deployment, kunin ang isang partikular na deployment (ayon sa pangalan at bersyon), at alisin ang mga endpoint na hindi mo na kailangan. Tandaang pamahalaan ang mga external resource credential gamit ang mga environment variable at secret.
Nag-aalok ang Databricks ng kumpletong landas: mula sa pagbuo ng ideya gamit ang AI Playground o automation gamit ang Agent Bricks, hanggang sa pagbuo ng code (Mosaic AI, MLflow, LangGraph, DSPy), hanggang sa packaging, pagpaparehistro sa Unity Catalog , pag-deploy gamit ang deploy() , at pagsubaybay sa produksyon. Gamit ang mga pinakamahusay na kasanayan tulad ng wastong mga lagda ng modelo , ligtas na estado sa mga distributed environment, at parameterized configuration, makakapaghatid ka ng maaasahan at pinamamahalaang mga ahente na handa nang isama sa mga web application sa platform.
