- Agent Bricks, AI Playground a MLflow pokrývajú všetko od prototypu až po nasadenie s riadením v katalógu Unity.
- ResponsesAgent prináša streamovanie, multiagentovú prácu a bohaté sledovanie integrované s MLflow a AI Gateway.
- Nasadenie pomocou funkcie deploy() vytvára bezpečné koncové body so sledovaním a kontrolou v reálnom čase.
Vytváranie agentov AI v Databricks už nie je výhradnou doménou ultratechnických profilov: medzi vizuálnymi prostrediami ako AI Playground , automatizáciou s Agent Bricks a frameworkami MLflow teraz môžete prejsť od nápadu k prototypu a od prototypu k produkcii bez toho, aby ste sa v procese stratili. V tejto príručke zhrnieme všetko, čo potrebujete na vytvorenie, vyhodnotenie a nasadenie agentov, ktorí volajú nástroje, dotazujú dáta a integrujú sa so systémom riadenia Unity Catalog.
Okrem preskúmania prístupu bez kódovania a vývoja v Pythone sa naučíte, ako baliť agentov pomocou MLflow (ChatAgent a ResponsesAgent) , registrovať zdroje v katalógu, povoliť monitorovanie v reálnom čase a škálovať pomocou Model Serving. Pridávame aj vzorovú aplikáciu vytvorenú pomocou Reactu a FastAPI pre bezproblémovú integráciu vášho agenta do podnikového webového rozhrania.
Možnosti vytvárania agentov v Databrickoch
Ak uprednostňujete rýchlosť a jednoduchosť, Agent Bricks poskytuje automatizovaný pracovný postup pre budovanie vysokokvalitných, doménovo orientovaných agentových systémov. Vy špecifikujete svoj prípad použitia a prepojíte dáta z katalógu Unity ; platforma generuje varianty agentov, optimalizuje ich s vyhodnotením a umožňuje vám ich spresniť, to všetko so vstavanou správou a zabezpečením.
Keď potrebujete detailnú kontrolu a chcete opätovne použiť známe knižnice, prístup založený na kóde kombinuje Mosaic AI Agent Framework a MLflow . Pomocou Pythonu môžete definovať logiku agentov, povoliť volania nástrojov, vykonávať podrobné sledovanie a nakoniec zabaliť a nasadiť do produkčného prostredia pomocou ekosystému Databricks.
Ak už používate frameworky tretích strán, k dispozícii je natívna podpora pre LangGraph/ LangChain , LlamaIndex alebo vlastné implementácie Pythonu. Vďaka podpisom modelov a rozhraniam agentov MLflow ich môžete zapojiť do funkcií vyhodnocovania a monitorovania bez nutnosti prepisovania od začiatku.
Chcete vytvárať prototypy bleskovou rýchlosťou? S AI Playground si vyberiete model a virtuálny stroj, pridáte nástroje do LLM prostredníctvom rozhrania s nízkym kódom a overíte ich pomocou chatu. Potom exportujete agenta do produkčného kódu a pokračujete v štandardnom vývojovom cykle.
Podpisy modelov a kompatibilita s funkciami platformy
Azure Databricks používa podpisy modelu MLflow na opis vstupnej a výstupnej schémy agentov. Funkcie produktu – ako napríklad AI Playground alebo hodnotenie – vyžadujú, aby agent spĺňal jeden z podporovaných podpisov, aby sa zabezpečila interoperabilita.
Ak pri zostavovaní agenta budete postupovať podľa odporúčaného postupu, MLflow automaticky odvodí kompatibilný podpis bez akýchkoľvek ďalších krokov. V opačnom prípade overte, či vaša implementácia zodpovedá jednému z podpisov v staršej schéme pre vstup a výstup agenta, čím sa vyhnete prekvapeniam pri integrácii s nástrojmi Databricks.
Stručný návod: Prvý agent s frameworkom Mosaic AI Agent Framework
Cieľom je vytvoriť agenta, ktorý uvažuje s LLM hostované v Databricks a byť schopný spúšťať nástroje, napríklad vstavanú funkciu system.ai.python_exec z katalógu Unity na spustenie kódu Python. Okrem toho povolíme sledovanie pomocou MLflow na kontrolu stôp a diagnostiku.
Základné požiadavky na pracovný priestor: povolenie funkcií agenta a prístup k poskytovaniu modelovV runtime prostredí nainštalujte balíky ako napríklad mlflow, databricks-openai a baliareň agentov (databricks-agent o databricks-agents(v závislosti od návodu, ktorého sa riadite, a verzie) a reštartujte Python, aby sa načítali závislosti.
Definujte pripojenie k modelovej službe pomocou klienta OpenAI, ktorého sprístupňuje. Pracovný priestorKlient, aktívny mlflow.openai.autolog() pre automatickú inštrumentáciu a zaznamenáva dostupné nástroje. Medzi nimi, system.ai.python_exec Slúži ako bezstavový interpret Pythonu a umožňuje LLM riešiť výpočty alebo manipulovať s údajmi počas dialógu.
S funkciou ako run_agent(), odošlete používateľovu výzvu do koncového bodu chatu (Napríklad model ako „databricks-claude-3-7-sonnet«a zvládnuť možné volania nástrojov vrátenie správ asistenta a odpovedí nástroja v súvislom zozname.
Na otestovanie spustite dotaz, ktorý vyžaduje kód (napr. výpočet 100. Fibonacciho čísla ) a skontrolujte výstup sprievodcu aj stopy MLflow zaznamenané v príslušnom poznámkovom bloku alebo experimente. To vám umožní spresniť orchestráciu pred balením.
Balené s MLflow a nasadené v Model Serving
Odporúčaný spôsob prípravy agenta na produkciu je implementácia rozhrania MLflow ChatAgentPotrebujete metódu predict() ktorý prijíma správy, volá logiku vášho agenta a vracia Odpoveď ChatAgenta so zoznamom správ (vrátane prípadných prechodných správ súvisiacich s nástrojmi).
Pre uľahčenie podriadenosti zlúčte všetok kód do jedného súboru Python (napríklad pomocou %%writefile quickstart_agent.py (ak pracujete na notebooku). V záverečnej časti zavolajte mlflow.models.set_model() odovzdávanie inštancie vašej triedy (napr. QuickstartAgent) na stanovenie vstupný bod vyvodzovania.
Zaregistrujte agenta v Jednotný katalóg s mlflow.pyfunc.log_model, počítajúc do toho zdroje ktoré budete potrebovať v produkcii: koncový bod modelu LLM (napr. DatabricksServingEndpoint) a funkcie katalógu, ktoré agent vyvolá (napr. DatabricksFunction s system.ai.python_execDatabricks teda môžu Konfigurácia overovania pre tieto zdroje pri nasadzovaní.
Nakoniec použite rozhranie API agenta na nasadiť model do koncového bodu služby: from databricks import agents y agents.deploy(model_name, model_version)Keď sa spustí koncový bod, budete môcť Chat z AI Playgroundzdieľajte to so zainteresovanými stranami a začnite zbierať spätnú väzbu.
Ak sa chcete naďalej zlepšovať, Databricks ponúka návody na meranie kvality agentov , vytváranie agentov s vyhľadávaním (RAG) na neštruktúrovaných dátach a riadenie viacnásobných konverzácií, ako aj alternatívy s LangGraph, čistým Pythonom alebo OpenAI.
ResponsesAgent: Moderné rozhranie pre produkčných agentov
Hoci ChatAgent Funguje to dobre, MLflow to dnes odporúča ResponsesAgent Pre serióznych agentov. Toto rozhranie je kompatibilné so schémou Responses z OpenAI a umožňuje integráciu agentov z akýkoľvek rámec s možnosťami Databricks (registrácia, sledovanie, vyhodnocovanie, nasadenie a pozorovateľnosť) bez problémov.
Kľúčové výhody: natívna podpora pre systémy multiagentný, ukončiť režim streaming, kompletná história správ a volaní nástrojov, potvrdenie volaní nástrojov a nástroje s dlhou životnosťou. Okrem toho ponúka typované rozhrania V Pythone, automatické odvozovanie podpisov, automatické sledovanie predict y predict_stream a vylepšené inferenčné tabuľky prostredníctvom Brána AI.
Požiadavky na inštaláciu pre tento prístup: databricks-agents 1.2.0+, mlflow 3.1.3+ y Python 3.10+ (pomocou Serverless alebo Databricks Runtime 13.3 LTS+). Databricks tiež odporúča nasledujúce balíky: Most umelej inteligencie pre spoločné integrácie.
Užitočné integrácie: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) a databricks-ai-bridge (Agenti v čistom Pythone). S týmito prvkami môžete vytvoriť čokoľvek od jednoduchých agentov až po zložité potrubia s obnovou a volaním nástroja.
Ak už máte vstavaného agenta, zabaľte ho do triedy, ktorá dedí z mlflow.pyfunc.ResponsesAgentImplementovať predict previesť vstupy a výstupy na Schéma agenta odpovedíPre streamovanie sa spoľahnite na predict_stream, emitujúce delty a záverečná udalosť response.output_item.done Prosím, doplňte úplnú odpoveď.
Pokiaľ ide o chyby streamovania, Mosaic AI šíri zlyhanie spolu s posledným tokenom v rámci databricks_output.errorVáš klient by ho mal správne zachytiť a zobraziť, čím by sa zlepšil skúsenosť s očistením.
Systémy obnovy, vlastné vstupy a sledovateľnosť
Mnoho agentov používa recyklačné spoločnosti pre RAGy nad vektorovými indexmi. Ak vaše rozsahy vyhľadávania odhaľujú inú schému, môžete ju namapovať pomocou mlflow.models.set_retriever_schemavyhlasuje primary_key, text_column, doc_uri a ďalšie stĺpce. AI Playground teda zobrazí Odkazy na zdroje zotavené a bude sa uplatňovať hodnotenie hodnotitelia relevantnosti automaticky.
V prípadoch, keď váš zástupca požaduje dodatočné informácie (napríklad typ_klienta o session_id), používa custom_inputs a vracia metadáta v custom_outputs ktoré by nemali kontaminovať históriu chatu. AI Playground aj aplikácia na recenzie vám umožňujú zadať vlastné_vstupy z používateľského rozhrania.
Nasadenie pomocou funkcie deploy(), požiadavky a automatizované akcie
Ak chcete publikovať svojho agenta na Mosaic AI Model Serving, použite funkciu deploy() rozhrania Python API. V MLflow 3 nainštalujte mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (ak nasadzujete mimo notebookov). V MLflow 2.x sa minimálne hodnoty menia (napríklad mlflow >= 2.13.1 y databricks-agents >= 0.12.0Uistite sa Zaregistrujte agenta v katalógu Unity pred nasadením.
Zavolaj deploy() vytvoriť škálovateľný koncový bod s automatické vyvažovanie, nakonfigurujte bezpečné overenie pre zdroje Databricks (vektorové indexy, katalógové funkcie) – kontrola oprávnení vlastníka – a aktivuje žiadosť o preskúmanie pre spoluprácu so zainteresovanými stranami.
Umožňuje tiež monitorovanie v reálnom čase v MLflow (so stopami v aktívnom experimente a v inferenčných tabuľkách). V MLflow 3 je možné nakonfigurovať monitorovanie produkcie s automatickým hodnotením kvality; REST požiadavky a komentáre sa zaznamenávajú do inferenčných tabuliek (pomocou moderných API spätnej väzby).
Pre prispôsobenie odovzdajte argumenty deploy() ako scale_to_zero_enabled=Truezníženie nákladov po prestojoch na úkor vyššej latencie pri prvej požiadavke. Okrem toho máte k dispozícii nástroje na zoznam, získanie a odstránenie nasadenia prostredníctvom rozhrania API agenta.
Osvedčené postupy pre stavové, konfiguračné a vykonávacie vzory
Zobrazovanie modelu je distribuované: vyhnúť sa lokálne vyrovnávacie pamäte a predpokladá, že rôzne odpovede dokážu spracovať rôzne smery v konverzácii. Rekonštruuje stav z slovník ResponsesAgentRequest v každom predict a navrhnúť štát tak, aby bol thread-safe.
Inicializuje stav v rámci predict a nie v konštruktore agenta, pretože jedna replika by mohla spracovať konverzácie od rôznych používateľov. Toto zabraňuje úniky informácií a konflikty súbežnosti vo vysokovýkonných prostrediach.
Parametrizujte správanie agenta pomocou ModelConfig (slovník alebo YAML). Definujte napríklad model_serving_endpointParametre LLM a šablóny výziev; načítanie tejto konfigurácie do vývoja a jej povýšenie na produkčný systém bez dotyku kódu.
Vyhnite sa zavádzaniu slučiek udalostí alebo asynchrónnych rámcov na serveri agenta: Databricks interne spracováva súbežnosť . Používajte synchrónny kód alebo spätné volania, inak sa môžu vyskytnúť chyby, ako napríklad „Táto slučka udalostí už beží“ a nepravidelné správanie.
Agent Bricks: automatizácia „bez kódu“ na urýchlenie hodnotenia
Agent Bricks, predstavený v roku 2025, ponúka bezproblémový pracovný postup vytvárania agentov , ktorý nevyžaduje žiadne kódovanie . Zadáte úlohu v prirodzenom jazyku, pripojíte svoje dáta a platforma vyberie modely, vygeneruje syntetické dáta , vyhodnotí a spresní proces, až kým nedodá agenta pripraveného na produkciu s riadením Unity Catalog.
Medzi jeho výhody patrí komplexná automatizácia , škálovateľnosť v Databrickoch – s koncovými bodmi, ktoré sa dajú škálovať na nulu po 3 dňoch nečinnosti –, analýza využitia a nákladov na Lakehouse a typoch agentov pripravených na použitie (extrakcia informácií, vlastný LLM , asistent znalostí a supervízor viacerých agentov pre komplexnú orchestráciu).
Medzi obmedzenia patrí skutočnosť, že vygenerovaný kód momentálne nie je možné stiahnuť , čo obmedzuje možnosti hlbokého prispôsobenia, a katalóg šablón je zameraný na organizácie, ktoré sú už integrované s Lakehouse a Unity Catalog. Niektorí používatelia tiež považujú metriky nákladov za nedostatočne podrobné .
Príklady, multiagentní a stavoví agenti
V oficiálnej dokumentácii nájdete poznámkové bloky s OpenAI (jednoduchý chat a volania nástrojov, pre modely hostované v Databrickoch aj OpenAI), LangGraph (volanie nástrojov) a DSPy (volania nástrojov naraz). Toto sú vynikajúce základy pre rozšírenie funkcionality o vlastné nástroje a hodnotenia kvality.
Na zosúladenie viacerých špecialistov môžete nastaviť spolupracujúce systémy pomocou nástrojov ako Genie. A ak vás zaujíma pamäť konverzácií, existuje podpora pre stavových agentov, ktorí umožňujú kontrolné body a perzistenciu vlákien chatu.
V oficiálnej dokumentácii nájdete poznámkové bloky s OpenAI (jednoduchý chat a volania nástrojov, pre modely hostované v Databrickoch aj OpenAI), LangGraph (volanie nástrojov) a DSPy (volania nástrojov naraz). Toto sú vynikajúce základy pre rozšírenie funkcionality o vlastné nástroje a hodnotenia kvality.
Aplikácie na Databricks: UI s Reactom a backendom vo FastAPI
Aplikácie Databricks poskytujú robustnú platformu na poskytovanie bohatých rozhraní bez nutnosti nastavovania externej infraštruktúry. Natívne sa integrujú s Databricks SQL, Unity Catalog , Model Serving a Jobs a dedia bezpečnostné a súladné kontroly platformy.
Veľmi praktickým vzorom je vytvoriť frontend s Reactom (s podporou streamovania, vykresľovania správ a Markdown UX) a backend s FastAPI , ktorý funguje ako most k koncovému bodu agenta. Backend smeruje požiadavku používateľa do modelovej služby a vracia štruktúrovanú odpoveď klientovi.
V FastAPI je dôležité poradie zostavovania podaplikácií: app.mount("/api", api_app) smeruje trasy API (napríklad /api/chat) A app.mount("/", ui_app) Poskytuje statické súbory z buildu React v koreňovom adresári. Táto schéma udržiava prehľadnosť trás a oddeľuje používateľské rozhranie od koncových bodov.
Nakonfigurujte premenné prostredia (napr. SERVING_ENDPOINT_NAME alebo FQN modelu agenta v katalógu Unity) z definície aplikácie v Databricks. Kompilujte frontend (npm run build), synchronizuje súbory, deklaruje závislosti (requirements.txt) a začína s Gunicorn + Uvicorn pracovníci pre ASGI.
Reálny prípad: chatbot pre výrobné operácie
V scenároch riadenia výrobných operácií (MOM) môže chatbot Databricks pomáhať manažérom výroby s analýzou úzkych miest , sledovaním zásob a generovaním reportov. Funkcie sú zobrazené ako nástroje v katalógu Unity (prostredníctvom SQL alebo Pythonu) a agent ich vyvoláva na základe kontextu.
Príklady: funkcia identify_bottleneck_station Spúšťa dotazy v Databricks SQL na zistenie fázy, ktorá spôsobuje najväčšie oneskorenia; ďalšiu, check_inventory_levelsVracia zásoby v reálnom čase. Agent môže tiež Pošli e-maily, vytvárať správy a vykonávať analýzu sentimentu, to všetko zosúladené s volaniami nástrojov.
Nasadenie koncového bodu Model Serving funguje ako štandardný backend . Aplikácia React využíva tento koncový bod, zobrazuje odpovede v reálnom čase s prepracovaným používateľským rozhraním a podporuje streamovanie tokenov , ak je to povolené vo vašom ResponsesAgent.
Migrácia z ChatCompletions a kompatibilita
Ak váš starší agent používa rozhranie OpenAI ChatCompletions API , môžete migrovať na ResponsesAgent s kontajnerom, ktorý prekladá prichádzajúce/odchádzajúce správy a voliteľne mapuje delty streamovania na ResponsesAgentStreamEvent . Toto modernizuje telemetriu a pozorovateľnosť bez prepisovania základnej logiky.
Na zobrazenie a správu nasadení vám rozhranie Agent API umožňuje zobraziť existujúce nasadenia, načítať konkrétne nasadenie (podľa názvu a verzie) a odstrániť koncové body, ktoré už nepotrebujete. Nezabudnite spravovať prihlasovacie údaje externých zdrojov pomocou premenných prostredia a tajných kľúčov.
Databricks ponúka kompletnú cestu: od tvorby nápadov s AI Playground alebo automatizácie s Agent Bricks, cez vývoj kódu (Mosaic AI, MLflow, LangGraph, DSPy), až po balenie, registráciu v katalógu Unity , nasadenie s deploy() a monitorovanie produkcie. S osvedčenými postupmi, ako sú správne podpisy modelov , bezpečný stav v distribuovaných prostrediach a parametrizovaná konfigurácia, môžete dodať spoľahlivých, riadených agentov pripravených na integráciu do webových aplikácií na platforme.
