- „Agent Bricks“, „AI Playground“ ir „MLflow“ apima viską nuo prototipo iki diegimo, naudojant „Unity Catalog“ valdymą.
- „ResponsesAgent“ siūlo srautinio perdavimo, kelių agentų ir išsamių sekų funkcijas, integruotas su „MLflow“ ir „AI Gateway“.
- Diegimas naudojant „deploy()“ sukuria saugius galinius taškus su stebėjimu ir peržiūra realiuoju laiku.
Dirbtinio intelekto agentų kūrimas naudojant „Databricks“ nebėra išskirtinė itin techninių profilių sritis: dabar galite pereiti nuo idėjos prie prototipo ir nuo prototipo prie gamybos, naudodami vizualines aplinkas, tokias kaip „DI Playground“ , automatizavimą naudojant „Agent Bricks“ ir „MLflow“ sistemas, nepasiklysdami procese. Šiame vadove apibendriname viską, ko jums reikia norint sukurti, įvertinti ir diegti agentus, kurie iškviečia įrankius, teikia užklausas dėl duomenų ir integruojasi su „Unity Catalog“ valdymu.
Be to, kad susipažinsite su metodu be kodo ir kūrimu Python kalba, sužinosite, kaip supakuoti agentus naudojant MLflow („ChatAgent“ ir „ResponsesAgent“) , registruoti išteklius kataloge, įgalinti stebėjimą realiuoju laiku ir plėsti naudojant „Model Serving“. Taip pat pridedame pavyzdinę programėlę, sukurtą naudojant „React“ ir „FastAPI“ , kad jūsų agentas sklandžiai integruotųsi į įmonės žiniatinklio sąsają.
Agentų kūrimo parinktys „Databricks“ sistemoje
Jei teikiate pirmenybę greičiui ir paprastumui, „Agent Bricks“ teikia automatizuotą darbo eigą aukštos kokybės, su domenu suderintoms agentų sistemoms kurti. Jūs nurodote savo naudojimo atvejį ir prijungiate savo „Unity Catalog“ duomenis ; platforma generuoja agentų variantus, optimizuoja vertindama ir leidžia jums tobulinti, visa tai naudojant integruotą valdymą ir saugumą.
Kai reikia detalaus valdymo ir norite pakartotinai naudoti pažįstamas bibliotekas, kodu pagrįstas metodas apjungia „Mosaic AI Agent Framework“ ir „MLflow“ . Naudodami „Python“, galite apibrėžti agento logiką, įgalinti įrankių iškvietimus, atlikti išsamų stebėjimą ir galiausiai supakuoti bei diegti gamybinėje aplinkoje naudojant „Databricks“ ekosistemą.
Jei jau naudojate trečiųjų šalių sistemas, yra vietinė „LangGraph“ / „LangChain“ , „LlamaIndex“ arba pasirinktinių „Python“ diegimų palaikymo sistema. Dėl „MLflow“ modelių parašų ir agentų sąsajų galite juos prijungti prie vertinimo ir stebėjimo funkcijų neperrašydami nuo nulio.
Norite sukurti prototipą žaibišku greičiu? Naudodami „AI Playground“, pasirenkate modelį ir virtualią mašiną, pridedate įrankius prie LLM per žemo kodo sąsają ir pokalbių metu patvirtinate. Tada eksportuojate agentą į gamybai paruoštą kodą ir tęsiate standartinį kūrimo gyvavimo ciklą.
Modelio parašai ir suderinamumas su platformos funkcijomis
„Azure Databricks“ naudoja „MLflow“ modelio parašus agentų įvesties ir išvesties schemoms aprašyti. Produkto funkcijos, pvz., „AI Playground“ arba vertinimas, reikalauja, kad agentas atitiktų vieną iš palaikomų parašų, kad būtų užtikrintas sąveikumas.
Jei kurdami agentą laikysitės rekomenduojamo metodo, „MLflow“ automatiškai nustatys suderinamą parašą be jokių papildomų veiksmų. Priešingu atveju patikrinkite, ar jūsų diegimas atitinka vieną iš parašų senojoje agento įvesties ir išvesties schemoje , kad išvengtumėte netikėtumų integruodami su „Databricks“ įrankiais.
Trumpa pamoka: pirmasis agentas su „Mosaic AI“ agentų sistema
Tikslas – sukurti agentą, kuris samprotautų su LLM studijos vyko „Databricks“ ir mokėti paleisti įrankius, pavyzdžiui, integruotą funkciją system.ai.python_exec iš „Unity“ katalogo, kad paleistumėte „Python“ kodą. Be to, įgalinsime sekimas naudojant MLflow pėdsakų patikrinimui ir diagnostikai.
Pagrindiniai darbo vietos reikalavimai: įgalinti agento funkcijas ir turėti prieiga prie modelių aptarnavimoVykdymo aplinkoje įdiekite paketus, tokius kaip mlflow, databricks-openai ir agentas pakuotojas (databricks-agent o databricks-agents(priklausomai nuo vadovo, kurio laikotės, ir versijos) ir paleiskite „Python“ iš naujo, kad įkeltumėte priklausomybes.
Apibrėžkite ryšį su modelio paslauga naudodami jos teikiamą „OpenAI“ klientą Darbo vietos klientas, aktyvus mlflow.openai.autolog() automatiniams instrumentams ir registruoja turimus įrankius. Tarp jų, system.ai.python_exec Jis veikia kaip bevalstybinis Python interpretatorius ir leidžia LLM atlikti skaičiavimus arba manipuliuoti duomenimis dialogo metu.
Su tokia funkcija kaip run_agent(), vartotojo raginimą siunčiate į pokalbių galinį tašką (Pavyzdžiui, toks modelis kaip „databricks-claude-3-7-sonetas«ir valdyti įmanoma skambučiai į įrankius pateikiant asistento pranešimus ir įrankio atsakymus nuosekliame sąraše.
Norėdami patikrinti, paleiskite užklausą, kuriai reikalingas kodas (pvz., 100-ojo Fibonačio skaičiaus apskaičiavimas ), ir peržiūrėkite vedlio išvestį bei susijusiame bloknote arba eksperimente užregistruotus MLflow pėdsakus . Tai leis jums patikslinti orkestravimą prieš pakavimą.
Supakuota su MLflow ir įdiegta Model Serving sistemoje
Rekomenduojamas agento paruošimo gamybai būdas yra sąsajos įdiegimas MLflow pokalbių agentasJums reikia metodo predict() kuris priima pranešimus, iškviečia jūsų agento logiką ir grąžina Pokalbių agento atsakymas su pranešimų sąrašu (įskaitant su įrankiais susijusius tarpinius pranešimus, jei taikoma).
Siekiant palengvinti tarnybinį naudojimą, sujunkite visą kodą į vieną Python failą (pavyzdžiui, naudodami %%writefile quickstart_agent.py (jei dirbate nešiojamuoju kompiuteriu). Paskutinėje dalyje skambinkite mlflow.models.set_model() perduodant savo klasės egzempliorių (pvz., QuickstartAgent) nustatyti įėjimo taškas išvados.
Registruokite agentą Vienybės katalogas su mlflow.pyfunc.log_model, įskaitant ištekliai ko jums reikės gamyboje: LLM modelio galinis taškas (pvz., DatabricksServingEndpoint) ir katalogo funkcijas, kurias agentas iškvies (pvz., DatabricksFunction su system.ai.python_execTaigi, duomenų plytos gali Konfigūruoti autentifikavimą šiems ištekliams diegiant.
Galiausiai naudokite agento API, kad dislokuoti modelį į paslaugos galinį tašką: from databricks import agents y agents.deploy(model_name, model_version)Kai prasidės galinis taškas, galėsite Pokalbis iš AI žaidimų aikštelėspasidalykite ja su suinteresuotomis šalimis ir pradėkite rinkti atsiliepimus.
Jei norite toliau tobulėti, „Databricks“ siūlo agentų kokybės matavimo , agentų kūrimo su paieškos (RAG) funkcija nestruktūrizuotuose duomenyse ir daugiapakopių pokalbių valdymo vadovus, taip pat alternatyvas su „LangGraph“, grynuoju „Python“ arba „OpenAI“.
„ResponsesAgent“: moderni sąsaja gamybos agentams
Nors Pokalbių agentas Veikia gerai, MLflow šiandien rekomenduoja Atsakymų agentas Rimtiems agentams. Ši sąsaja suderinama su schema Responses iš „OpenAI“ ir leidžia integruoti agentus iš bet kokia sistema su „Databricks“ galimybėmis (registracija, stebėjimas, vertinimas, diegimas ir stebimumas) be jokių kliūčių.
Pagrindiniai privalumai: vietinė parama systems daugiaagentis, išėjimo režimas transliacijos, visa pranešimų ir įrankių iškvietimų istorija, įrankių iškvietimų patvirtinimas ir ilgaamžiai įrankiai. Be to, siūlo tipizuotos sąsajos Python kalboje automatinis parašo nustatymas, automatinis sekimas predict y predict_stream ir patobulintos išvadų lentelės per DI šliuzas.
Šio metodo diegimo reikalavimai: databricks-agents 1.2.0 +, mlflow 3.1.3 + y „Python 3.10+“ (naudojant „Serverless“ arba „Databricks Runtime 13.3 LTS+“). „Databricks“ taip pat rekomenduoja šiuos paketus: Dirbtinio intelekto tiltas įprastoms integracijoms.
Naudingos integracijos: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) ir databricks-ai-bridge (Agentai gryname Python kalboje). Su šiais elementais galite sukurti bet ką – nuo paprastų agentų iki sudėtingi vamzdynai su atkūrimu ir įrankio iškvietimu.
Jei jau turite integruotą agentą, įtraukite jį į klasę, kuri paveldi iš mlflow.pyfunc.ResponsesAgentĮgyvendinti predict konvertuoti įvestis ir išvestis į ResponsesAgent schemaSrautiniam perdavimui pasikliaukite predict_stream, skleidžiantis deltos ir baigiamasis renginys response.output_item.done Prašome pridėti pilną atsakymą.
Kalbant apie srautinio perdavimo klaidas, „Mosaic AI“ apie klaidą praneša kartu su paskutiniu prieigos raktu. databricks_output.errorJūsų klientas turėtų tai užfiksuoti ir teisingai pateikti, taip pagerindamas apsivalymo patirtis.
Atgavimo sistemos, pasirinktinės sąnaudos ir atsekamumas
Daugelis agentų naudoja perdirbėjai RAG grupėms per vektorinius indeksus. Jei jūsų paieškos diapazonai atskleidžia kitokią schemą, galite ją susieti su mlflow.models.set_retriever_schemadeklaruojantis primary_key, text_column, doc_uri ir kitus stulpelius. Taigi, „AI Playground“ rodys Nuorodos į šaltinius susigrąžinta ir bus taikomas vertinimas aktualumo vertintojai automatiškai.
Tais atvejais, kai jūsų agentui reikia papildomos informacijos (pvz. kliento_tipas o Sesijos ID), naudoja custom_inputs ir grąžina metaduomenis custom_outputs tai neturėtų užteršti pokalbių istorijos. Tiek „AI Playground“, tiek peržiūros programėlė leidžia jums prisijungti pasirinktinės_įvestys iš vartotojo sąsajos.
Diegimas naudojant deploy(), reikalavimus ir automatizuotus veiksmus
Norėdami publikuoti savo agentą „Mosaic AI Model Serving“ sistemoje, naudokite funkciją deploy() „Python“ API. Įdiekite „MLflow 3“ mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (jei diegiate ne nešiojamuosiuose kompiuteriuose). „MLflow 2.x“ versijoje minimalūs reikalavimai pasikeičia (pavyzdžiui, mlflow >= 2.13.1 y databricks-agents >= 0.12.0Įsitikinkite Registruokite agentą Unity kataloge prieš dislokavimą.
Skambinti deploy() sukurti keičiamo dydžio galinį tašką su automatinis balansavimas, sukonfigūruokite saugus autentifikavimas „Databricks“ ištekliams (vektorių indeksams, katalogo funkcijoms) — savininko teisių tikrinimas— ir aktyvuoja peržiūros paraiška bendradarbiavimui su suinteresuotosiomis šalimis.
Tai taip pat leidžia stebėti realiuoju laiku „MLflow“ sistemoje (su pėdsakais aktyviame eksperimente ir išvadų lentelėse). „MLflow 3“ galima konfigūruoti gamybos stebėjimą su automatiniu kokybės vertinimu; REST užklausos ir komentarai registruojami išvadų lentelėse (naudojant modernias grįžtamojo ryšio API).
Norėdami tinkinti, perduokite argumentus deploy() kaip scale_to_zero_enabled=Truesumažinant išlaidas po prastovų didesnio delsos laiko sąskaita, kai gaunamas pirmasis prašymas. Be to, turite komunalines paslaugas, skirtas sąrašas, gauti ir ištrinti diegimai per agento API.
Gera būsenos, konfigūracijos ir vykdymo modelių praktika
Modelio aptarnavimas yra paskirstytas: vengti vietinės talpyklos ir daro prielaidą, kad skirtingi atsakymai gali apdoroti skirtingus pokalbio posūkius. Jis rekonstruoja būseną iš žodynas ResponsesAgentRequest kiekvienoje predict ir suprojektuoti tokią valstybę siūlams atsparus.
Inicializuoja būseną viduje predict o ne agento konstruktoriuje, nes viena kopija galėtų apdoroti skirtingų vartotojų pokalbius. Tai neleidžia informacijos nutekėjimo ir lygiagretumo konfliktus didelio našumo aplinkose.
Parametrizuokite agento elgesį su ModelConfig (žodynas arba YAML). Apibrėžkite, pavyzdžiui, model_serving_endpointLLM parametrai ir raginimų šablonai; įkelkite tą konfigūraciją į kūrimo etapą ir perkelkite ją į gamybos etapą neliesdamas kodo.
Venkite įvykių ciklų arba asinchroninių kadrų įvedimo agento serveryje: „Databricks“ tvarko lygiagretumą viduje . Naudokite sinchroninį kodą arba grįžtamąsias iškvietas; kitaip galite susidurti su klaidomis, tokiomis kaip „Šis įvykių ciklas jau veikia“, ir nepastoviu veikimu.
„Agent Bricks“: automatizavimas be kodo, siekiant pagreitinti vertės augimą
„Agent Bricks“, pristatyta 2025 m., siūlo sklandų agentų kūrimo darbo eigą , kuriai nereikia programavimo . Jūs įvedate užduotį natūralia kalba, sujungiate savo duomenis, o platforma parenka modelius, generuoja sintetinius duomenis , įvertina ir tobulina procesą, kol pateikia gamybai paruoštą agentą su „Unity Catalog“ valdymu.
Tarp privalumų yra visapusiškas automatizavimas , mastelio keitimas „Databricks“ sistemose (kai galiniai taškai gali būti keičiami iki nulio po 3 dienų neaktyvumo), naudojimo ir sąnaudų analizė „Lakehouse“ ir paruoštų agentų tipuose (informacijos išgavimas, pritaikyta LLM , žinių asistentas ir kelių agentų vadovas sudėtingam orkestravimui).
Apribojimai apima tai, kad sugeneruoto kodo šiuo metu negalima atsisiųsti , todėl sumažėja gilaus pritaikymo galimybės, o šablonų katalogas skirtas organizacijoms, kurios jau integruotos su „Lakehouse“ ir „Unity Catalog“. Kai kurie vartotojai taip pat mano, kad sąnaudų metrikoms trūksta detalumo .
Pavyzdžiai, daugiaagentiniai ir būseniniai agentai
Oficialioje dokumentacijoje rasite užrašų knygeles su „OpenAI“ (paprastas pokalbis ir įrankių iškvietimas, skirtas tiek „Databricks“, tiek „OpenAI“ talpinamiems modeliams), „LangGraph“ (įrankių iškvietimas) ir „DSPy“ (įrankių iškvietimas vienu metu). Tai puikus pagrindas funkcionalumo išplėtimui naudojant pasirinktinius įrankius ir kokybės vertinimus.
Norėdami suburti kelis specialistus, galite sukurti bendradarbiaujančias sistemas naudodami tokius įrankius kaip „Genie“. O jei jus domina pokalbių atmintis, palaikomi būsenos agentai, kurie leidžia išlaikyti kontrolinius taškus ir pokalbių gijų išlaikymą.
Oficialioje dokumentacijoje rasite užrašų knygeles su „OpenAI“ (paprastas pokalbis ir įrankių iškvietimas, skirtas tiek „Databricks“, tiek „OpenAI“ talpinamiems modeliams), „LangGraph“ (įrankių iškvietimas) ir „DSPy“ (įrankių iškvietimas vienu metu). Tai puikus pagrindas funkcionalumo išplėtimui naudojant pasirinktinius įrankius ir kokybės vertinimus.
Programėlės „Databricks“ platformoje: vartotojo sąsaja su „React“ ir „FastAPI“ serverio sąsaja
„Databricks“ programos suteikia patikimą platformą, skirtą teikti išsamias sąsajas nekuriant išorinės infrastruktūros. Jos integruotos su „Databricks SQL“, „Unity Catalog“ , „Model Serving“ ir „Jobs“ bei paveldi platformos saugumo ir atitikties valdiklius.
Labai praktiškas modelis yra sukurti priekinę dalį su „React“ (palaikančią srautinį perdavimą, pranešimų perteikimą ir „Markdown UX“) ir vidinę dalį su „FastAPI“ , kuri veiktų kaip tiltas į agento galinį tašką. Vidinė dalis nukreipia vartotojo užklausą į modelio paslaugą ir grąžina struktūrizuotą atsakymą klientui.
„FastAPI“ sistemoje svarbi subprogramų surinkimo tvarka: app.mount("/api", api_app) nukreipia API maršrutus (pavyzdžiui, /api/chat) Ir app.mount("/", ui_app) Jis pateikia statinius failus iš „React“ versijos, esančios šakniniame kataloge. Ši schema palaiko maršrutų aiškumas ir atskiria vartotojo sąsają nuo galinių taškų.
Konfigūruoti aplinkos kintamuosius (pvz., SERVING_ENDPOINT_NAME arba agento modelio FQN Unity kataloge) iš programos apibrėžimo „Databricks“. Sudarykite sąsają (npm run build), sinchronizuoja failus, deklaruoja priklausomybes (requirements.txt) ir prasideda nuo Gunicorn + Uvicorn ASGI darbuotojai.
Realus atvejis: pokalbių robotas gamybos operacijoms
Gamybos operacijų valdymo (MOM) scenarijuose „Databricks“ pokalbių robotas gali padėti gamybos vadovams analizuoti kliūtis , stebėti atsargas ir generuoti ataskaitas. Funkcijos pateikiamos kaip įrankiai „Unity“ kataloge (per SQL arba Python), o agentas jas iškviečia pagal kontekstą.
Pavyzdžiai: funkcija identify_bottleneck_station Jis vykdo užklausas „Databricks SQL“, kad aptiktų etapą, kuris sukelia daugiausia vėlavimų; kitas, check_inventory_levelsGrąžina informaciją apie atsargas realiuoju laiku. Agentas taip pat gali siųsti el. laiškus, rengti ataskaitas ir atlikti nuotaikų analizę, visa tai suderinta su įrankių iškvietimais.
„Model Serving“ galinio taško diegimas veikia kaip standartinė vidinė sistema . „React“ programa naudoja šį galinį tašką, rodydama atsakymus realiuoju laiku su nepriekaištinga naudotojo patirtimi ir palaikydama žetonų srautinį perdavimą, kai tai įjungta jūsų „ResponsesAgent“.
Migracija iš „ChatCompletions“ ir suderinamumas
Jei jūsų senasis agentas naudoja „OpenAI“ „ChatCompletions “ API , galite pereiti prie „ResponsesAgent“ su konteineriu, kuris verčia gaunamus / siunčiamus pranešimus ir, pasirinktinai, susieja srautinius deltus su „ResponsesAgentStreamEvent“ . Tai modernizuoja telemetriją ir stebimumą neperrašant pagrindinės logikos.
Diegimų sąrašui ir valdymui agento API leidžia išvardyti esamus diegimus, gauti konkretų diegimą (pagal pavadinimą ir versiją) ir pašalinti nebereikalingus galinius taškus. Nepamirškite valdyti išorinių išteklių kredencialų naudodami aplinkos kintamuosius ir slaptus raktus.
„Databricks“ siūlo visą kelią: nuo idėjų generavimo naudojant „AI Playground“ arba automatizavimo naudojant „Agent Bricks“, per kodo kūrimą („Mosaic AI“, „MLflow“, „LangGraph“, „DSPy“) iki pakavimo, registracijos „Unity Catalog“ , diegimo naudojant „deploy()“ ir gamybos stebėjimo. Naudodami geriausią praktiką, tokią kaip tinkami modelio parašai , saugi būsena paskirstytose aplinkose ir parametruota konfigūracija, galite pateikti patikimus, valdomus agentus, paruoštus integravimui į platformos žiniatinklio programas.
