- Agent Bricks, AI Playground ja MLflow hõlmavad kõike alates prototüübist kuni juurutamiseni koos Unity kataloogi haldamisega.
- ResponsesAgent pakub voogedastust, mitme agendi tuge ja rikkalikke jälgi, mis on integreeritud MLflow ja AI Gatewayga.
- Funktsiooniga deploy() juurutamine loob turvalised lõpp-punktid koos reaalajas jälgimise ja ülevaatusega.
Tehisintellekti agentide loomine Databricksis ei ole enam ainult ülitehniliste profiilide pärusmaa: visuaalsete keskkondade (nt tehisintellekti mänguväljak) , agentide tellistega automatiseerimise ja MLflow raamistike kaudu saate nüüd liikuda ideest prototüübini ja prototüübist tootmiseni ilma protsessis ära eksima. Selles juhendis koondame kõik, mida vajate tööriistadele helistavate, andmeid pärivate ja Unity Catalogiga integreeruvate agentide loomiseks, hindamiseks ja juurutamiseks.
Lisaks koodita lähenemisviisi ja Pythoni arenduse uurimisele saate teada, kuidas agente MLflow'ga (ChatAgent ja ResponsesAgent) pakendada , ressursse kataloogis registreerida, reaalajas jälgimist lubada ja Model Servingi abil skaleerida. Lisame ka Reacti ja FastAPI-ga loodud näidisrakenduse , et teie agent sujuvalt ettevõtte veebiliidesesse integreerida.
Agentide loomise valikud Databricksis
Kui teie prioriteet on kiirus ja lihtsus, pakub Agent Bricks automatiseeritud töövoogu kvaliteetsete ja domeeniga joondatud agentsüsteemide loomiseks. Teie määrate oma kasutusjuhtumi ja ühendate oma Unity kataloogi andmed ; platvorm genereerib agentide variante, optimeerib hindamise abil ja võimaldab teil täiustada, seda kõike sisseehitatud halduse ja turvalisusega.
Kui vajate detailset kontrolli ja soovite taaskasutada tuttavaid teeke, ühendab koodipõhine lähenemisviis Mosaic AI agendi raamistiku ja MLflow . Pythoni abil saate defineerida agendi loogikat, lubada tööriistakõnesid, teostada üksikasjalikku jälgimist ning lõpuks pakendada ja juurutada tootmiskeskkonda Databricksi ökosüsteemi abil.
Kui te juba kasutate kolmanda osapoole raamistikke, on olemas natiivne tugi LangGraphile/ LangChainile , LlamaIndexile või kohandatud Pythoni implementatsioonidele. Tänu MLflow mudeli signatuuridele ja agendi liidestele saate need hindamis- ja jälgimisvõimalustega ühendada ilma nullist ümber kirjutamata.
Kas soovid välgukiirusel prototüüpi luua? AI Playgroundiga valid mudeli ja virtuaalmasina, lisad LLM-ile tööriistad madala koodiga liidese kaudu ja vestled valideerimiseks. Seejärel ekspordid agendi tootmisvalmis koodiks ja jätkad standardse arendustsükliga.
Mudeli signatuurid ja ühilduvus platvormi funktsioonidega
Azure Databricks kasutab agentide sisend- ja väljundskeemi kirjeldamiseks MLflow mudeli signatuure . Tootefunktsioonid – näiteks tehisintellekti mänguväljak või hindamine – nõuavad agendi vastavust ühele toetatud signatuuridest, et tagada koostalitlusvõime.
Kui järgite agendi loomisel soovitatud lähenemisviisi, järeldab MLflow automaatselt ühilduva allkirja ilma igasuguste lisatoiminguteta. Vastasel juhul veenduge, et teie implementatsioon vastab ühele agendi sisendi ja väljundi pärandskeemi allkirjadest , vältides üllatusi Databricksi tööriistadega integreerimisel.
Kiire õpetus: esimene agent Mosaic AI agendiraamistikuga
Eesmärk on luua agent, kes arutleb a abil LLM, mida võõrustatakse Databricksis ja oskama käivitada tööriistu, näiteks sisseehitatud funktsiooni system.ai.python_exec Unity kataloogist Pythoni koodi käivitamiseks. Lisaks lubame jälgimine MLflow'ga jälgede kontrollimiseks ja diagnostikaks.
Tööruumi põhinõuded: agendi funktsioonide lubamine ja omamine juurdepääs modelliteeninduseleKäituskeskkonnas installige pakette, näiteks mlflow, databricks-openai ja agent pakkija (databricks-agent o databricks-agents(sõltuvalt järgitavast juhendist ja versioonist) ning taaskäivitage Python sõltuvuste laadimiseks.
Määrake ühendus modelliteenusega, kasutades selleks OpenAI klienti, mille see avaldab. Tööruumi klient, aktiivne mlflow.openai.autolog() automaatsete instrumentide jaoks ja registreerib olemasolevad tööriistad. Nende hulgas on system.ai.python_exec See toimib olekuta Pythoni interpretaatorina ja võimaldab LLM-il dialoogi ajal arvutusi lahendada või andmeid manipuleerida.
Sellise funktsiooniga nagu run_agent(), saadate kasutaja viiba vestluse lõpp-punkti (Näiteks selline mudel nagu «databricks-claude-3-7-sonett«ja hallata võimalikku tööriistade kõned assistendi sõnumite ja tööriista vastuste tagastamine sidusas loendis.
Testimiseks käivitage päring, mis nõuab koodi (nt 100. Fibonacci arvu arvutamine ) ja vaadake üle nii viisardi väljund kui ka seotud märkmikusse või katsesse logitud MLflow jäljed . See võimaldab teil enne pakendamist orkestreerimist täpsustada.
Pakendatud MLflow'ga ja juurutatud Model Servingus
Agendi tootmiseks ettevalmistamise soovitatav viis on liidese rakendamine. MLflow vestlusagentTeil on vaja meetodit predict() mis võtab vastu sõnumeid, kutsub teie agendi loogikat ja tagastab Vestlusagendi vastus sõnumite loendiga (sh tööriistadega seotud vahesõnumid, kui need on kohaldatavad).
Servituudi hõlbustamiseks koondage kogu kood ühte Pythoni faili (näiteks kasutades %%writefile quickstart_agent.py (kui töötate sülearvutiga). Viimases osas helistage mlflow.models.set_model() oma klassi eksemplari edastamine (nt QuickstartAgent) kehtestama sisenemispunkt järeldus.
Registreeri agent sisse Ühtsuse kataloog koos mlflow.pyfunc.log_model, kaasa arvatud ressursside mida vajate tootmises: LLM-mudeli lõpp-punkt (nt DatabricksServingEndpoint) ja kataloogifunktsioonid, mida agent kutsub esile (nt DatabricksFunction koos system.ai.python_execSeega saavad Databricksid Autentimise seadistamine nende ressursside jaoks juurutamisel.
Lõpuks kasutage agendi API-t, et juurutamiseks mudeli teenuse lõpp-punktini: from databricks import agents y agents.deploy(model_name, model_version)Kui lõpp-punkt algab, saate Vestlus tehisintellekti mänguväljakultjaga seda huvilistega ja hakka tagasisidet koguma.
Kui soovite jätkuvalt täiustada, pakub Databricks juhendeid agentide kvaliteedi mõõtmiseks , struktureerimata andmetel otsingu (RAG) abil agentide loomiseks ja mitmepöördeliste vestluste juhtimiseks, aga ka alternatiive LangGraphi, puhta Pythoni või OpenAI abil.
ResponsesAgent: Moodne liides tootmisagentidele
Kuigi Vestlusagent See toimib hästi, MLflow soovitab seda täna Vastusteagent Tõsistele agentidele. See liides ühildub skeemiga Responses OpenAI-st ja võimaldab agentide integreerimist mis tahes raamistik Databricksi võimalustega (registreerimine, jälgimine, hindamine, juurutamine ja jälgitavus) ilma hõõrdumisteta.
Peamised eelised: natiivne tugi järgmistele sistemas mitme agendiga, väljumisrežiim streaming, sõnumite ja tööriistakutsete täielik ajalugu, tööriistakutsete kinnitus ja kauakestvad tööriistad. Lisaks pakub see tüüpitud liidesed Pythonis automaatne signatuuride tuletamine, automaatne jälgimine predict y predict_stream ja täiustatud järeldustabeleid Tehisintellekti värav.
Selle lähenemisviisi paigaldusnõuded: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (kasutades Serverlessi või Databricks Runtime 13.3 LTS+). Databricks soovitab ka järgmisi pakette: Tehisintellekti sild tavaliste integratsioonide jaoks.
Kasulikud integratsioonid: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) ja databricks-ai-bridge (Agendid puhtas Pythonis). Nende tükkidega saate luua kõike alates lihtsatest agentidest kuni keerulised torujuhtmed taastamise ja tööriistakõnega.
Kui sul on juba sisseehitatud agent, siis mässi see klassi, mis pärib järgmiselt: mlflow.pyfunc.ResponsesAgentRakenda predict sisendite ja väljundite teisendamiseks VastusteAgendi skeemStriimimise jaoks toetuge predict_stream, kiirgavad deltad ja viimane sündmus response.output_item.done Palun lisage täielik vastus.
Voogedastuse vigade osas levitab Mosaic AI vea koos viimase märgiga databricks_output.errorTeie klient peaks selle õigesti jäädvustama ja kuvama, parandades puhastuskogemus.
Taaskasutussüsteemid, kohandatud sisendid ja jälgitavus
Paljud agendid kasutavad taaskasutus RAG-ide puhul vektorindeksite kohal. Kui teie otsinguulatused paljastavad teistsuguse skeemi, saate selle vastendada mlflow.models.set_retriever_schemadeklareerimine primary_key, text_column, doc_uri ja muud veerud. Seega kuvatakse tehisintellekti mänguväljakul Lingid allikatele taastunud ja hindamine rakendatakse asjakohasuse hindajad automaatselt.
Juhtudel, kui teie esindaja vajab lisateavet (näiteks kliendi_tüüp o SESSION_ID), kasutab custom_inputs ja tagastab metaandmed custom_outputs mis ei tohiks vestlusajalugu saastata. Nii tehisintellekti mänguväljak kui ka arvustusrakendus võimaldavad teil siseneda kohandatud_sisendid kasutajaliidesest.
Juurutamine funktsiooniga deploy(), nõuded ja automatiseeritud toimingud
Oma agendi avaldamiseks Mosaic AI Model Servingus kasutage funktsiooni deploy() Pythoni API-st. Installige MLflow 3-s mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (kui juurutate väljaspool märkmikke). MLflow 2.x-s miinimumnõuded muutuvad (näiteks mlflow >= 2.13.1 y databricks-agents >= 0.12.0Veenduge Registreeri agent Unity kataloogis enne juurutamist.
Helistama deploy() luua skaleeritav lõpp-punkt koos automaatne tasakaalustamine, seadistage turvaline autentimine Databricksi ressursside (vektorindeksid, kataloogifunktsioonid) jaoks — omaniku õiguste kontrollimine— ja aktiveerib läbivaatamise taotlus koostööks sidusrühmadega.
See võimaldab ka reaalajas jälgimist MLflow's (jälgedega aktiivses eksperimendis ja järeldustabelites). MLflow 3-s saab konfigureerida tootmise jälgimist automaatse kvaliteedihindamisega; REST-päringud ja kommentaarid logitakse järeldustabelitesse ( kasutades kaasaegseid tagasiside API-sid).
Kohandamiseks edastage argumendid kasutajale deploy() kui scale_to_zero_enabled=Truevähendades kulusid pärast seisakuid esimese päringu suurema latentsuse arvelt. Lisaks on teil kommunaalteenused loetle, hangi ja kustuta juurutused agendi API kaudu.
Head tavad oleku, konfiguratsiooni ja teostusmustrite jaoks
Mudeli serveerimine on hajutatud: vältige kohalikud vahemälud ja eeldab, et erinevad vastused suudavad vestluses erinevaid pöördeid käsitleda. See rekonstrueerib oleku sõnaraamat ResponsesAgentRequest igas predict ja kujundage riik selliseks, nagu see on niit ohutu.
Initsialiseerib oleku sees predict ja mitte agendi konstruktoris, kuna üks koopia saaks käsitleda erinevate kasutajate vestlusi. See hoiab ära infolekked ja samaaegsuse konfliktid suure läbilaskevõimega keskkondades.
Parameetriseeri agendi käitumist järgmiselt: ModelConfig (sõnastik või YAML). Defineeri näiteks model_serving_endpointLLM-i parameetrid ja päringumallid; laadige see konfiguratsioon arendusse ja edastage see tootmiskeskkonda koodi puudutamata.
Vältige agendiserveris sündmuste tsüklite või asünkroonsete raamide lisamist: Databricks käsitleb samaaegsust sisemiselt . Kasutage sünkroonset koodi või tagasihelistusi; vastasel juhul võivad ilmneda vead, näiteks "See sündmuste tsükkel juba töötab", ja ebakindel käitumine.
Agent Bricks: koodita automatiseerimine väärtuse suurendamiseks
2025. aastal turule toodud Agent Bricks pakub sujuvat agentide loomise töövoogu , mis ei vaja kodeerimist . Sisestate ülesande loomulikus keeles, ühendate oma andmed ja platvorm valib mudelid, genereerib sünteetilisi andmeid , hindab ja täpsustab protsessi, kuni see annab Unity Catalog'i haldusega tootmisvalmis agendi.
Selle eeliste hulka kuuluvad otsast lõpuni automatiseerimine , skaleeritavus Databricksis – lõpp-punktidega, mis saavad pärast 3-päevast tegevusetust nullini skaleeruda –, kasutus- ja kuluanalüüs Lakehouse'i ja valmisagentide tüüpidel (teabe ekstraheerimine, kohandatud LLM , teadmusassistent ja mitme agendiga juhendaja keerukaks orkestreerimiseks).
Piirangute hulka kuulub asjaolu, et genereeritud koodi ei saa praegu alla laadida , mis vähendab põhjalikku kohandamist, ning mallikataloog on suunatud organisatsioonidele, mis on juba Lakehouse'i ja Unity Catalogiga integreeritud. Mõned kasutajad leiavad ka, et kulumõõdikud ei ole detailsed .
Näited, mitmeagendid ja olekuga agendid
Ametlikust dokumentatsioonist leiate märkmikud OpenAI-ga (lihtne vestlus ja tööriistakõned nii Databricksi kui ka OpenAI hostitud mudelite jaoks), LangGraphiga (tööriista kutsumine) ja DSPy-ga (tööriistakõned ühe korraga). Need on suurepärased alused funktsionaalsuse laiendamiseks kohandatud tööriistade ja kvaliteedihindamistega.
Mitme spetsialisti koordineerimiseks saate luua koostöös tegutsevaid süsteeme , kasutades selliseid tööriistu nagu Genie. Ja kui olete huvitatud vestlusmälust, on olemas tugi olekuga agentidele, mis võimaldavad kontrollpunkte ja vestluslõimede püsivust.
Ametlikust dokumentatsioonist leiate märkmikud OpenAI-ga (lihtne vestlus ja tööriistakõned nii Databricksi kui ka OpenAI hostitud mudelite jaoks), LangGraphiga (tööriista kutsumine) ja DSPy-ga (tööriistakõned ühe korraga). Need on suurepärased alused funktsionaalsuse laiendamiseks kohandatud tööriistade ja kvaliteedihindamistega.
Databricksi rakendused: kasutajaliides Reactiga ja taustsüsteem FastAPI-s
Databricksi rakendused pakuvad tugevat platvormi rikkalike liideste pakkumiseks ilma välise infrastruktuuri seadistamiseta. Need integreeruvad natiivselt Databricksi SQL-i, Unity Catalog'i , Model Serving'i ja Jobs'iga ning pärivad platvormi turvalisuse ja vastavuse kontrollimeetmed.
Väga praktiline muster on luua Reactiga esiots (mis toetab voogedastust, sõnumite renderdamist ja Markdown UX-i) ja FastAPI -ga tagaots , mis toimib sillana agendi lõpp-punktiga. Tagaots suunab kasutaja päringu modelliteenusele ja tagastab struktureeritud vastuse kliendile.
FastAPI-s on alamrakenduste kokkupanekujärjekord oluline: app.mount("/api", api_app) suunab API marsruute (näiteks /api/chat) Ja app.mount("/", ui_app) See teenindab Reacti ehituse staatilisi faile juurkataloogis. See skeem säilitab marsruutide selgus ja eraldab kasutajaliidese lõpp-punktidest.
Keskkonnamuutujate seadistamine (nt SERVING_ENDPOINT_NAME või agendi mudeli FQN-i Unity kataloogis) Databricksi rakenduse definitsioonist. Kompileerige esiots (npm run build), sünkroniseerib faile, deklareerib sõltuvusi (requirements.txt) ja algab Gunicorn + Uvicorn ASGI töötajad.
Tegelik juhtum: tootmisoperatsioonide vestlusrobot
Tootmisoperatsioonide juhtimise (MOM) stsenaariumides saab Databricksi vestlusrobot abistada tootmisjuhte kitsaskohtade analüüsi , varude jälgimise ja aruannete genereerimisega. Funktsioonid on tööriistadena avaldatud Unity kataloogis (SQL-i või Pythoni kaudu) ja agent käivitab need konteksti põhjal.
Näited: funktsioon identify_bottleneck_station See käivitab päringuid Databricksi SQL-is, et tuvastada etapp, mis põhjustab kõige rohkem viivitusi; teine, check_inventory_levelsSee tagastab reaalajas laoseisu. Agent saab ka saata e-kirju, koostada aruandeid ja teha sentimentaalseid analüüse, mida kõike juhitakse tööriistakõnede abil.
Model Serving endpointi juurutamine toimib standardse taustaprogrammina . Reacti rakendus kasutab seda lõpp-punkti, kuvades reaalajas vastuseid viimistletud kasutajakogemusega ja toetades tokenite voogesitust, kui see on teie ResponsesAgentis lubatud.
Migratsioon vestluse lõpetamistest ja ühilduvus
Kui teie pärandagent kasutab OpenAI ChatCompletions API-t , saate migreerida ResponsesAgenti konteineriga, mis tõlgib sissetulevaid/väljaminevaid sõnumeid ja valikuliselt kaardistab voogedastusdeltad ResponsesAgentStreamEventiga . See kaasajastab telemeetriat ja jälgitavust ilma põhiloogikat ümber kirjutamata.
Juurutuste loetlemiseks ja haldamiseks võimaldab agendi API loetleda olemasolevaid juurutusi, tuua üles konkreetse juurutuse (nime ja versiooni järgi) ning eemaldada lõpp-punkte, mida te enam ei vaja. Ärge unustage hallata väliste ressursside mandaate keskkonnamuutujate ja saladuste abil.
Databricks pakub terviklikku teed: ideede genereerimisest AI Playgroundiga või automatiseerimisest Agent Bricksiga, koodi arendamise (Mosaic AI, MLflow, LangGraph, DSPy) kaudu pakkimiseni, registreerimiseni Unity kataloogis , juurutamiseni deploy() abil ja tootmise jälgimiseni. Parimate tavade, näiteks õigete mudeliallkirjade , turvalise oleku hajutatud keskkondades ja parameetrilise konfigureerimise abil saate pakkuda usaldusväärseid ja hallatavaid agente, mis on valmis platvormi veebirakendustesse integreerimiseks.
