- Agent Bricks, AI Playground dhe MLflow mbulojnë gjithçka, nga prototipi deri te vendosja, me qeverisje në Unity Catalog.
- ResponsesAgent sjell transmetim, shumë-agjentë dhe gjurmë të pasura të integruara me MLflow dhe AI Gateway.
- Zbatimi me deploy() krijon pika fundore të sigurta, me ndjekje dhe rishikim në kohë reale.
Ndërtimi i agjentëve të IA-së në Databricks nuk është më domen ekskluziv i profileve ultra-teknike: midis mjediseve vizuale si AI Playground , automatizimit me Agent Bricks dhe kornizave MLflow, tani mund të kaloni nga ideja në prototip dhe nga prototipi në prodhim pa u humbur në proces. Në këtë udhëzues, ne përmbledhim gjithçka që ju nevojitet për të krijuar, vlerësuar dhe vendosur agjentë që thërrasin mjete, kërkojnë të dhëna dhe integrohen me qeverisjen e Unity Catalog.
Përveç eksplorimit të qasjes pa kod dhe zhvillimit në Python, do të mësoni se si të paketoni agjentë me MLflow (ChatAgent dhe ResponsesAgent) , të regjistroni burime në katalog, të aktivizoni monitorimin në kohë reale dhe të shkallëzoni duke përdorur Model Serving. Ne gjithashtu përfshijmë një aplikacion shembull të ndërtuar me React dhe FastAPI për të integruar pa probleme agjentin tuaj në një ndërfaqe web të ndërmarrjes.
Opsione për krijimin e agjentëve në Databricks
Nëse i jepni përparësi shpejtësisë dhe thjeshtësisë, Agent Bricks ofron një rrjedhë pune të automatizuar për ndërtimin e sistemeve të agjentëve me cilësi të lartë, të përshtatura sipas domenit. Ju specifikoni rastin tuaj të përdorimit dhe lidhni të dhënat e Katalogut Unity ; platforma gjeneron variante të agjentëve, optimizon me vlerësim dhe ju lejon të përsosni, të gjitha me qeverisje dhe siguri të integruar.
Kur keni nevojë për kontroll të detajuar dhe dëshironi të ripërdorni biblioteka të njohura, qasja e bazuar në kod kombinon Kornizën e Agjentit Mosaic AI dhe MLflow . Me Python, ju mund të përcaktoni logjikën e agjentëve, të aktivizoni thirrjet e mjeteve, të kryeni gjurmim të detajuar dhe në fund të fundit të paketoni dhe vendosni në prodhim me ekosistemin Databricks.
Nëse përdorni tashmë korniza të palëve të treta, ekziston mbështetje native për LangGraph/ LangChain , LlamaIndex ose implementime të personalizuara të Python. Falë nënshkrimeve të modelit dhe ndërfaqeve të agjentëve të MLflow, mund t'i përfshini ato në aftësitë e vlerësimit dhe monitorimit pa i rishkruar nga e para.
Dëshironi të krijoni prototip me shpejtësinë e rrufesë? Me AI Playground, ju zgjidhni modelin dhe makinën virtuale, shtoni mjete në LLM nëpërmjet një ndërfaqeje me kod të ulët dhe bisedoni për ta validuar. Pastaj, e eksportoni agjentin në kod të gatshëm për prodhim dhe vazhdoni me ciklin standard të zhvillimit.
Nënshkrimet e modelit dhe përputhshmëria me veçoritë e platformës
Azure Databricks përdor nënshkrimet e modelit MLflow për të përshkruar skemën e hyrjes dhe daljes së agjentëve. Karakteristikat e produktit - të tilla si AI Playground ose vlerësimi - kërkojnë që agjenti të përputhet me njërën nga nënshkrimet e mbështetura për të siguruar ndërveprimin.
Nëse ndiqni qasjen e rekomanduar gjatë ndërtimit të agjentit, MLflow automatikisht nxjerr nënshkrimin e përputhshëm pa ndonjë hap shtesë. Përndryshe, verifikoni që implementimi juaj përputhet me njërën nga nënshkrimet në skemën e trashëguar për hyrjen dhe daljen e agjentit, duke shmangur surprizat gjatë integrimit me mjetet Databricks.
Tutorial i Shpejtë: Agjenti i Parë me Kornizën e Agjentëve të AI-së Mosaic
Qëllimi është të krijohet një agjent që arsyeton me një LLM i organizuar në Databricks dhe të jetë në gjendje të ekzekutojë mjete, për shembull funksionin e integruar system.ai.python_exec nga Katalogu i Unity-t për të ekzekutuar kodin Python. Përveç kësaj, ne do të aktivizojmë gjurmimi me MLflow për inspektimin e gjurmëve dhe diagnostikimin.
Kërkesat themelore të hapësirës së punës: aktivizoni veçoritë e agjentit dhe keni qasje në Model ServingNë mjedisin e ekzekutimit, instaloni paketa të tilla si mlflow, databricks-openai dhe agjenti paketues (databricks-agent o databricks-agents(në varësi të udhëzuesit që ndiqni dhe versionit), dhe rinisni Python për të ngarkuar varësitë.
Përcaktoni lidhjen me shërbimin e modelit duke përdorur klientin OpenAI që ekspozon Klienti i hapësirës së punës, aktive mlflow.openai.autolog() për instrumente automatike, dhe regjistron mjetet në dispozicion. Ndër to, system.ai.python_exec Ai shërben si një interpretues Python pa shtetësi dhe i lejon LLM-së të zgjidhë llogaritjet ose të manipulojë të dhënat gjatë dialogut.
Me një funksion si run_agent(), ju dërgoni kërkesën e përdoruesit në pikën fundore të bisedës (Për shembull, një model si «databricks-claude-3-7-sonnet«dhe menaxhoni të mundshmen thirrje për mjete duke i kthyer mesazhet e asistentit dhe përgjigjet e mjetit në një listë koherente.
Për të testuar, ekzekutoni një pyetje që kërkon kod (p.sh., llogaritja e numrit të 100-të Fibonacci ) dhe rishikoni si rezultatin e asistentit ashtu edhe gjurmët e MLflow të regjistruara në fletoren ose eksperimentin përkatës. Kjo do t'ju lejojë të përsosni orkestrimin para paketimit.
I paketuar me MLflow dhe i vendosur në Model Serving
Një mënyrë e rekomanduar për të përgatitur agjentin për prodhim është duke zbatuar ndërfaqen MLflow ChatAgentJu nevojitet një metodë predict() që pranon mesazhe, thërret logjikën e agjentit tuaj dhe kthen një Përgjigje e ChatAgent me listën e mesazheve (duke përfshirë mesazhet e ndërmjetme të shoqëruara me mjetet, nëse është e aplikueshme).
Për të lehtësuar servitutin, konsolidoni të gjithë kodin në një skedar të vetëm Python (për shembull, duke përdorur %%writefile quickstart_agent.py (nëse punoni në laptop). Në pjesën e fundit, telefononi mlflow.models.set_model() duke kaluar instancën e klasës suaj (p.sh., QuickstartAgent) për të vendosur pikë hyrjeje të përfundimit.
Regjistro agjentin në Katalogu i Unitetit me mlflow.pyfunc.log_model, përfshirë burime që do t'ju duhet në prodhim: pika përfundimtare e modelit LLM (p.sh., DatabricksServingEndpoint) dhe funksionet e katalogut që agjenti do të thirrë (p.sh., DatabricksFunction me system.ai.python_execKështu, Databricks mund të Konfiguro vërtetimin për këto burime gjatë vendosjes.
Së fundmi, përdorni API-n e Agjentit për të për të vendosur modeli në një pikë fundore shërbimi: from databricks import agents y agents.deploy(model_name, model_version)Kur të fillojë pika fundore, do të jeni në gjendje të Bisedë nga AI PlaygroundNdani atë me palët e interesuara dhe filloni të mbledhni reagime.
Nëse doni të vazhdoni të përmirësoheni, Databricks ofron udhëzues për matjen e cilësisë së agjentëve , ndërtimin e agjentëve me rikthim (RAG) në të dhëna të pastrukturuara dhe kontrollin e bisedave me shumë kthesa, si dhe alternativa me LangGraph, Python të pastër ose OpenAI.
ResponsesAgent: Ndërfaqja moderne për agjentët e prodhimit
Megjithëse Agjent Chati Funksionon mirë, MLflow e rekomandon sot Agjent Përgjigjesh Për agjentë seriozë. Kjo ndërfaqe është e pajtueshme me skemën. Responses nga OpenAI dhe lejon integrimin e agjentëve nga çdo kornizë me aftësitë e Databricks (regjistrimi, gjurmimi, vlerësimi, vendosja dhe vëzhgueshmëria) pa probleme.
Përparësitë kryesore: mbështetje native për SISTEMAS agjent i shumëfishtë, modaliteti i daljes me kullim, historiku i plotë i mesazheve dhe thirrjeve të mjeteve, konfirmimi i thirrjeve të mjeteve dhe mjete afatgjata. Për më tepër, ofron ndërfaqe të shtypura Në Python, nxjerrja automatike e nënshkrimit, gjurmimi automatik i predict y predict_stream dhe tabela të përmirësuara të përfundimeve nëpërmjet Porta e Inteligjencës Artificiale.
Kërkesat e instalimit për këtë metodë: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (duke përdorur Serverless ose Databricks Runtime 13.3 LTS+). Databricks gjithashtu rekomandon paketat e mëposhtme: Ura e AI-së për integrime të përbashkëta.
Integrime të dobishme: databricks-openai (OpenAI), databricks-langchain (Zhinxhiri i Gjuhës Lang/Grafiku i Gjuhës Lang), databricks-dspy (DSPy) dhe databricks-ai-bridge (Agjentë në Python të pastër). Me këto pjesë mund të ndërtoni çdo gjë, nga agjentë të thjeshtë deri te tubacione komplekse me rikuperim dhe thirrje mjetesh.
Nëse tashmë keni një agjent të integruar, vendoseni atë në një klasë që trashëgon nga mlflow.pyfunc.ResponsesAgentZbatoj predict për të kthyer të dhënat hyrëse dhe dalëse në Skema e ResponsesAgentPër transmetim, mbështetuni te predict_stream, duke emetuar Deltat dhe një ngjarje përfundimtare response.output_item.done Ju lutem shtoni përgjigjen e plotë.
Lidhur me gabimet e transmetimit, Mosaic AI përhap dështimin së bashku me tokenin e fundit brenda databricks_output.errorKlienti juaj duhet ta kapë dhe ta shfaqë atë në mënyrë korrekte, duke përmirësuar përvojë pastrimi.
Sisteme rikuperimi, inpute të personalizuara dhe gjurmueshmëri
Shumë agjentë përdorin ricikluesit për RAG-të mbi indekset vektoriale. Nëse shtrirjet tuaja të rikuperimit ekspozojnë një skemë të ndryshme, mund ta hartëzoni atë me mlflow.models.set_retriever_schemadeklarues primary_key, text_column, doc_uri dhe kolona të tjera. Kështu, AI Playground do të tregojë Lidhje me burime u rikuperua dhe vlerësimi do të zbatohet vlerësuesit e rëndësisë automatikisht.
Në rastet kur agjenti juaj kërkon informacion shtesë (për shembull, lloji_i_klientit o seanca_id), përdor custom_inputs dhe kthen metadatat në custom_outputs që nuk duhet të ndotin historikun e bisedave. Si AI Playground ashtu edhe aplikacioni i rishikimit ju lejojnë të hyni hyrje_të_personalizuara nga UI.
Zbatimi me deploy(), kërkesat dhe veprimet e automatizuara
Për të publikuar agjentin tuaj në Mosaic AI Model Serving, përdorni funksionin deploy() të API-t Python. Në MLflow 3, instaloni mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (nëse e vendosni jashtë fletoreve). Në MLflow 2.x, minimumet ndryshojnë (për shembull, mlflow >= 2.13.1 y databricks-agents >= 0.12.0Sigurohuni Regjistro agjentin në Katalogun e Unity-t para vendosjes.
Telefononi në deploy() ndërtoni një pikë fundore të shkallëzueshme me balancimi automatik, konfiguroni vërtetimi i sigurt për burimet e Databricks (indekset vektoriale, funksionet e katalogut) —kontrollimi i lejeve të pronarit—, dhe aktivizon shqyrtimi i aplikacionit për bashkëpunim me palët e interesuara.
Gjithashtu mundëson monitorim në kohë reale në MLflow (me gjurmë në eksperimentin aktiv dhe në tabelat e përfundimit). Në MLflow 3, monitorimi i prodhimit me vlerësim automatik të cilësisë mund të konfigurohet; kërkesat dhe komentet REST regjistrohen në tabelat e përfundimit (duke përdorur API-të moderne të reagimit).
Për ta personalizuar, kaloni argumentet te deploy() si scale_to_zero_enabled=Trueduke ulur kostot pas ndërprerjes së funksionimit në kurriz të vonesës më të lartë në kërkesën e parë. Përveç kësaj, ju keni shërbime për listoni, merrni dhe fshini vendosjet nëpërmjet API-t të Agjentit.
Praktikat e mira për modelet e gjendjes, konfigurimit dhe ekzekutimit
Shërbimi i modelit shpërndahet: shmangni memorje lokale dhe supozon se përgjigje të ndryshme mund të përballojnë kthesa të ndryshme në një bisedë. Ai rindërton gjendjen nga fjalor i ResponsesAgentRequest në secilin predict dhe ta projektojmë shtetin të jetë fije e sigurt.
Inicializon gjendjen brenda predict dhe jo në konstruktorin e agjentit, pasi një kopje e vetme mund të trajtojë biseda nga përdorues të ndryshëm. Kjo parandalon rrjedhjet e informacionit dhe konfliktet e njëkohshmërisë në mjedise me rendiment të lartë.
Parametrezoni sjelljen e agjentit me ModelConfig (fjalor ose YAML). Përcaktoni, për shembull, model_serving_endpointParametrat LLM dhe shabllonet e prompt; ngarkoni atë konfigurim në zhvillim dhe promovojeni atë në prodhim. pa prekur kodin.
Shmangni futjen e sytheve të ngjarjeve ose kornizave asinkrone në serverin e agjentit: Databricks trajton bashkëveprimin në mënyrë të brendshme . Përdorni kod sinkron ose thirrje mbrapsht; përndryshe, mund të hasni gabime të tilla si "Ky cikli i ngjarjeve është tashmë në ekzekutim" dhe sjellje të çrregullt.
Agent Bricks: automatizimi "pa kod" për të përshpejtuar vlerën
Agent Bricks, i prezantuar në vitin 2025, ofron një rrjedhë pune të krijimit të agjentëve pa probleme që nuk kërkon kodim . Ju e futni detyrën në gjuhë natyrore, lidhni të dhënat tuaja dhe platforma zgjedh modele, gjeneron të dhëna sintetike , vlerëson dhe përsos procesin derisa të ofrojë një agjent të gatshëm për prodhim me qeverisjen e Unity Catalog.
Ndër avantazhet e tij janë automatizimi nga fillimi në fund , shkallëzueshmëria në Databricks —me pika fundore që mund të shkallëzohen në zero pas 3 ditësh mosaktiviteti—, analiza e përdorimit dhe e kostos në Lakehouse dhe llojet e agjentëve të gatshëm (nxjerrja e informacionit, LLM e personalizuar , asistent njohurish dhe mbikëqyrës shumë-agjentësh për orkestrim kompleks).
Kufizimet përfshijnë faktin se kodi i gjeneruar nuk është aktualisht i shkarkueshëm , gjë që zvogëlon personalizimin e thellë, dhe katalogu i shabllonit është i orientuar drejt organizatave që janë tashmë të integruara me Lakehouse dhe Unity Catalog. Disa përdorues gjithashtu gjejnë se metrikave të kostos u mungon detajet .
Shembuj, agjentë me shumë agjentë dhe agjentë me gjendje
Në dokumentacionin zyrtar, do të gjeni fletore me OpenAI (bisedë e thjeshtë dhe thirrje mjetesh, si për modelet Databricks ashtu edhe për ato të hostuara në OpenAI), LangGraph (thirrje mjetesh) dhe DSPy (thirrje mjetesh në një kthesë të vetme). Këto janë themele të shkëlqyera për zgjerimin e funksionalitetit me mjete të personalizuara dhe vlerësime cilësie.
Për të orkestruar specialistë të shumtë, mund të konfiguroni sisteme bashkëpunuese duke përdorur mjete si Genie. Dhe nëse jeni të interesuar në kujtesën e bisedave, ekziston mbështetje për agjentë me gjendje që lejojnë pikat e kontrollit dhe qëndrueshmërinë e fijeve të bisedave.
Në dokumentacionin zyrtar, do të gjeni fletore me OpenAI (bisedë e thjeshtë dhe thirrje mjetesh, si për modelet Databricks ashtu edhe për ato të hostuara në OpenAI), LangGraph (thirrje mjetesh) dhe DSPy (thirrje mjetesh në një kthesë të vetme). Këto janë themele të shkëlqyera për zgjerimin e funksionalitetit me mjete të personalizuara dhe vlerësime cilësie.
Aplikacione në Databricks: Ndërfaqe përdoruesi me React dhe backend në FastAPI
Aplikacionet Databricks ofrojnë një platformë të fuqishme për ofrimin e ndërfaqeve të pasura pa konfiguruar infrastrukturë të jashtme. Ato integrohen në mënyrë native me Databricks SQL, Unity Catalog , Model Serving dhe Jobs, dhe trashëgojnë kontrollet e sigurisë dhe pajtueshmërisë së platformës.
Një model shumë praktik është krijimi i një frontend me React (që mbështet transmetimin, renderimin e mesazheve dhe Markdown UX) dhe një backend me FastAPI që vepron si një urë lidhëse për në pikën fundore të agjentit. Backend-i e drejton kërkesën e përdoruesit në shërbimin e modelit dhe i kthen përgjigjen e strukturuar klientit.
Në FastAPI, rendi i montimit të nën-aplikacioneve është i rëndësishëm: app.mount("/api", api_app) drejton rrugët API (për shembull, /api/chat) Dhe app.mount("/", ui_app) Ai shërben skedarët statikë nga ndërtimi i React në direktorinë rrënjë. Kjo skemë mirëmban qartësia e rrugëve dhe ndan UI nga pikat fundore.
Konfiguroni variablat e mjedisit (p.sh., SERVING_ENDPOINT_NAME ose FQN e modelit të agjentit në Unity Catalog) nga përkufizimi i aplikacionit në Databricks. Kompiloni frontend-in (npm run build), sinkronizon skedarët, deklaron varësitë (requirements.txt) dhe fillon me Gunicorn + Uvicorn punëtorë për ASGI.
Rast real: chatbot për operacionet e prodhimit
Në skenarët e Menaxhimit të Operacioneve të Prodhimit (MOM), një chatbot i Databricks mund të ndihmojë menaxherët e prodhimit me analizën e pengesave , gjurmimin e inventarit dhe gjenerimin e raporteve. Funksionet ekspozohen si mjete në Katalogun Unity (nëpërmjet SQL ose Python) dhe agjenti i thërret ato bazuar në kontekst.
Shembuj: një funksion identify_bottleneck_station Ai ekzekuton pyetje në Databricks SQL për të zbuluar fazën që shkakton më shumë vonesa; një tjetër, check_inventory_levelsAi kthen stokun në kohë reale. Agjenti gjithashtu mund të dërgo email-e, prodhojnë raporte dhe kryejnë analiza të ndjenjës, të gjitha të orkestruara me thirrje mjetesh.
Vendosja e pikës fundore të Model Serving vepron si backend standard . Aplikacioni React e konsumon këtë pikë fundore, duke shfaqur përgjigje në kohë reale me një përvojë të rafinuar përdoruesi dhe duke mbështetur transmetimin e token-ave kur aktivizohet në ResponsesAgent tuaj.
Migrimi nga ChatCompletions dhe përputhshmëria
Nëse agjenti juaj i vjetër përdor API- në ChatCompletions të OpenAI , mund të migroni te ResponsesAgent me një kontejner që përkthen mesazhet hyrëse/dalëse dhe, opsionalisht, harton deltat e transmetimit në ResponsesAgentStreamEvent . Kjo modernizon telemetrinë dhe vëzhgueshmërinë pa rishkruar logjikën thelbësore.
Për të listuar dhe menaxhuar shpërndarjet, API-ja e Agjentit ju lejon të listoni shpërndarjet ekzistuese, të merrni një shpërndarje specifike (sipas emrit dhe versionit) dhe të hiqni pikat fundore që nuk ju nevojiten më. Mos harroni të menaxhoni kredencialet e burimeve të jashtme duke përdorur variablat dhe sekretet e mjedisit.
Databricks ofron një rrugë të plotë: nga ideimi me AI Playground ose automatizimi me Agent Bricks, përmes zhvillimit të kodit (Mosaic AI, MLflow, LangGraph, DSPy), deri te paketimi, regjistrimi në Unity Catalog , vendosja me deploy() dhe monitorimi i prodhimit. Me praktikat më të mira siç janë nënshkrimet e duhura të modelit , gjendja e sigurt në mjediset e shpërndara dhe konfigurimi i parametrizuar, ju mund të ofroni agjentë të besueshëm dhe të qeverisur, të gatshëm për integrim në aplikacionet web në platformë.
