Implementacija agentov umetne inteligence s Databricksi: popoln praktični vodnik

Informatec Digital » Viri » Implementacija agentov umetne inteligence s Databricksi: popoln praktični vodnik

Gradnja agentov umetne inteligence v Databricksu ni več izključna domena ultratehničnih profilov: z vizualnimi okolji, kot je AI Playground , avtomatizacijo z Agent Bricks in ogrodji MLflow lahko zdaj preidete od ideje do prototipa in od prototipa do produkcije, ne da bi se v procesu izgubili. V tem priročniku strnjujemo vse, kar potrebujete za ustvarjanje, vrednotenje in uvajanje agentov, ki kličejo orodja, poizvedujejo po podatkih in se integrirajo z upravljanjem kataloga Unity.

Poleg raziskovanja pristopa brez kodiranja in razvoja v Pythonu se boste naučili, kako zapakirati agente z MLflow (ChatAgent in ResponsesAgent) , registrirati vire v katalogu, omogočiti spremljanje v realnem času in skalirati z uporabo Model Serving. Vključujemo tudi vzorčno aplikacijo, zgrajeno z Reactom in FastAPI, za brezhibno integracijo vašega agenta v spletni vmesnik podjetja.

Možnosti za ustvarjanje agentov v Databricksu

Če dajete prednost hitrosti in preprostosti, Agent Bricks ponuja avtomatiziran potek dela za gradnjo visokokakovostnih, domensko usklajenih sistemov agentov. Določite svoj primer uporabe in povežete podatke kataloga Unity ; platforma ustvari različice agentov, optimizira z vrednotenjem in vam omogoča izboljšave, vse z vgrajenim upravljanjem in varnostjo.

Ko potrebujete podroben nadzor in želite ponovno uporabiti znane knjižnice, pristop, ki temelji na kodi, združuje ogrodje Mosaic AI Agent Framework in MLflow . S Pythonom lahko definirate logiko agenta, omogočite klice orodij, izvedete podrobno sledenje in na koncu zapakirate ter namestite v produkcijo z ekosistemom Databricks.

Če že uporabljate ogrodja drugih ponudnikov, je na voljo izvorna podpora za LangGraph/ LangChain , LlamaIndex ali implementacije Pythona po meri. Zahvaljujoč podpisom modelov in vmesnikom agentov MLflow jih lahko vključite v zmogljivosti ocenjevanja in spremljanja, ne da bi jih morali prepisovati od začetka.

Želite ustvarjati prototipe z bliskovito hitrostjo? Z AI Playground izberete model in virtualni stroj, dodate orodja v LLM prek vmesnika z nizko kodo in se pogovorite za preverjanje. Nato izvozite agenta v kodo, pripravljeno za produkcijo , in nadaljujete s standardnim življenjskim ciklom razvoja.

Podpisi modelov in združljivost s funkcijami platforme

Azure Databricks uporablja podpise modela MLflow za opis vhodne in izhodne sheme agentov. Funkcije izdelka – kot sta igrišče AI ali ocenjevanje – zahtevajo, da agent ustreza enemu od podprtih podpisov, da se zagotovi interoperabilnost.

Če pri gradnji agenta sledite priporočenemu pristopu, MLflow samodejno sklepa o združljivem podpisu brez dodatnih korakov. V nasprotnem primeru preverite, ali je vaša implementacija skladna z enim od podpisov v starejši shemi za vhodne in izhodne podatke agenta, s čimer se izognete presenečenjem pri integraciji z orodji Databricks.

Hiter vodič: Prvi agent z ogrodjem agentov Mosaic AI

Cilj je ustvariti agenta, ki sklepa z LLM, ki ga gosti Databricks in biti sposoben zagnati orodja, na primer vgrajeno funkcijo system.ai.python_exec iz kataloga Unity za zagon kode Python. Poleg tega bomo omogočili sledenje z MLflow za pregled sledi in diagnostiko.

Osnovne zahteve za delovni prostor: omogočite funkcije agenta in imejte dostop do strežbe modelovV izvajalnem okolju namestite pakete, kot so mlflow, databricks-openai in program za pakiranje agentov (databricks-agent o databricks-agents(odvisno od vodnika, ki mu sledite, in različice) in znova zaženite Python, da naložite odvisnosti.

Določite povezavo s storitvijo modela z uporabo odjemalca OpenAI, ki ga ta izpostavi. Odjemalec delovnega prostora, aktivno mlflow.openai.autolog() za avtomatsko instrumentacijo in beleži razpoložljiva orodja. Med njimi so, system.ai.python_exec Služi kot interpreter Pythona brez stanja in omogoča LLM-ju reševanje izračunov ali manipuliranje s podatki med dialogom.

S funkcijo, kot je run_agent(), pošljete uporabnikov poziv končni točki klepeta (Na primer, model, kot je «podatkovne-opeke-claude-3-7-sonnet«in upravljati mogoče klici orodij vračanje sporočil pomočnika in odgovorov orodja v koherentnem seznamu.

Za testiranje zaženite poizvedbo, ki zahteva kodo (npr. izračun 100. Fibonaccijevega števila ), in preglejte tako izhod čarovnika kot sledi MLflow , zabeležene v povezanem zvezku ali poskusu. To vam bo omogočilo, da pred pakiranjem izboljšate orkestracijo.

Pakirano z MLflow in nameščeno v Model Serving

Priporočen način za pripravo agenta za produkcijo je implementacija vmesnika MLflow ChatAgentPotrebujete metodo predict() ki sprejema sporočila, kliče logiko vašega agenta in vrne Odgovor agenta za klepet s seznamom sporočil (vključno z vmesnimi sporočili, povezanimi z orodji, če je to primerno).

Za lažjo uporabo strogosti združite vso kodo v eno samo datoteko Python (na primer z uporabo %%writefile quickstart_agent.py (če delate na prenosniku). V zadnjem delu pokličite mlflow.models.set_model() podajanje instance vašega razreda (npr. QuickstartAgent) za vzpostavitev vstopna točka sklepanja.

Registrirajte agenta v Katalog enotnosti z mlflow.pyfunc.log_model, vključno sredstva ki jih boste potrebovali v produkciji: končno točko modela LLM (npr. DatabricksServingEndpoint) in funkcije kataloga, ki jih bo agent poklical (npr. DatabricksFunction z system.ai.python_execTako lahko Databricks Konfiguriraj preverjanje pristnosti za te vire pri uvajanju.

Nazadnje uporabite API agenta za razporediti model do končne točke storitve: from databricks import agents y agents.deploy(model_name, model_version)Ko se končna točka zažene, boste lahko Klepet iz igrišča AIdelite ga z zainteresiranimi in začnite zbirati povratne informacije.

Če želite še naprej izboljševati, Databricks ponuja vodnike za merjenje kakovosti agentov , gradnjo agentov z iskanjem (RAG) na nestrukturiranih podatkih in nadzor večobratnih pogovorov, pa tudi alternative z LangGraphom, čistim Pythonom ali OpenAI.

ResponsesAgent: Sodoben vmesnik za produkcijske agente

Čeprav Klepetalni agent Deluje dobro, MLflow ga priporoča še danes. ResponsesAgent Za resne agente. Ta vmesnik je združljiv s shemo Responses iz OpenAI in omogoča integracijo agentov iz kateri koli okvir z zmogljivostmi Databricksa (registracija, sledenje, vrednotenje, uvajanje in opazovalnost) brez trenja.

Ključne prednosti: izvorna podpora za SISTEMAS večagentni, izhod iz načina pretakanje, celotna zgodovina sporočil in klicev orodij, potrditev klicev orodij in dolgo obstojna orodja. Poleg tega ponuja tipizirani vmesniki V Pythonu, samodejno sklepanje podpisov, samodejno sledenje predict y predict_stream in izboljšane tabele sklepanja prek AI Gateway.

Zahteve za namestitev za ta pristop: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (z uporabo Serverless ali Databricks Runtime 13.3 LTS+). Databricks priporoča tudi naslednje pakete: Most umetne inteligence za skupne integracije.

Koristne integracije: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) in databricks-ai-bridge (Agenti v čistem Pythonu). S temi deli lahko zgradite karkoli od preprostih agentov do kompleksni cevovodi z obnovitvijo in klicem orodja.

Če že imate vgrajenega agenta, ga zavijte v razred, ki deduje od mlflow.pyfunc.ResponsesAgentIzvedite predict pretvoriti vhode in izhode v Shema agenta za odgovoreZa pretakanje se zanašajte na predict_stream, oddaja delte in zaključni dogodek response.output_item.done Prosim, dodajte celoten odgovor.

Kar zadeva napake pri pretakanju, Mosaic AI širi napako skupaj z zadnjim žetonom znotraj databricks_output.errorVaša stranka bi morala to pravilno zajeti in prikazati, s čimer bi izboljšala izkušnja čiščenja.

Sistemi za obnovitev, prilagojeni vnosi in sledljivost

Mnogi agenti uporabljajo recikliranje za RAG-ove nad vektorskimi indeksi. Če vaši razponi iskanja razkrijejo drugačno shemo, jo lahko preslikate z mlflow.models.set_retriever_schemarazglasitev primary_key, text_column, doc_uri in druge stolpce. Tako bo AI Playground prikazal Povezave do virov izterjano in veljala bo ocena ocenjevalci ustreznosti samodejno.

V primerih, ko vaš agent potrebuje dodatne informacije (npr. vrsta_odjemalca o ID seje), uporablja custom_inputs in vrne metapodatke v custom_outputs ki ne sme onesnažiti zgodovine klepeta. Tako AI Playground kot aplikacija za preglede vam omogočata vstop vnosi po meri iz uporabniškega vmesnika.

Uvajanje z deploy(), zahtevami in avtomatiziranimi dejanji

Če želite objaviti svojega agenta na Mosaic AI Model Serving, uporabite funkcijo deploy() API-ja Python. V MLflow 3 namestite mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (če uvajate zunaj zvezkov). V MLflow 2.x se minimalne vrednosti spremenijo (na primer mlflow >= 2.13.1 y databricks-agents >= 0.12.0Prepričajte se Registrirajte agenta v katalogu Unity pred namestitvijo.

Pokliči na deploy() zgradite skalabilno končno točko z samodejno uravnoteženje, konfigurirajte varno preverjanje pristnosti za vire Databricks (vektorski indeksi, funkcije kataloga) – preverjanje dovoljenj lastnika – in aktivira pregled vloge za sodelovanje z deležniki.

Omogoča tudi spremljanje v realnem času v MLflow (s sledmi v aktivnem eksperimentu in v tabelah sklepanja). V MLflow 3 je mogoče konfigurirati spremljanje produkcije z avtomatsko oceno kakovosti; zahteve REST in komentarji se beležijo v tabelah sklepanja (z uporabo sodobnih API-jev za povratne informacije).

Za prilagoditev posredujte argumente deploy() kot scale_to_zero_enabled=Truezmanjšanje stroškov po izpadu na račun večje zakasnitve pri prvi zahtevi. Poleg tega imate na voljo pripomočke za seznam, pridobivanje in brisanje uvajanja prek API-ja agenta.

Dobre prakse za vzorce stanja, konfiguracije in izvajanja

Modelno streženje je porazdeljeno: izogibajte se lokalni predpomnilniki in predpostavlja, da lahko različni odgovori obravnavajo različne obrate v pogovoru. Rekonstruira stanje iz slovar ResponsesAgentRequest v vsakem predict in oblikovati državo, ki bo varno za več niti.

Inicializira stanje znotraj predict in ne v konstruktorju agenta, saj bi ena sama replika lahko obravnavala pogovore različnih uporabnikov. To preprečuje uhajanje informacij in konflikte sočasnosti v okoljih z visoko prepustnostjo.

Parametrizirajte vedenje agenta z ModelConfig (slovar ali YAML). Definirajte na primer model_serving_endpointParametri LLM in predloge pozivov; naložite to konfiguracijo v razvoj in jo promovirajte v produkcijo brez dotikanja kode.

Izogibajte se uvajanju zank dogodkov ali asinhronih okvirjev na strežniku agenta: Databricks interno obravnava sočasnost . Uporabite sinhrono kodo ali povratne klice, sicer lahko naletite na napake, kot je »Ta zanka dogodkov se že izvaja«, in neenakomerno delovanje.

Agent Bricks: avtomatizacija "brez kode" za pospešitev vrednosti

Agent Bricks, predstavljen leta 2025, ponuja brezhiben potek dela za ustvarjanje agentov , ki ne zahteva kodiranja . Nalogo vnesete v naravnem jeziku, povežete svoje podatke, platforma pa izbere modele, ustvari sintetične podatke , oceni in izboljša postopek, dokler ne dostavi agenta, pripravljenega za produkcijo, z upravljanjem kataloga Unity.

Med njegovimi prednostmi so celovita avtomatizacija , skalabilnost v Databricksu – s končnimi točkami, ki se lahko po 3 dneh neaktivnosti skalirajo na nič –, analitika uporabe in stroškov za Lakehouse in tipe agentov, pripravljenih za uporabo (pridobivanje informacij, LLM po meri , pomočnik znanja in nadzornik več agentov za kompleksno orkestracijo).

Omejitve vključujejo dejstvo, da ustvarjene kode trenutno ni mogoče prenesti , kar zmanjšuje možnosti poglobljenega prilagajanja, katalog predlog pa je namenjen organizacijam, ki so že integrirane z Lakehouse in Unity Catalog. Nekateri uporabniki menijo tudi, da metrike stroškov niso dovolj natančne .

Primeri, večagentni in agenti s stanjem

V uradni dokumentaciji boste našli zvezke z OpenAI (preprost klepet in klici orodij, tako za modele Databricks kot za modele, ki jih gosti OpenAI), LangGraph (klic orodij) in DSPy (klici orodij v enem samem koraku). To so odlični temelji za razširitev funkcionalnosti z orodji po meri in ocenami kakovosti.

Za orkestriranje več strokovnjakov lahko nastavite sodelujoče sisteme z orodji, kot je Genie. Če vas zanima pomnilnik pogovorov, je na voljo podpora za agente s stanjem, ki omogočajo kontrolne točke in ohranitev niti klepeta.

V uradni dokumentaciji boste našli zvezke z OpenAI (preprost klepet in klici orodij, tako za modele Databricks kot za modele, ki jih gosti OpenAI), LangGraph (klic orodij) in DSPy (klici orodij v enem samem koraku). To so odlični temelji za razširitev funkcionalnosti z orodji po meri in ocenami kakovosti.

Aplikacije na Databricksu: uporabniški vmesnik z Reactom in zalednim vmesnikom v FastAPI-ju

Aplikacije Databricks zagotavljajo robustno platformo za zagotavljanje bogatih vmesnikov brez nameščanja zunanje infrastrukture. Izvorno se integrirajo z Databricks SQL, Unity Catalog , Model Serving in Jobs ter podedujejo varnostne in skladnostne kontrole platforme.

Zelo praktičen vzorec je ustvariti frontend z Reactom (ki podpira pretakanje, upodabljanje sporočil in Markdown UX) in backend s FastAPI , ki deluje kot most do končne točke agenta. Backend usmeri uporabnikovo zahtevo k storitvi modela in vrne strukturiran odgovor odjemalcu.

V FastAPI je vrstni red sestavljanja podaplikacij pomemben: app.mount("/api", api_app) usmerja poti API-ja (na primer /api/chat) In app.mount("/", ui_app) Streže statične datoteke iz gradnje React v korenskem imeniku. Ta shema vzdržuje preglednost poti in ločuje uporabniški vmesnik od končnih točk.

Konfigurirajte spremenljivke okolja (npr. SERVING_ENDPOINT_NAME ali FQN modela agenta v katalogu Unity) iz definicije aplikacije v Databricksu. Prevedite frontend (npm run build), sinhronizira datoteke, deklarira odvisnosti (requirements.txt) in se začne z Gunicorn + Uvicorn delavci za ASGI.

Resnični primer: klepetalni robot za proizvodne operacije

V scenarijih upravljanja proizvodnih operacij (MOM) lahko klepetalni robot Databricks pomaga vodjem proizvodnje pri analizi ozkih grl , sledenju zalogam in ustvarjanju poročil. Funkcije so v katalogu Unity (prek SQL ali Pythona) izpostavljene kot orodja, agent pa jih pokliče glede na kontekst.

Primeri: funkcija identify_bottleneck_station Izvaja poizvedbe v Databricks SQL, da zazna fazo, ki povzroča največ zamud; drugo, check_inventory_levelsVrne zaloge v realnem času. Agent lahko tudi pošiljanje e-poštnih sporočil, ustvarjati poročila in izvajati analizo mnenj, vse to orkestrirano s klici orodij.

Uvajanje končne točke Model Serving deluje kot standardni zaledni sistem . Aplikacija React uporablja to končno točko, prikazuje odgovore v realnem času z izpopolnjeno uporabniško izkušnjo in podpira pretakanje žetonov , ko je to omogočeno v vašem ResponsesAgentu.

Selitev iz ChatCompletions in združljivost

Če vaš podedovani agent uporablja OpenAI-jev API ChatCompletions , lahko migrirate na ResponsesAgent z vsebnikom, ki prevaja dohodna/odhodna sporočila in po izbiri preslika delte pretakanja v ResponsesAgentStreamEvent . To posodobi telemetrijo in opazovalnost brez prepisovanja osnovne logike.

Za seznam in upravljanje uvajanj vam Agent API omogoča seznam obstoječih uvajanj, pridobivanje določenega uvajanja (po imenu in različici) ter odstranjevanje končnih točk, ki jih ne potrebujete več. Ne pozabite upravljati poverilnic zunanjih virov z uporabo okoljskih spremenljivk in skrivnosti.

Databricks ponuja celotno pot: od idej z AI Playground ali avtomatizacije z Agent Bricks, preko razvoja kode (Mosaic AI, MLflow, LangGraph, DSPy) do pakiranja, registracije v katalogu Unity , uvajanja z deploy() in spremljanja produkcije. Z najboljšimi praksami, kot so ustrezni podpisi modelov , varno stanje v porazdeljenih okoljih in parametrizirana konfiguracija, lahko zagotovite zanesljive, regulirane agente, pripravljene za integracijo v spletne aplikacije na platformi.

Povezani članek:

Claude 4: Anthropic na novo predstavlja umetno inteligenco z naprednimi modeli za programiranje in avtonomne agente