Implementering af AI-agenter med Databricks: en komplet praktisk guide

Informatic Digital » Recursos » Implementering af AI-agenter med Databricks: en komplet praktisk guide

Opbygning af AI-agenter i Databricks er ikke længere udelukkende for ultratekniske profiler: mellem visuelle miljøer som AI Playground , automatisering med Agent Bricks og MLflow-frameworks kan du nu gå fra idé til prototype og fra prototype til produktion uden at fare vild i processen. I denne guide kondenserer vi alt, hvad du behøver for at oprette, evaluere og implementere agenter, der kalder værktøjer, forespørger data og integrerer med Unity Catalog- styring.

Udover at udforske no-code-tilgangen og Python-udvikling, lærer du, hvordan du pakker agenter med MLflow (ChatAgent og ResponsesAgent) , registrerer ressourcer i kataloget, aktiverer realtidsovervågning og skalerer ved hjælp af Model Serving. Vi inkluderer også en eksempelapp bygget med React og FastAPI for problemfri integration af din agent i en virksomheds webgrænseflade.

Muligheder for oprettelse af agenter i Databricks

Hvis du prioriterer hastighed og enkelhed, tilbyder Agent Bricks en automatiseret arbejdsgang til at bygge agentsystemer af høj kvalitet, der er tilpasset domænet. Du specificerer din use case og forbinder dine Unity Catalog- data ; platformen genererer agentvarianter, optimerer med evaluering og giver dig mulighed for at forfine, alt sammen med indbygget styring og sikkerhed.

Når du har brug for finjusteret kontrol og ønsker at genbruge velkendte biblioteker, kombinerer den kodebaserede tilgang Mosaic AI Agent Framework og MLflow . Med Python kan du definere agentlogik, aktivere værktøjskald, udføre detaljeret sporing og i sidste ende pakke og implementere til produktion med Databricks-økosystemet.

Hvis du allerede bruger tredjepartsframeworks, er der indbygget understøttelse af LangGraph/ LangChain , LlamaIndex eller brugerdefinerede Python-implementeringer. Takket være MLflows modelsignaturer og agentgrænseflader kan du integrere dem i evaluerings- og overvågningsfunktionerne uden at skulle omskrive fra bunden.

Vil du lave prototyper med lynets hast? Med AI Playground vælger du model og virtuel maskine, tilføjer værktøjer til LLM'en via en low-code-grænseflade og chatter for at validere. Derefter eksporterer du agenten til produktionsklar kode og fortsætter med standardudviklingslivscyklussen.

Modelsignaturer og kompatibilitet med platformfunktioner

Azure Databricks bruger MLflow-modelsignaturer til at beskrive input- og outputskemaet for agenter. Produktfunktioner – såsom AI Playground eller vurdering – kræver, at agenten overholder en af ​​de understøttede signaturer for at sikre interoperabilitet.

Hvis du følger den anbefalede fremgangsmåde, når du bygger agenten, udleder MLflow automatisk den kompatible signatur uden ekstra trin. Ellers skal du kontrollere, at din implementering overholder en af ​​signaturerne i det ældre skema for agentinput og -output, så du undgår overraskelser, når du integrerer med Databricks-værktøjer.

Hurtig vejledning: Første agent med Mosaic AI Agent Framework

Målet er at skabe en agent, der ræsonnerer med en LLM hos Databricks og være i stand til at køre værktøjer, for eksempel den indbyggede funktion system.ai.python_exec fra Unity Catalog for at køre Python-kode. Derudover aktiverer vi sporing med MLflow til inspektion af spor og diagnostik.

Grundlæggende krav til arbejdsområdet: aktiver agentfunktioner og hav adgang til modelvisningI runtime-miljøet skal du installere pakker som f.eks. mlflow, databricks-openai og agentpakkeren (databricks-agent o databricks-agents(afhængigt af den guide du følger og versionen), og genstart Python for at indlæse afhængigheder.

Definer forbindelsen til modeltjenesten ved hjælp af den OpenAI-klient, som den eksponerer ArbejdsområdeKlient, aktiv mlflow.openai.autolog() til automatisk instrumentering og registrerer de tilgængelige værktøjer. Blandt dem, system.ai.python_exec Den fungerer som en statsløs Python-fortolker og giver LLM'en mulighed for at løse beregninger eller manipulere data under dialogen.

Med en funktion som run_agent(), sender du brugerens prompt til chat-slutpunktet (For eksempel en model som «databricks-claude-3-7-sonnet«og håndtere evt. opkald til værktøjer returnerer assistentbeskeder og værktøjssvar i en sammenhængende liste.

For at teste skal du køre en forespørgsel, der kræver kode (f.eks. beregning af det 100. Fibonacci-tal ), og gennemgå både guidens output og de MLflow-spor, der er logget i den tilknyttede notesbog eller det tilknyttede eksperiment. Dette giver dig mulighed for at forfine orkestreringen før pakning.

Pakket med MLflow og implementeret i Model Serving

En anbefalet måde at forberede agenten til produktion på er ved at implementere grænsefladen MLflow ChatAgentDu har brug for en metode predict() der accepterer beskeder, kalder din agentlogik og returnerer en ChatAgentResponse med beskedlisten (inklusive mellemliggende beskeder tilknyttet værktøjer, hvis relevant).

For at lette servitudering, konsolider al koden i en enkelt Python-fil (for eksempel ved at bruge %%writefile quickstart_agent.py (hvis du arbejder på en bærbar computer). I den sidste del skal du ringe til mlflow.models.set_model() videregivelse af instansen af ​​din klasse (f.eks. QuickstartAgent) at etablere indgangspunkt af slutning.

Registrer agenten i Enhedskatalog med mlflow.pyfunc.log_model, inklusive midler som du skal bruge i produktionen: LLM-modellens slutpunkt (f.eks. DatabricksServingEndpoint) og de katalogfunktioner, som agenten vil aktivere (f.eks. DatabricksFunction med system.ai.python_execSåledes kan Databricks Konfigurer godkendelse for disse ressourcer ved implementering.

Brug endelig Agent API'en til at at implementere modellen til et serviceslutpunkt: from databricks import agents y agents.deploy(model_name, model_version)Når slutpunktet starter, vil du kunne Chat fra AI Playgrounddel det med interesserede parter og begynd at indsamle feedback.

Hvis du vil fortsætte med at forbedre dig, tilbyder Databricks vejledninger til måling af agentkvalitet , opbygning af agenter med hentning (RAG) på ustrukturerede data og styring af multi-turn-samtaler, samt alternativer med LangGraph, ren Python eller OpenAI.

ResponsesAgent: Den moderne brugerflade til produktionsagenter

Skønt ChatAgent Det fungerer godt, MLflow anbefaler det i dag. SvarAgent For seriøse agenter. Denne grænseflade er kompatibel med ordningen Responses fra OpenAI og tillader integration af agenter fra enhver ramme med Databricks' funktioner (registrering, sporing, evaluering, implementering og observerbarhed) uden problemer.

Vigtigste fordele: indbygget understøttelse af systemer multiagent, udgangstilstand streaming, komplet historik over meddelelser og værktøjskald, bekræftelse af værktøjskald og langtidsholdbare værktøjer. Desuden byder den på typede grænseflader I Python, automatisk signaturinferens, automatisk sporing af predict y predict_stream og forbedrede inferenstabeller via AI Gateway.

Installationskrav for denne metode: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (ved brug af Serverless eller Databricks Runtime 13.3 LTS+). Databricks anbefaler også følgende pakker: AI-bro til fælles integrationer.

Nyttige integrationer: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) og databricks-ai-bridge (Agenter i ren Python). Med disse dele kan du bygge alt fra simple agenter til komplekse rørledninger med gendannelse og værktøjsopkald.

Hvis du allerede har en indbygget agent, skal du pakke den ind i en klasse, der arver fra mlflow.pyfunc.ResponsesAgentImplementer predict at konvertere input og output til ResponsesAgent-skemaTil streaming, stol på predict_stream, udsender deltaer og en afsluttende begivenhed response.output_item.done Tilføj venligst det komplette svar.

Hvad angår streamingfejl, spreder Mosaic AI fejlen sammen med den sidste token indeni. databricks_output.errorDin klient skal indfange og vise det korrekt, hvilket forbedrer udrensningsoplevelse.

Gendannelsessystemer, brugerdefinerede input og sporbarhed

Mange agenter bruger genbrugsvirksomheder for RAG'er over vektorindekser. Hvis dine hentningsspænd eksponerer et andet skema, kan du kortlægge det med mlflow.models.set_retriever_schemaerklære primary_key, text_column, doc_uri og andre kolonner. Således vil AI Playground vise Links til kilder genvundet, og evalueringen vil gælde relevansscorere automatisk.

I tilfælde hvor din agent har brug for yderligere oplysninger (f.eks. klienttype o Sessions ID), bruger custom_inputs og returnerer metadata i custom_outputs som ikke bør forurene chathistorikken. Både AI Playground og anmeldelsesappen giver dig mulighed for at indtaste brugerdefinerede_input fra brugergrænsefladen.

Implementering med deploy(), krav og automatiserede handlinger

For at udgive din agent på Mosaic AI Model Serving skal du bruge funktionen deploy() af Python API'en. I MLflow 3 skal du installere mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (hvis du implementerer uden for notesbøger). I MLflow 2.x ændres minimumsværdierne (f.eks. mlflow >= 2.13.1 y databricks-agents >= 0.12.0Sørg for Registrer agenten i Unity-kataloget før udrulning.

Ring til deploy() byg et skalerbart endpoint med automatisk afbalancering, konfigurere sikker autentificering for Databricks-ressourcer (vektorindekser, katalogfunktioner) —kontrol af ejertilladelser— og aktiverer gennemgå ansøgning til samarbejde med interessenter.

Det muliggør også realtidsovervågning i MLflow (med spor i det aktive eksperiment og i inferenstabeller). I MLflow 3 kan produktionsovervågning med automatisk kvalitetsvurdering konfigureres; REST-anmodninger og kommentarer logges i inferenstabeller (ved hjælp af moderne feedback-API'er).

For at tilpasse, send argumenter til deploy() som scale_to_zero_enabled=Truereducerer omkostninger efter nedetid på bekostning af højere latenstid på den første anmodning. Derudover har du værktøjer til liste, hent og slet implementeringer via Agent API'en.

Gode ​​fremgangsmåder for tilstands-, konfigurations- og udførelsesmønstre

Modelvisning er distribueret: undgå lokale cacher og antager, at forskellige svar kan håndtere forskellige vendinger i en samtale. Den rekonstruerer tilstanden ud fra ordbog af ResponsesAgentRequest i hver predict og designe staten til at være trådsikker.

Initialiserer tilstanden indenfor predict og ikke i agentkonstruktøren, da en enkelt replika kunne håndtere samtaler fra forskellige brugere. Dette forhindrer informationslækage og samtidighedskonflikter i miljøer med høj gennemløbshastighed.

Parameteriser agentens adfærd med ModelConfig (ordbog eller YAML). Definer f.eks. model_serving_endpointLLM-parametre og promptskabeloner; indlæs denne konfiguration i udvikling og promover den til produktion uden at røre koden.

Undgå at introducere event loops eller asynkrone frames på agentserveren: Databricks håndterer samtidighed internt . Brug synkron kode eller callbacks; ellers kan du støde på fejl som "Denne event loop kører allerede" og uregelmæssig adfærd.

Agent Bricks: "ingen kode" automatisering for at accelerere værdiskabelse

Agent Bricks, introduceret i 2025, tilbyder en problemfri arbejdsgang til oprettelse af agenter , der ikke kræver kodning . Du indtaster opgaven i naturligt sprog, forbinder dine data, og platformen vælger modeller, genererer syntetiske data , evaluerer og forfiner processen, indtil den leverer en produktionsklar agent med Unity Catalog- styring.

Blandt fordelene er end-to-end-automatisering , skalerbarhed i Databricks – med endpoints, der kan skaleres til nul efter 3 dages inaktivitet – samt brugs- og omkostningsanalyser på Lakehouse og færdige agenttyper (informationsudtrækning, brugerdefineret LLM , vidensassistent og multiagentsupervisor til kompleks orkestrering).

Begrænsninger inkluderer det faktum, at den genererede kode ikke kan downloades i øjeblikket , hvilket reducerer dybdegående tilpasning, og skabelonkataloget er rettet mod organisationer, der allerede er integreret med Lakehouse og Unity Catalog. Nogle brugere finder også, at omkostningsmålingerne mangler granularitet .

Eksempler, multiagent- og stateful-agenter

I den officielle dokumentation finder du notesbøger med OpenAI (simpel chat og værktøjskald, til både Databricks og OpenAI-hostede modeller), LangGraph (værktøjskald) og DSPy (værktøjskald i én omgang). Disse er et fremragende grundlag for at udvide funktionaliteten med brugerdefinerede værktøjer og kvalitetsvurderinger.

For at orkestrere flere specialister kan du oprette samarbejdende systemer ved hjælp af værktøjer som Genie. Og hvis du er interesseret i samtalehukommelse, er der understøttelse af stateful agents, der tillader checkpoints og persistens af chattråde.

I den officielle dokumentation finder du notesbøger med OpenAI (simpel chat og værktøjskald, til både Databricks og OpenAI-hostede modeller), LangGraph (værktøjskald) og DSPy (værktøjskald i én omgang). Disse er et fremragende grundlag for at udvide funktionaliteten med brugerdefinerede værktøjer og kvalitetsvurderinger.

Apps på Databricks: Brugergrænseflade med React og backend i FastAPI

Databricks -apps leverer en robust platform til levering af omfattende grænseflader uden at skulle konfigurere ekstern infrastruktur. De integreres nativt med Databricks SQL, Unity Catalog , Model Serving og Jobs og arver platformens sikkerheds- og compliance-kontroller.

Et meget praktisk mønster er at oprette en frontend med React (der understøtter streaming, meddelelsesgengivelse og Markdown UX) og en backend med FastAPI , der fungerer som en bro til agentens slutpunkt. Backend'en sender brugerens anmodning til modeltjenesten og returnerer det strukturerede svar til klienten.

I FastAPI er samlingsrækkefølgen af ​​underapplikationer vigtig: app.mount("/api", api_app) dirigerer API-ruter (for eksempel /api/chat) Og app.mount("/", ui_app) Den betjener de statiske filer fra React-buildet i rodmappen. Dette skema vedligeholder klarhed over ruter og adskiller brugergrænsefladen fra slutpunkter.

Konfigurer miljøvariabler (f.eks. SERVING_ENDPOINT_NAME eller FQN'en for agentmodellen i Unity Catalog) fra appdefinitionen i Databricks. Kompilér frontend'en (npm run build), synkroniserer filer, deklarerer afhængigheder (requirements.txt) og starter med Gunicorn + Uvicorn arbejdere for ASGI.

Virkelig case: chatbot til produktionsdrift

I Manufacturing Operations Management (MOM)-scenarier kan en Databricks-chatbot hjælpe produktionsledere med flaskehalsanalyse , lagerstyring og rapportgenerering. Funktioner vises som værktøjer i Unity Catalog (via SQL eller Python), og agenten kalder dem baseret på konteksten.

Eksempler: en funktion identify_bottleneck_station Den kører forespørgsler i Databricks SQL for at registrere den fase, der forårsager flest forsinkelser; en anden, check_inventory_levelsDen returnerer lagerbeholdning i realtid. Agenten kan også send e-mails, producere rapporter og udføre sentimentanalyser, alt sammen orkestreret med værktøjskald.

Implementering af Model Serving-slutpunktet fungerer som standard backend . React-appen bruger dette slutpunkt, viser svar i realtid med en poleret brugeroplevelse og understøtter token-streaming, når det er aktiveret i din ResponsesAgent.

Migrering fra ChatCompletions og kompatibilitet

Hvis din ældre agent bruger OpenAI's ChatCompletions API , kan du migrere til ResponsesAgent med en container, der oversætter indgående/udgående beskeder og eventuelt knytter streamingdeltaer til ResponsesAgentStreamEvent . Dette moderniserer telemetri og observerbarhed uden at omskrive kernelogikken.

For at liste og administrere implementeringer giver Agent API dig mulighed for at liste eksisterende implementeringer, hente en specifik implementering (efter navn og version) og fjerne slutpunkter, du ikke længere har brug for. Husk at administrere legitimationsoplysninger til eksterne ressourcer ved hjælp af miljøvariabler og hemmeligheder.

Databricks tilbyder en komplet løsning: fra idégenerering med AI Playground eller automatisering med Agent Bricks, via kodeudvikling (Mosaic AI, MLflow, LangGraph, DSPy) til pakning, registrering i Unity Catalog , implementering med deploy() og produktionsovervågning. Med bedste praksis såsom korrekte modelsignaturer , sikker tilstand i distribuerede miljøer og parameteriseret konfiguration kan du levere pålidelige, styrede agenter, der er klar til integration i webapplikationer på platformen.

Relateret artikel:

Claude 4: Anthropic gentænker kunstig intelligens med avancerede modeller til programmering og autonome agenter