- Agent Bricks, AI Playground en MLflow bestrijken alles van prototype tot implementatie met governance in Unity Catalog.
- ResponsesAgent biedt streaming, multi-agent en rijke traceringen geïntegreerd met MLflow en AI Gateway.
- Implementatie met deploy() zorgt voor veilige eindpunten met realtime tracking en beoordeling.
Het bouwen van AI-agents in Databricks is niet langer voorbehouden aan zeer technische professionals: dankzij visuele omgevingen zoals AI Playground , automatisering met Agent Bricks en MLflow-frameworks kunt u nu van idee naar prototype en van prototype naar productie gaan zonder de weg kwijt te raken. In deze handleiding bundelen we alles wat u nodig hebt om agents te creëren, te evalueren en te implementeren die tools aanroepen, gegevens opvragen en integreren met Unity Catalog- governance.
Naast het verkennen van de no-code-aanpak en Python-ontwikkeling, leer je hoe je agents kunt verpakken met MLflow (ChatAgent en ResponsesAgent) , resources kunt registreren in de catalogus, realtime monitoring kunt inschakelen en kunt schalen met Model Serving. We leveren ook een voorbeeld-app, gebouwd met React en FastAPI, om je agent naadloos te integreren in een bedrijfswebinterface.
Opties voor het aanmaken van agents in Databricks
Als snelheid en eenvoud voor jou prioriteit hebben, biedt Agent Bricks een geautomatiseerde workflow voor het bouwen van hoogwaardige, domeinspecifieke agentsystemen. Je specificeert je use case en koppelt je Unity Catalog- gegevens ; het platform genereert agentvarianten, optimaliseert deze met behulp van evaluatie en stelt je in staat ze te verfijnen, allemaal met ingebouwde governance en beveiliging.
Wanneer je nauwkeurige controle nodig hebt en vertrouwde bibliotheken wilt hergebruiken, combineert de codegebaseerde aanpak het Mosaic AI Agent Framework en MLflow . Met Python kun je agentlogica definiëren, toolaanroepen inschakelen, gedetailleerde tracking uitvoeren en uiteindelijk verpakken en implementeren in productie met het Databricks-ecosysteem.
Als u al frameworks van derden gebruikt, is er native ondersteuning voor LangGraph/ LangChain , LlamaIndex of aangepaste Python-implementaties. Dankzij de modelhandtekeningen en agentinterfaces van MLflow kunt u deze integreren in de evaluatie- en monitoringmogelijkheden zonder alles opnieuw te hoeven schrijven.
Wil je razendsnel prototypes ontwikkelen? Met AI Playground kies je het model en de virtuele machine, voeg je tools toe aan de LLM via een low-code interface en kun je via chat valideren. Vervolgens exporteer je de agent naar productieklare code en ga je verder met de standaard ontwikkelingscyclus.
Modelhandtekeningen en compatibiliteit met platformfuncties
Azure Databricks gebruikt MLflow-modelsignaturen om het invoer- en uitvoerschema van agents te beschrijven. Productfuncties, zoals AI Playground of assessments, vereisen dat de agent voldoet aan een van de ondersteunde signaturen om interoperabiliteit te garanderen.
Als u de aanbevolen aanpak volgt bij het bouwen van de agent, leidt MLflow automatisch de compatibele handtekening af zonder extra stappen. Controleer anders of uw implementatie voldoet aan een van de handtekeningen in het oude schema voor agentinvoer en -uitvoer, om verrassingen bij de integratie met Databricks-tools te voorkomen.
Snelle tutorial: Eerste agent met Mosaic AI Agent Framework
Het doel is om een agent te creëren die redeneert met een LLM gehost bij Databricks en in staat zijn om hulpmiddelen uit te voeren, bijvoorbeeld de ingebouwde functie system.ai.python_exec vanuit de Unity Catalog om Python-code uit te voeren. Daarnaast zullen we de tracking met MLflow voor het inspecteren van sporen en diagnostiek.
Basisvereisten voor de werkruimte: schakel agentfuncties in en heb toegang tot Model ServingInstalleer in de runtime-omgeving pakketten zoals mlflow, databricks-openai en de agent packer (databricks-agent o databricks-agents(afhankelijk van de handleiding die u volgt en de versie) en start Python opnieuw op om de afhankelijkheden te laden.
Definieer de verbinding met de modelservice met behulp van de OpenAI-client die deze beschikbaar stelt WerkruimteClient, actief mlflow.openai.autolog() voor automatische instrumentatie en registreert de beschikbare tools. Daaronder vallen: system.ai.python_exec Het fungeert als een stateless Python-interpreter en stelt de LLM in staat om berekeningen uit te voeren of gegevens te manipuleren tijdens de dialoog.
Met een functie als run_agent(), je stuurt de prompt van de gebruiker naar het chat-eindpunt (Bijvoorbeeld een model als «databricks-claude-3-7-sonnet«en beheer mogelijke oproepen tot tools het retourneren van de assistentberichten en gereedschapsreacties in een samenhangende lijst.
Om te testen, voert u een query uit die code vereist (bijvoorbeeld het berekenen van het 100e Fibonacci-getal ) en bekijkt u zowel de uitvoer van de wizard als de MLflow-traceringen die in het bijbehorende notebook of experiment zijn vastgelegd. Dit stelt u in staat de orchestratie te verfijnen voordat u het pakket samenstelt.
Verpakt met MLflow en geïmplementeerd in Model Serving
Een aanbevolen manier om de agent voor te bereiden op productie is door de interface te implementeren MLflow ChatAgentJe hebt een methode nodig predict() die berichten accepteert, uw agentlogica aanroept en een bericht retourneert ChatAgentResponse met de berichtenlijst (inclusief eventuele tussenliggende berichten die aan hulpmiddelen zijn gekoppeld).
Om dienstbaarheid te vergemakkelijken, kunt u alle code in één Python-bestand consolideren (bijvoorbeeld door %%writefile quickstart_agent.py (als je op een laptop werkt). In het laatste deel noem je mlflow.models.set_model() het doorgeven van het exemplaar van uw klasse (bijv. QuickstartAgent) om de toegangspunt van gevolgtrekking.
Registreer de agent in Eenheidscatalogus met mlflow.pyfunc.log_model, inclusief middelen die u nodig hebt in productie: het eindpunt van het LLM-model (bijv. DatabricksServingEndpoint) en de catalogusfuncties die de agent zal aanroepen (bijv. DatabricksFunction met system.ai.python_execZo kan Databricks Authenticatie configureren voor deze bronnen bij de implementatie.
Gebruik ten slotte de Agent API om inzetten het model naar een service-eindpunt: from databricks import agents y agents.deploy(model_name, model_version)Wanneer het eindpunt start, kunt u: Chat van AI PlaygroundDeel het met geïnteresseerden en begin met het verzamelen van feedback.
Als je je wilt blijven verbeteren, biedt Databricks handleidingen voor het meten van de kwaliteit van agents , het bouwen van agents met retrieval (RAG) op ongestructureerde data en het beheren van meerstapsgesprekken, evenals alternatieven met LangGraph, pure Python of OpenAI.
ResponsesAgent: De moderne interface voor productieagenten
Hoewel ChatAgent Het werkt goed, MLflow raadt het vandaag aan ReactiesAgent Voor serieuze agenten. Deze interface is compatibel met het schema Responses van OpenAI en maakt de integratie van agenten mogelijk van elk raamwerk met de mogelijkheden van Databricks (registratie, tracking, evaluatie, implementatie en observatie) zonder frictie.
Belangrijkste voordelen: native ondersteuning voor systemen multi-agent, exit-modus streaming, volledige geschiedenis van berichten en gereedschapsoproepen, bevestiging van gereedschapsoproepen en duurzame gereedschappen. Bovendien biedt het getypte interfaces In Python, automatische handtekeningafleiding, automatische tracking van predict y predict_stream en verbeterde inferentietabellen via AI-gateway.
Installatievereisten voor deze aanpak: databricks-agents 1.2.0+, mlflow 3.1.3+ y Python 3.10 + (met Serverless of Databricks Runtime 13.3 LTS+). Databricks beveelt ook de volgende pakketten aan: AI-brug voor veelvoorkomende integraties.
Nuttige integraties: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) en databricks-ai-bridge (Agenten in pure Python). Met deze onderdelen kun je alles bouwen, van eenvoudige agenten tot complexe pijpleidingen met herstel en gereedschapsoproep.
Als u al een ingebouwde agent hebt, wikkel deze dan in een klasse die erft van mlflow.pyfunc.ResponsesAgent. Implementeren predict om de invoer en uitvoer om te zetten naar ResponsesAgent-schemaVoor streaming kunt u vertrouwen op predict_stream, uitzenden delta's en een afsluitende gebeurtenis response.output_item.done Voeg het volledige antwoord toe.
Wat streamingfouten betreft, verspreidt Mosaic AI de fout samen met het laatste token binnen databricks_output.errorUw klant moet het correct vastleggen en weergeven, waardoor de zuiveringservaring.
Herstelsystemen, aangepaste invoer en traceerbaarheid
Veel agenten gebruiken herstellers voor RAG's via vectorindices. Als uw retrieval-spans een ander schema vertonen, kunt u dit toewijzen met mlflow.models.set_retriever_schemaverklaren primary_key, text_column, doc_uri en andere kolommen. Zo zal AI Playground laten zien Links naar bronnen hersteld en de evaluatie zal van toepassing zijn relevantiescorers automatisch.
In gevallen waarin uw agent aanvullende informatie nodig heeft (bijvoorbeeld klant_type o session_id), gebruikt custom_inputs en retourneert metagegevens in custom_outputs die de chatgeschiedenis niet zouden moeten vervuilen. Zowel AI Playground als de review-app bieden je de mogelijkheid om aangepaste_invoer van de gebruikersinterface.
Implementatie met deploy(), vereisten en geautomatiseerde acties
Om uw agent op Mosaic AI Model Serving te publiceren, gebruikt u de functie deploy() van de Python API. In MLflow 3, installeer mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (als u buiten notebooks implementeert). In MLflow 2.x veranderen de minimumwaarden (bijvoorbeeld mlflow >= 2.13.1 y databricks-agents >= 0.12.0Zorg ervoor Registreer de agent in de Unity Catalogus vóór de inzet.
Bellen naar deploy() bouw een schaalbaar eindpunt met automatisch balanceren, configureer de veilige authenticatie voor Databricks-bronnen (vectorindexen, catalogusfuncties) —controle van de eigenaarsrechten—, en activeert de beoordelingsaanvraag voor samenwerking met belanghebbenden.
Het maakt ook realtime monitoring in MLflow mogelijk (met traceringen in het actieve experiment en in inferentietabellen). In MLflow 3 kan productiemonitoring met automatische kwaliteitsbeoordeling worden geconfigureerd; REST-verzoeken en opmerkingen worden vastgelegd in inferentietabellen (met behulp van moderne feedback-API's).
Om aan te passen, geef je argumenten door aan deploy() als scale_to_zero_enabled=Truekostenbesparing na downtime ten koste van een hogere latentie bij de eerste aanvraag. Daarnaast beschikt u over hulpprogramma's voor lijst, ophalen en verwijderen implementaties via de Agent API.
Goede werkwijzen voor status-, configuratie- en uitvoeringspatronen
Model Serving is gedistribueerd: vermijd lokale caches en gaat ervan uit dat verschillende antwoorden verschillende wendingen in een gesprek kunnen verwerken. Het reconstrueert de toestand vanuit de woordenboek van ResponsesAgentRequest in elk predict en de staat ontwerpen om draad-veilig.
Initialiseert de status binnen predict en niet in de agentconstructor, aangezien één replica gesprekken van verschillende gebruikers zou kunnen afhandelen. Dit voorkomt informatie lekken en gelijktijdigheidsconflicten in omgevingen met een hoge doorvoer.
Parameteriseer het gedrag van de agent met ModelConfig (woordenboek of YAML). Definieer bijvoorbeeld: model_serving_endpointLLM-parameters en promptsjablonen; laad die configuratie in de ontwikkeling en promoot deze naar productie zonder de code aan te raken.
Vermijd het introduceren van event loops of asynchrone frames op de agentserver: Databricks handelt gelijktijdigheid intern af . Gebruik synchrone code of callbacks; anders kunt u fouten tegenkomen zoals "Deze event loop is al actief" en onvoorspelbaar gedrag vertonen.
Agent Bricks: automatisering zonder code om waarde te versnellen
Agent Bricks, geïntroduceerd in 2025, biedt een naadloze workflow voor het creëren van agents waarvoor geen programmeerkennis nodig is . Je voert de taak in natuurlijke taal in, koppelt je data en het platform selecteert modellen, genereert synthetische data , evalueert en verfijnt het proces totdat het een productiegereed agent met Unity Catalog- beheer oplevert.
Tot de voordelen behoren end-to-end automatisering , schaalbaarheid in Databricks — met endpoints die na 3 dagen inactiviteit naar nul kunnen terugvallen —, gebruiks- en kostenanalyses op Lakehouse en kant-en-klare agenttypen (informatie-extractie, aangepaste LLM , kennisassistent en multi-agent supervisor voor complexe orkestratie).
Beperkingen zijn onder meer dat de gegenereerde code momenteel niet downloadbaar is , wat diepgaande aanpassingsmogelijkheden beperkt, en dat de sjablooncatalogus is gericht op organisaties die al geïntegreerd zijn met Lakehouse en Unity Catalog. Sommige gebruikers vinden de kostenstatistieken bovendien onvoldoende gedetailleerd .
Voorbeelden, multi-agent en stateful agents
In de officiële documentatie vindt u notebooks met OpenAI (eenvoudige chat en toolaanroepen, voor zowel Databricks- als OpenAI-modellen), LangGraph (toolaanroep) en DSPy (toolaanroepen in één beurt). Deze vormen een uitstekende basis voor het uitbreiden van de functionaliteit met aangepaste tools en kwaliteitsbeoordelingen.
Om meerdere specialisten te coördineren, kunt u samenwerkende systemen opzetten met behulp van tools zoals Genie. En als u geïnteresseerd bent in het bewaren van gesprekken, is er ondersteuning voor stateful agents die checkpoints en het persistent opslaan van chatthreads mogelijk maken.
In de officiële documentatie vindt u notebooks met OpenAI (eenvoudige chat en toolaanroepen, voor zowel Databricks- als OpenAI-modellen), LangGraph (toolaanroep) en DSPy (toolaanroepen in één beurt). Deze vormen een uitstekende basis voor het uitbreiden van de functionaliteit met aangepaste tools en kwaliteitsbeoordelingen.
Apps op Databricks: gebruikersinterface met React en backend in FastAPI
Databricks Apps bieden een robuust platform voor het leveren van rijke interfaces zonder dat er externe infrastructuur hoeft te worden opgezet. Ze integreren naadloos met Databricks SQL, Unity Catalog , Model Serving en Jobs, en profiteren van de beveiligings- en compliance-controles van het platform.
Een zeer praktische aanpak is om een frontend te bouwen met React (met ondersteuning voor streaming, berichtweergave en Markdown UX) en een backend met FastAPI die fungeert als brug naar het agent-eindpunt. De backend routeert het verzoek van de gebruiker naar de modelservice en stuurt het gestructureerde antwoord terug naar de client.
In FastAPI is de assemblagevolgorde van subapplicaties belangrijk: app.mount("/api", api_app) stuurt API-routes aan (bijvoorbeeld /api/chat) En app.mount("/", ui_app) Het serveert de statische bestanden van de React-build in de rootdirectory. Dit schema behoudt duidelijkheid van routes en scheidt de gebruikersinterface van de eindpunten.
Omgevingsvariabelen configureren (bijv. SERVING_ENDPOINT_NAME of de FQN van het agentmodel in Unity Catalog) vanuit de app-definitie in Databricks. Compileer de frontend (npm run build), synchroniseert bestanden, declareert afhankelijkheden (requirements.txt) en begint met Gunicorn + Uvicorn werknemers voor ASGI.
Praktijkvoorbeeld: chatbot voor productieprocessen
In Manufacturing Operations Management (MOM)-scenario's kan een Databricks-chatbot productiemanagers ondersteunen bij knelpuntenanalyse , voorraadbeheer en het genereren van rapporten. Functies worden als tools beschikbaar gesteld in de Unity Catalog (via SQL of Python), en de agent roept ze aan op basis van de context.
Voorbeelden: een functie identify_bottleneck_station Het voert query's uit in Databricks SQL om de fase te detecteren die de meeste vertragingen veroorzaakt; een andere, check_inventory_levelsHet geeft realtime voorraad weer. De agent kan ook e-mails verzenden, rapporten produceren en sentimentanalyses uitvoeren, alles georkestreerd met tool-calls.
Het implementeren van het Model Serving-eindpunt fungeert als de standaard backend . De React-app gebruikt dit eindpunt, geeft realtime reacties weer met een verfijnde gebruikerservaring en ondersteunt tokenstreaming wanneer dit is ingeschakeld in uw ResponsesAgent.
Migratie van ChatCompletions en compatibiliteit
Als uw bestaande agent gebruikmaakt van de ChatCompletions API van OpenAI , kunt u migreren naar ResponsesAgent met een container die inkomende en uitgaande berichten vertaalt en, optioneel, streamingdelta's koppelt aan ResponsesAgentStreamEvent . Dit moderniseert telemetrie en observability zonder de kernlogica te hoeven herschrijven.
Voor het weergeven en beheren van implementaties kunt u met de Agent API bestaande implementaties weergeven , een specifieke implementatie ophalen (op naam en versie) en eindpunten verwijderen die u niet langer nodig hebt. Vergeet niet om de inloggegevens van externe resources te beheren met behulp van omgevingsvariabelen en geheimen.
Databricks biedt een compleet traject: van ideeënvorming met AI Playground of automatisering met Agent Bricks, via codeontwikkeling (Mosaic AI, MLflow, LangGraph, DSPy), tot het verpakken, registreren in de Unity Catalog , implementeren met deploy() en monitoring in de productieomgeving. Met best practices zoals correcte modelhandtekeningen , veilige status in gedistribueerde omgevingen en geparameteriseerde configuratie kunt u betrouwbare, beheerde agents leveren die klaar zijn voor integratie in webapplicaties op het platform.
