Implementace agentů umělé inteligence s Databricky: kompletní praktický průvodce

Informatec Digital » Zdroje » Implementace agentů umělé inteligence s Databricky: kompletní praktický průvodce

Vytváření agentů umělé inteligence v Databricksu již není výhradní doménou ultratechnických profilů: s vizuálními prostředími jako AI Playground , automatizací s Agent Bricks a frameworky MLflow nyní můžete přejít od nápadu k prototypu a od prototypu k produkci, aniž byste se v procesu ztratili. V této příručce shrneme vše, co potřebujete k vytváření, vyhodnocování a nasazení agentů, kteří volají nástroje, dotazují data a integrují se s řízením katalogu Unity.

Kromě prozkoumání přístupu bez kódování a vývoje v Pythonu se naučíte, jak balit agenty pomocí MLflow (ChatAgent a ResponsesAgent) , registrovat zdroje v katalogu, povolit monitorování v reálném čase a škálovat pomocí Model Serving. Zahrnujeme také ukázkovou aplikaci vytvořenou pomocí Reactu a FastAPI pro bezproblémovou integraci vašeho agenta do podnikového webového rozhraní.

Možnosti pro vytváření agentů v Databricksu

Pokud upřednostňujete rychlost a jednoduchost, Agent Bricks poskytuje automatizovaný pracovní postup pro vytváření vysoce kvalitních, doménově orientovaných agentních systémů. Vy specifikujete svůj případ použití a propojíte data z katalogu Unity ; platforma generuje varianty agentů, optimalizuje je s vyhodnocením a umožňuje vám je upřesnit, to vše s vestavěnou správou a zabezpečením.

Pokud potřebujete detailní řízení a chcete znovu použít známé knihovny, přístup založený na kódu kombinuje Mosaic AI Agent Framework a MLflow . S Pythonem můžete definovat logiku agentů, povolit volání nástrojů, provádět detailní sledování a nakonec zabalit a nasadit do produkčního prostředí s ekosystémem Databricks.

Pokud již používáte frameworky třetích stran, je k dispozici nativní podpora pro LangGraph/ LangChain , LlamaIndex nebo vlastní implementace v Pythonu. Díky signaturám modelů a rozhraním agentů MLflow je můžete zapojit do funkcí vyhodnocování a monitorování , aniž byste je museli přepisovat od nuly.

Chcete vytvářet prototypy bleskovou rychlostí? S AI Playground si vyberete model a virtuální stroj, přidáte nástroje do LLM prostřednictvím rozhraní s nízkým kódem a ověříte je pomocí chatu. Poté exportujete agenta do produkčního kódu a pokračujete ve standardním vývojovém cyklu.

Signatury modelů a kompatibilita s funkcemi platformy

Azure Databricks používá signatury modelu MLflow k popisu vstupního a výstupního schématu agentů. Funkce produktu – jako je AI Playground nebo hodnocení – vyžadují, aby agent splňoval jeden z podporovaných signatur, aby byla zajištěna interoperabilita.

Pokud při sestavování agenta budete postupovat podle doporučeného postupu, MLflow automaticky odvodí kompatibilní podpis bez jakýchkoli dalších kroků. V opačném případě ověřte, zda vaše implementace odpovídá jednomu z podpisů ve starším schématu pro vstup a výstup agenta, abyste se vyhnuli překvapením při integraci s nástroji Databricks.

Rychlý tutoriál: První agent s frameworkem Mosaic AI Agent Framework

Cílem je vytvořit agenta, který uvažuje s LLM hostované v Databricks a být schopen spouštět nástroje, například vestavěné funkce system.ai.python_exec z katalogu Unity pro spuštění kódu Pythonu. Dále povolíme sledování s MLflow pro kontrolu stop a diagnostiku.

Základní požadavky na pracovní prostor: povolení funkcí agenta a přístup k poskytování modelůV běhovém prostředí nainstalujte balíčky jako například mlflow, databricks-openai a balicí agent (databricks-agent o databricks-agents(v závislosti na návodu, který používáte, a verzi) a restartujte Python, aby se načetly závislosti.

Definujte připojení k modelové službě pomocí klienta OpenAI, kterého zpřístupňuje. WorkspaceClient, aktivní mlflow.openai.autolog() pro automatickou instrumentaci a zaznamenává dostupné nástroje. Mezi nimi system.ai.python_exec Slouží jako bezstavový interpret Pythonu a umožňuje LLM řešit výpočty nebo manipulovat s daty během dialogu.

S funkcí jako run_agent(), odešlete uživatelskou výzvu do koncového bodu chatu (Například model jako «databricks-claude-3-7-sonnet«a zvládat možné volání nástrojů vrácení zpráv asistenta a odpovědí nástroje v souvislém seznamu.

Pro otestování spusťte dotaz, který vyžaduje kód (např. výpočet 100. Fibonacciho čísla ), a zkontrolujte výstup průvodce i trasování MLflow zaznamenané v přidruženém poznámkovém bloku nebo experimentu. To vám umožní upřesnit orchestraci před zabalením.

Zabaleno s MLflow a nasazeno v Model Serving

Doporučeným způsobem přípravy agenta k produkčnímu provozu je implementace rozhraní ChatAgent MLflowPotřebujete metodu predict() který přijímá zprávy, volá logiku vašeho agenta a vrací Odpověď agenta chatu se seznamem zpráv (včetně případných průběžných zpráv souvisejících s nástroji).

Pro usnadnění podřízenosti konsolidujte veškerý kód do jednoho souboru Pythonu (například pomocí %%writefile quickstart_agent.py (pokud pracujete na notebooku). V závěrečné části zavolejte mlflow.models.set_model() předání instance vaší třídy (např. QuickstartAgent) k vytvoření vstupní bod odvození.

Zaregistrujte agenta v Jednotný katalog s mlflow.pyfunc.log_model, počítaje v to zdroje které budete potřebovat v produkčním prostředí: koncový bod modelu LLM (např. DatabricksServingEndpoint) a funkce katalogu, které agent vyvolá (např. DatabricksFunction s system.ai.python_execDatabricks tedy mohou Konfigurace ověřování pro tyto zdroje při nasazení.

Nakonec použijte API agenta k rozmístit model ke koncovému bodu služby: from databricks import agents y agents.deploy(model_name, model_version)Jakmile se spustí koncový bod, budete moci Chat z AI Playgroundsdílejte to se zainteresovanými stranami a začněte shromažďovat zpětnou vazbu.

Pokud se chcete dále zlepšovat, Databricks nabízí návody pro měření kvality agentů , vytváření agentů s vyhledáváním (RAG) na nestrukturovaných datech a řízení vícenásobných konverzací, stejně jako alternativy s LangGraphem, čistým Pythonem nebo OpenAI.

ResponsesAgent: Moderní rozhraní pro produkční agenty

Ačkoli ChatAgent Funguje to dobře, MLflow to dnes doporučuje. ResponsesAgent Pro seriózní agenty. Toto rozhraní je kompatibilní se schématem Responses z OpenAI a umožňuje integraci agentů z jakýkoli rámec s funkcemi Databricks (registrace, sledování, vyhodnocování, nasazení a pozorovatelnost) bez problémů.

Klíčové výhody: nativní podpora pro Sistemas multiagentní, ukončit režim streaming, kompletní historie zpráv a volání nástrojů, potvrzení volání nástrojů a nástroje s dlouhou životností. Kromě toho nabízí typovaná rozhraní V Pythonu, automatické odvozování podpisů, automatické sledování predict y predict_stream a vylepšené inferenční tabulky pomocí Brána AI.

Požadavky na instalaci pro tento přístup: databricks-agents 1.2.0+, mlflow 3.1.3+ y Python 3.10+ (při použití Serverless nebo Databricks Runtime 13.3 LTS+). Databricks také doporučuje následující balíčky: Most umělé inteligence pro běžné integrace.

Užitečné integrace: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) a databricks-ai-bridge (Agenti v čistém Pythonu). S těmito částmi můžete vytvořit cokoli od jednoduchých agentů až po složité potrubí s obnovou a vyvoláním nástroje.

Pokud již máte vestavěného agenta, zabalte ho do třídy, která dědí z mlflow.pyfunc.ResponsesAgentImplementovat predict převést vstupy a výstupy na Schéma agenta odpovědíPro streamování se spolehněte na predict_stream, emitující delty a závěrečná událost response.output_item.done Prosím o doplnění celé odpovědi.

Pokud jde o chyby streamování, Mosaic AI šíří chybu spolu s posledním tokenem v rámci databricks_output.errorVáš klient by měl to správně zachytit a zobrazit, čímž by se vylepšil zkušenost s očistou.

Systémy pro obnovu, vlastní vstupy a sledovatelnost

Mnoho agentů používá recyklační firmy pro RAGy nad vektorovými indexy. Pokud vaše rozsahy vyhledávání odhalují jiné schéma, můžete ho namapovat pomocí mlflow.models.set_retriever_schemaprohlašování primary_key, text_column, doc_uri a další sloupce. AI Playground tedy zobrazí Odkazy na zdroje zotaveno a bude uplatněno hodnocení hodnotitelé relevance automaticky

V případech, kdy váš zástupce požaduje doplňující informace (například typ_klienta o session_id), používá custom_inputs a vrací metadata v custom_outputs ...což by nemělo kontaminovat historii chatu. Jak AI Playground, tak i aplikace pro recenze vám umožňují vstupovat vlastní_vstupy z uživatelského rozhraní.

Nasazení s deploy(), požadavky a automatizované akce

Chcete-li publikovat svého agenta na Mosaic AI Model Serving, použijte funkci deploy() Python API. V MLflow 3 nainstalujte mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (pokud nasazujete mimo notebooky). V MLflow 2.x se minimální hodnoty mění (například mlflow >= 2.13.1 y databricks-agents >= 0.12.0Ujistěte se Registrace agenta v katalogu Unity před nasazením.

Zavolej deploy() vytvořit škálovatelný koncový bod s automatické vyvažování, nakonfigurujte bezpečné ověřování pro zdroje Databricks (vektorové indexy, katalogové funkce) – kontrola oprávnění vlastníka – a aktivuje žádost o kontrolu pro spolupráci se zainteresovanými stranami.

Umožňuje také monitorování v reálném čase v MLflow (s trasami v aktivním experimentu a v inferenčních tabulkách). V MLflow 3 lze konfigurovat monitorování produkce s automatickým hodnocením kvality; REST požadavky a komentáře jsou zaznamenávány do inferenčních tabulek (pomocí moderních API pro zpětnou vazbu).

Pro přizpůsobení předejte argumenty funkci deploy() jak scale_to_zero_enabled=Truesnížení nákladů po výpadku na úkor vyšší latence při prvním požadavku. Navíc máte k dispozici nástroje pro seznam, získání a odstranění nasazení prostřednictvím rozhraní API agenta.

Osvědčené postupy pro stavové, konfigurační a spouštěcí vzory

Podávání modelu je distribuované: vyhněte se lokální mezipaměti a předpokládá, že různé odpovědi mohou zvládnout různé obraty v konverzaci. Rekonstruuje stav z slovník ResponsesAgentRequest v každém predict a navrhnout stát tak, aby bezpečné pro vlákna.

Inicializuje stav uvnitř predict a ne v konstruktoru agenta, protože jedna replika by mohla zpracovávat konverzace od různých uživatelů. To zabraňuje úniky informací a konflikty souběžnosti ve vysoce výkonných prostředích.

Parametrizujte chování agenta pomocí ModelConfig (slovník nebo YAML). Definujte například model_serving_endpointParametry LLM a šablony výzev; načtěte tuto konfiguraci do vývoje a povýšte ji na produkční prostředí. bez dotyku kódu.

Vyhněte se zavádění smyček událostí nebo asynchronních rámců na serveru agenta: Databricks interně zpracovává souběžnost . Používejte synchronní kód nebo zpětná volání, jinak se můžete setkat s chybami, jako je například „Tato smyčka událostí již běží“, a s nepravidelným chováním.

Agent Bricks: automatizace „bez kódu“ pro urychlení tvorby hodnot

Agent Bricks, představený v roce 2025, nabízí bezproblémový pracovní postup pro vytváření agentů , který nevyžaduje žádné kódování . Zadáte úkol v přirozeném jazyce, propojíte svá data a platforma vybere modely, generuje syntetická data , vyhodnotí a zdokonalí proces, dokud nedodá agenta připraveného k produkci s řízením Unity Catalog.

Mezi jeho výhody patří komplexní automatizace , škálovatelnost v Databricksu – s koncovými body, které lze po 3 dnech nečinnosti škálovat na nulu –, analýza využití a nákladů na platformě Lakehouse a agentech typu Ready (extrakce informací, vlastní LLM , znalostní asistent a supervizor více agentů pro komplexní orchestraci).

Mezi omezení patří skutečnost, že vygenerovaný kód momentálně nelze stáhnout , což omezuje možnosti hlubokého přizpůsobení, a katalog šablon je zaměřen na organizace, které jsou již integrovány s Lakehouse a Unity Catalog. Někteří uživatelé také shledávají, že metriky nákladů postrádají podrobnost .

Příklady, multiagentní a stavoví agenti

V oficiální dokumentaci najdete poznámkové bloky s OpenAI (jednoduchý chat a volání nástrojů, a to jak pro Databricks, tak pro modely hostované OpenAI), LangGraph (volání nástrojů) a DSPy (volání nástrojů v jednom tahu). To jsou vynikající základy pro rozšíření funkcionality o vlastní nástroje a hodnocení kvality.

Pro koordinaci více specialistů můžete nastavit spolupracující systémy pomocí nástrojů, jako je Genie. A pokud vás zajímá paměť konverzací, existuje podpora pro stavové agenty, kteří umožňují kontrolní body a perzistenci vláken chatu.

V oficiální dokumentaci najdete poznámkové bloky s OpenAI (jednoduchý chat a volání nástrojů, a to jak pro Databricks, tak pro modely hostované OpenAI), LangGraph (volání nástrojů) a DSPy (volání nástrojů v jednom tahu). To jsou vynikající základy pro rozšíření funkcionality o vlastní nástroje a hodnocení kvality.

Aplikace na Databrickech: UI s Reactem a backendem ve FastAPI

Aplikace Databricks poskytují robustní platformu pro poskytování bohatých rozhraní bez nutnosti nastavování externí infrastruktury. Nativně se integrují s Databricks SQL, Unity Catalog , Model Serving a Jobs a dědí bezpečnostní a dodržovací prvky platformy.

Velmi praktickým vzorem je vytvořit frontend s Reactem (s podporou streamování, vykreslování zpráv a Markdown UX) a backend s FastAPI , který funguje jako most k endpointu agenta. Backend směruje uživatelský požadavek do modelovací služby a vrací strukturovanou odpověď klientovi.

Ve FastAPI je důležité pořadí sestavování podaplikací: app.mount("/api", api_app) směruje trasy API (například /api/chat) A app.mount("/", ui_app) Zpracovává statické soubory z buildu React v kořenovém adresáři. Toto schéma udržuje přehlednost tras a odděluje uživatelské rozhraní od koncových bodů.

Konfigurace proměnných prostředí (např. SERVING_ENDPOINT_NAME nebo FQN modelu agenta v katalogu Unity) z definice aplikace v Databricks. Zkompilujte frontend (npm run build), synchronizuje soubory, deklaruje závislosti (requirements.txt) a začíná s Gunicorn + Uvicorn pracovníky pro ASGI.

Reálný případ: chatbot pro výrobní operace

Ve scénářích řízení výrobních operací (MOM) může chatbot Databricks pomáhat manažerům výroby s analýzou úzkých míst , sledováním zásob a generováním reportů. Funkce jsou prezentovány jako nástroje v katalogu Unity (prostřednictvím SQL nebo Pythonu) a agent je volá na základě kontextu.

Příklady: funkce identify_bottleneck_station Spouští dotazy v Databricks SQL, aby detekoval fázi, která způsobuje největší zpoždění; další, check_inventory_levelsVrací informace o skladových zásobách v reálném čase. Agent může také posílat e-maily, vytvářet zprávy a provádět analýzu sentimentu, to vše orchestrálně pomocí nástrojů.

Nasazení koncového bodu Model Serving funguje jako standardní backend . Aplikace React tento koncový bod využívá, zobrazuje odpovědi v reálném čase s propracovaným uživatelským rozhraním a podporuje streamování tokenů, pokud je to povoleno v ResponsesAgent.

Migrace z ChatCompletions a kompatibilita

Pokud váš starší agent používá rozhraní ChatCompletions API od OpenAI , můžete migrovat na ResponsesAgent s kontejnerem, který překládá příchozí/odchozí zprávy a volitelně mapuje delta streamování na ResponsesAgentStreamEvent . To modernizuje telemetrii a pozorovatelnost bez nutnosti přepisování základní logiky.

Pro výpis a správu nasazení umožňuje rozhraní Agent API zobrazit seznam existujících nasazení, načíst konkrétní nasazení (podle názvu a verze) a odstranit koncové body, které již nepotřebujete. Nezapomeňte spravovat přihlašovací údaje externích zdrojů pomocí proměnných prostředí a tajných klíčů.

Databricks nabízí kompletní cestu: od tvorby nápadů s AI Playground nebo automatizace s Agent Bricks, přes vývoj kódu (Mosaic AI, MLflow, LangGraph, DSPy), až po balení, registraci v katalogu Unity , nasazení s deploy() a monitorování produkce. S osvědčenými postupy, jako jsou správné signatury modelů , zabezpečený stav v distribuovaných prostředích a parametrizovaná konfigurace, můžete dodat spolehlivé, řízené agenty připravené k integraci do webových aplikací na platformě.

Související článek:

Claude 4: Anthropic nově pojímá umělou inteligenci s pokročilými modely pro programování a autonomní agenty