Внедряване на AI агенти с Databricks: пълно практическо ръководство

Информатек Дигитал » Ресурси » Внедряване на AI агенти с Databricks: пълно практическо ръководство

Изграждането на AI агенти в Databricks вече не е изключителна област на ултратехнически профили: между визуални среди като AI Playground , автоматизация с Agent Bricks и MLflow рамки, вече можете да преминете от идея към прототип и от прототип към производство, без да се изгубите в процеса. В това ръководство ние кондензираме всичко необходимо, за да създавате, оценявате и внедрявате агенти, които извикват инструменти, заявяват данни и се интегрират с управлението на Unity Catalog.

В допълнение към проучването на подхода без код и разработката с Python, ще научите как да пакетирате агенти с MLflow (ChatAgent и ResponsesAgent) , да регистрирате ресурси в каталога, да активирате наблюдение в реално време и да мащабирате с помощта на Model Serving. Включваме и примерно приложение, изградено с React и FastAPI, за безпроблемно интегриране на вашия агент в корпоративен уеб интерфейс.

Опции за създаване на агенти в Databricks

Ако давате приоритет на скоростта и простотата, Agent Bricks предоставя автоматизиран работен процес за изграждане на висококачествени, съобразени с домейна агентни системи. Вие определяте вашия случай на употреба и свързвате данните от вашия Unity Catalog ; платформата генерира варианти на агенти, оптимизира с оценка и ви позволява да прецизирате, всичко това с вградено управление и сигурност.

Когато имате нужда от прецизен контрол и искате да използвате повторно познати библиотеки, подходът, базиран на код, комбинира Mosaic AI Agent Framework и MLflow . С Python можете да дефинирате логиката на агента, да активирате извиквания на инструменти, да извършвате подробно проследяване и в крайна сметка да пакетирате и внедрите в производство с екосистемата Databricks.

Ако вече използвате рамки на трети страни, има вградена поддръжка за LangGraph/ LangChain , LlamaIndex или персонализирани Python имплементации. Благодарение на сигнатурите на моделите и интерфейсите на агентите на MLflow, можете да ги включите в възможностите за оценка и наблюдение, без да пренаписвате от нулата.

Искате да създавате прототип със светкавична скорост? С AI Playground избирате модела и виртуалната машина, добавяте инструменти към LLM чрез low-code интерфейс и чатите за валидиране. След това експортирате агента в готов за производство код и продължавате със стандартния жизнен цикъл на разработка.

Сигнатури на модели и съвместимост с функциите на платформата

Azure Databricks използва сигнатури на модела MLflow , за да опише входната и изходната схема на агентите. Функциите на продукта – като например AI Playground или оценяване – изискват агентът да отговаря на една от поддържаните сигнатури, за да се осигури оперативна съвместимост.

Ако следвате препоръчителния подход при изграждането на агента, MLflow автоматично извежда съвместимия подпис без никакви допълнителни стъпки. В противен случай проверете дали вашата имплементация съответства на един от подписите в старата схема за вход и изход на агента, като по този начин избегнете изненади при интегриране с инструменти на Databricks.

Кратък урок: Първи агент с Mosaic AI Agent Framework

Целта е да се създаде агент, който разсъждава с LLM, хостван в Databricks и да може да изпълнява инструменти, например вградената функция system.ai.python_exec от каталога на Unity, за да изпълняваме Python код. Освен това ще активираме проследяване с MLflow за проверка на следи и диагностика.

Основни изисквания за работното пространство: активиране на функциите на агента и наличие на достъп до обслужване на моделиВ средата за изпълнение инсталирайте пакети като mlflow, databricks-openai и агентът-опаковчик (databricks-agent o databricks-agents(в зависимост от ръководството, което следвате, и версията) и рестартирайте Python, за да заредите зависимостите.

Дефинирайте връзката към услугата за моделиране, използвайки OpenAI клиента, който тя предоставя Работно пространствоКлиент, активен mlflow.openai.autolog() за автоматично измерване и записва наличните инструменти. Сред тях, system.ai.python_exec Той служи като бездържавен интерпретатор на Python и позволява на LLM да решава изчисления или да манипулира данни по време на диалога.

С функция като run_agent(), изпращате подканата на потребителя до крайната точка на чата (Например, модел като «databricks-claude-3-7-sonnet«и да управлявате възможно извиквания към инструменти връщане на съобщенията от асистента и отговорите на инструмента в съгласуван списък.

За да тествате, изпълнете заявка, която изисква код (напр. изчисляване на 100-ното число на Фибоначи ) и прегледайте както изхода на съветника, така и следите на MLflow, регистрирани в свързания бележник или експеримент. Това ще ви позволи да прецизирате оркестрацията преди пакетирането.

Опаковано с MLflow и внедрено в Model Serving

Препоръчителен начин за подготовка на агента за работа е чрез имплементиране на интерфейса MLflow ЧатАгентНужен ви е метод predict() който приема съобщения, извиква логиката на вашия агент и връща Отговор на ChatAgent със списъка със съобщения (включително междинни съобщения, свързани с инструменти, ако е приложимо).

За да улесните сервитут, консолидирайте целия код в един Python файл (например, като използвате %%writefile quickstart_agent.py (ако работите на лаптоп). В последната част, обадете се mlflow.models.set_model() предаване на екземпляра на вашия клас (напр. QuickstartAgent) за установяване на входна точка на извод.

Регистрирайте агента в Каталог Unity с mlflow.pyfunc.log_model, включително средства които ще ви трябват в производството: крайната точка на LLM модела (напр. DatabricksServingEndpoint) и функциите на каталога, които агентът ще извика (напр. DatabricksFunction с system.ai.python_execПо този начин, Databricks могат Конфигуриране на удостоверяване за тези ресурси при разполагането им.

Накрая използвайте API на агента, за да да се разположи модела към крайна точка на услугата: from databricks import agents y agents.deploy(model_name, model_version)Когато крайната точка стартира, ще можете да Чат от AI Playgroundсподелете го със заинтересованите страни и започнете да събирате обратна връзка.

Ако искате да продължите да се усъвършенствате, Databricks предлага ръководства за измерване на качеството на агентите , изграждане на агенти с извличане (RAG) върху неструктурирани данни и контролиране на многократни разговори, както и алтернативи с LangGraph, чист Python или OpenAI.

ResponsesAgent: Модерният интерфейс за производствени агенти

Въпреки че ЧатАгент Работи добре, MLflow го препоръчва днес Агент за отговори За сериозни агенти. Този интерфейс е съвместим със схемата Responses от OpenAI и позволява интеграцията на агенти от всяка рамка с възможностите на Databricks (регистрация, проследяване, оценка, внедряване и наблюдаемост) безпроблемно.

Основни предимства: вградена поддръжка за системи многоагентен, изход от режим стрийминг, пълна история на съобщенията и извикванията на инструменти, потвърждение на извикванията на инструменти и дълготрайни инструменти. Освен това предлага типизирани интерфейси В Python, автоматично извеждане на сигнатура, автоматично проследяване на predict y predict_stream и подобрени таблици за извод чрез AI портал.

Изисквания за монтаж за този подход: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (използвайки Serverless или Databricks Runtime 13.3 LTS+). Databricks също препоръчва следните пакети: AI мост за общи интеграции.

Полезни интеграции: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) и databricks-ai-bridge (Агенти на чист Python). С тези части можете да изградите всичко - от прости агенти до сложни тръбопроводи с възстановяване и извикване на инструмент.

Ако вече имате вграден агент, обвийте го в клас, който наследява от mlflow.pyfunc.ResponsesAgent. Прилагане predict за преобразуване на входовете и изходите в Схема на агента за отговориЗа стрийминг, разчитайте на predict_stream, излъчващ делти и последно събитие response.output_item.done Моля, добавете пълния отговор.

Що се отнася до грешките при стрийминг, Mosaic AI разпространява грешката заедно с последния токен в нея. databricks_output.errorВашият клиент трябва да го заснеме и покаже правилно, подобрявайки опит с пречистване.

Системи за възстановяване, персонализирани входни данни и проследимост

Много агенти използват рециклиращи компании за RAGs върху векторни индекси. Ако вашите обхвати на извличане разкриват различна схема, можете да я картографирате с mlflow.models.set_retriever_schemaдеклариране primary_key, text_column, doc_uri и други колони. По този начин, AI Playground ще покаже Връзки към източници възстановени и оценката ще се прилага показатели за релевантност автоматично.

В случаите, когато вашият агент изисква допълнителна информация (например тип_клиент o сесиен идентификатор), използва custom_inputs и връща метаданни в custom_outputs това не трябва да замърсява историята на чата. Както AI Playground, така и приложението за преглед ви позволяват да влизате персонализирани_входове от потребителския интерфейс.

Разгръщане с deploy(), изисквания и автоматизирани действия

За да публикувате вашия агент в Mosaic AI Model Serving, използвайте функцията deploy() на Python API. В MLflow 3 инсталирайте mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (ако внедрявате извън преносими компютри). В MLflow 2.x минималните стойности се променят (например, mlflow >= 2.13.1 y databricks-agents >= 0.12.0Уверете се Регистрирайте агента в каталога на Unity преди разполагането.

Обърнете се към deploy() изградете мащабируема крайна точка с автоматично балансиране, конфигурирайте сигурно удостоверяване за ресурси на Databricks (векторни индекси, каталожни функции) — проверка на разрешенията на собственика — и активира заявление за преглед за сътрудничество със заинтересованите страни.

Също така позволява наблюдение в реално време в MLflow (с трасирания в активния експеримент и в таблиците за извод). В MLflow 3 може да се конфигурира наблюдение на продукцията с автоматична оценка на качеството; REST заявките и коментарите се регистрират в таблици за извод (с помощта на съвременни API за обратна връзка).

За персонализиране, предайте аргументи на deploy() като scale_to_zero_enabled=Trueнамаляване на разходите след прекъсване на работата за сметка на по-висока латентност при първото запитване. Освен това разполагате с помощни програми за списък, получаване и изтриване внедрявания чрез API на агента.

Добри практики за модели на състояние, конфигурация и изпълнение

Сервирането на модел е разпределено: избягвайте локални кешове и приема, че различните отговори могат да се справят с различни обрати в разговора. Той реконструира състоянието от речник на ResponsesAgentRequest във всяка predict и да проектираме държавата да бъде безопасен за нишки.

Инициализира състоянието вътре predict а не в конструктора на агента, тъй като една реплика може да обработва разговори от различни потребители. Това предотвратява изтичане на информация и конфликти на паралелизъм във високопроизводителни среди.

Параметризирайте поведението на агента с ModelConfig (речник или YAML). Дефинирайте например, model_serving_endpointLLM параметри и шаблони за подкани; заредете тази конфигурация в разработката и я внедрете в продукцията без да докосвам кода.

Избягвайте въвеждането на цикли на събития или асинхронни рамки на сървъра на агента: Databricks обработва паралелността вътрешно . Използвайте синхронен код или обратни извиквания; в противен случай може да срещнете грешки като „Този ​​цикъл на събития вече се изпълнява“ и нестабилно поведение.

Agent Bricks: автоматизация „без код“ за ускоряване на генерирането на стойност

Agent Bricks, представен през 2025 г., предлага безпроблемен работен процес за създаване на агенти, който не изисква кодиране . Въвеждате задачата на естествен език, свързвате данните си и платформата избира модели, генерира синтетични данни , оценява и усъвършенства процеса, докато не предостави готов за производство агент с управление Unity Catalog.

Сред предимствата му са цялостна автоматизация , мащабируемост в Databricks — с крайни точки, които могат да се мащабират до нула след 3 дни бездействие — анализ на употребата и разходите на Lakehouse и типове готови агенти (извличане на информация, персонализиран LLM , асистент за знания и многоагентен супервайзор за сложна оркестрация).

Ограниченията включват факта, че генерираният код в момента не може да се изтегли , което намалява възможностите за дълбоко персонализиране, а каталогът с шаблони е насочен към организации, които вече са интегрирани с Lakehouse и Unity Catalog. Някои потребители също така намират, че показателите за разходите не са достатъчно подробни .

Примери, мултиагентни и агенти със състояние

В официалната документация ще намерите тетрадки с OpenAI (прост чат и извиквания на инструменти, както за Databricks, така и за OpenAI хоствани модели), LangGraph (извикване на инструменти) и DSPy (извиквания на инструменти с едно завъртане). Това са отлични основи за разширяване на функционалността с персонализирани инструменти и оценки на качеството.

За да организирате множество специалисти, можете да настроите сътрудничещи си системи , използвайки инструменти като Genie. А ако се интересувате от памет за разговори, има поддръжка за агенти със състояние, които позволяват контролни точки и запазване на нишките на чата.

В официалната документация ще намерите тетрадки с OpenAI (прост чат и извиквания на инструменти, както за Databricks, така и за OpenAI хоствани модели), LangGraph (извикване на инструменти) и DSPy (извиквания на инструменти с едно завъртане). Това са отлични основи за разширяване на функционалността с персонализирани инструменти и оценки на качеството.

Приложения на Databricks: Потребителски интерфейс с React и backend във FastAPI

Приложенията Databricks предоставят надеждна платформа за предоставяне на богати интерфейси, без да е необходимо да се настройва външна инфраструктура. Те се интегрират директно с Databricks SQL, Unity Catalog , Model Serving и Jobs и наследяват контролите за сигурност и съответствие на платформата.

Много практичен модел е да се създаде фронтенд с React (поддържащ стрийминг, рендиране на съобщения и Markdown UX) и бекенд с FastAPI , който действа като мост към крайната точка на агента. Бекендът насочва заявката на потребителя към услугата на модела и връща структурирания отговор на клиента.

В FastAPI редът на сглобяване на подприложенията е важен: app.mount("/api", api_app) насочва API маршрути (например, /api/chat) Y app.mount("/", ui_app) Той обслужва статичните файлове от React build-а в главната директория. Тази схема поддържа яснота на маршрутите и отделя потребителския интерфейс от крайните точки.

Конфигурирайте променливи на средата (напр. SERVING_ENDPOINT_NAME или FQN на модела на агента в Unity Catalog) от дефиницията на приложението в Databricks. Компилирайте фронтенда (npm run build), синхронизира файлове, декларира зависимости (requirements.txt) и започва с Гъникорн + Увикорн работници за ASGI.

Реален случай: чатбот за производствени операции

В сценарии за управление на производствените операции (MOM), чатбот Databricks може да помогне на производствените мениджъри с анализ на пречките , проследяване на инвентара и генериране на отчети. Функциите са представени като инструменти в каталога на Unity (чрез SQL или Python) и агентът ги извиква въз основа на контекста.

Примери: функция identify_bottleneck_station Изпълнява заявки в Databricks SQL, за да открие етапа, който причинява най-много забавяния; друг, check_inventory_levelsВръща информация за наличностите в реално време. Агентът може също така изпращане на имейли, да изготвят отчети и да извършват анализ на настроенията, всичко това оркестрирано с инструменти.

Разгръщането на крайната точка Model Serving действа като стандартен backend . Приложението React използва тази крайна точка, показвайки отговори в реално време с изпипано потребителско изживяване и поддържайки стрийминг на токени, когато е активирано във вашия ResponsesAgent.

Миграция от ChatCompletions и съвместимост

Ако вашият стар агент използва ChatCompletions API на OpenAI , можете да мигрирате към ResponsesAgent с контейнер, който преобразува входящи/изходящи съобщения и, по избор, картографира делта на стрийминга към ResponsesAgentStreamEvent . Това модернизира телеметрията и наблюдаемостта, без да се пренаписва основната логика.

За изброяване и управление на внедряванията, API на агента ви позволява да изброявате съществуващи внедрявания, да извличате конкретно внедряване (по име и версия) и да премахвате крайни точки, от които вече не се нуждаете. Не забравяйте да управлявате идентификационните данни за външни ресурси, като използвате променливи на средата и тайни.

Databricks предлага пълен път: от генериране на идеи с AI Playground или автоматизация с Agent Bricks, през разработване на код (Mosaic AI, MLflow, LangGraph, DSPy), до пакетиране, регистрация в каталога на Unity , внедряване с deploy() и мониторинг на производството. С най-добри практики като правилни сигнатури на модели , защитено състояние в разпределени среди и параметризирана конфигурация, можете да предоставяте надеждни, управлявани агенти, готови за интегриране в уеб приложения на платформата.

Свързана статия:

Клод 4: Антропният подход преосмисля изкуствения интелект с усъвършенствани модели за програмиране и автономни агенти