Реализация ИИ-агентов с помощью Databricks: полное практическое руководство

Информатек Диджитал » Ресурсы » Реализация ИИ-агентов с помощью Databricks: полное практическое руководство

Создание ИИ-агентов в Databricks больше не является исключительной прерогативой специалистов с ультратехническим складом ума: благодаря визуальным средам, таким как AI Playground , автоматизации с помощью Agent Bricks и фреймворкам MLflow, вы теперь можете пройти путь от идеи до прототипа и от прототипа до производства, не запутавшись в процессе. В этом руководстве мы обобщили все, что вам нужно для создания, оценки и развертывания агентов, которые вызывают инструменты, запрашивают данные и интегрируются с системой управления каталогом Unity.

Помимо изучения подхода без кода и разработки на Python, вы узнаете, как упаковывать агентов с помощью MLflow (ChatAgent и ResponsesAgent) , регистрировать ресурсы в каталоге, включать мониторинг в реальном времени и масштабировать систему с помощью Model Serving. Мы также включили пример приложения, созданного с использованием React и FastAPI, для бесшовной интеграции вашего агента в корпоративный веб-интерфейс.

Варианты создания агентов в Databricks

Если для вас важны скорость и простота, Agent Bricks предлагает автоматизированный рабочий процесс для создания высококачественных, соответствующих предметной области систем агентов. Вы указываете свой сценарий использования и подключаете данные из каталога Unity ; платформа генерирует варианты агентов, оптимизирует их с помощью оценки и позволяет дорабатывать, при этом обеспечивая встроенное управление и безопасность.

Когда требуется высокоточный контроль и вы хотите повторно использовать знакомые библиотеки, подход, основанный на коде, сочетает в себе фреймворк Mosaic AI Agent Framework и MLflow . С помощью Python вы можете определять логику агента, включать вызовы инструментов, выполнять детальное отслеживание и, в конечном итоге, упаковывать и развертывать в продакшене с помощью экосистемы Databricks.

Если вы уже используете сторонние фреймворки, предусмотрена встроенная поддержка LangGraph/ LangChain , LlamaIndex или пользовательских реализаций на Python. Благодаря сигнатурам моделей и интерфейсам агентов MLflow вы можете интегрировать их в возможности оценки и мониторинга без необходимости переписывать код с нуля.

Хотите создавать прототипы с молниеносной скоростью? С AI Playground вы выбираете модель и виртуальную машину, добавляете инструменты в LLM через интерфейс с минимальным количеством кода и общаетесь для проверки. Затем вы экспортируете агента в готовый к производству код и продолжаете стандартный цикл разработки.

Сигнатуры моделей и совместимость с функциями платформы

Azure Databricks использует сигнатуры моделей MLflow для описания входной и выходной схемы агентов. Функции продукта, такие как AI Playground или оценка, требуют, чтобы агент соответствовал одной из поддерживаемых сигнатур для обеспечения совместимости.

Если вы будете следовать рекомендованному подходу при создании агента, MLflow автоматически определит совместимую сигнатуру без каких-либо дополнительных шагов. В противном случае убедитесь, что ваша реализация соответствует одной из сигнатур в устаревшей схеме ввода и вывода агента, чтобы избежать неожиданностей при интеграции с инструментами Databricks.

Краткое руководство: первый агент с фреймворком Mosaic AI Agent Framework

Цель состоит в том, чтобы создать агента, который рассуждает с помощью LLM размещено в Databricks и иметь возможность запускать инструменты, например встроенную функцию system.ai.python_exec из каталога Unity для запуска кода Python. Кроме того, мы включим отслеживание с помощью MLflow для осмотра следов и диагностики.

Основные требования к рабочему пространству: включить функции агента и иметь доступ к модели обслуживанияВ среде выполнения установите такие пакеты, как mlflow, databricks-openai и агент-упаковщик (databricks-agent o databricks-agents(в зависимости от руководства, которому вы следуете, и версии) и перезапустите Python, чтобы загрузить зависимости.

Определите подключение к службе модели, используя клиент OpenAI, который она предоставляет. WorkspaceClient, активный mlflow.openai.autolog() для автоматического управления приборами и регистрирует доступные инструменты. Среди них: system.ai.python_exec Он служит интерпретатором Python без сохранения состояния и позволяет LLM выполнять вычисления или манипулировать данными во время диалога.

С такой функцией, как run_agent(), вы отправляете запрос пользователя в конечную точку чата (Например, такая модель как «databricks-claude-3-7-sonnet«и управлять возможными призывы к инструментам возвращать сообщения помощника и ответы инструментов в виде связного списка.

Для тестирования выполните запрос, требующий выполнения кода (например, вычисление 100-го числа Фибоначчи ), и просмотрите как вывод мастера, так и трассировки MLflow, зарегистрированные в соответствующем блокноте или эксперименте. Это позволит вам уточнить настройку перед упаковкой.

Упаковано с помощью MLflow и развернуто в Model Serving

Рекомендуемый способ подготовки агента к производству — реализация интерфейса MLflow ChatAgentВам нужен метод. predict() который принимает сообщения, вызывает логику вашего агента и возвращает ChatAgentResponse со списком сообщений (включая промежуточные сообщения, связанные с инструментами, если применимо).

Чтобы облегчить работу, объедините весь код в один файл Python (например, используя %%writefile quickstart_agent.py (если вы работаете на ноутбуке). В заключительной части позвоните mlflow.models.set_model() передавая экземпляр вашего класса (например, QuickstartAgent) для установления точка входа вывода.

Зарегистрируйте агента в Каталог Unity c mlflow.pyfunc.log_modelв том числе средства что вам понадобится в производстве: конечная точка модели LLM (например, DatabricksServingEndpoint) и функции каталога, которые агент будет вызывать (например, DatabricksFunction c system.ai.python_execТаким образом, Databricks может Настроить аутентификацию для этих ресурсов при развертывании.

Наконец, используйте API агента для отчаянный модель к конечной точке сервиса: from databricks import agents y agents.deploy(model_name, model_version)Когда конечная точка запустится, вы сможете Чат от AI Playgroundподелитесь ею с заинтересованными сторонами и начните собирать отзывы.

Если вы хотите продолжать совершенствоваться, Databricks предлагает руководства по измерению качества агентов , созданию агентов с поиском информации (RAG) на неструктурированных данных и управлению многоходовыми диалогами, а также альтернативные решения на основе LangGraph, чистого Python или OpenAI.

ResponsesAgent: современный интерфейс для производственных агентов

Хотя ЧатАгент Работает хорошо, MLflow рекомендует его сегодня. ОтветыАгент Для серьёзных агентов. Этот интерфейс совместим со схемой. Responses от OpenAI и позволяет интегрировать агентов из любой фреймворк с возможностями Databricks (регистрация, отслеживание, оценка, развертывание и наблюдаемость) без проблем.

Ключевые преимущества: встроенная поддержка системы многоагентный, выход из режима потоковый, полная история сообщений и вызовов инструментов, подтверждение вызовов инструментов и долговечные инструменты. Кроме того, он предлагает типизированные интерфейсы В Python автоматический вывод подписи, автоматическое отслеживание predict y predict_stream и улучшенные таблицы вывода с помощью AI-шлюз.

Требования к установке для этого подхода: databricks-agents 1.2.0+, mlflow 3.1.3+ y Python 3.10 + (с использованием Serverless или Databricks Runtime 13.3 LTS+). Databricks также рекомендует следующие пакеты: Мост ИИ для общих интеграций.

Полезные интеграции: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) и databricks-ai-bridge (Агенты на чистом Python). С помощью этих компонентов вы можете создать что угодно: от простых агентов до сложные трубопроводы с восстановлением и вызовом инструмента.

Если у вас уже есть встроенный агент, оберните его в класс, который наследуется от mlflow.pyfunc.ResponsesAgent. Осуществлять predict для преобразования входов и выходов в Схема ResponsesAgentДля потоковой передачи положитесь на predict_stream, излучающий дельт и финальное событие response.output_item.done Пожалуйста, добавьте полный ответ.

Что касается ошибок потоковой передачи, Mosaic AI распространяет ошибку вместе с последним токеном в пределах databricks_output.errorВаш клиент должен правильно его захватить и отобразить, улучшив опыт очищения.

Системы восстановления, пользовательские входные данные и прослеживаемость

Многие агенты используют восстановители для групп RAG по векторным индексам. Если ваши области поиска используют другую схему, вы можете сопоставить её с mlflow.models.set_retriever_schemaдекларируя primary_key, text_column, doc_uri и другие столбцы. Таким образом, AI Playground покажет Ссылки на источники восстановлено и оценка будет применена релевантности автоматически.

В случаях, когда вашему агенту требуется дополнительная информация (например, тип_клиента o session_id), использует custom_inputs и возвращает метаданные в custom_outputs Это не должно загрязнять историю чата. И AI Playground, и приложение для отзывов позволяют вам вводить пользовательские_входы из пользовательского интерфейса.

Развертывание с помощью deploy(), требований и автоматизированных действий

Чтобы опубликовать своего агента в Mosaic AI Model Serving, используйте функцию deploy() API Python. В MLflow 3 установите mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (если вы разворачиваете вне блокнотов). В MLflow 2.x минимальные значения меняются (например, mlflow >= 2.13.1 y databricks-agents >= 0.12.0Убеждаться Зарегистрируйте агента в каталоге Unity перед развертыванием.

Позвонить deploy() создать масштабируемую конечную точку с помощью автоматическая балансировка, настройте безопасная аутентификация для ресурсов Databricks (векторные индексы, функции каталога) —проверка прав владельца—и активирует рассмотреть заявку для сотрудничества с заинтересованными сторонами.

Это также позволяет осуществлять мониторинг в реальном времени в MLflow (с трассировкой в ​​активном эксперименте и в таблицах вывода). В MLflow 3 можно настроить мониторинг производства с автоматической оценкой качества; REST-запросы и комментарии регистрируются в таблицах вывода (с использованием современных API обратной связи).

Для настройки передайте аргументы deploy() в качестве scale_to_zero_enabled=TrueСнижение затрат после простоя за счёт увеличения задержки при первом запросе. Кроме того, у вас есть утилиты для список, получить и удалить развертывания через API агента.

Передовые практики для шаблонов состояния, конфигурации и выполнения

Модель обслуживания распределена: избегайте локальные кэши и предполагает, что разные ответы могут отражать разные повороты в разговоре. Он реконструирует состояние из словарь ResponsesAgentRequest в каждом predict и спроектировать государство таким образом, чтобы оно было потокобезопасной.

Инициализирует состояние внутри predict и не в конструкторе агента, поскольку одна реплика может обрабатывать разговоры от разных пользователей. Это предотвращает утечки информации и конфликты параллелизма в высокопроизводительных средах.

Параметризуйте поведение агента с помощью ModelConfig (словарь или YAML). Определите, например, model_serving_endpointПараметры LLM и шаблоны подсказок; загрузите эту конфигурацию в разработку и переведите ее в производство. не трогая код.

Избегайте использования циклов событий или асинхронных кадров на сервере агента: Databricks обрабатывает параллелизм внутри себя . Используйте синхронный код или обратные вызовы; в противном случае вы можете столкнуться с ошибками, такими как «Этот цикл событий уже запущен», и нестабильным поведением.

Agent Bricks: автоматизация «без кода» для ускорения создания ценности

Представленная в 2025 году платформа Agent Bricks предлагает удобный процесс создания агентов, не требующий программирования . Вы вводите задачу на естественном языке, подключаете свои данные, и платформа выбирает модели, генерирует синтетические данные , оценивает и совершенствует процесс до тех пор, пока не предоставит готового к использованию агента с управлением через Unity Catalog.

Среди его преимуществ — сквозная автоматизация , масштабируемость в Databricks (с возможностью масштабирования до нуля конечных точек после 3 дней бездействия), анализ использования и затрат в Lakehouse, а также готовые типы агентов (извлечение информации, пользовательская LLM , помощник по знаниям и многоагентный супервизор для сложной оркестрации).

К ограничениям относится тот факт, что сгенерированный код в настоящее время недоступен для скачивания , что ограничивает возможности глубокой настройки, а также то, что каталог шаблонов ориентирован на организации, уже интегрированные с Lakehouse и Unity Catalog. Некоторые пользователи также считают, что показатели стоимости недостаточно детализированы .

Примеры, многоагентные и агенты с отслеживанием состояния

В официальной документации вы найдете блокноты с OpenAI (простой чат и вызов инструментов, как для моделей, размещенных в Databricks, так и в OpenAI), LangGraph (вызов инструментов) и DSPy (вызов инструментов за один раз). Это отличная основа для расширения функциональности с помощью пользовательских инструментов и оценок качества.

Для координации работы нескольких специалистов можно настроить взаимодействующие системы с помощью таких инструментов, как Genie. А если вас интересует память диалогов, то поддерживаются агенты с сохранением состояния, позволяющие создавать контрольные точки и сохранять цепочку чата.

В официальной документации вы найдете блокноты с OpenAI (простой чат и вызов инструментов, как для моделей, размещенных в Databricks, так и в OpenAI), LangGraph (вызов инструментов) и DSPy (вызов инструментов за один раз). Это отличная основа для расширения функциональности с помощью пользовательских инструментов и оценок качества.

Приложения на Databricks: пользовательский интерфейс с React и бэкэнд в FastAPI

Приложения Databricks предоставляют надежную платформу для создания многофункциональных интерфейсов без необходимости настройки внешней инфраструктуры. Они интегрируются с Databricks SQL, Unity Catalog , Model Serving и Jobs, а также наследуют средства обеспечения безопасности и соответствия требованиям платформы.

Очень практичный подход — создать фронтенд на React (с поддержкой потоковой передачи данных, рендеринга сообщений и пользовательского интерфейса Markdown) и бэкенд на FastAPI , который выступает в качестве моста к конечной точке агента. Бэкенд направляет запрос пользователя в сервис модели и возвращает структурированный ответ клиенту.

В FastAPI важен порядок сборки подприложений: app.mount("/api", api_app) направляет маршруты API (например, /api/chat) А app.mount("/", ui_app) Он обслуживает статические файлы сборки React в корневом каталоге. Эта схема поддерживает ясность маршрутов и отделяет пользовательский интерфейс от конечных точек.

Настройте переменные среды (например, SERVING_ENDPOINT_NAME или полное имя модели агента в каталоге Unity) из определения приложения в Databricks. Скомпилируйте интерфейс (npm run build), синхронизирует файлы, объявляет зависимости (requirements.txt) и начинается с Гуникорн + Увикорн работники ASGI.

Реальный кейс: чат-бот для производственных операций

В сценариях управления производственными операциями (MOM) чат-бот Databricks может помочь менеджерам производства в анализе узких мест , отслеживании запасов и создании отчетов. Функции предоставляются в виде инструментов в каталоге Unity (через SQL или Python), и агент вызывает их в зависимости от контекста.

Примеры: функция identify_bottleneck_station Он выполняет запросы в SQL-файле Databricks, чтобы определить этап, который вызывает больше всего задержек; другой, check_inventory_levelsОн возвращает данные о запасах в режиме реального времени. Агент также может отправлять электронные письма, создавать отчеты и проводить анализ настроений, все это организовано с помощью вызовов инструментов.

Развертывание конечной точки Model Serving выступает в качестве стандартного бэкэнда . Приложение React использует эту конечную точку, отображая ответы в реальном времени с удобным пользовательским интерфейсом и поддерживая потоковую передачу токенов, если эта функция включена в вашем ResponsesAgent.

Миграция из ChatCompletions и совместимость

Если ваш устаревший агент использует API ChatCompletions от OpenAI , вы можете перейти на ResponsesAgent с контейнером, который преобразует входящие/исходящие сообщения и, при необходимости, сопоставляет изменения потоковой передачи с ResponsesAgentStreamEvent . Это модернизирует телеметрию и мониторинг без переписывания основной логики.

Для отображения и управления развертываниями API агента позволяет перечислять существующие развертывания, получать информацию о конкретном развертывании (по имени и версии) и удалять ненужные конечные точки. Не забудьте управлять учетными данными внешних ресурсов с помощью переменных среды и секретов.

Databricks предлагает полный цикл разработки: от генерации идей с помощью AI Playground или автоматизации с помощью Agent Bricks, через разработку кода (Mosaic AI, MLflow, LangGraph, DSPy), до упаковки, регистрации в каталоге Unity , развертывания с помощью deploy() и мониторинга в производственной среде. Благодаря таким передовым методам, как правильные сигнатуры моделей , безопасное состояние в распределенных средах и параметризованная конфигурация, вы можете создавать надежные, управляемые агенты, готовые к интеграции в веб-приложения на платформе.

Связанная статья:

Клод 4: Anthropic переосмысливает искусственный интеллект с помощью усовершенствованных моделей программирования и автономных агентов