- Τα Agent Bricks, AI Playground και MLflow καλύπτουν τα πάντα, από το πρωτότυπο έως την ανάπτυξη, με διακυβέρνηση στον Κατάλογο Unity.
- Το ResponsesAgent ενσωματώνει streaming, multi-agent και rich traces με MLflow και AI Gateway.
- Η ανάπτυξη με την deploy() δημιουργεί ασφαλή τελικά σημεία, με παρακολούθηση και έλεγχο σε πραγματικό χρόνο.
Η δημιουργία πρακτόρων AI στο Databricks δεν αποτελεί πλέον αποκλειστικό πεδίο υπερ-τεχνικών προφίλ: μεταξύ οπτικών περιβαλλόντων όπως το AI Playground , αυτοματισμού με Agent Bricks και πλαισίων MLflow, μπορείτε πλέον να μεταβείτε από την ιδέα στο πρωτότυπο και από το πρωτότυπο στην παραγωγή χωρίς να χαθείτε στη διαδικασία. Σε αυτόν τον οδηγό, συμπυκνώνουμε όλα όσα χρειάζεστε για να δημιουργήσετε, να αξιολογήσετε και να αναπτύξετε πράκτορες που καλούν εργαλεία, αναζητούν δεδομένα και ενσωματώνονται με τη διακυβέρνηση του Unity Catalog.
Εκτός από την εξερεύνηση της προσέγγισης χωρίς κώδικα και την ανάπτυξη σε Python, θα μάθετε πώς να πακετάρετε πράκτορες με το MLflow (ChatAgent και ResponsesAgent) , να καταχωρείτε πόρους στον κατάλογο, να ενεργοποιείτε την παρακολούθηση σε πραγματικό χρόνο και να κλιμακώνετε χρησιμοποιώντας το Model Serving. Περιλαμβάνουμε επίσης ένα δείγμα εφαρμογής που έχει δημιουργηθεί με React και FastAPI για την απρόσκοπτη ενσωμάτωση του πράκτορά σας σε μια εταιρική διεπαφή ιστού.
Επιλογές για τη δημιουργία πρακτόρων στο Databricks
Αν δίνετε προτεραιότητα στην ταχύτητα και την απλότητα, το Agent Bricks παρέχει μια αυτοματοποιημένη ροή εργασίας για τη δημιουργία συστημάτων πρακτόρων υψηλής ποιότητας, ευθυγραμμισμένων με τομείς. Εσείς καθορίζετε την περίπτωση χρήσης σας και συνδέετε τα δεδομένα του Unity Catalog σας . Η πλατφόρμα δημιουργεί παραλλαγές πρακτόρων, βελτιστοποιεί με αξιολόγηση και σας επιτρέπει να κάνετε βελτιώσεις, όλα με ενσωματωμένη διακυβέρνηση και ασφάλεια.
Όταν χρειάζεστε λεπτομερή έλεγχο και θέλετε να επαναχρησιμοποιήσετε γνωστές βιβλιοθήκες, η προσέγγιση που βασίζεται σε κώδικα συνδυάζει το Mosaic AI Agent Framework και το MLflow . Με την Python, μπορείτε να ορίσετε τη λογική των agent, να ενεργοποιήσετε τις κλήσεις εργαλείων, να εκτελέσετε λεπτομερή παρακολούθηση και, τελικά, να συσκευάσετε και να αναπτύξετε σε παραγωγή με το οικοσύστημα Databricks.
Εάν χρησιμοποιείτε ήδη πλαίσια τρίτων, υπάρχει εγγενής υποστήριξη για LangGraph/ LangChain , LlamaIndex ή προσαρμοσμένες υλοποιήσεις Python. Χάρη στις υπογραφές μοντέλων και τις διεπαφές πρακτόρων του MLflow, μπορείτε να τις ενσωματώσετε στις δυνατότητες αξιολόγησης και παρακολούθησης χωρίς να χρειαστεί να τις ξαναγράψετε από την αρχή.
Θέλετε να δημιουργήσετε πρωτότυπα με αστραπιαία ταχύτητα; Με το AI Playground, επιλέγετε το μοντέλο και την εικονική μηχανή, προσθέτετε εργαλεία στο LLM μέσω μιας διεπαφής χαμηλού κώδικα και συνομιλείτε για επικύρωση. Στη συνέχεια, εξάγετε τον παράγοντα σε κώδικα έτοιμο για παραγωγή και συνεχίζετε με τον τυπικό κύκλο ζωής ανάπτυξης.
Υπογραφές μοντέλων και συμβατότητα με χαρακτηριστικά πλατφόρμας
Το Azure Databricks χρησιμοποιεί υπογραφές μοντέλων MLflow για να περιγράψει το σχήμα εισόδου και εξόδου των πρακτόρων. Τα χαρακτηριστικά του προϊόντος—όπως το AI Playground ή η αξιολόγηση—απαιτούν τη συμμόρφωση του πράκτορα με μία από τις υποστηριζόμενες υπογραφές για να διασφαλιστεί η διαλειτουργικότητα.
Εάν ακολουθήσετε την προτεινόμενη προσέγγιση κατά τη δημιουργία του agent, το MLflow συνάγει αυτόματα την συμβατή υπογραφή χωρίς επιπλέον βήματα. Διαφορετικά, επαληθεύστε ότι η υλοποίησή σας συμμορφώνεται με μία από τις υπογραφές στο παλαιό σχήμα για την είσοδο και έξοδο του agent, αποφεύγοντας εκπλήξεις κατά την ενσωμάτωση με τα εργαλεία Databricks.
Γρήγορο σεμινάριο: Πρώτος πράκτορας με το Mosaic AI Agent Framework
Στόχος είναι η δημιουργία ενός πράκτορα που συλλογίζεται με LLM που φιλοξενείται στο Databricks και να είναι σε θέση να εκτελέσει εργαλεία, για παράδειγμα την ενσωματωμένη συνάρτηση system.ai.python_exec από τον Κατάλογο Unity για την εκτέλεση κώδικα Python. Επιπλέον, θα ενεργοποιήσουμε το παρακολούθηση με MLflow για την επιθεώρηση ιχνών και διαγνωστικών.
Βασικές απαιτήσεις χώρου εργασίας: ενεργοποίηση λειτουργιών πράκτορα και πρόσβαση στην υπηρεσία μοντέλουΣτο περιβάλλον εκτέλεσης, εγκαταστήστε πακέτα όπως mlflow, databricks-openai και ο πράκτορας συσκευασίας (databricks-agent o databricks-agents(ανάλογα με τον οδηγό που ακολουθείτε και την έκδοση) και επανεκκινήστε την Python για να φορτώσετε τις εξαρτήσεις.
Ορίστε τη σύνδεση με την υπηρεσία μοντέλου χρησιμοποιώντας τον πελάτη OpenAI που εκθέτει Πελάτης χώρου εργασίας, ενεργός mlflow.openai.autolog() για αυτόματα όργανα και καταγράφει τα διαθέσιμα εργαλεία. Μεταξύ αυτών, system.ai.python_exec Λειτουργεί ως διερμηνέας Python χωρίς κατάσταση και επιτρέπει στο LLM να λύνει υπολογισμούς ή να χειρίζεται δεδομένα κατά τη διάρκεια του διαλόγου.
Με μια λειτουργία όπως run_agent(), στέλνετε την προτροπή του χρήστη στο τελικό σημείο συνομιλίας (Για παράδειγμα, ένα μοντέλο όπως «databricks-claude-3-7-sonnet«και να διαχειρίζεστε πιθανά κλήσεις σε εργαλεία επιστρέφοντας τα μηνύματα του βοηθού και τις απαντήσεις του εργαλείου σε μια συνεκτική λίστα.
Για να το δοκιμάσετε, εκτελέστε ένα ερώτημα που απαιτεί κώδικα (π.χ., υπολογισμός του 100ού αριθμού Fibonacci ) και ελέγξτε τόσο την έξοδο του οδηγού όσο και τις ιχνηλασίες MLflow που έχουν καταγραφεί στο σχετικό σημειωματάριο ή πείραμα. Αυτό θα σας επιτρέψει να βελτιώσετε την ενορχήστρωση πριν από τη συσκευασία.
Συσκευασμένο με MLflow και ανεπτυγμένο σε Model Serving
Ένας συνιστώμενος τρόπος προετοιμασίας του πράκτορα για παραγωγή είναι η υλοποίηση της διεπαφής MLflow ChatAgentΧρειάζεστε μια μέθοδο predict() που δέχεται μηνύματα, καλεί τη λογική του πράκτορά σας και επιστρέφει ένα Απόκριση ChatAgent με τη λίστα μηνυμάτων (συμπεριλαμβανομένων ενδιάμεσων μηνυμάτων που σχετίζονται με εργαλεία, εάν υπάρχουν).
Για να διευκολυνθεί η υποτέλεια, ενοποιήστε όλο τον κώδικα σε ένα μόνο αρχείο Python (για παράδειγμα, χρησιμοποιώντας %%writefile quickstart_agent.py (αν εργάζεστε σε φορητό υπολογιστή). Στο τελευταίο μέρος, καλέστε mlflow.models.set_model() περνώντας την παρουσία της κλάσης σας (π.χ., QuickstartAgent) για να καθιερωθεί το σημείο εισόδου συμπέρασμα.
Εγγραφή του αντιπροσώπου στο Κατάλογος Ενότητας με mlflow.pyfunc.log_model, συμπεριλαμβανομένου πόρους που θα χρειαστείτε στην παραγωγή: το τελικό σημείο του μοντέλου LLM (π.χ., DatabricksServingEndpoint) και τις συναρτήσεις καταλόγου που θα καλέσει ο πράκτορας (π.χ., DatabricksFunction με system.ai.python_execΈτσι, τα Databricks μπορούν Ρύθμιση παραμέτρων ελέγχου ταυτότητας για αυτούς τους πόρους κατά την ανάπτυξη.
Τέλος, χρησιμοποιήστε το API του Agent για να για ανάπτυξη το μοντέλο σε ένα τελικό σημείο υπηρεσίας: from databricks import agents y agents.deploy(model_name, model_version)Όταν ξεκινήσει το τελικό σημείο, θα μπορείτε να Συνομιλία από το AI Playgroundμοιραστείτε το με ενδιαφερόμενα μέρη και ξεκινήστε τη συλλογή σχολίων.
Αν θέλετε να συνεχίσετε να βελτιώνεστε, η Databricks προσφέρει οδηγούς για τη μέτρηση της ποιότητας των πρακτόρων , τη δημιουργία πρακτόρων με ανάκτηση (RAG) σε μη δομημένα δεδομένα και τον έλεγχο συνομιλιών πολλαπλών στροφών, καθώς και εναλλακτικές λύσεις με LangGraph, καθαρή Python ή OpenAI.
ResponsesAgent: Η σύγχρονη διεπαφή για πράκτορες παραγωγής
Αν και ChatAgent Λειτουργεί καλά, το MLflow το συνιστά σήμερα Πράκτορας απαντήσεων Για σοβαρούς πράκτορες. Αυτή η διεπαφή είναι συμβατή με το σχήμα Responses από το OpenAI και επιτρέπει την ενσωμάτωση πρακτόρων από οποιοδήποτε πλαίσιο με τις δυνατότητες της Databricks (καταγραφή, παρακολούθηση, αξιολόγηση, ανάπτυξη και παρατηρησιμότητα) χωρίς τριβές.
Βασικά πλεονεκτήματα: εγγενής υποστήριξη για Sistemas πολυπράκτορας, λειτουργία εξόδου ροής, πλήρες ιστορικό μηνυμάτων και κλήσεων εργαλείων, επιβεβαίωση κλήσεων εργαλείων και εργαλεία μακράς διαρκείας. Επιπλέον, προσφέρει πληκτρολογημένες διεπαφές Στην Python, αυτόματη εξαγωγή συμπερασμάτων υπογραφής, αυτόματη παρακολούθηση predict y predict_stream και βελτιωμένους πίνακες συμπερασμάτων μέσω AI Gateway.
Απαιτήσεις εγκατάστασης για αυτήν την προσέγγιση: databricks-agents 1.2.0 +, mlflow 3.1.3 + y Python 3.10+ (χρησιμοποιώντας Serverless ή Databricks Runtime 13.3 LTS+). Η Databricks συνιστά επίσης τα ακόλουθα πακέτα: Γέφυρα Τεχνητής Νοημοσύνης για κοινές ενσωματώσεις.
Χρήσιμες ενσωματώσεις: databricks-openai (OpenAI), databricks-langchain (LangChain/LangGraph), databricks-dspy (DSPy) και databricks-ai-bridge (Πράκτορες σε καθαρή Python). Με αυτά τα κομμάτια μπορείτε να δημιουργήσετε οτιδήποτε, από απλούς πράκτορες έως σύνθετοι αγωγοί με ανάκτηση και κλήση εργαλείου.
Αν έχετε ήδη ενσωματωμένο agent, ενσωματώστε τον σε μια κλάση που κληρονομεί από mlflow.pyfunc.ResponsesAgent. Υλοποίηση predict για να μετατρέψετε τις εισόδους και τις εξόδους σε Σχήμα ResponsesAgentΓια streaming, βασιστείτε στο predict_stream, εκπέμποντας Δέλτα και μια τελική εκδήλωση response.output_item.done Παρακαλώ προσθέστε την πλήρη απάντηση.
Όσον αφορά τα σφάλματα ροής, το Mosaic AI μεταδίδει την αποτυχία μαζί με το τελευταίο διακριτικό εντός databricks_output.errorΟ πελάτης σας θα πρέπει να το καταγράψει και να το εμφανίσει σωστά, βελτιώνοντας το εμπειρία καθαρισμού.
Συστήματα ανάκτησης, προσαρμοσμένες εισροές και ιχνηλασιμότητα
Πολλοί πράκτορες χρησιμοποιούν ανακυκλωτές για RAGs πάνω από διανυσματικά ευρετήρια. Εάν τα διαστήματα ανάκτησής σας παρουσιάζουν ένα διαφορετικό σχήμα, μπορείτε να το αντιστοιχίσετε με mlflow.models.set_retriever_schemaδηλώνοντας primary_key, text_column, doc_uri και άλλες στήλες. Έτσι, το AI Playground θα εμφανίσει Σύνδεσμοι προς πηγές ανακτηθεί και η αξιολόγηση θα εφαρμοστεί βαθμολογητές συνάφειας αυτομάτως.
Σε περιπτώσεις όπου ο αντιπρόσωπός σας χρειάζεται πρόσθετες πληροφορίες (για παράδειγμα, τύπος_πελάτη o session_id), χρήσεις custom_inputs και επιστρέφει μεταδεδομένα σε custom_outputs που δεν θα πρέπει να μολύνουν το ιστορικό συνομιλιών. Τόσο το AI Playground όσο και η εφαρμογή αξιολόγησης σάς επιτρέπουν να εισάγετε custom_inputs από το περιβάλλον χρήστη.
Ανάπτυξη με deploy(), απαιτήσεις και αυτοματοποιημένες ενέργειες
Για να δημοσιεύσετε τον αντιπρόσωπό σας στο Mosaic AI Model Serving, χρησιμοποιήστε τη συνάρτηση deploy() του Python API. Στο MLflow 3, εγκαταστήστε mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (εάν αναπτύξετε εκτός φορητών υπολογιστών). Στο MLflow 2.x, τα ελάχιστα αλλάζουν (για παράδειγμα, mlflow >= 2.13.1 y databricks-agents >= 0.12.0Συγουρεύομαι Εγγραφή του πράκτορα στον Κατάλογο Unity πριν από την ανάπτυξη.
Κλήση προς deploy() δημιουργήστε ένα κλιμακωτό τελικό σημείο με αυτόματη εξισορρόπηση, διαμορφώστε το ασφαλή έλεγχο ταυτότητας για πόρους Databricks (διανυσματικά ευρετήρια, συναρτήσεις καταλόγου) —έλεγχος δικαιωμάτων κατόχου— και ενεργοποιεί το αξιολόγηση αίτησης για συνεργασία με τα ενδιαφερόμενα μέρη.
Επιτρέπει επίσης την παρακολούθηση σε πραγματικό χρόνο στο MLflow (με ίχνη στο ενεργό πείραμα και σε πίνακες συμπερασμάτων). Στο MLflow 3, μπορεί να ρυθμιστεί η παρακολούθηση παραγωγής με αυτόματη αξιολόγηση ποιότητας. Τα αιτήματα και τα σχόλια REST καταγράφονται σε πίνακες συμπερασμάτων (χρησιμοποιώντας σύγχρονα API ανάδρασης).
Για προσαρμογή, μεταβιβάστε ορίσματα σε deploy() ως scale_to_zero_enabled=Trueμειώνοντας το κόστος μετά από διακοπή λειτουργίας σε βάρος της υψηλότερης καθυστέρησης στο πρώτο αίτημα. Επιπλέον, έχετε βοηθητικά προγράμματα για λίστα, λήψη και διαγραφή αναπτύξεις μέσω του Agent API.
Καλές πρακτικές για μοτίβα κατάστασης, διαμόρφωσης και εκτέλεσης
Η προβολή μοντέλου κατανέμεται: αποφύγετε τοπικές προσωρινές μνήμες και υποθέτει ότι διαφορετικές απαντήσεις μπορούν να χειριστούν διαφορετικές στροφές σε μια συζήτηση. Ανακατασκευάζει την κατάσταση από το λεξικό του ResponsesAgentRequest σε κάθε μία predict και να σχεδιάσουμε το κράτος ώστε να είναι νήμα-ασφαλές.
Αρχικοποιεί την κατάσταση εντός predict και όχι στον κατασκευαστή πρακτόρων, καθώς ένα μόνο αντίγραφο θα μπορούσε να χειριστεί συνομιλίες από διαφορετικούς χρήστες. Αυτό αποτρέπει διαρροές πληροφοριών και συγκρούσεις ταυτοχρονισμού σε περιβάλλοντα υψηλής απόδοσης.
Παραμετροποιήστε τη συμπεριφορά του πράκτορα με ModelConfig (λεξικό ή YAML). Ορίστε, για παράδειγμα, model_serving_endpointΠαράμετροι LLM και πρότυπα προτροπών· φόρτωση αυτής της διαμόρφωσης στην ανάπτυξη και προώθηση της στην παραγωγή χωρίς να αγγίξετε τον κώδικα.
Αποφύγετε την εισαγωγή βρόχων συμβάντων ή ασύγχρονων πλαισίων στον διακομιστή πρακτόρων: Το Databricks χειρίζεται εσωτερικά την ταυτόχρονη λειτουργία . Χρησιμοποιήστε σύγχρονο κώδικα ή επανακλήσεις. Διαφορετικά, ενδέχεται να αντιμετωπίσετε σφάλματα όπως "Αυτός ο βρόχος συμβάντων εκτελείται ήδη" και ακανόνιστη συμπεριφορά.
Agent Bricks: αυτοματοποίηση "χωρίς κώδικα" για την επιτάχυνση της αξίας
Το Agent Bricks, που παρουσιάστηκε το 2025, προσφέρει μια απρόσκοπτη ροή εργασίας δημιουργίας πρακτόρων που δεν απαιτεί κωδικοποίηση . Εισάγετε την εργασία σε φυσική γλώσσα, συνδέετε τα δεδομένα σας και η πλατφόρμα επιλέγει μοντέλα, δημιουργεί συνθετικά δεδομένα , αξιολογεί και βελτιώνει τη διαδικασία μέχρι να παραδώσει έναν πράκτορα έτοιμο για παραγωγή με διακυβέρνηση Unity Catalog.
Μεταξύ των πλεονεκτημάτων του είναι ο αυτοματισμός από άκρο σε άκρο , η επεκτασιμότητα σε Databricks —με τελικά σημεία που μπορούν να κλιμακωθούν στο μηδέν μετά από 3 ημέρες αδράνειας—, η ανάλυση χρήσης και κόστους σε τύπους Lakehouse και ready agent (εξαγωγή πληροφοριών, προσαρμοσμένο LLM , βοηθός γνώσης και επόπτης πολλαπλών πρακτόρων για πολύπλοκη ενορχήστρωση).
Οι περιορισμοί περιλαμβάνουν το γεγονός ότι ο δημιουργημένος κώδικας δεν είναι προς το παρόν διαθέσιμος για λήψη , γεγονός που μειώνει την εκτεταμένη προσαρμογή, και ο κατάλογος προτύπων απευθύνεται σε οργανισμούς που έχουν ήδη ενσωματωθεί με το Lakehouse και το Unity Catalog. Ορισμένοι χρήστες θεωρούν επίσης ότι οι μετρήσεις κόστους δεν είναι λεπτομερείς .
Παραδείγματα, πολυπρακτορικοί και κρατικοί πράκτορες
Στην επίσημη τεκμηρίωση, θα βρείτε σημειωματάρια με OpenAI (απλή συνομιλία και κλήσεις εργαλείων, τόσο για μοντέλα Databricks όσο και για μοντέλα που φιλοξενούνται στο OpenAI), LangGraph (κλήση εργαλείου) και DSPy (κλήσεις εργαλείων με μία μόνο κίνηση). Αυτά αποτελούν εξαιρετικές βάσεις για την επέκταση της λειτουργικότητας με προσαρμοσμένα εργαλεία και αξιολογήσεις ποιότητας.
Για να συντονίσετε πολλαπλούς ειδικούς, μπορείτε να ρυθμίσετε συνεργαζόμενα συστήματα χρησιμοποιώντας εργαλεία όπως το Genie. Και αν ενδιαφέρεστε για τη μνήμη συνομιλιών, υπάρχει υποστήριξη για πράκτορες με δυνατότητα καταγραφής κατάστασης που επιτρέπουν σημεία ελέγχου και διατήρηση νημάτων συνομιλίας.
Στην επίσημη τεκμηρίωση, θα βρείτε σημειωματάρια με OpenAI (απλή συνομιλία και κλήσεις εργαλείων, τόσο για μοντέλα Databricks όσο και για μοντέλα που φιλοξενούνται στο OpenAI), LangGraph (κλήση εργαλείου) και DSPy (κλήσεις εργαλείων με μία μόνο κίνηση). Αυτά αποτελούν εξαιρετικές βάσεις για την επέκταση της λειτουργικότητας με προσαρμοσμένα εργαλεία και αξιολογήσεις ποιότητας.
Εφαρμογές στο Databricks: UI με React και backend σε FastAPI
Οι εφαρμογές Databricks παρέχουν μια ισχυρή πλατφόρμα για την παροχή πλούσιων διεπαφών χωρίς τη δημιουργία εξωτερικής υποδομής. Ενσωματώνονται εγγενώς με το Databricks SQL, το Unity Catalog , το Model Serving και τις Εργασίες και κληρονομούν τα στοιχεία ελέγχου ασφάλειας και συμμόρφωσης της πλατφόρμας.
Ένα πολύ πρακτικό μοτίβο είναι η δημιουργία ενός frontend με React (που υποστηρίζει streaming, απόδοση μηνυμάτων και Markdown UX) και ενός backend με FastAPI που λειτουργεί ως γέφυρα προς το τελικό σημείο του agent. Το backend δρομολογεί το αίτημα του χρήστη στην υπηρεσία μοντέλου και επιστρέφει τη δομημένη απόκριση στον πελάτη.
Στο FastAPI, η σειρά συναρμολόγησης των υποεφαρμογών είναι σημαντική: app.mount("/api", api_app) κατευθύνει διαδρομές API (για παράδειγμα, /api/chat) Και app.mount("/", ui_app) Εξυπηρετεί τα στατικά αρχεία από την έκδοση React στον ριζικό κατάλογο. Αυτό το σχήμα διατηρεί σαφήνεια των διαδρομών και διαχωρίζει το UI από τα τελικά σημεία.
Ρύθμιση παραμέτρων μεταβλητών περιβάλλοντος (π.χ., SERVING_ENDPOINT_NAME ή το FQN του μοντέλου πράκτορα στο Unity Catalog) από τον ορισμό της εφαρμογής στο Databricks. Μεταγλωττίστε το frontend (npm run build), συγχρονίζει αρχεία, δηλώνει εξαρτήσεις (requirements.txt) και ξεκινά με Γκούνικορν + Ουβικορν εργαζόμενοι για την ASGI.
Πραγματική περίπτωση: chatbot για παραγωγικές δραστηριότητες
Σε σενάρια Διαχείρισης Λειτουργιών Παραγωγής (MOM), ένα chatbot της Databricks μπορεί να βοηθήσει τους διαχειριστές παραγωγής με την ανάλυση σημείων συμφόρησης , την παρακολούθηση αποθεμάτων και τη δημιουργία αναφορών. Οι συναρτήσεις εκτίθενται ως εργαλεία στον Κατάλογο Unity (μέσω SQL ή Python) και ο πράκτορας τις καλεί με βάση το περιβάλλον.
Παραδείγματα: μια συνάρτηση identify_bottleneck_station Εκτελεί ερωτήματα σε Databricks SQL για να εντοπίσει το στάδιο που προκαλεί τις περισσότερες καθυστερήσεις. Ένα άλλο, check_inventory_levelsΕπιστρέφει αποθέματα σε πραγματικό χρόνο. Ο πράκτορας μπορεί επίσης αποστολή email, να δημιουργούν αναφορές και να εκτελούν ανάλυση συναισθήματος, όλα ενορχηστρωμένα με κλήσεις εργαλείων.
Η ανάπτυξη του τελικού σημείου Model Serving λειτουργεί ως το τυπικό backend . Η εφαρμογή React καταναλώνει αυτό το τελικό σημείο, εμφανίζοντας απαντήσεις σε πραγματικό χρόνο με μια βελτιωμένη εμπειρία χρήστη και υποστηρίζοντας ροή token όταν είναι ενεργοποιημένη στο ResponsesAgent σας.
Μετεγκατάσταση από το ChatCompletions και συμβατότητα
Εάν ο παλαιότερος πράκτοράς σας χρησιμοποιεί το ChatCompletions API του OpenAI , μπορείτε να κάνετε μετεγκατάσταση στο ResponsesAgent με ένα κοντέινερ που μεταφράζει τα εισερχόμενα/εξερχόμενα μηνύματα και, προαιρετικά, αντιστοιχίζει τα δέλτα ροής στο ResponsesAgentStreamEvent . Αυτό εκσυγχρονίζει την τηλεμετρία και την παρατηρησιμότητα χωρίς να ξαναγράψει τη βασική λογική.
Για την καταχώριση και τη διαχείριση αναπτύξεων, το API Agent σάς επιτρέπει να καταγράφετε υπάρχουσες αναπτύξεις, να ανακτάτε μια συγκεκριμένη ανάπτυξη (με όνομα και έκδοση) και να καταργείτε τελικά σημεία που δεν χρειάζεστε πλέον. Θυμηθείτε να διαχειρίζεστε τα διαπιστευτήρια εξωτερικών πόρων χρησιμοποιώντας μεταβλητές περιβάλλοντος και μυστικά.
Το Databricks προσφέρει μια ολοκληρωμένη διαδρομή: από τη δημιουργία ιδεών με AI Playground ή τον αυτοματισμό με Agent Bricks, μέσω της ανάπτυξης κώδικα (Mosaic AI, MLflow, LangGraph, DSPy), έως τη συσκευασία, την εγγραφή στον Κατάλογο Unity , την ανάπτυξη με deploy() και την παρακολούθηση παραγωγής. Με βέλτιστες πρακτικές όπως οι σωστές υπογραφές μοντέλων , η ασφαλής κατάσταση σε κατανεμημένα περιβάλλοντα και η παραμετροποιημένη διαμόρφωση, μπορείτε να παρέχετε αξιόπιστους, ελεγχόμενους πράκτορες έτοιμους για ενσωμάτωση σε εφαρμογές ιστού στην πλατφόρμα.
