ডেটাব্রিক্সের সাহায্যে এআই এজেন্ট বাস্তবায়ন: একটি সম্পূর্ণ ব্যবহারিক নির্দেশিকা

ইনফরমটেক ডিজিটাল » মানে » ডেটাব্রিক্সের সাহায্যে এআই এজেন্ট বাস্তবায়ন: একটি সম্পূর্ণ ব্যবহারিক নির্দেশিকা

ডেটাব্রিক্সে এআই এজেন্ট তৈরি করা এখন আর শুধুমাত্র অত্যন্ত প্রযুক্তি-দক্ষ ব্যক্তিদের একচেটিয়া বিষয় নয়: এআই প্লেগ্রাউন্ডের মতো ভিজ্যুয়াল এনভায়রনমেন্ট , এজেন্ট ব্রিকস দিয়ে অটোমেশন এবং এমএলফ্লো ফ্রেমওয়ার্কের সাহায্যে, আপনি এখন প্রক্রিয়ার মাঝে হারিয়ে না গিয়েই ধারণা থেকে প্রোটোটাইপ এবং প্রোটোটাইপ থেকে প্রোডাকশনে যেতে পারেন। এই গাইডে, টুল কল করা, ডেটা কোয়েরি করা এবং ইউনিটি ক্যাটালগ গভর্নেন্সের সাথে ইন্টিগ্রেট করা এজেন্ট তৈরি, মূল্যায়ন এবং ডেপ্লয় করার জন্য আপনার প্রয়োজনীয় সবকিছু সংক্ষেপে তুলে ধরা হয়েছে ।

নো-কোড অ্যাপ্রোচ এবং পাইথন ডেভেলপমেন্ট অন্বেষণ করার পাশাপাশি, আপনি শিখবেন কীভাবে MLflow (ChatAgent এবং ResponsesAgent) ব্যবহার করে এজেন্ট প্যাকেজ করতে হয় , ক্যাটালগে রিসোর্স রেজিস্টার করতে হয়, রিয়েল-টাইম মনিটরিং চালু করতে হয় এবং মডেল সার্ভিং ব্যবহার করে স্কেল করতে হয়। এছাড়াও, আপনার এজেন্টকে একটি এন্টারপ্রাইজ ওয়েব ইন্টারফেসে নির্বিঘ্নে ইন্টিগ্রেট করার জন্য আমরা React এবং FastAPI দিয়ে তৈরি একটি স্যাম্পল অ্যাপ অন্তর্ভুক্ত করেছি।

ডেটাব্রিক্সে এজেন্ট তৈরির বিকল্পগুলি

আপনি যদি গতি এবং সরলতাকে অগ্রাধিকার দেন, তবে এজেন্ট ব্রিকস উচ্চ-মানের, ডোমেন-ভিত্তিক এজেন্ট সিস্টেম তৈরির জন্য একটি স্বয়ংক্রিয় কর্মপ্রবাহ প্রদান করে। আপনি আপনার ব্যবহারের ক্ষেত্রটি নির্দিষ্ট করেন এবং আপনার ইউনিটি ক্যাটালগ ডেটা সংযুক্ত করেন ; প্ল্যাটফর্মটি এজেন্টের বিভিন্ন সংস্করণ তৈরি করে, মূল্যায়নের মাধ্যমে অপ্টিমাইজ করে এবং আপনাকে পরিমার্জন করার সুযোগ দেয়—এই সবকিছুই অন্তর্নির্মিত গভর্নেন্স এবং নিরাপত্তার সাথে সম্পন্ন হয়।

যখন আপনার সূক্ষ্ম নিয়ন্ত্রণের প্রয়োজন হয় এবং পরিচিত লাইব্রেরিগুলো পুনরায় ব্যবহার করতে চান, তখন কোড-ভিত্তিক পদ্ধতিটি মোজাইক এআই এজেন্ট ফ্রেমওয়ার্ক এবং এমএলফ্লো-কে একত্রিত করে । পাইথনের সাহায্যে, আপনি এজেন্ট লজিক নির্ধারণ করতে, টুল কল সক্রিয় করতে, বিস্তারিত ট্র্যাকিং করতে এবং পরিশেষে ডেটাব্রিকস ইকোসিস্টেমের মাধ্যমে প্যাকেজ করে প্রোডাকশনে স্থাপন করতে পারেন।

আপনি যদি ইতিমধ্যেই থার্ড-পার্টি ফ্রেমওয়ার্ক ব্যবহার করে থাকেন, তাহলে LangGraph/ LangChain , LlamaIndex , বা কাস্টম পাইথন ইমপ্লিমেন্টেশনের জন্য নেটিভ সাপোর্ট রয়েছে । MLflow-এর মডেল সিগনেচার এবং এজেন্ট ইন্টারফেসের কল্যাণে, আপনি গোড়া থেকে কোড পুনরায় না লিখেই সেগুলোকে ইভ্যালুয়েশন এবং মনিটরিং ক্ষমতার সাথে যুক্ত করতে পারবেন ।

বিদ্যুৎ গতিতে প্রোটোটাইপ তৈরি করতে চান? AI Playground-এর সাহায্যে আপনি মডেল ও ভার্চুয়াল মেশিন বেছে নিতে পারেন, একটি লো-কোড ইন্টারফেসের মাধ্যমে LLM-এ টুলস যোগ করতে পারেন এবং যাচাই করার জন্য চ্যাট করতে পারেন। এরপর, এজেন্টটিকে প্রোডাকশন-রেডি কোডে এক্সপোর্ট করে স্ট্যান্ডার্ড ডেভেলপমেন্ট লাইফসাইকেল অনুযায়ী কাজ চালিয়ে যেতে পারেন।

মডেল স্বাক্ষর এবং প্ল্যাটফর্ম বৈশিষ্ট্যগুলির সাথে সামঞ্জস্য

Azure Databricks এজেন্টদের ইনপুট এবং আউটপুট স্কিমা বর্ণনা করার জন্য MLflow মডেল সিগনেচার ব্যবহার করে। AI Playground বা অ্যাসেসমেন্টের মতো প্রোডাক্ট ফিচারগুলোর জন্য ইন্টারঅপারেবিলিটি নিশ্চিত করতে এজেন্টকে সমর্থিত সিগনেচারগুলোর মধ্যে একটি মেনে চলতে হয় ।

এজেন্ট তৈরি করার সময় আপনি যদি প্রস্তাবিত পদ্ধতি অনুসরণ করেন, তাহলে MLflow কোনো অতিরিক্ত পদক্ষেপ ছাড়াই স্বয়ংক্রিয়ভাবে সামঞ্জস্যপূর্ণ সিগনেচারটি অনুমান করে নেয় । অন্যথায়, এজেন্ট ইনপুট এবং আউটপুটের জন্য আপনার ইমপ্লিমেন্টেশনটি যেন লিগ্যাসি স্কিমার সিগনেচারগুলোর মধ্যে কোনো একটির সাথে সঙ্গতিপূর্ণ হয় , তা যাচাই করে নিন; এতে Databricks টুলগুলোর সাথে ইন্টিগ্রেট করার সময় কোনো অপ্রত্যাশিত সমস্যা এড়ানো যাবে।

দ্রুত টিউটোরিয়াল: মোজাইক এআই এজেন্ট ফ্রেমওয়ার্ক সহ প্রথম এজেন্ট

লক্ষ্য হল এমন একজন এজেন্ট তৈরি করা যিনি যুক্তি দিয়ে যুক্তি দেখান ডেটাব্রিক্সে এলএলএম অনুষ্ঠিত হয় এবং সরঞ্জামগুলি চালাতে সক্ষম হবেন, উদাহরণস্বরূপ অন্তর্নির্মিত ফাংশন system.ai.python_exec পাইথন কোড চালানোর জন্য ইউনিটি ক্যাটালগ থেকে। অতিরিক্তভাবে, আমরা সক্ষম করব MLflow দিয়ে ট্র্যাকিং ট্রেস এবং ডায়াগনস্টিকস পরিদর্শনের জন্য।

কর্মক্ষেত্রের মৌলিক প্রয়োজনীয়তা: এজেন্ট বৈশিষ্ট্যগুলি সক্ষম করুন এবং মডেল সার্ভিসিং-এর অ্যাক্সেসরানটাইম পরিবেশে, প্যাকেজ ইনস্টল করুন যেমন mlflow, databricks-openai এবং এজেন্ট প্যাকার (databricks-agent o databricks-agents(আপনার অনুসরণ করা গাইড এবং সংস্করণের উপর নির্ভর করে), এবং নির্ভরতা লোড করতে পাইথন পুনরায় চালু করুন।

OpenAI ক্লায়েন্ট ব্যবহার করে মডেল পরিষেবার সাথে সংযোগ নির্ধারণ করুন যা এটি প্রকাশ করে ওয়ার্কস্পেসক্লায়েন্ট, সক্রিয় mlflow.openai.autolog() স্বয়ংক্রিয় যন্ত্রের জন্য, এবং উপলব্ধ সরঞ্জামগুলি রেকর্ড করে। তাদের মধ্যে, system.ai.python_exec এটি একটি রাষ্ট্রহীন পাইথন দোভাষী হিসেবে কাজ করে এবং LLM-কে সংলাপের সময় গণনা সমাধান করতে বা ডেটা ম্যানিপুলেট করতে দেয়।

এর মতো একটি ফাংশন সহ run_agent(), আপনি ব্যবহারকারীর প্রম্পটটি চ্যাট এন্ডপয়েন্টে পাঠান (উদাহরণস্বরূপ, « এর মতো একটি মডেলডেটাব্রিক্স-ক্লড-৩-৭-সনেট«এবং সম্ভব পরিচালনা করুন টুলস কল সহকারী বার্তা এবং টুলের প্রতিক্রিয়াগুলিকে একটি সুসংগত তালিকায় ফিরিয়ে আনা।

পরীক্ষা করার জন্য, কোড-নির্ভর একটি কোয়েরি চালান (যেমন, ১০০তম ফিবোনাচ্চি সংখ্যা গণনা করা ) এবং উইজার্ডের আউটপুট ও সংশ্লিষ্ট নোটবুক বা এক্সপেরিমেন্টে লগ করা MLflow ট্রেস উভয়ই পর্যালোচনা করুন । এটি আপনাকে প্যাকেজিং করার আগে অর্কেস্ট্রেশনকে আরও উন্নত করতে সাহায্য করবে।

MLflow দিয়ে প্যাকেজ করা এবং মডেল সার্ভিং-এ মোতায়েন করা হয়েছে

উৎপাদনের জন্য এজেন্ট প্রস্তুত করার একটি প্রস্তাবিত উপায় হল ইন্টারফেস বাস্তবায়ন করা MLflow ChatAgent সম্পর্কেতোমার একটা পদ্ধতি দরকার। predict() যা বার্তা গ্রহণ করে, আপনার এজেন্ট লজিক কল করে এবং একটি ফেরত দেয় চ্যাটএজেন্টের প্রতিক্রিয়া বার্তা তালিকা সহ (যদি প্রযোজ্য হয়, সরঞ্জামগুলির সাথে সম্পর্কিত মধ্যবর্তী বার্তাগুলি সহ)।

সার্ভিটিউড সহজতর করার জন্য, সমস্ত কোড একটি একক পাইথন ফাইলে একত্রিত করুন (উদাহরণস্বরূপ, ব্যবহার করে %%writefile quickstart_agent.py (যদি আপনি ল্যাপটপে কাজ করেন)। শেষ অংশে, কল করুন mlflow.models.set_model() আপনার ক্লাসের উদাহরণ পাস করা (যেমন, QuickstartAgent) প্রতিষ্ঠা করতে প্রবেশ বিন্দু অনুমান

এজেন্ট নিবন্ধন করুন Ityক্য ক্যাটালগ বিরূদ্ধে mlflow.pyfunc.log_modelসহ মানে উৎপাদনে আপনার যা প্রয়োজন হবে: LLM মডেলের শেষ বিন্দু (যেমন, DatabricksServingEndpoint) এবং এজেন্ট যে ক্যাটালগ ফাংশনগুলি ব্যবহার করবে (যেমন, DatabricksFunction বিরূদ্ধে system.ai.python_execসুতরাং, ডেটাব্রিক্স পারে প্রমাণীকরণ কনফিগার করুন স্থাপনের সময় এই সম্পদগুলির জন্য।

অবশেষে, এজেন্ট API ব্যবহার করুন যাতে ডেসপ্লেগার একটি পরিষেবার শেষ বিন্দুতে মডেল: from databricks import agents y agents.deploy(model_name, model_version)যখন শেষবিন্দু শুরু হবে, তখন আপনি সক্ষম হবেন এআই প্লেগ্রাউন্ড থেকে চ্যাট করুনআগ্রহী পক্ষের সাথে শেয়ার করুন এবং প্রতিক্রিয়া সংগ্রহ শুরু করুন।

আপনি যদি আরও উন্নতি করতে চান, তাহলে ডেটাব্রিকস এজেন্টের গুণমান পরিমাপ করা , অসংগঠিত ডেটার উপর রিট্রিভাল সহ এজেন্ট (RAG) তৈরি করা এবং একাধিক পালাক্রমে কথোপকথন নিয়ন্ত্রণ করার জন্য নির্দেশিকা প্রদান করে, পাশাপাশি ল্যাংগ্রাফ, বিশুদ্ধ পাইথন বা ওপেনএআই-এর বিকল্পও রয়েছে ।

প্রতিক্রিয়া এজেন্ট: উৎপাদন এজেন্টদের জন্য আধুনিক ইন্টারফেস

যদিও চ্যাটএজেন্ট এটি ভালো কাজ করে, MLflow আজ এটি সুপারিশ করছে। প্রতিক্রিয়া এজেন্ট গুরুতর এজেন্টদের জন্য। এই ইন্টারফেসটি স্কিমের সাথে সামঞ্জস্যপূর্ণ Responses OpenAI থেকে এবং এজেন্টদের একীকরণের অনুমতি দেয় যেকোনো কাঠামো ডেটাব্রিক্সের ক্ষমতা (নিবন্ধন, ট্র্যাকিং, মূল্যায়ন, স্থাপনা এবং পর্যবেক্ষণযোগ্যতা) সহ কোনও ঘর্ষণ ছাড়াই।

মূল সুবিধা: এর জন্য স্থানীয় সমর্থন সিস্টেম মাল্টি-এজেন্ট, প্রস্থান মোড স্ট্রিমিং, বার্তা এবং টুল কলের সম্পূর্ণ ইতিহাস, টুল কলের নিশ্চিতকরণ এবং দীর্ঘস্থায়ী সরঞ্জাম. উপরন্তু, এটি অফার টাইপ করা ইন্টারফেস পাইথনে, স্বয়ংক্রিয় স্বাক্ষর অনুমান, স্বয়ংক্রিয় ট্র্যাকিং predict y predict_stream এবং উন্নত অনুমান সারণী এর মাধ্যমে এআই গেটওয়ে.

এই পদ্ধতির জন্য ইনস্টলেশনের প্রয়োজনীয়তা: databricks-agents 1.2.0+, mlflow 3.1.3+ y পাইথন 3.10+ (সার্ভারলেস অথবা ডেটাব্রিক্স রানটাইম ১৩.৩ এলটিএস+ ব্যবহার করে)। ডেটাব্রিক্স নিম্নলিখিত প্যাকেজগুলিও সুপারিশ করে: এআই ব্রিজ সাধারণ ইন্টিগ্রেশনের জন্য।

দরকারী ইন্টিগ্রেশন: databricks-openai (ওপেনএআই), databricks-langchain (ল্যাংচেইন/ল্যাংগ্রাফ), databricks-dspy (ডিএসপিওয়াই) এবং databricks-ai-bridge (বিশুদ্ধ পাইথনে এজেন্ট)। এই টুকরোগুলো দিয়ে আপনি সাধারণ এজেন্ট থেকে শুরু করে যেকোনো কিছু তৈরি করতে পারবেন জটিল পাইপলাইন পুনরুদ্ধার এবং টুল কল সহ।

যদি আপনার ইতিমধ্যেই একটি বিল্ট-ইন এজেন্ট থাকে, তাহলে এটিকে এমন একটি ক্লাসে মুড়ে দিন যা থেকে উত্তরাধিকারসূত্রে পাওয়া যায় mlflow.pyfunc.ResponsesAgentবাস্তবায়ন predict ইনপুট এবং আউটপুট রূপান্তর করতে প্রতিক্রিয়া এজেন্ট স্কিমাস্ট্রিমিংয়ের জন্য, নির্ভর করুন predict_stream, নিক্ষেপ করা ডেল্টা এবং একটি চূড়ান্ত ঘটনা response.output_item.done সম্পূর্ণ উত্তরটি যোগ করুন।

স্ট্রিমিং ত্রুটির ক্ষেত্রে, মোজাইক এআই শেষ টোকেনের সাথে ব্যর্থতা প্রচার করে databricks_output.errorআপনার ক্লায়েন্টের উচিত এটি সঠিকভাবে ক্যাপচার করা এবং প্রদর্শন করা, উন্নত করা বর্জ্য অপসারণের অভিজ্ঞতা.

পুনরুদ্ধার সিস্টেম, কাস্টম ইনপুট এবং ট্রেসেবিলিটি

অনেক এজেন্ট ব্যবহার করে পুনর্ব্যবহারকারী ভেক্টর সূচকের উপর RAG-এর জন্য। যদি আপনার পুনরুদ্ধারের স্প্যানগুলি একটি ভিন্ন স্কিম প্রকাশ করে, তাহলে আপনি এটি দিয়ে ম্যাপ করতে পারেন mlflow.models.set_retriever_schemaঘোষণা করা primary_key, text_column, doc_uri এবং অন্যান্য কলাম। সুতরাং, AI খেলার মাঠ দেখাবে উৎসের লিঙ্ক পুনরুদ্ধার করা হবে এবং মূল্যায়ন প্রযোজ্য হবে প্রাসঙ্গিকতা স্কোরার স্বয়ংক্রিয়ভাবে.

যেসব ক্ষেত্রে আপনার এজেন্টের অতিরিক্ত তথ্যের প্রয়োজন হয় (উদাহরণস্বরূপ, ক্লায়েন্ট_টাইপ o সেশন_আইডি), ব্যবহার করে custom_inputs এবং মেটাডেটা ফেরত দেয় custom_outputs যাতে চ্যাট ইতিহাস দূষিত না হয়। AI Playground এবং পর্যালোচনা অ্যাপ উভয়ই আপনাকে প্রবেশের অনুমতি দেয় কাস্টম_ইনপুট UI থেকে।

ডিপ্লয়(), প্রয়োজনীয়তা এবং স্বয়ংক্রিয় ক্রিয়া সহ ডিপ্লয়মেন্ট

মোজাইক এআই মডেল সার্ভিং-এ আপনার এজেন্ট প্রকাশ করতে, ফাংশনটি ব্যবহার করুন deploy() পাইথন API এর। MLflow 3 এ, ইনস্টল করুন mlflow >= 3.1.3 y databricks-agents >= 1.1.0 (যদি আপনি নোটবুকের বাইরে স্থাপন করেন)। MLflow 2.x-এ, ন্যূনতম পরিবর্তন হয় (উদাহরণস্বরূপ, mlflow >= 2.13.1 y databricks-agents >= 0.12.0নিশ্চিত করো ইউনিটি ক্যাটালগে এজেন্ট নিবন্ধন করুন স্থাপনের আগে।

ডেকে আনো deploy() এর সাথে একটি স্কেলেবল এন্ডপয়েন্ট তৈরি করুন স্বয়ংক্রিয় ভারসাম্য, কনফিগার করুন নিরাপদ প্রমাণীকরণ ডেটাব্রিক্স রিসোর্সের জন্য (ভেক্টর ইনডেক্স, ক্যাটালগ ফাংশন) — মালিকের অনুমতি পরীক্ষা করা — এবং সক্রিয় করে আবেদন পর্যালোচনা করুন স্টেকহোল্ডারদের সাথে সহযোগিতার জন্য।

এটি MLflow-তে রিয়েল-টাইম মনিটরিংও সক্ষম করে (সক্রিয় এক্সপেরিমেন্ট এবং ইনফারেন্স টেবিলে ট্রেস সহ)। MLflow 3-এ, স্বয়ংক্রিয় কোয়ালিটি অ্যাসেসমেন্ট সহ প্রোডাকশন মনিটরিং কনফিগার করা যেতে পারে; REST রিকোয়েস্ট এবং কমেন্টগুলো ইনফারেন্স টেবিলে লগ করা হয় (আধুনিক ফিডব্যাক API ব্যবহার করে)।

কাস্টমাইজ করতে, আর্গুমেন্টগুলি এখানে পাস করুন deploy() Como scale_to_zero_enabled=Trueপ্রথম অনুরোধে উচ্চতর বিলম্বের কারণে ডাউনটাইমের পরে খরচ কমানো। অতিরিক্তভাবে, আপনার জন্য ইউটিলিটি রয়েছে তালিকাভুক্ত করুন, পান এবং মুছুন এজেন্ট API এর মাধ্যমে স্থাপনা।

অবস্থা, কনফিগারেশন এবং সম্পাদনের ধরণগুলির জন্য ভালো অনুশীলন

মডেল পরিবেশন বিতরণ করা হয়: এড়িয়ে চলুন স্থানীয় ক্যাশে এবং ধরে নেয় যে বিভিন্ন উত্তর কথোপকথনের বিভিন্ন মোড় পরিচালনা করতে পারে। এটি অবস্থাকে পুনর্গঠন করে এর অভিধান ResponsesAgentRequest প্রতিটি মধ্যে predict এবং রাষ্ট্রকে এমনভাবে ডিজাইন করুন থ্রেড নিরাপদ.

এর মধ্যে অবস্থা শুরু করে predict এবং এজেন্ট কনস্ট্রাক্টরে নয়, যেহেতু একটি একক প্রতিলিপি বিভিন্ন ব্যবহারকারীর কথোপকথন পরিচালনা করতে পারে। এটি বাধা দেয় তথ্য ফাঁস এবং উচ্চ-থ্রুপুট পরিবেশে সমান্তরাল দ্বন্দ্ব।

এজেন্টের আচরণকে প্যারামিটারাইজ করুন ModelConfig (অভিধান বা YAML)। উদাহরণস্বরূপ, সংজ্ঞা দিন, model_serving_endpointLLM প্যারামিটার এবং প্রম্পট টেমপ্লেট; সেই কনফিগারেশনটি ডেভেলপমেন্টে লোড করুন এবং উৎপাদনে প্রচার করুন কোড স্পর্শ না করেই.

এজেন্ট সার্ভারে ইভেন্ট লুপ বা অ্যাসিঙ্ক্রোনাস ফ্রেম ব্যবহার করা থেকে বিরত থাকুন: ডেটাব্রিকস অভ্যন্তরীণভাবে কনকারেন্সি পরিচালনা করে। সিঙ্ক্রোনাস কোড বা কলব্যাক ব্যবহার করুন; অন্যথায়, আপনি "এই ইভেন্ট লুপটি ইতিমধ্যেই চলছে" এর মতো ত্রুটি এবং অনিয়মিত আচরণের সম্মুখীন হতে পারেন।

এজেন্ট ব্রিকস: মান ত্বরান্বিত করার জন্য "কোন কোড নেই" অটোমেশন

২০২৫ সালে চালু হওয়া এজেন্ট ব্রিকস, কোডিং ছাড়াই একটি নির্বিঘ্ন এজেন্ট তৈরির কর্মপ্রবাহ প্রদান করে । আপনি স্বাভাবিক ভাষায় কাজটি ইনপুট করেন, আপনার ডেটা সংযুক্ত করেন, এবং প্ল্যাটফর্মটি মডেল নির্বাচন করে, সিন্থেটিক ডেটা তৈরি করে, মূল্যায়ন করে এবং প্রক্রিয়াটিকে পরিমার্জন করতে থাকে যতক্ষণ না এটি ইউনিটি ক্যাটালগ গভর্নেন্স সহ একটি প্রোডাকশন-রেডি এজেন্ট সরবরাহ করে ।

এর সুবিধাগুলোর মধ্যে রয়েছে এন্ড-টু-এন্ড অটোমেশন , ডেটাব্রিক্সে স্কেলেবিলিটি—যেখানে এন্ডপয়েন্টগুলো ৩ দিন নিষ্ক্রিয় থাকার পর শূন্যে নেমে আসতে পারে— , লেকহাউসে ব্যবহার ও খরচ বিশ্লেষণ এবং বিভিন্ন ধরনের প্রস্তুত এজেন্ট (যেমন তথ্য নিষ্কাশন, কাস্টম এলএলএম , নলেজ অ্যাসিস্ট্যান্ট এবং জটিল অর্কেস্ট্রেশনের জন্য মাল্টি-এজেন্ট সুপারভাইজার)।

সীমাবদ্ধতার মধ্যে রয়েছে যে, তৈরি করা কোড বর্তমানে ডাউনলোডযোগ্য নয় , যা গভীর কাস্টমাইজেশনের সুযোগ কমিয়ে দেয়, এবং টেমপ্লেট ক্যাটালগটি এমন সংস্থাগুলোর জন্য তৈরি করা হয়েছে যারা ইতিমধ্যেই লেকহাউস এবং ইউনিটি ক্যাটালগের সাথে ইন্টিগ্রেটেড। কিছু ব্যবহারকারী খরচের মেট্রিকগুলোতেও সূক্ষ্মতার অভাব দেখতে পান।

উদাহরণ, মাল্টি-এজেন্ট এবং স্টেটফুল এজেন্ট

অফিসিয়াল ডকুমেন্টেশনে আপনি OpenAI (Databricks এবং OpenAI হোস্টেড মডেল উভয়ের জন্য সাধারণ চ্যাট এবং টুল কল), LangGraph (টুল আহ্বান), এবং DSPy (একবারে টুল কল) সহ নোটবুকগুলো পাবেন। কাস্টম টুল এবং গুণমান মূল্যায়নের মাধ্যমে কার্যকারিতা বাড়ানোর জন্য এগুলো চমৎকার ভিত্তি।

একাধিক বিশেষজ্ঞকে সমন্বিতভাবে কাজ করানোর জন্য, আপনি জিনি (Genie)-এর মতো টুল ব্যবহার করে সহযোগী সিস্টেম তৈরি করতে পারেন । আর যদি আপনি কথোপকথনের স্মৃতিতে আগ্রহী হন, তবে স্টেটফুল এজেন্টের জন্য সমর্থন রয়েছে যা চেকপয়েন্ট এবং চ্যাট থ্রেডের স্থায়িত্ব নিশ্চিত করে।

অফিসিয়াল ডকুমেন্টেশনে আপনি OpenAI (Databricks এবং OpenAI হোস্টেড মডেল উভয়ের জন্য সাধারণ চ্যাট এবং টুল কল), LangGraph (টুল আহ্বান), এবং DSPy (একবারে টুল কল) সহ নোটবুকগুলো পাবেন। কাস্টম টুল এবং গুণমান মূল্যায়নের মাধ্যমে কার্যকারিতা বাড়ানোর জন্য এগুলো চমৎকার ভিত্তি।

ডেটাব্রিক্সের অ্যাপস: FastAPI-তে React এবং ব্যাকএন্ড সহ UI

ডেটাব্রিকস অ্যাপস কোনো বাহ্যিক পরিকাঠামো স্থাপন ছাড়াই সমৃদ্ধ ইন্টারফেস প্রদানের জন্য একটি শক্তিশালী প্ল্যাটফর্ম সরবরাহ করে। এগুলি ডেটাব্রিকস এসকিউএল, ইউনিটি ক্যাটালগ , মডেল সার্ভিং এবং জবস-এর সাথে নেটিভভাবে ইন্টিগ্রেট হয় এবং প্ল্যাটফর্মের নিরাপত্তা ও কমপ্লায়েন্স কন্ট্রোলগুলো উত্তরাধিকারসূত্রে পায়।

একটি অত্যন্ত কার্যকরী পদ্ধতি হলো React (যা স্ট্রিমিং, মেসেজ রেন্ডারিং এবং Markdown UX সমর্থন করে) দিয়ে একটি ফ্রন্টএন্ড এবং FastAPI দিয়ে একটি ব্যাকএন্ড তৈরি করা, যা এজেন্ট এন্ডপয়েন্টের সাথে একটি সেতু হিসেবে কাজ করে। ব্যাকএন্ডটি ব্যবহারকারীর অনুরোধকে মডেল সার্ভিসে পাঠিয়ে দেয় এবং ক্লায়েন্টের কাছে কাঠামোগত প্রতিক্রিয়া ফেরত পাঠায়।

FastAPI-তে, সাব-অ্যাপ্লিকেশনগুলির অ্যাসেম্বলি ক্রম গুরুত্বপূর্ণ: app.mount("/api", api_app) API রুট নির্দেশ করে (উদাহরণস্বরূপ, /api/chat) Y app.mount("/", ui_app) এটি রুট ডিরেক্টরিতে React বিল্ড থেকে স্ট্যাটিক ফাইল পরিবেশন করে। এই স্কিমটি বজায় রাখে রুটের স্পষ্টতা এবং UI কে এন্ডপয়েন্ট থেকে আলাদা করে।

পরিবেশের ভেরিয়েবল কনফিগার করুন (যেমন, SERVING_ENDPOINT_NAME অথবা ইউনিটি ক্যাটালগে এজেন্ট মডেলের FQN) ডেটাব্রিক্সের অ্যাপ সংজ্ঞা থেকে। ফ্রন্টএন্ড কম্পাইল করুন (npm run build), ফাইলগুলিকে সিঙ্ক্রোনাইজ করে, নির্ভরতা ঘোষণা করে (requirements.txt) এবং শুরু হয় গুনিকর্ন + ইউভিকর্ন ASGI-এর কর্মীরা।

আসল ঘটনা: উৎপাদন কার্যক্রমের জন্য চ্যাটবট

ম্যানুফ্যাকচারিং অপারেশনস ম্যানেজমেন্ট (MOM) পরিস্থিতিতে, একটি ডেটাব্রিকস চ্যাটবট প্রোডাকশন ম্যানেজারদের বাধা বিশ্লেষণ , ইনভেন্টরি ট্র্যাকিং এবং রিপোর্ট তৈরিতে সহায়তা করতে পারে। ফাংশনগুলো ইউনিটি ক্যাটালগে (SQL বা Python-এর মাধ্যমে) টুল হিসেবে উপলব্ধ থাকে এবং এজেন্টটি প্রেক্ষাপট অনুযায়ী সেগুলোকে আহ্বান করে।

উদাহরণ: a function identify_bottleneck_station এটি ডেটাব্রিক্স এসকিউএল-এ কোয়েরি চালায় যাতে সবচেয়ে বেশি বিলম্বের কারণ কী তা সনাক্ত করা যায়; আরেকটি, check_inventory_levelsএটি রিয়েল-টাইম স্টক ফেরত দেয়। এজেন্ট এছাড়াও করতে পারে ইমেল পাঠান, প্রতিবেদন তৈরি এবং অনুভূতি বিশ্লেষণ সম্পাদন, সবকিছুই টুল-কলের মাধ্যমে পরিচালিত।

মডেল সার্ভিং এন্ডপয়েন্ট স্থাপন করা হলে তা স্ট্যান্ডার্ড ব্যাকএন্ড হিসেবে কাজ করে । রিয়্যাক্ট অ্যাপটি এই এন্ডপয়েন্টটি ব্যবহার করে, একটি পরিশীলিত ইউজার এক্সপেরিয়েন্সের সাথে রিয়েল-টাইম প্রতিক্রিয়া প্রদর্শন করে এবং আপনার ResponsesAgent-এ সক্রিয় করা থাকলে টোকেন স্ট্রিমিং সমর্থন করে।

চ্যাট কমপ্লিশন এবং সামঞ্জস্য থেকে মাইগ্রেশন

আপনার লিগ্যাসি এজেন্ট যদি OpenAI-এর ChatCompletions API ব্যবহার করে , তাহলে আপনি এমন একটি কন্টেইনারসহ ResponsesAgent- এ মাইগ্রেট করতে পারেন যা ইনকামিং/আউটগোয়িং মেসেজ অনুবাদ করে এবং, ঐচ্ছিকভাবে, স্ট্রিমিং ডেল্টাগুলোকে ResponsesAgentStreamEvent- এর সাথে ম্যাপ করে । এটি মূল লজিক পুনরায় না লিখেই টেলিমেট্রি এবং অবজার্ভেবিলিটিকে আধুনিক করে তোলে।

ডিপ্লয়মেন্ট তালিকাভুক্ত ও পরিচালনা করার জন্য, এজেন্ট এপিআই আপনাকে বিদ্যমান ডিপ্লয়মেন্টগুলো তালিকাভুক্ত করতে , নাম ও সংস্করণ অনুযায়ী একটি নির্দিষ্ট ডিপ্লয়মেন্ট খুঁজে বের করতে এবং আপনার আর প্রয়োজন নেই এমন এন্ডপয়েন্টগুলো মুছে ফেলতে দেয়। এনভায়রনমেন্ট ভেরিয়েবল এবং সিক্রেট ব্যবহার করে বাহ্যিক রিসোর্সের ক্রেডেনশিয়ালগুলো পরিচালনা করতে মনে রাখবেন।

ডেটাব্রিকস একটি সম্পূর্ণ পথ দেখায়: এআই প্লেগ্রাউন্ড দিয়ে ধারণা তৈরি বা এজেন্ট ব্রিকস দিয়ে অটোমেশন থেকে শুরু করে, কোড ডেভেলপমেন্ট (মোসাইক এআই, এমএলফ্লো, ল্যাংগ্রাফ, ডিএসপিওয়াই), প্যাকেজিং, ইউনিটি ক্যাটালগে রেজিস্ট্রেশন , deploy() দিয়ে ডেপ্লয়মেন্ট এবং প্রোডাকশন মনিটরিং পর্যন্ত। সঠিক মডেল সিগনেচার , ডিস্ট্রিবিউটেড পরিবেশে সুরক্ষিত স্টেট এবং প্যারামিটারাইজড কনফিগারেশনের মতো সেরা অনুশীলনগুলির মাধ্যমে , আপনি প্ল্যাটফর্মের ওয়েব অ্যাপ্লিকেশনগুলিতে ইন্টিগ্রেশনের জন্য প্রস্তুত নির্ভরযোগ্য ও নিয়ন্ত্রিত এজেন্ট সরবরাহ করতে পারেন।

সম্পর্কিত নিবন্ধ:

ক্লড ৪: অ্যানথ্রোপিক প্রোগ্রামিং এবং স্বায়ত্তশাসিত এজেন্টদের জন্য উন্নত মডেলের সাহায্যে কৃত্রিম বুদ্ধিমত্তার পুনর্কল্পনা করে