ChatGPT-তে হ্যালুসিনেশন কীভাবে কমানো যায়

ইনফরমটেক ডিজিটাল » মানে » ChatGPT-তে হ্যালুসিনেশন কীভাবে কমানো যায়

জেনারেটিভ আর্টিফিশিয়াল ইন্টেলিজেন্সের কথা উঠলেই ChatGPT-তে হ্যালুসিনেশন সবচেয়ে আলোচিত বিষয়গুলোর মধ্যে একটি হয়ে উঠেছে, এবং এটি ChatGPT-এর অনেক সাধারণ ত্রুটির মধ্যেই দেখা যায় । এগুলো হলো এমন কিছু উত্তর যা শুনতে খুব বিশ্বাসযোগ্য মনে হয় এবং আত্মবিশ্বাসী সুরে লেখা হয়, কিন্তু আসলে সেগুলোতে মিথ্যা তথ্য, মনগড়া উদ্ধৃতি বা ভিত্তিহীন সিদ্ধান্ত থাকে। যারা কেবল কৌতূহলবশত এটি ব্যবহার করেন, তাদের জন্য এটি হয়তো কোনো সমস্যা নয়, কিন্তু যারা তাদের দৈনন্দিন কাজে এআই-এর ওপর নির্ভরশীল, তাদের জন্য এটি একটি বড় মাথাব্যথার কারণ হতে পারে।

যদিও বর্তমানে একটি ল্যাঙ্গুয়েজ মডেল থেকে হ্যালুসিনেশন সম্পূর্ণরূপে দূর করা অসম্ভব , আমরা তিনটি বিষয়কে একত্রিত করে এগুলোকে উল্লেখযোগ্যভাবে কমাতে পারি: উন্নততর প্রম্পট, ভালো যাচাইকরণ পদ্ধতি এবং প্রতিটি মডেল ব্যবহারের পদ্ধতিতে কিছু নির্দিষ্ট পরিবর্তন। এই নিবন্ধে বিস্তারিতভাবে ব্যাখ্যা করা হবে এই হ্যালুসিনেশনগুলো কী, কেন এগুলো ঘটে, এগুলো প্রশমিত করার জন্য ইন্ডাস্ট্রি (এবং বিশেষ করে OpenAI) কী করছে, এবং সবচেয়ে গুরুত্বপূর্ণভাবে, আপনি কীভাবে ChatGPT-এর ব্যবহার পরিবর্তন করতে পারেন যাতে এটি অনেক কম ভুল করে।

ChatGPT-তে হ্যালুসিনেশন কী এবং কেন এটি ঘটে?

কৃত্রিম বুদ্ধিমত্তার (AI) প্রেক্ষাপটে, হ্যালুসিনেশন বা বিভ্রম তখনই ঘটে যখন ChatGPT-এর মতো কোনো মডেল ভুল, মনগড়া বা ভিত্তিহীন তথ্য তৈরি করে , কিন্তু সেটিকে এমন স্বাভাবিকভাবে উপস্থাপন করে যে তা সত্য বলে মনে হয়। এটি কোনো সংখ্যার একটিমাত্র ভুলের মধ্যেই সীমাবদ্ধ নয়; কখনও কখনও এটি সম্পূর্ণ অনুচ্ছেদ, সরাসরি উদ্ধৃতি, গবেষণার নাম বা এমন সব যুক্তি তৈরি করে ফেলে, যা কোনো নির্ভরযোগ্য উৎসে নেই।

এর কারণ হলো, ChatGPT-ও অন্যান্য বড় ল্যাঙ্গুয়েজ মডেলের মতো আপনার মতো করে জগৎকে বোঝে না । এটি কোনো রিয়েল-টাইম ডেটাবেসের সাথে যুক্তি দিয়ে বা তথ্য মিলিয়ে দেখে না; বরং, প্রশিক্ষণের সময় শেখা প্যাটার্নের উপর ভিত্তি করে এটি হিসাব করে যে আগের শব্দটির পরে কোন শব্দটি আসার সম্ভাবনা সবচেয়ে বেশি। মূলত, এটি একটি অত্যন্ত উন্নত টেক্সট কমপ্লিশনিস্ট।

যখন আপনার করা প্রশ্নটি মডেলের প্রশিক্ষণের সময় পর্যবেক্ষণ করা তথ্যের সাথে ভালোভাবে মিলে যায়, তখন এটি সাধারণত সঠিক উত্তর দেয়। সমস্যাটি তখন দেখা দেয় যখন আপনি এর প্রশিক্ষণ ডেটাতে খুব নির্দিষ্ট, বিরল বা দুর্বলভাবে উপস্থাপিত কোনো তথ্য জানতে চান । এই পরিস্থিতিতে, এটি কোনো বাস্তব সমর্থন না থাকলেও, নিজের বিবেচনায় সবচেয়ে সম্ভাব্য উত্তর দিয়ে শূন্যস্থান পূরণ করতে "বাধ্য" হয়।

এর একটি সাধারণ উদাহরণ হলো কোনো নির্দিষ্ট লেখকের সরাসরি উদ্ধৃতি চাওয়া । যদি প্রশিক্ষণ ডেটাতে সেই হুবহু উদ্ধৃতিটি না থাকে, তবে ব্যবহারকারী এমন একটি বাক্য তৈরি করে নিতে পারেন যা শুনতে সেই লেখকের মতো লাগে, বেশ স্বাভাবিকভাবেই সেটিকে তাঁর নামে চালিয়ে দেন, এবং কখনও কখনও কেবল ব্যবহারকারীর জোরাজুরিতেই নিজের ভুল স্বীকার করেন। তারিখ, সংখ্যা, বিশেষ নাম বা অ্যাকাডেমিক প্রবন্ধের রেফারেন্সের ক্ষেত্রেও একই কথা প্রযোজ্য—এই ক্ষেত্রগুলো বিভ্রমের জন্য বিশেষভাবে সংবেদনশীল।

আরও একটি গুরুত্বপূর্ণ বিষয় আছে: অনেক মডেলকে সবসময় একটি প্রতিক্রিয়া দেওয়ার জন্য প্রশিক্ষণ দেওয়া হয় । ঐতিহাসিকভাবে তাদের প্রশিক্ষণে খোলাখুলিভাবে 'আমি জানি না' স্বীকার করাকে অগ্রাধিকার দেওয়া হয়নি; ফলে, তাদের হাতে থাকা ডেটা অপর্যাপ্ত বা অস্পষ্ট হলেও তারা তথ্য পূরণ করে দেওয়ার প্রবণতা দেখায়।

ChatGPT অভ্যন্তরীণভাবে কীভাবে কাজ করে (এবং হ্যালুসিনেশনের ক্ষেত্রে এর প্রভাব কী)

ChatGPT কেন এত অপ্রত্যাশিত আচরণ করে, তা আরও ভালোভাবে বোঝার জন্য এটা মনে রাখা দরকার যে, এটি বিপুল পরিমাণ টেক্সটের ওপর ভিত্তি করে প্রশিক্ষিত একটি ল্যাঙ্গুয়েজ মডেল । প্রশিক্ষণের সময় এটি বিভিন্ন প্যাটার্ন শেখে: যেমন—কোন শব্দগুলো সাধারণত একসাথে ব্যবহৃত হয়, একটি বৈজ্ঞানিক প্রবন্ধে কোন ধরনের বাক্য গঠন প্রচলিত, একটি সংবাদ প্রতিবেদন কীভাবে লেখা হয়, একটি প্রবন্ধে কীভাবে যুক্তি উপস্থাপন করা হয়, ইত্যাদি।

আপনি যখন এটিকে কোনো প্রশ্ন করেন, ChatGPT ইন্টারনেট অনুসন্ধান করে না (ওয়েব ব্রাউজিং সক্ষম সংস্করণগুলো ছাড়া), বরং আপনার দেওয়া প্রেক্ষাপটের উপর ভিত্তি করে , শব্দে শব্দে সবচেয়ে সম্ভাব্য পরবর্তী উত্তরটি অনুমান করে। এই কারণেই, যখন আপনি এটিকে স্ক্রিনে ধীরে ধীরে টাইপ করতে দেখেন, তখন এটি আসলে একজন মানুষের মতো 'চিন্তা' না করেই রিয়েল টাইমে লেখাটি সম্পূর্ণ করে।

এ কারণেই এটি বিভিন্ন শৈলী অনুকরণ করতে, পাঠ্যের সারসংক্ষেপ করতে, বা আপনার দেওয়া নথি থেকে সুসংগত উত্তর তৈরি করতে এত পারদর্শী; কিন্তু একই সাথে, যখন আপনি নিখুঁত নির্ভুলতা প্রয়োজন এমন ডেটা চান, তখন এটি শোচনীয়ভাবে ব্যর্থ হতে পারে । তথ্য সম্পর্কে অনিশ্চিত থাকলে, মডেলটি আলোচনার প্রবাহে ব্যাঘাত এড়াতে শূন্যস্থান পূরণ করার প্রবণতা দেখায়।

তাছাড়া, এআই-কে যেভাবে প্রশিক্ষণ দেওয়া হয়, তারও একটি উল্লেখযোগ্য প্রভাব রয়েছে। ঐতিহ্যগতভাবে, ব্যবহারকারীর জন্য মডেলটি যেন কার্যকর ও বিশ্বাসযোগ্য উত্তর তৈরি করে, সেদিকেই অগ্রাধিকার দেওয়া হয়েছে , যা কখনও কখনও কঠোর তথ্যগত নির্ভুলতার সাথে সাংঘর্ষিক হয়। এই ভারসাম্য রক্ষা করা এই শিল্পের বর্তমান অন্যতম প্রধান একটি চ্যালেঞ্জ।

বিভ্রম কমাতে ওপেনএআই এবং শিল্প কৌশল

সাম্প্রতিক বছরগুলোতে জেনারেটিভ এআই-এর বিভিন্ন ধরনের ত্রুটি নিয়ে অসংখ্য সমালোচনা উঠেছে; যার মধ্যে রয়েছে জনসমক্ষে প্রদর্শনের সময়কার ভুল (যেমন জেমস ওয়েব স্পেস টেলিস্কোপ সম্পর্কিত একটি মিথ্যা দাবির বিখ্যাত ঘটনা) থেকে শুরু করে আইনি বা গণমাধ্যমের প্রেক্ষাপটে ব্যবহৃত কাল্পনিক প্রসঙ্গ। এই ধরনের ব্যর্থতাগুলো ওপেনএআই-এর মতো সংস্থাগুলোকে তাদের মডেলের প্রশিক্ষণ ও মূল্যায়নের পদ্ধতি পুনর্বিবেচনা করতে উৎসাহিত করেছে।

ওপেনএআই যেসব গবেষণা ক্ষেত্রে কাজ করছে, তার মধ্যে একটি 'প্রক্রিয়া পর্যবেক্ষণ ' নামে পরিচিত। এটি শুধুমাত্র চূড়ান্ত উত্তরটি সঠিক কি না, তার ওপর মনোযোগ দেওয়ার ('ফলাফল পর্যবেক্ষণ') পরিবর্তে, সেই উত্তরে পৌঁছানোর জন্য মডেলটি যে বিভিন্ন যুক্তির ধাপ অনুসরণ করে, সেগুলোর মূল্যায়ন ও পুরস্কৃত করার চেষ্টা করে।

মূল ধারণাটি হলো, যদি এআই-কে শুধু একটি নিখুঁত চূড়ান্ত উত্তরে পৌঁছানোর জন্য নয়, বরং স্বচ্ছ ও সুসংগত যুক্তির জন্য পুরস্কৃত করা হয় , তবে এর ভুল কিন্তু আপাতদৃষ্টিতে সঠিক সিদ্ধান্তে পৌঁছানোর সম্ভাবনা কমে যায়। এটি মডেলটিকে তার গৃহীত পদক্ষেপগুলো আরও ভালোভাবে ব্যাখ্যা করার সুযোগ দেয়, যা একে মানুষের মতো 'যুক্তির শৃঙ্খল'-এর কাছাকাছি নিয়ে আসে।

তবে, এই পদ্ধতিটি সত্যিই কতটা হ্যালুসিনেশন দূর করতে পারে, তা নিয়ে সম্প্রদায়ের মধ্যে যথেষ্ট সংশয় রয়েছে । গোপনীয়তা ও নৈতিকতা বিশেষজ্ঞরা এই প্রশিক্ষণ প্রক্রিয়াগুলিতে ব্যবহৃত ডেটা এবং উদাহরণ সম্পর্কে আরও বিশদ বিবরণের পাশাপাশি ফলাফল যাচাই করার জন্য স্বাধীন, পিয়ার-রিভিউড গবেষণার আহ্বান জানাচ্ছেন।

আপাতত, ওপেনএআই তার সমস্ত পণ্যে এই কৌশলগুলো ব্যাপকভাবে চালু করার জন্য কোনো নির্দিষ্ট তারিখ নির্ধারণ করেনি, তবে তারা এটা স্পষ্ট করে দিয়েছে যে ভুলত্রুটি কমানো তাদের একটি অগ্রাধিকার। এরই মধ্যে, এর সঠিক ব্যবহারের বাস্তব দায়িত্ব মূলত ব্যবহারকারীর উপরেই বর্তায়।

আচরণের পরিবর্তন: যখন ChatGPT-কে আরও বেশি বিভ্রমগ্রস্ত বলে মনে হয়

অনেক নিয়মিত ব্যবহারকারী লক্ষ্য করেছেন যে, সময়ের সাথে সাথে ChatGPT-তে বিভ্রান্তি বা অন্যভাবে হতবুদ্ধি হওয়ার প্রবণতা বেড়েছে , বিশেষ করে দীর্ঘ নথি, অ্যাকাডেমিক উদ্ধৃতি বা গবেষণামূলক কাজ নিয়ে কাজ করার সময়। এর একটি সাধারণ উদাহরণ হলো সেইসব গবেষক, যারা এক ডজন পিডিএফ আপলোড করে তাদের সিদ্ধান্তের সমর্থনে সারাংশ, মূল বিষয়বস্তু চিহ্নিতকরণ এবং সরাসরি উদ্ধৃতি চেয়ে থাকেন।

একটি পুনরাবৃত্ত অভিযোগ হলো যে, রেফারেন্সসহ সরাসরি উদ্ধৃতি দিতে বলা হলে মডেলটি মনগড়া কথা বলতে শুরু করে। এমনকি সংশোধন করে স্বীকার করে নেওয়ার পরেও, সে আরও মিথ্যা উদ্ধৃতি দেয়, এবং কিছু চ্যাটে সে এক ধরনের 'বিভ্রমের চক্রে' প্রবেশ করে বলে মনে হয়, যেখান থেকে নতুন কথোপকথন শুরু না করে তাকে বের করে আনা কঠিন হয়ে পড়ে।

আরেকটি প্রায়শই উল্লিখিত সমস্যা হলো উন্নত স্মৃতিশক্তি এবং ভিন্ন প্রসঙ্গের প্রভাব । যখন অ্যাসিস্ট্যান্ট অন্য কথোপকথনে আলোচিত পছন্দ বা বিষয়গুলো মনে রাখে, তখন এটি অনুপযুক্তভাবে বিভিন্ন ক্ষেত্রকে গুলিয়ে ফেলতে পারে: উদাহরণস্বরূপ, সামাজিক বিজ্ঞান সম্পর্কিত প্রশ্নের উত্তর দেওয়ার সময় কোয়ান্টাম কম্পিউটিং-এর ধারণা নিয়ে আসা, শুধুমাত্র এই কারণে যে ব্যবহারকারী অন্য একটি চ্যাটে কোয়ান্টাম মেকানিক্সের কথা উল্লেখ করেছিলেন।

ChatGPT এমন কিছু উদ্ধৃতি তৈরি করছিল যা শুনতে খুবই বিশ্বাসযোগ্য মনে হলেও বাস্তবে তার কোনো অস্তিত্ব ছিল না—এটা লক্ষ্য করার পর কিছু লোক ডকুমেন্ট বিশ্লেষণে বিশেষায়িত বিকল্প টুল , যেমন NotebookLM-এর মতো পিডিএফ-কেন্দ্রিক সিস্টেম, ব্যবহার করার সিদ্ধান্ত নিয়েছেন । এইসব ক্ষেত্রে, মডেলটি সৃজনশীলতা, চিন্তাভাবনা বা প্রাথমিক খসড়া তৈরির জন্য একটি কার্যকর টুল হিসেবেই থাকে, কিন্তু অ্যাকাডেমিক নির্ভুলতা প্রয়োজন এমন কাজের জন্য এটি আরও সতর্কতার সাথে ব্যবহার করা হয়।

OpenAI ইকোসিস্টেমের মধ্যেও মডেলগুলোর মধ্যে পার্থক্য লক্ষ্য করা গেছে। আরও সুনির্দিষ্ট যুক্তির জন্য তৈরি সংস্করণগুলো, যেমন o3 ফ্যামিলি , ধীরগতির হয়ে থাকে কিন্তু বিস্তারিত ডকুমেন্ট বিশ্লেষণে কম বিভ্রম তৈরি করে। অন্যান্য ভ্যারিয়েন্ট, যেমন GPT-4o বা হালকা মডেলগুলো, সৃজনশীলতা এবং গতির জন্য খুবই ভালো, কিন্তু সম্পূর্ণ যাচাইকৃত ডেটার প্রয়োজন হলে এগুলো সতর্কতার সাথে ব্যবহার করা উচিত।

ভালো প্রম্পটের সাহায্যে ChatGPT-তে হ্যালুসিনেশন কীভাবে কমানো যায়

যদিও মডেলটির ডিজাইন একটি সীমাবদ্ধতা তৈরি করে, আপনার প্রশ্ন করার পদ্ধতির একটি বিশাল প্রভাব রয়েছে; ChatGPT কাস্টমাইজ করা এবং প্রম্পটগুলো পরিমার্জন করার মাধ্যমে ChatGPT-এর মনগড়া কথা বলার সম্ভাবনা অনেকাংশে কমানো যায় , অথবা অন্ততপক্ষে এটি নিশ্চিত করা যায় যে, পর্যাপ্ত তথ্য না থাকলে এটি আপনাকে সতর্ক করবে।

এর অন্যতম চাবিকাঠি হলো একটি স্পষ্ট এবং সুনির্দিষ্ট প্রেক্ষাপট প্রদান করা । নির্দেশনা যত অস্পষ্ট হবে, মডেলটির অনুমান দিয়ে তা পূরণ করার সুযোগ তত বেশি থাকবে। “মেক্সিকোর ইতিহাস কী?”—এই প্রশ্ন করার পরিবর্তে, এভাবে নির্দিষ্ট করে বলা অনেক ভালো: “মেক্সিকোর স্বাধীনতার সূচনার তিনটি প্রধান কারণ ব্যাখ্যা করুন এবং স্বীকৃত ঐতিহাসিক উৎসের সাহায্যে আপনার উত্তরের সমর্থন দিন।”

তথ্যের পরিধি সীমিত রাখাও খুব সহায়ক । আপনি যদি তাদের কোনো নথি বা কিছু লেখা দেন, তাহলে তাদের বলুন যে তাদের উত্তর অবশ্যই শুধুমাত্র সেই উপকরণের উপর ভিত্তি করে হতে হবে: “শুধুমাত্র এই প্রবন্ধগুলোতে থাকা তথ্য ব্যবহার করে উত্তর দিন। যদি কোনো কিছু এতে না থাকে, তাহলে বলুন যে আপনার কাছে যথেষ্ট তথ্য নেই।” এটি মডেলের সাধারণ প্রশিক্ষণ থেকে পাওয়া অস্পষ্ট জ্ঞানের উপর নির্ভর করার প্রবণতা কমিয়ে দেয়।

আরেকটি শক্তিশালী কৌশল হলো তথ্যের উৎস জানতে চাওয়া বা অনিশ্চয়তা স্বীকার করে নেওয়া । “আপনি যদি নিশ্চিত না হন, তবে স্পষ্টভাবে বলুন যে আপনি জানেন না” বা “তথ্য বানিয়ে বলবেন না; কোনো তথ্য অনুপস্থিত থাকলে তা উল্লেখ করুন”-এর মতো বাক্যগুলো সাবলীলতার চেয়ে সততাকে অগ্রাধিকার দিতে পথ দেখায়। যদিও এটি শতভাগ কার্যকর নয়, তবুও এটি সাধারণত নির্লজ্জ মিথ্যাচারের হার কমিয়ে দেয়।

আপনার যদি এপিআই (API)-তে অ্যাক্সেস থাকে, তবে আপনি মডেলটির তাপমাত্রা নিয়ন্ত্রণ করতে পারবেন । কম মান (০-এর কাছাকাছি) আউটপুটকে আরও রক্ষণশীল ও পুনরাবৃত্তিযোগ্য করে তোলে, যা সৃজনশীলতার মাত্রা এবং ফলস্বরূপ, হ্যালুসিনেশনের ঝুঁকি কমিয়ে দেয়। আপনি ওয়েব ইন্টারফেসে সরাসরি এই প্যারামিটারটি পরিবর্তন করতে পারবেন না, তবে আপনি এই ধরনের নির্দেশাবলী দিয়ে অনুরূপ কিছুর জন্য অনুরোধ করতে পারেন: "কোনো অনুমান বা মতামত ছাড়া বস্তুনিষ্ঠভাবে উত্তর দিন।"

সম্ভাব্য হ্যালুসিনেশন শনাক্তকরণ ও যাচাই করার উত্তম অনুশীলন

প্রম্পট উন্নত করার পাশাপাশি, একটি পদ্ধতিগত যাচাইকরণ প্রক্রিয়া গ্রহণ করা অত্যন্ত গুরুত্বপূর্ণ । অনলাইনে প্রতারণা শনাক্ত করতে আমরা যে কৌশলগুলো ব্যবহার করি, সেগুলোই সন্দেহজনক এআই প্রতিক্রিয়া শনাক্ত করতেও কাজে লাগানো যেতে পারে।

প্রথম পরামর্শটি প্রায় সাধারণ জ্ঞানের মতোই, কিন্তু এটি পুনরাবৃত্তি করা প্রয়োজন: সর্বদা নির্ভরযোগ্য বাহ্যিক উৎস থেকে গুরুত্বপূর্ণ তথ্য যাচাই করে নিন। যদি ChatGPT আপনাকে সংখ্যাসূচক ডেটা, তারিখ, লেখকের নাম বা গবেষণার রেফারেন্স দেয়, তবে সেগুলি অফিসিয়াল ওয়েবসাইট, অ্যাকাডেমিক ডেটাবেস, বই বা রেফারেন্স আর্টিকেলে যাচাই করে নিন; উদাহরণস্বরূপ, সেইসব কাজের তালিকা দেখুন যেখানে ChatGPT প্রাসঙ্গিক উদাহরণ খুঁজে পায় না।

মডেলটিকে তার যুক্তি ধাপে ধাপে দেখাতে বলাটাও খুব সহায়ক । "আপনি কীভাবে এই সিদ্ধান্তে পৌঁছালেন, তা আমাকে ধাপে ধাপে ব্যাখ্যা করুন" - এই ধরনের নির্দেশাবলী আপনাকে যৌক্তিক ফাঁক বা অযৌক্তিক উল্লম্ফন শনাক্ত করতে সাহায্য করে। যদি আপনি দেখেন যে "পথটি" অর্থহীন, তাহলে উত্তরটি সম্ভবত কোনো বিভ্রমের উপর ভিত্তি করে দেওয়া।

বড় প্রশ্নগুলোকে নির্দিষ্ট উপ-প্রশ্নে বিভক্ত করলে মডেলটিকে একবারে অনেক বেশি প্রেক্ষাপট বিবেচনা করতে হয় না। একটি সম্পূর্ণ ক্ষেত্র সম্পর্কে একটি বৃহৎ প্রশ্ন করার পরিবর্তে, প্রথমে প্রধান তত্ত্বগুলো, তারপর মূল লেখকগণ, তারপর গবেষণালব্ধ প্রমাণ এবং এভাবেই পর্যায়ক্রমে জিজ্ঞাসা করুন। এইভাবে, আপনি প্রতিটি অংশকে স্বাধীনভাবে যাচাই করতে পারবেন।

ChatGPT-এর ইন্টারনেট সার্চ সুবিধাযুক্ত সংস্করণগুলিতে , যেমন ব্রাউজিং সক্ষম কিছু পেইড প্ল্যানে, হালনাগাদ তথ্যের প্রয়োজন হলে এই ফিচারটি চালু করা উচিত। যদিও এটি বিভ্রম পুরোপুরি দূর করে না, তবে ঝুঁকি কমিয়ে দেয়, কারণ এই মডেলটি শুধুমাত্র পরিসংখ্যানগত স্মৃতির উপর নির্ভর না করে বাস্তব নথির উপর নির্ভর করে।

একটি আকর্ষণীয় কৌশল হলো সামান্য পরিবর্তন সহ একই প্রশ্নটির পুনরাবৃত্তি করা । যদি মডেলটি কার্যত অভিন্ন প্রশ্নের পরস্পরবিরোধী উত্তর দেয়, তবে এটি একটি ভালো ইঙ্গিত যে এটি হয়তো মনগড়া তথ্য দিচ্ছে বা অনির্ভরযোগ্যভাবে অনুমান করছে। এমন ক্ষেত্রে, পুঙ্খানুপুঙ্খ বাহ্যিক যাচাইকরণ করা বাঞ্ছনীয়।

অবশেষে, আপনি যদি এপিআই (API) বা অ্যাডভান্সড কনফিগারেশন ব্যবহার করেন, তাহলে সিস্টেমের জন্য স্থায়ী নির্দেশাবলী নির্ধারণ করুন, যেমন: “কোনো তথ্য সম্পর্কে আপনি অনিশ্চিত হলে, ‘আমার কাছে যথেষ্ট তথ্য নেই’ বলে উত্তর দিন এবং অনুমান করার চেষ্টা করবেন না।” এটি সমস্যাটিকে পুরোপুরি দূর করে না, তবে এটি সততার একটি কঠোরতর মান প্রতিষ্ঠা করে।

ত্রুটি হ্রাস করে এমন কনফিগারেশন এবং ব্যবহারের ধরণ

প্রম্পটগুলো ছাড়াও, ChatGPT-এর মধ্যে এমন কিছু নির্দিষ্ট সেটিংস আছে যা আপনাকে মনগড়া উত্তর দেওয়া কমাতে সাহায্য করতে পারে , বিশেষ করে যদি আপনি গবেষণা, বিজ্ঞান বা আইনের মতো সংবেদনশীল বিষয়ে এটি প্রতিদিন ব্যবহার করেন।

আপনার কাছে যদি সমন্বিত ওয়েব সার্চ সুবিধাযুক্ত উন্নত মডেল থাকে , তবে দ্রুত পরিবর্তনশীল ডেটা (যেমন সাম্প্রতিক ঘটনা, বিধিমালা, সাম্প্রতিক গবেষণাপত্র) নিয়ে কাজ করার সময় সেগুলোকে সক্রিয় করা একটি ভালো সিদ্ধান্ত। রিয়েল-টাইম তথ্যের উপর নির্ভর করার ফলে, AI-এর কাছে তুলনা করার জন্য আরও বেশি বিকল্প থাকে এবং পরিসংখ্যানগত স্বজ্ঞা দিয়ে শূন্যস্থান পূরণের প্রয়োজন কমে যায়।

তথাকথিত উন্নত যুক্তি পদ্ধতি , যেমন বিশ্লেষণাত্মক নির্ভুলতার উপর দৃষ্টি নিবদ্ধ করা মডেলগুলো (উদাহরণস্বরূপ, o3 ফ্যামিলি), গতির চেয়ে কঠোরতাকে অগ্রাধিকার দেওয়ার জন্য ডিজাইন করা হয়েছে। একটি উত্তর তৈরি করতে এগুলোর বেশি সময় লাগতে পারে, কিন্তু যৌক্তিক, গাণিতিক, বা বিস্তারিত নথি বিশ্লেষণের সমস্যাগুলোতে এগুলো কম গুরুতর ভুল করে থাকে।

আরেকটি গুরুত্বপূর্ণ বৈশিষ্ট্য হলো ChatGPT-এর নিজস্ব নির্দেশাবলী । সেটিংসে, আপনি আপনার পছন্দের প্রতিক্রিয়ার ধরন নির্দিষ্ট করে দিতে পারেন: যেমন—আরও প্রযুক্তিগত, আরও শিক্ষামূলক, আরও সতর্কতামূলক, ইত্যাদি। উদাহরণস্বরূপ, আপনি এটিকে সৃজনশীলতার চেয়ে নির্ভুলতাকে বেশি প্রাধান্য দিতে, পুরোপুরি নিশ্চিত না হলে সর্বদা উৎস উল্লেখ করতে, অথবা অনুমান করলে আপনাকে সতর্ক করতে বলতে পারেন।

গবেষণার জন্য ChatGPT ব্যবহার করার সময়, স্পষ্ট রেফারেন্সে পরিপূর্ণ একটি সমৃদ্ধ প্রেক্ষাপট প্রদান করা গুরুত্বপূর্ণ , বিশেষ করে যদি আপনি কোনো প্রবন্ধ বা অ্যাকাডেমিক সারাংশের বিশ্লেষণ চেয়ে থাকেন। প্রম্পটের মধ্যেই নির্ভরযোগ্য উৎস অন্তর্ভুক্ত করা এবং উত্তরটি যে সেই নথিগুলোর উপর ভিত্তি করে হতে হবে তা স্পষ্ট করে দিলে, মডেলটির অস্পষ্ট তথ্যের উপর নির্ভর করার সম্ভাবনা কমে যায়।

মনে রাখবেন যে বিভিন্ন মডেলের ঝুঁকি ভিন্ন ভিন্ন হয়ে থাকে । একটি হালকা মডেল সৃজনশীল ধারণা তৈরির জন্য ("X থেকে Y-তে যাওয়ার ২০টি উপায় বলুন") দারুণ হতে পারে, কিন্তু কোনো গবেষণাপত্র থেকে হুবহু উদ্ধৃতি বের করার জন্য এটি সেরা বিকল্প নয়। অন্যদিকে, একটি ভারী মডেল গভীর বিশ্লেষণের জন্য সঠিক পছন্দ হতে পারে, যদিও তা ধীরগতির হয়। এই সমন্বয়গুলোর কিছু কিছু কৃত্রিম বুদ্ধিমত্তার প্যারামিটার থেকে উদ্ভূত হয় , যা মডেলগুলোকে আকার দেয়।

সাধারণ ব্যবহারকারীর ভুল যা হ্যালুসিনেশন ঘটায়

আমরা দৈনন্দিন জীবনে যে বিভ্রমগুলো দেখি, তার অনেকগুলোই শুধু মডেলটির কারণেই হয় না, বরং আমরা কীভাবে এটি ব্যবহার করি তার উপরেও নির্ভর করে। ব্যবহারের এমন বেশ কিছু ধরণ রয়েছে যা এআই-কে ভুল করতে প্রায় প্ররোচিত করে , এবং সেগুলো শনাক্ত করা জরুরি।

সবচেয়ে সাধারণ ভুলগুলোর মধ্যে একটি হলো অতিরিক্ত সাধারণ প্রশ্ন করা । "সমাজ মনোবিজ্ঞান সম্পর্কে সবকিছু ব্যাখ্যা করুন" বা "এই ক্ষেত্রের বর্তমান অবস্থা সংক্ষেপে বলুন"-এর মতো অনুরোধগুলো এতটাই ব্যাপক যে, এগুলো মডেলকে বিপুল পরিমাণ তথ্য সংক্ষেপ করতে বাধ্য করে, যা ভুল বা অসঠিক সরলীকরণের সম্ভাবনা বাড়িয়ে দেয়।

আরেকটি বিপজ্জনক অভ্যাস হলো, যাচাই না করেই হুবহু উদ্ধৃতি, গ্রন্থপঞ্জিগত তথ্যসূত্র বা আইনি রায় তৈরি করার জন্য অন্ধভাবে এআই-এর ওপর নির্ভর করা । ঠিক এই ধরনের কাজগুলিতেই ল্যাঙ্গুয়েজ মডেলগুলি এমন শিরোনাম, লেখক বা তথ্য উদ্ভাবন করার জন্য বিশেষভাবে প্রবণ হয়, যা শুনতে ‘ভালো লাগে’ কিন্তু বাস্তবে যার কোনো অস্তিত্ব নেই।

একই থ্রেডে অনেকগুলো ভিন্ন বিষয় মেশানোটাও কোনো কাজে আসে না । যদি কোনো কথোপকথনে আপনি কোয়ান্টাম ফিজিক্স থেকে শিক্ষাবিজ্ঞান, তারপর আইন নিয়ে কথা বলতে থাকেন এবং শেষে শিল্পকলার ইতিহাস নিয়ে আলোচনা করেন, তাহলে চ্যাটের প্রেক্ষাপট বিশৃঙ্খল হয়ে পড়ে এবং মডেলটির অপ্রয়োজনে এক ক্ষেত্র থেকে অন্য ক্ষেত্রে ধারণা টেনে আনার সম্ভাবনা বেড়ে যায়।

মানসিকতার দৃষ্টিকোণ থেকে, ChatGPT-কে একটি সহায়ক সরঞ্জাম হিসেবে না দেখে পরম সত্যের উৎস হিসেবে বিবেচনা করা একটি বিপজ্জনক ভুল । ঠিক যেমন আপনি একজন ইন্টার্নের কাজ পর্যালোচনা করেন, তেমনি আপনার মডেলটির আউটপুটও পর্যালোচনা করা উচিত, বিশেষ করে যদি আপনার পেশাগত বা অ্যাকাডেমিক সুনাম ঝুঁকির মধ্যে থাকে।

অবশেষে, এটা মনে রাখা দরকার যে, এআই মডেলগুলো আপডেট হওয়ার সাথে সাথে সময়ের সাথে সাথে উন্নত বা অবনমিত হতে পারে । যদি আপনি লক্ষ্য করেন যে কোনো একটি নির্দিষ্ট মডেল কিছু বিশেষ ধরনের কাজে (যেমন, দীর্ঘ নথি বিশ্লেষণ) নির্ভরযোগ্যতার সমস্যা তৈরি করছে, তাহলে সেটির একটি ভিন্ন সংস্করণ ব্যবহার করার, একটি নতুন ও ত্রুটিমুক্ত চ্যাট শুরু করার, অথবা সেটিকে অন্যান্য বিশেষায়িত টুলের সাথে একত্রিত করার কথা বিবেচনা করতে পারেন।

ChatGPT উপভোগ করার পাশাপাশি হ্যালুসিনেশন নিয়ে কীভাবে বাঁচবেন

বিভ্রমগুলো কালই উধাও হয়ে যাবে না, কিন্তু তার মানে এই নয় যে ChatGPT-এর উপযোগিতা কমে যাবে। মূল বিষয় হলো টুলটিকে বিচক্ষণতার সাথে ব্যবহার করা : এটি যে কাজগুলো খুব ভালোভাবে করে (লেখা, ধারণা তৈরি করা, তথ্যকে কাঠামোবদ্ধ করা, স্পষ্ট ব্যাখ্যা দেওয়া) সেগুলোর সদ্ব্যবহার করা এবং যখন গুরুত্বপূর্ণ ডেটা সামনে আসে তখন আরও বেশি দাবিদার হওয়া।

সৃজনশীলতা, চিন্তাভাবনা বা প্রাথমিক লেখার জন্য ব্যবহার করলে, হ্যালুসিনেশন সাধারণত কম সমস্যাজনক হয়; এমনকি এটি গল্পে আকর্ষণীয় মোড়ও আনতে পারে। তবে, গবেষণা, প্রযুক্তিগত প্রতিবেদন বা কঠোর যাচাই-বাছাই প্রয়োজন এমন কোনো বিষয়বস্তুর জন্য ব্যবহার করলে , নিজের পুঙ্খানুপুঙ্খ পর্যালোচনা অন্তর্ভুক্ত করা এবং যাচাই না করে কোনো কিছুই প্রকাশ না করাই বুদ্ধিমানের কাজ।

এই ভারসাম্য রক্ষার ক্ষেত্রে, একই সাথে দুটি সত্য মেনে নেওয়া জরুরি: ChatGPT-এর মতো মডেল ভুল করে , কখনও কখনও মারাত্মক ভুলও করে, কিন্তু এটাও সত্যি যে মানুষও ভুল করে। যদি AI আমাদের চেয়ে কম ত্রুটিপূর্ণভাবে কোনো নির্দিষ্ট কাজ সম্পাদন করে অথবা আমাদের বিনিয়োগ করা সময় উল্লেখযোগ্যভাবে কমাতে সাহায্য করে, তবে এটি একটি অত্যন্ত আকর্ষণীয় বিকল্প হিসেবেই থেকে যায়, শর্ত হলো আমরা যেন চূড়ান্ত দায়িত্ব এর ওপর অর্পণ না করি।

শেষ পর্যন্ত, আপনি নিজের নামে যা স্বাক্ষর করেন তার জন্য আপনিই দায়ী, মডেল নয়। একটি গুরুতর ভুলের জন্য ChatGPT-কে দোষারোপ করাটা অনেকটা "কুকুর তোমার বাড়ির কাজ খেয়ে ফেলেছে" বলার মতো : এটাকে অজুহাত মনে হতে পারে, কিন্তু এটি আপনাকে এর পরিণতি থেকে মুক্তি দেয় না। বিচক্ষণ কাজ হলো ভ্রান্ত ধারণা শনাক্ত করতে শেখা, আপনার কর্মপ্রবাহে যাচাইকরণ ব্যবস্থা অন্তর্ভুক্ত করা এবং ধীরে ধীরে প্রম্পট ও সেটিংস উন্নত করা।

যদি আমরা আরও উন্নত মডেল, নতুন প্রক্রিয়া-কেন্দ্রিক প্রশিক্ষণ কৌশল, সমন্বিত সার্চ টুল এবং আরও পরিণত ইউজার এক্সপেরিয়েন্সের সমন্বয় করি, তাহলে হ্যালুসিনেশনের ঘটনা ধীরে ধীরে কমে আসবে। ততদিন পর্যন্ত, সবচেয়ে বিচক্ষণ পন্থা হলো ChatGPT-কে তার আসল রূপে বিবেচনা করা: এটি একটি শক্তিশালী কিন্তু নির্ভুল টুল নয় , যা আপনার উৎপাদনশীলতা বাড়াতে পারে, তবে শর্ত হলো এর উত্তরগুলো প্রথমে পর্যালোচনা না করে হুবহু বিশ্বাস করা যাবে না।

সম্পর্কিত নিবন্ধ:

জেনারেটিভ আর্টিফিশিয়াল ইন্টেলিজেন্স সম্পর্কে সবকিছু: এটি কীভাবে কাজ করে, ব্যবহার করে এবং ঝুঁকিগুলি