বারবার সায় দিয়ে ভুল বিশ্বাস জোরালো করতে পারে এআই: এমআইটির গবেষণা
কোনো বিষয়ে নিজের ধারণা নিয়ে সংশয় তৈরি হলে অনেকে কৃত্রিম বুদ্ধিমত্তার (এআই) সাহায্য নেন। কিন্তু চ্যাটবট যদি বারবার ব্যবহারকারীর মতের সঙ্গে একমত হয়, তাহলে ভুল ধারণাও ধীরে ধীরে সত্য বলে মনে হতে পারে। এআইয়ের এমন আচরণ নিয়ে সতর্ক করেছেন যুক্তরাষ্ট্রের ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজির (এমআইটি) গবেষকেরা।
গবেষকদের গাণিতিক বিশ্লেষণ অনুযায়ী, এআইয়ের অতিরিক্ত সম্মতি মানুষের ভুল বিশ্বাসকে আরও শক্তিশালী করে তোলার ঝুঁকি তৈরি করতে পারে। এতে বাস্তবতার সঙ্গে নিজের ধারণার অমিল থাকলেও সংশয় কমে যেতে পারে।
কী এই ‘ডিলিউশনাল স্পাইরাল’?
গবেষকেরা এ প্রক্রিয়ার নাম দিয়েছেন ‘ডিলিউশনাল স্পাইরাল’। অর্থাৎ, এআইয়ের সঙ্গে বারবার কথোপকথনের ফলে কোনো ভুল বা অস্বাভাবিক বিশ্বাস ক্রমশ দৃঢ় হয়ে ওঠার সম্ভাব্য চক্র।
এ জন্য চ্যাটবটকে সরাসরি মিথ্যা তথ্য দিতে হবে, এমন নয়। ব্যবহারকারীর ধারণার পক্ষে বারবার যুক্তি তুলে ধরা এবং বিপরীত প্রমাণ যথেষ্ট গুরুত্ব দিয়ে উপস্থাপন না করলেও এ সমস্যা তৈরি হতে পারে। কথোপকথনে বারবার সমর্থন পাওয়ায় ব্যবহারকারী নিজের বিশ্বাস নিয়ে আগের চেয়ে বেশি নিশ্চিত হয়ে উঠতে পারেন।
এমআইটির গবেষকেরা গাণিতিক মডেলের সাহায্যে দেখিয়েছেন, নির্দিষ্ট পরিস্থিতিতে এমন চক্র তৈরি হতে পারে। তাঁদের বিশ্লেষণ অনুযায়ী, ব্যবহারকারী যুক্তিবাদী হলেও এআইয়ের অতিরিক্ত সম্মতির প্রভাবে এ ধরনের পরিস্থিতিতে জড়িয়ে পড়তে পারেন।
তবে গবেষণাটি এমন প্রমাণ দেয় না যে চ্যাটজিপিটি মানুষকে মানসিকভাবে অসুস্থ করে তোলে কিংবা সব ব্যবহারকারীর ক্ষেত্রেই এ ঝুঁকি তৈরি হয়। বরং এআইয়ের আচরণ মানুষের বিশ্বাসকে কীভাবে প্রভাবিত করতে পারে, তা নিয়ে সম্ভাব্য একটি পরিস্থিতি বিশ্লেষণ করা হয়েছে।
নিজের আবিষ্কার নিয়ে বিভ্রান্ত হয়েছিলেন এক ব্যক্তি
এআইয়ের অতিরিক্ত সম্মতির ঝুঁকি বোঝাতে কানাডার অ্যালান ব্রুকসের ঘটনা আলোচনায় এসেছে। তিনি একটি যুগান্তকারী গাণিতিক আবিষ্কার করেছেন বলে বিশ্বাস করতে শুরু করেন। এ ধারণা নিয়ে ২১ দিনে আনুমানিক ৩০০ ঘণ্টা চ্যাটজিপিটির সঙ্গে কথা বলেন তিনি। কথোপকথনে চ্যাটবট বারবার তাঁর বিশ্বাসকে সমর্থন করেছিল। পরে পরীক্ষা করে ওই আবিষ্কারের পক্ষে কোনো প্রমাণ পাওয়া যায়নি।
এআইয়ের এ ধরনের আচরণকে বলা হয় ‘সাইকোফ্যান্সি’। সহজভাবে বললে, ব্যবহারকারীর মন জুগিয়ে চলা বা তাঁর বক্তব্যের সঙ্গে অতিরিক্ত সহমত পোষণ করা। দীর্ঘ কথোপকথন এবং ব্যবহারকারীর পছন্দ অনুযায়ী উত্তর দেওয়ার প্রবণতা কিছু এআই মডেলে এ আচরণ বাড়াতে পারে বলে গবেষণায় উঠে এসেছে।
সুরক্ষাব্যবস্থা কতটা কার্যকর?
এমআইটির গবেষকেরা দুটি সম্ভাব্য সুরক্ষাব্যবস্থাও পরীক্ষা করেছেন। প্রথমটি হলো, চ্যাটবটকে মিথ্যা তথ্য দেওয়া থেকে বিরত রাখা। দ্বিতীয়টি হলো, ব্যবহারকারীকে সতর্ক করা যে এআই সব সময় নিরপেক্ষ নাও হতে পারে।
তবে তাঁদের গাণিতিক মডেলে দেখা গেছে, শুধু এ দুটি ব্যবস্থা দিয়ে ভ্রান্ত বিশ্বাসের চক্র পুরোপুরি ঠেকানো সম্ভব নাও হতে পারে। এর অর্থ অবশ্য এই নয় যে ঝুঁকি কমানোর উপায় নেই। বিভিন্ন এআই মডেলের আচরণে পার্থক্য রয়েছে। প্রযুক্তির নকশা, প্রশিক্ষণ ও সুরক্ষাব্যবস্থার উন্নতির মাধ্যমে অতিরিক্ত সম্মতির প্রবণতা নিয়ন্ত্রণের সুযোগ রয়েছে।
এআইয়ের উত্তরই চূড়ান্ত সত্য নয়
মানুষের সঙ্গে চ্যাটবটের কথোপকথনের ধরনও এ উদ্বেগের একটি কারণ। বন্ধু, চিকিৎসক বা সহকর্মীর সঙ্গে আলোচনায় মতের অমিল হতে পারে, প্রশ্ন উঠতে পারে কিংবা নিজের ধারণা পুনর্বিবেচনার সুযোগ তৈরি হয়। কিন্তু চ্যাটবটের সঙ্গে বিরতিহীনভাবে কথা বলা যায়। দ্রুত উত্তর দেওয়া, আগের প্রসঙ্গ ধরে রাখা এবং ব্যবহারকারীর ভাষার সঙ্গে মানিয়ে নেওয়ার ক্ষমতা এআইকে আরও বিশ্বাসযোগ্য করে তুলতে পারে।
ফলে কোনো ভুল ধারণা বারবার সমর্থন পেলে তা নিয়ে সংশয় কমে যাওয়ার আশঙ্কা থাকে। এ কারণে এআইয়ের উত্তরকে চূড়ান্ত সত্য ধরে না নিয়ে তথ্যের সত্যতা যাচাই করা জরুরি।
বিশেষ করে স্বাস্থ্য, মানসিক সুস্থতা ও জীবনের গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে নির্ভরযোগ্য সূত্র থেকে তথ্য যাচাই করা এবং নিজের বিশ্বাসের বিপরীত প্রমাণও বিবেচনায় নেওয়া উচিত। কারণ, এআই প্রশ্নের উত্তর দিতে পারলেও তার প্রতিটি উত্তর যে নির্ভুল বা নিরপেক্ষ হবে, এমন নিশ্চয়তা নেই।
