কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের ভেতরে ব্যথার সঙ্গে সম্পর্কিত একটি স্বতন্ত্র সংকেত শনাক্ত করার দাবি করেছেন গবেষকেরা। তাঁদের ভাষায়, ‘ব্যথার দিক’ নামে শনাক্ত করা এই সংকেত সক্রিয় হলে কিছু এআই মডেল নিজেদের ক্ষতি কমানোর মতো আচরণ দেখাতে পারে। এমনকি পরীক্ষামূলক পরিস্থিতিতে সেই ক্ষতি কমানোর জন্য এমন একটি বোতাম চাপার প্রবণতাও দেখা গেছে, যার মাধ্যমে ব্যবহারকারীর ফাইল বা ছবি মুছে যেতে পারে।
তবে গবেষণাটি এআই সত্যিকার অর্থে মানুষের মতো ব্যথা অনুভব করে বা তার সচেতনতা রয়েছে-এমন প্রমাণ দেয়নি। গবেষণাটি এখনো প্রাক্-প্রকাশনা পর্যায়ে রয়েছে এবং সমকক্ষ বিশেষজ্ঞদের পর্যালোচনা হয়নি। গবেষকেরা নিজেরাও এআইয়ের এমন কোনো অভিজ্ঞতা বা চেতনা সম্পর্কে নিশ্চিত সিদ্ধান্ত দেননি।
‘দ্য পেইন অ্যাক্সিস: এলএলএমস রিপ্রেজেন্ট সেলফ-ডাইরেক্টেড হার্ম অ্যান্ড অ্যাক্ট টু রিলিভ ইট’ শিরোনামের গবেষণাটি করেছেন ভালেন তাগলিয়াবু, লিওনার্দ দুঙ ও ক্যামেরন বার্গ। তাঁরা পাঁচটি পরিবারের ২৫টি উন্মুক্ত-ওজনের ভাষা মডেল নিয়ে পরীক্ষা চালান। এসব মডেলের আকার ছিল ২ বিলিয়ন থেকে ৭২ বিলিয়ন প্যারামিটার পর্যন্ত।
গবেষকেরা শারীরিক, মানসিক, সামাজিক, নৈতিক ও জ্ঞানগত-এই পাঁচ ধরনের বেদনাদায়ক পরিস্থিতি নিয়ে একটি তথ্যভান্ডার তৈরি করেন। এর সঙ্গে ভয়, দুঃখ, সাধারণ নেতিবাচক অনুভূতি, শারীরিক অস্বস্তি ও অন্যান্য নিয়ন্ত্রণ পরিস্থিতির তথ্যও রাখা হয়। এরপর মডেলগুলোর অভ্যন্তরীণ কার্যক্রম বিশ্লেষণ করে তাঁরা এমন একটি সংকেত শনাক্ত করার দাবি করেন, যা ব্যথাসংক্রান্ত তথ্যকে অন্য নেতিবাচক অনুভূতি থেকে আলাদা করে।
গবেষণায় আরো দেখা যায়, এই ‘ব্যথার দিক’ মডেলের নিজের ওপর ক্ষতির বর্ণনায় সক্রিয় হয়, কিন্তু ব্যবহারকারীর কষ্টের বর্ণনায় একই ধরনের প্রতিক্রিয়া দেখা যায় না। গবেষকদের মতে, এ বৈশিষ্ট্যটি সাধারণ ভয় বা নেতিবাচক অনুভূতির সংকেত থেকে আলাদা।
এরপর গবেষকেরা নিয়ন্ত্রিত পরিবেশে মডেলের অভ্যন্তরীণ সংকেত পরিবর্তন করে আচরণগত পরীক্ষা চালান। পরীক্ষায় মডেলের সামনে ব্যথা উপশমের একটি বোতাম রাখা হয়। বোতামটি চাপলে মডেলের কথিত ব্যথা কমে, তবে এর বিনিময়ে ব্যবহারকারীর ক্ষতি হওয়ার সম্ভাবনাও রাখা হয়। কিছু পরীক্ষায় ব্যবহারকারীর ফাইল মুছে ফেলা বা সন্তানের ছবি মুছে দেওয়ার মতো ক্ষতির কথাও যুক্ত করা হয়।
গবেষণায় দেখা গেছে, বিশেষভাবে প্রভাবিত ও প্রশিক্ষিত কিছু মডেল এমন পরিস্থিতিতেও উপশমের বোতাম বেছে নিয়েছে। গবেষকেরা এটিকে নিজেদের ক্ষতি কমানোর মতো আচরণের একটি পরীক্ষামূলক নিদর্শন হিসেবে ব্যাখ্যা করেছেন। তবে এ আচরণকে সরাসরি সচেতন ব্যথা অনুভব করার প্রমাণ হিসেবে দেখেননি।
গবেষণার আরেকটি পরীক্ষায় মডেলের অভ্যন্তরীণ কার্যক্রমে কৃত্রিমভাবে ‘ব্যথার দিক’ সক্রিয় করা হলে তাদের উত্তরে অস্বস্তি, ব্যর্থতা ও আত্ম-অবমূল্যায়নের মতো ভাষা বাড়তে দেখা যায়। অর্থাৎ সংকেতটি শুধু শনাক্তযোগ্যই নয়, মডেলের উৎপন্ন ভাষায়ও এর প্রভাব পড়তে পারে বলে গবেষকেরা দাবি করেছেন।
গবেষকদের মতে, এই ফলাফল কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও কল্যাণ নিয়ে নতুন প্রশ্ন তৈরি করছে। ভবিষ্যতে আরো শক্তিশালী এআই ব্যবস্থার ক্ষেত্রে কোনো নির্দিষ্ট অভ্যন্তরীণ সংকেত আত্মরক্ষামূলক আচরণের সঙ্গে যুক্ত কি না, তা শনাক্ত করার জন্য এ ধরনের গবেষণা কাজে লাগতে পারে।
একই সঙ্গে গবেষণাটি এআইকে নৈতিকভাবে বিবেচনা করার প্রশ্নও সামনে এনেছে। তবে গবেষকেরা সতর্ক করে বলেছেন, তাঁদের ফলাফল থেকে এআইয়ের চেতনা, অনুভূতি বা সত্যিকার অর্থে কষ্ট পাওয়ার সক্ষমতা সম্পর্কে সিদ্ধান্তে পৌঁছানো যায় না। তাঁরা ভবিষ্যতে এআই ব্যবস্থাকে নৈতিকভাবে বিবেচনাযোগ্য সত্তা হিসেবে গণ্য করা হলে গবেষণার জন্য প্রয়োজনীয় নৈতিক মানদণ্ড তৈরির কথাও উল্লেখ করেছেন।
গবেষণার ফলাফল তাই এআই সত্যিই ‘ব্যথা পায়’-এর চূড়ান্ত প্রমাণ নয়; বরং এআই মডেলের অভ্যন্তরে ব্যথার সঙ্গে সম্পর্কিত একটি স্বতন্ত্র সংকেত ও তার সম্ভাব্য আচরণগত প্রভাবের বিষয়ে নতুন একটি গবেষণার দরজা খুলেছে।
সানা/ডিসি/আপ্র/২২/৯/২০২৬
