অ্যালগরিদম আসলে কীভাবে সিদ্ধান্ত নেয়?

অ্যালগরিদমকে অনেকেই নিরপেক্ষ গণিতের ফল বলে মনে করেন। কিন্তু বাস্তবতা হলো অ্যালগরিদম সিদ্ধান্ত নেয় তথ্যের ভিত্তিতে, আর সেই তথ্য আসে মানুষের তৈরি সমাজ থেকেই। অতীতের ডেটা, মানুষের আচরণ, প্রতিষ্ঠানিক নীতি, সামাজিক কাঠামো সবকিছু মিলে তৈরি হয় যে ডেটাসেট, অ্যালগরিদম সেখান থেকেই শেখে। যদি কোনো সমাজে দীর্ঘদিন ধরে কোনো নির্দিষ্ট জাতি, লিঙ্গ বা শ্রেণি কম সুযোগ পেয়ে থাকে, তাহলে সেই অসমতা ডেটার ভেতর স্বাভাবিকভাবেই প্রতিফলিত হবে। অ্যালগরিদম যখন সেই ডেটা বিশ্লেষণ করে ভবিষ্যৎ সিদ্ধান্ত নেয়, তখন সে আসলে অতীতের বৈষম্যকেই আরও নিখুঁতভাবে পুনরুৎপাদন করতে পারে।

এখানেই জন্ম নেয় অ্যালগরিদমিক পক্ষপাত, যেখানে যন্ত্রের সিদ্ধান্ত বাহ্যিকভাবে নিরপেক্ষ মনে হলেও ভেতরে লুকিয়ে থাকে গভীর সামাজিক অসমতা।

অ্যালগরিদমিক পক্ষপাতের একটি বড় ক্ষেত্র হলো লিঙ্গ। বিভিন্ন স্বয়ংক্রিয় নিয়োগব্যবস্থা বিশ্লেষণ করে দেখা গেছে, কিছু ক্ষেত্রে পুরুষ প্রার্থীদের জীবনবৃত্তান্তকে বেশি ‘যোগ্য’ হিসেবে চিহ্নিত করা হয়েছে। কারণ ঐতিহাসিকভাবে প্রযুক্তি বা উচ্চপদস্থ চাকরিতে পুরুষদের উপস্থিতি বেশি ছিল। সেই পুরনো তথ্য দিয়েই অ্যালগরিদম শেখে, ফলে নারী প্রার্থীরা শুরুতেই পিছিয়ে পড়ে। এটি ইচ্ছাকৃত বৈষম্য নয়, বরং অচেতন পক্ষপাত। কিন্তু ফলাফল বাস্তবে একই। একটি লিঙ্গ প্রযুক্তির সিদ্ধান্তে কম সুযোগ পায়।

এমনকি ভাষাভিত্তিক অ্যালগরিদমেও লিঙ্গগত স্টেরিওটাইপ ধরা পড়ে। কিছু শব্দের সঙ্গে পুরুষকে ক্ষমতা বা নেতৃত্বের প্রতীক হিসেবে যুক্ত করা হয়, আর নারীর সঙ্গে আবেগ বা গৃহকেন্দ্রিক ধারণা জুড়ে দেওয়া হয়। এই সূক্ষ্ম পক্ষপাত ধীরে ধীরে সমাজের চিন্তাধারাকেই প্রভাবিত করতে পারে।

জাতিগত বা বর্ণভিত্তিক পক্ষপাত  অ্যালগরিদমিক আলোচনার সবচেয়ে সংবেদনশীল বিষয়গুলোর একটি। নজরদারি প্রযুক্তি, মুখ শনাক্তকরণ ব্যবস্থা বা অপরাধ পূর্বাভাসমূলক সফটওয়্যারে এই পক্ষপাতের অভিযোগ বহুবার উঠেছে। কারণটা হলো, অতীতের অপরাধসংক্রান্ত ডেটা। যদি কোনো নির্দিষ্ট জনগোষ্ঠী ঐতিহাসিকভাবে বেশি নজরদারির মধ্যে থাকে, তবে তাদের নাম অপরাধের ডেটায় বেশি থাকবে। অ্যালগরিদম সেই ডেটা দেখে সিদ্ধান্ত নেয়। ফলে ভবিষ্যতেও সেই জনগোষ্ঠীই বেশি সন্দেহের তালিকায় উঠে আসে। এটি এক ধরনের চক্র, যেখানে প্রযুক্তি বৈষম্য কমানোর বদলে তাকে আরও শক্ত করে তোলে। এখানে সমস্যা যন্ত্রের নয়, বরং সেই সামাজিক বাস্তবতার, যা ডেটার মাধ্যমে যন্ত্রকে শেখানো হচ্ছে।

মেশিন কি নৈতিকতা বোঝে?

মেশিনের কোনো নৈতিক বোধ নেই। সে শুধু লক্ষ্য পূরণ করতে শেখে। যদি লক্ষ্য হয় ‘সর্বোচ্চ দক্ষতা’ বা ‘ঝুঁকি কমানো’, তবে সে সেই লক্ষ্য পূরণে এমন সিদ্ধান্ত নিতে পারে, যা মানবিক দৃষ্টিকোণ থেকে অন্যায়। এই কারণেই অ্যালগরিদমিক সিদ্ধান্তকে পুরোপুরি স্বয়ংক্রিয় করে দেওয়া বিপজ্জনক। কারণ ন্যায়বিচার শুধু পরিসংখ্যান নয়, এটি মানবিক মূল্যবোধ, প্রেক্ষাপট ও সহানুভূতির ওপর নির্ভরশীল।

প্রযুক্তির অদৃশ্য ক্ষমতা ও সাধারণ মানুষের অজ্ঞতা!

অ্যালগরিদমিক পক্ষপাতের আরেকটি বড় সমস্যা হলো এর অদৃশ্যতা। মানুষ জানতেই পারে না কেন সে কোনো সুবিধা পেল না বা কেন তার আবেদন বাতিল হলো। সিদ্ধান্ত আসে এক ধরনের ‘কালো বাক্স’ থেকে, যেখানে ভেতরের যুক্তি সাধারণ মানুষের কাছে অস্পষ্ট। এই অস্বচ্ছতা বৈষম্যকে আরও বিপজ্জনক করে তোলে। কারণ যেখানে দৃশ্যমান বৈষম্যের বিরুদ্ধে প্রতিবাদ করা যায়, সেখানে অদৃশ্য বৈষম্য চুপচাপ স্বাভাবিক হয়ে ওঠে।

প্রযুক্তি কি তাহলে শত্রু?

এই প্রশ্নের উত্তর সরল নয়। প্রযুক্তি নিজে ভালো বা খারাপ নয়, এটি একটি আয়না। সমাজ যেমন, প্রযুক্তির প্রতিফলনও তেমন। অ্যালগরিদমিক পক্ষপাত আমাদের চোখে আঙুল দিয়ে দেখিয়ে দেয়, সমাজে কোথায় বৈষম্য প্রোথিত হয়ে আছে।

একই সঙ্গে প্রযুক্তির মধ্যেই রয়েছে সমাধানের সম্ভাবনা। সচেতনভাবে ডেটা নির্বাচন, বৈচিত্র্যময় দল দিয়ে অ্যালগরিদম তৈরি, নিয়মিত অডিট এবং মানবিক তত্ত্বাবধান- এসবের মাধ্যমে পক্ষপাত অনেকাংশে কমানো সম্ভব।

নীতিনির্ধারণ ও দায়িত্ব কার?

অ্যালগরিদমিক বৈষম্য রোধ করা শুধু প্রযুক্তিবিদদের কাজ নয়। এটি নীতিনির্ধারক, সমাজবিজ্ঞানী, আইনজ্ঞ এবং সাধারণ মানুষের সম্মিলিত দায়িত্ব। কারণ অ্যালগরিদম আজ ব্যক্তিগত জীবন থেকে রাষ্ট্রীয় সিদ্ধান্ত সবখানেই প্রভাব ফেলছে।

যেখানে যন্ত্র সিদ্ধান্ত নেয়, সেখানে প্রশ্ন তোলার অধিকার মানুষের থাকতে হবে। কেন এই সিদ্ধান্ত, কোন তথ্যের ভিত্তিতে—এই স্বচ্ছতা নিশ্চিত না হলে প্রযুক্তি ন্যায়ের বদলে অন্যায়ের হাতিয়ার হয়ে উঠতে পারে।

মেশিনও কি জাতি ও লিঙ্গ বৈষম্য করতে পারে?”- এই প্রশ্নের উত্তর খুঁজতে গিয়ে আমরা আসলে নিজেদের দিকেই তাকাই। মেশিন বৈষম্য করে না, মেশিন শেখে। আর সে শেখে আমাদের কাছ থেকেই, আমাদের ইতিহাস, আমাদের সিদ্ধান্ত, আমাদের অসমতা থেকে। অ্যালগরিদমিক পক্ষপাত আমাদের জন্য এক ধরনের সতর্ক সংকেত। এটি বলে দেয়, প্রযুক্তি যতই আধুনিক হোক না কেন, মানবিক ন্যায়বোধ ছাড়া তা বিপজ্জনক হতে পারে। ভবিষ্যতের সমাজ কেমন হবে, তা অনেকাংশেই নির্ভর করছে আমরা আজ প্রযুক্তিকে কী শেখাচ্ছি তার ওপর। যন্ত্রের বুদ্ধি বাড়ছে কিন্তু মানবিক দায়িত্ব কি তার সঙ্গে সমানতালে বাড়ছে? এই প্রশ্নের উত্তরই ঠিক করে দেবে, প্রযুক্তি আমাদের মুক্ত করবে নাকি নীরবে বৈষম্যকে আরও গভীর করবে।