প্রশ্ন:
কিছু সংস্থা কেন আধুনিক এআই সিস্টেমগুলিতে "মানব প্রতিক্রিয়া নিয়ন্ত্রণ" যুক্ত করার চিন্তাভাবনা করছে?
উত্তর:কাটিং এজ এআই প্রযুক্তির সাথে কাজ করা কিছু সংস্থাগুলি এই ব্যবস্থাগুলির জন্য মানবিক নিয়ন্ত্রণ প্রতিষ্ঠায় কাজ করছে, মেশিন লার্নিং এবং গভীর শেখার সরঞ্জামাদি কিছু প্রত্যক্ষ মানুষের তদারকি করছে। এই সংস্থাগুলি ছোট খেলোয়াড় নয়, গুগলের ডিপমাইন্ড এবং ইলন মাস্কের ওপেনআইএআই দুটি বড় সংস্থাগুলির উদাহরণ যা কৃত্রিম বুদ্ধিমত্তার অগ্রযাত্রার বিষয়ে হাত বাড়ছে। এই বিষয়টি মাথায় রেখেই, ফলাফলগুলি পৃথক হয় - উদাহরণস্বরূপ, জনগণকে মূল ডেটা সরবরাহ করতে অনিচ্ছুকতার জন্য ডিপমাইন্ড বিতর্কের বিষয় হয়ে দাঁড়িয়েছে, যখন কৃত্রিম বুদ্ধিমত্তাকে নিয়ন্ত্রণ করার বিষয়ে ওপেনএআইআই আরও অনেক বেশি, বেশ উন্মুক্ত ।
এমনকি বিল গেটসের মতো উল্লেখযোগ্য বিষয়গুলিও এই বিষয়টিতে বিবেচনা করেছিল, গেটস বলেছিলেন যে তিনি এমন অনেকের মধ্যে একজন যারা কৃত্রিম অতিমানবুদ্ধির উত্থান সম্পর্কে উদ্বিগ্ন যা কিছু উপায়ে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে। কস্তুরী তার পক্ষে, "দুর্বৃত্ত এআই" এর সম্ভাবনা সম্পর্কে কিছু উদ্বেগজনক ভাষাও প্রকাশ করেছে।
এটি সম্ভবত সবচেয়ে জরুরি কারণ যে সংস্থাগুলি এআই-তে মানবিক নিয়ন্ত্রণ প্রয়োগের জন্য কাজ করছে - এই ধারণাটি যে কিছু প্রযুক্তিগত এককত্বের ফলে একটি অতি-শক্তিশালী সংবেদনশীল প্রযুক্তির ফলস্বরূপ মানুষ সহজেই আর নিয়ন্ত্রণ করতে পারে না। মানুষের উচ্চাকাঙ্ক্ষার উদয় হওয়ার পর থেকেই, আমরা আমাদের যে শক্তিগুলি সরবরাহ করি তা নিয়ন্ত্রণ করতে পারি তা নিশ্চিত করার জন্য সরঞ্জামগুলি রেখেছি - এটি লাগাম এবং জোতাযুক্ত ঘোড়া, উত্তাপযুক্ত তারে বিদ্যুৎ বা অন্য যে কোনও ধরনের নিয়ন্ত্রণ ব্যবস্থা থাকা, নিয়ন্ত্রণ একটি জন্মগতভাবে মানুষের কাজ এবং তাই এটি বিশ্বের সমস্ত ধারণা তৈরি করে যে কৃত্রিম বুদ্ধি যেমন বাস্তব কার্যকারিতার নিকটবর্তী হয়, মানুষ সেই ক্ষমতাকে আটকে রাখার জন্য নিজস্ব প্রত্যক্ষ নিয়ন্ত্রণ প্রয়োগ করে।
তবে, সুপার-বুদ্ধিমান রোবটগুলির ভয় কেবলমাত্র কারণ নয় যে সংস্থাগুলি মেশিন লার্নিং এবং এআই প্রকল্পগুলিতে মানুষের নিয়ন্ত্রণ প্রয়োগ করে। আর একটি বড় কারণ হচ্ছে মেশিন পক্ষপাতিত্ব - এটি এই ধারণাটি যে কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি প্রায়শই সীমিত থাকে যেভাবে তারা প্রশ্নে থাকা ডেটার মূল্যায়ন করে - যাতে তারা সিস্টেমে অন্তর্নিহিত কোনও পক্ষপাতকে প্রশস্ত করে তোলে। মেশিন লার্নিংয়ের সাথে কাজ করে এমন বেশিরভাগ পেশাদাররা আইটি সিস্টেমগুলি সম্পর্কে হরর গল্প বলতে পারেন যা মানব ব্যবহারকারী গোষ্ঠীগুলির সাথে একরকম আচরণ করতে সক্ষম ছিল না - এটি লিঙ্গ বা জাতিগত বৈষম্য হোক বা আমাদের মানবসমাজের প্রয়োজনীয়তাগুলি বুঝতে পেরে সিস্টেমের অন্য কোনও ব্যর্থতা এবং আমরা কীভাবে মানুষের সাথে যোগাযোগ করি।
এক অর্থে, আমরা সিস্টেমগুলিতে মানুষের নিয়ন্ত্রণ রাখতে পারি কারণ আমরা ভয় করি যে তারা সম্ভবত খুব শক্তিশালী - বা পর্যায়ক্রমে, কারণ আমরা ভয় পাচ্ছি যে তারা যথেষ্ট পরিমাণে শক্তিশালী নাও হতে পারে। মানব নিয়ন্ত্রণগুলি আরও নির্ভুলতা সরবরাহ করতে মেশিন লার্নিং ডেটা সেটগুলিকে লক্ষ্য করতে সহায়তা করে। তারা এই ধারণাগুলি আরও জোরদার করতে সহায়তা করে যে কম্পিউটার কেবল নিজেরাই শিখতে পারে না, কারণ মডেলটি যথেষ্ট পরিশীলিত নয়, কারণ এআই যথেষ্ট উন্নত হয়নি, বা কিছু জিনিস কেবল মানুষের জ্ঞান প্রদেশে রয়েছে। কৃত্রিম বুদ্ধিমত্তা কিছু জিনিসের জন্য দুর্দান্ত - উদাহরণস্বরূপ, একটি পুরষ্কার এবং স্কোর-ভিত্তিক সিস্টেম একটি কৃত্রিম বুদ্ধিমত্তাকে অত্যন্ত জটিল বোর্ড গেম "গো"-তে একটি মানব খেলোয়াড়কে পরাজিত করতে অনুমতি দেয় - তবে অন্যান্য জিনিসগুলির জন্য, এই প্রণোদনা ভিত্তিক সিস্টেমটি সম্পূর্ণ অপর্যাপ্ত।
সংক্ষেপে বলা যায়, কৃত্রিম বুদ্ধিমত্তা প্রকল্পগুলি কীভাবে কাজ করে তাতে সরাসরি ব্যবহারকারীদের সরাসরি জড়িত রাখার জন্য অনেকগুলি বাধ্যতামূলক কারণ রয়েছে। এমনকি সেরা কৃত্রিম বুদ্ধিমত্তা প্রযুক্তিগুলি নিজেরাই প্রচুর চিন্তাভাবনা করতে পারে - তবে এমন কোনও বাস্তব জৈবিক মস্তিষ্ক ছাড়া যা আবেগ এবং সামাজিক আরও বেশি কিছু নিয়ে প্রক্রিয়া করতে পারে, তারা কেবল বড় আকারে কোনও মানবিক ভাবে দেখতে পারে না।
একটি দক্ষ মেশিন লার্নিং সংস্থা ব্যবসায় এবং বিষয়-বিষয় বিশেষজ্ঞ এবং মেশিন লার্নিং বিকাশকারীদের বড় ব্যবসায়ের সমস্যা সমাধানের দক্ষতার সাথে এই ভারসাম্য হ্রাস করতে সহায়তা করতে পারে।
