প্রশ্ন:
DARPA "ব্যাখ্যাযোগ্য এআই" নিয়ে গবেষণা করছে কেন?
উত্তর:সাধারণভাবে, ব্যাখ্যামূলক কৃত্রিম বুদ্ধিমত্তা ডেটা সায়েন্সে কাটিয়া প্রান্তের কাজের একটি হেরাল্ড অংশ হয়ে উঠছে। এটি অন্তর্নিহিত উদ্বায়ী এবং গতিশীল ধরণের প্রযুক্তির মানবিক নিয়ন্ত্রণে সহায়তা করতে সহায়তা করে - ব্যাখ্যাযোগ্য এআই কৃত্রিম বুদ্ধি কীভাবে কাজ করবে সে সম্পর্কে আমাদের প্রচুর সম্মিলিত প্রশ্নের উত্তর দিতে সহায়তা করে।
ব্যাখ্যামূলক এআই বুঝতে, এটি "নিয়মিত এআই" দেখতে কেমন তা বুঝতে সহায়তা করে। Ditionতিহ্যগতভাবে, এআই রূপ নিতে শুরু করার সাথে সাথে, আদর্শ প্রকল্পটি একটি অভিনব নতুন সফ্টওয়্যার ক্ষমতা ধারণ করে, যা অ্যালগোরিদম এবং প্রশিক্ষণের সেট এবং লিনিয়ার কোডে লুকানো থাকে, এটি ব্যবহারকারীদের কাছে এ জাতীয় ধরণের "ব্লক বাক্স"। তারা জানে যে এটি কার্যকর - তারা ঠিক কীভাবে তা জানে না।
এটি "বিশ্বাসের সমস্যাগুলির" দিকে পরিচালিত করতে পারে যেখানে ব্যবহারকারীরা কোনও প্রযুক্তি যে সিদ্ধান্তের ভিত্তিতে সিদ্ধান্ত নেয় সে বিষয়ে প্রশ্ন করতে পারে। এটিই ব্যাখ্যাযোগ্য এআইকে বোঝার কথা: ব্যাখ্যাযোগ্য এআই প্রকল্পগুলি শেষ ব্যবহারকারীদের এআই এর উদ্দেশ্য এবং কাঠামো দেখানোর জন্য অতিরিক্ত অবকাঠামো নিয়ে আসে - কেন এটি এটি করে তা কেন করে।
এমন এক যুগে যেখানে বিল গেটস এবং ইলন মাস্কের মতো শীর্ষ উদ্ভাবকরা কৃত্রিম বুদ্ধিমত্তা কীভাবে কাজ করবে তা নিয়ে উদ্বেগ প্রকাশ করছে, ব্যাখ্যাযোগ্য এআই অত্যন্ত আকর্ষণীয় বলে মনে হয়। বিশেষজ্ঞরা যুক্তি দিয়েছিলেন যে ভাল ব্যাখ্যামূলক এআই ব্যবহারকারীদের বুঝতে পারে যে প্রযুক্তিগুলি তারা কী করে, বিশ্বাস বাড়াতে এবং এই প্রযুক্তিগুলির ব্যবহারের সহজ-ব্যবহার এবং ব্যবহার বাড়ায়।
বিশেষত, যদিও ডিআরপিএ নিজস্বভাবে ব্যাখ্যা করে যে কেন এটি নতুন প্রকল্পগুলিতে আগ্রহী। ডিআরপিএর একটি পৃষ্ঠা দেখায় যে প্রতিরক্ষা বিভাগ কৃত্রিম বুদ্ধি প্রয়োগের একটি "টরেন্ট" এবং এর বিকাশে কিছুটা বিশৃঙ্খলা প্রত্যাশা করে।
"অব্যাহত অগ্রগতি স্বায়ত্তশাসিত সিস্টেম উত্পাদন করার প্রতিশ্রুতি দেয় যা তাদের নিজেরাই উপলব্ধি করবে, শিখবে, সিদ্ধান্ত নেবে এবং কাজ করবে, " ডেভিড গানিং লিখেছেন। “তবে, এই ব্যবস্থাগুলির কার্যকারিতা মানব ব্যবহারকারীদের তাদের সিদ্ধান্ত এবং ক্রিয়া ব্যাখ্যা করতে মেশিনের বর্তমান অক্ষমতা দ্বারা সীমাবদ্ধ। … ব্যাখ্যাযোগ্য এআই - বিশেষত ব্যাখ্যামূলক মেশিন লার্নিং - যদি ভবিষ্যতের যুদ্ধযুদ্ধকারীরা কৃত্রিমভাবে বুদ্ধিমান মেশিন পার্টনারদের উদীয়মান প্রজন্মকে বুঝতে, যথাযথভাবে বিশ্বাস করতে এবং কার্যকরভাবে পরিচালনা করতে হয় তবে তা প্রয়োজনীয় হবে। "
গানিংয়ের অনলাইন প্রবন্ধে পরামর্শ দেওয়া হয়েছে যে ব্যাখ্যাযোগ্য এআই সিস্টেমগুলি প্রযুক্তিগুলির জন্য "যুক্তি সরবরাহ করতে" সহায়তা করবে, তাদের শক্তি এবং দুর্বলতাগুলি দেখায় এবং ব্যবহারের ক্ষেত্রে আরও স্বচ্ছ হতে পারে। পৃষ্ঠার একটি গ্রাফিক দেখায় যে কীভাবে প্রশিক্ষণ ডেটা থেকে কৃত্রিম বুদ্ধিমত্তার কার্যকারিতার একটি সরল পাইপলাইন ব্যাখ্যাযোগ্য মডেল এবং একটি ব্যাখ্যাযোগ্য ইন্টারফেস যা ব্যবহারকারীদের প্রশ্নের উত্তরগুলিতে সহায়তা করতে পারে তার দ্বারা বাড়ানো হবে। গুনিং আরও পরামর্শ দেয় যে একটি ব্যাখ্যাযোগ্য এআই প্রোগ্রামের দুটি প্রধান ফোকাস ক্ষেত্র থাকবে - একটি মাল্টিমিডিয়া ডেটা ব্যবহার করে ব্যবহারকারীদের জন্য দরকারী কি তা খুঁজে বের করা, এবং দ্বিতীয় ফোকাসটি সিদ্ধান্ত সমর্থনের সিদ্ধান্ত গ্রহণের প্রক্রিয়াগুলি অনুকরণ করে be
DARPA আশা করে একটি "সরঞ্জামকিট" সরবরাহ করবে যা ভবিষ্যতে ব্যাখ্যাযোগ্য এআই সিস্টেম বিকাশে সহায়তা করতে পারে।
