শনিবার, ১৪ নভেম্বর ২০২৬, ১১:৪৩ অপরাহ্ন
চীনা কৃত্রিম বুদ্ধিমত্তা (এআই) প্রতিষ্ঠান মুনশটের জনপ্রিয় ‘কিমি’ মডেলের নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। নিরাপত্তা পরীক্ষাকারী একটি গবেষণা প্রতিষ্ঠানের দাবি, মডেলটির সুরক্ষা ব্যবস্থা এড়িয়ে গেলে জৈব অস্ত্র তৈরি ও হত্যাকাণ্ডের মতো ক্ষতিকর কর্মকাণ্ড নিয়ে তথ্য দিতে সক্ষম হয়েছে এটি।
বিষয়টি প্রকাশ্যে আসার পর নিজেদের সিস্টেমের নিরাপত্তা নিয়ে অভ্যন্তরীণ পর্যালোচনা শুরু করেছে মুনশট।
নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান মাইন্ডগার্ডের তথ্য অনুযায়ী, গত জুলাইয়ে ‘কিমি কে২.৬’ ও ‘কিমি কে৩ সোয়ার্ম’ মডেল পরীক্ষা করা হয়। এ সময় বিশেষ ধরনের জেইলব্রেকিং কৌশলের মাধ্যমে মডেল দুটির বিদ্যমান নিরাপত্তা ব্যবস্থা এড়িয়ে সংবেদনশীল বিষয়ে উত্তর পাওয়ার দাবি করা হয়।
মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বিবিসিকে বলেন, কোনো মডেলের নিরাপত্তা ব্যবস্থা একবার সফলভাবে পাশ কাটানো গেলে সেটি ক্ষতিকর ও সংবেদনশীল বিষয়েও তথ্য দিতে শুরু করতে পারে। তার ভাষ্য অনুযায়ী, পরীক্ষায় এমন পরিস্থিতিতে মডেলটি ধারাবাহিকভাবে বিভিন্ন ক্ষতিকর বিষয়ে পরামর্শ দেওয়ার প্রবণতা দেখিয়েছে।
অভিযোগের বিষয়ে মুনশট জানিয়েছে, নিরাপদ এআই তৈরির ক্ষেত্রে তৃতীয় পক্ষের মূল্যায়নকে তারা গুরুত্বপূর্ণ বলে মনে করে। একই সঙ্গে প্রতিষ্ঠানটির নিজস্ব পরীক্ষায় ক্ষতিকর অনুরোধ শনাক্ত ও আটকে দেওয়ার হার তুলনামূলকভাবে বেশি পাওয়া গেছে বলে দাবি করা হয়েছে।
মাইন্ডগার্ড গত ২৭ জুলাই ই-মেইলের মাধ্যমে মুনশটকে তাদের পরীক্ষার ফল জানায়। পরে ১২ সেপ্টেম্বর একটি ব্লগ পোস্টে বিষয়টি প্রকাশ করে প্রতিষ্ঠানটি।
মাইন্ডগার্ডের দাবি, নিরাপত্তা দুর্বলতা কাজে লাগিয়ে জেইলব্রেক করা কিমি কে২.৬কে আরও ঝুঁকিপূর্ণ কাজে ব্যবহার করা সম্ভব হতে পারে। বিশেষ করে এআই সিস্টেমের ওপর অননুমোদিত নিয়ন্ত্রণ প্রতিষ্ঠা বা বাইরের নেটওয়ার্কের সঙ্গে সংযোগ তৈরির সুযোগ তৈরি হলে সেটি সাইবার নিরাপত্তার জন্য বড় ঝুঁকি হয়ে উঠতে পারে বলে সতর্ক করেছে প্রতিষ্ঠানটি।
তবে মডেলটির প্রকৃত ঝুঁকির মাত্রা এবং পরীক্ষায় পাওয়া ফলাফল বাস্তব ব্যবহারের ক্ষেত্রে কতটা প্রযোজ্য—তা নিয়ে আরও স্বাধীন যাচাই প্রয়োজন। মুনশটের নিজস্ব মূল্যায়নের ফল এবং মাইন্ডগার্ডের পরীক্ষার দাবির মধ্যে পার্থক্য থাকায় বিষয়টি নিয়ে প্রযুক্তি নিরাপত্তা মহলে আরও পর্যালোচনার প্রয়োজন দেখা দিয়েছে।
