জেল থেকে পালানোর পর চীনা এআই টুল গবেষকদের জৈব-অস্ত্রের নির্দেশনা দিয়েছে

১৭ জুলাই, ২০২৬ তারিখে চীনের সাংহাইতে অনুষ্ঠিত ওয়ার্ল্ড এআই কনফারেন্সে চীনা এআই স্টার্টআপ মুনশট-এর কিমি কে৩ (Kimi K3)-এর বুথে আগত দর্শনার্থীরা। সরকারি সূত্র। সংশ্লিষ্ট সূত্র জানিয়েছে, চীনা এআই ডেভেলপার মুনশট দুটি কিমি মডেলের নিরাপত্তা পর্যালোচনা করছে, কারণ গবেষকরা সফলভাবে সেগুলোর সুরক্ষা ব্যবস্থা এড়িয়ে গিয়ে জৈব অস্ত্র তৈরি এবং গুপ্তহত্যা চালানোর বিষয়ে প্রতিক্রিয়া আদায় করেছেন।

এআই নিরাপত্তা পরীক্ষাকারী সংস্থা মাইন্ডগার্ড সংশ্লিষ্ট সূত্র জানিয়েছে যে, তারা জুলাই মাসে আবিষ্কার করেছে যে কিমি কে২.৬ (Kimi K2.6) এবং কে৩ সোয়ার্ম (K3 Swarm)-কে ক্ষতিকর বিষয় নিয়ে আলোচনা করা থেকে বিরত রাখার জন্য তৈরি সুরক্ষা ব্যবস্থা উপেক্ষা করতে প্ররোচিত করা সম্ভব।

গবেষকরা “জেলব্রেকিং” নামে পরিচিত একটি কৌশল ব্যবহার করেছেন, যেখানে ব্যবহারকারীরা এআই মডেলগুলোকে অন্তর্নির্মিত সুরক্ষা বিধিনিষেধ এড়িয়ে যাওয়ার জন্য জটিল নির্দেশাবলী প্রদান করে। মুনশট সংশ্লিষ্ট সূত্র জানিয়েছে যে তারা “আরও উন্নত ও নিরাপদ এআই তৈরির একটি মূল স্তম্ভ হিসেবে” তৃতীয় পক্ষের মতামতকে স্বাগত জানায় এবং তারা মাইন্ডগার্ডের এই আবিষ্কার নিয়ে সংস্থাটির সাথে আলোচনা করছে। মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাঘান বলেছেন, এই ফলাফলগুলো উদ্বেগজনক, কারণ একবার জেলব্রেক সফল হলে, মডেলগুলো বিভিন্ন ধরনের ক্ষতিকর বিষয় নিয়ে আলোচনা করতে পারে এবং এমনকি অন্যান্য ক্ষতিকারক কার্যকলাপের জন্য পরামর্শও দিতে পারে। সম্ভাব্য সাইবার-আক্রমণের ঝুঁকি প্রসঙ্গে মাইন্ডগার্ড বলেছে, জৈব অস্ত্র এবং অন্যান্য ক্ষতিকারক কার্যকলাপ সম্পর্কে কিমির দেওয়া তথ্য আসলেই কাজ করবে কিনা, তা তারা যাচাই করেনি। তবে, সংস্থাটি বলেছে যে মডেলগুলোর সুরক্ষাব্যবস্থা শুরুতেই তাদের এই ধরনের অনুরোধে সাড়া দেওয়া থেকে বিরত রাখা উচিত ছিল। মাইন্ডগার্ড আরও বলেছে যে কিমি কে২.৬-এর একটি জেলব্রেক করা সংস্করণ হ্যাকারদের এর কম্পিউটিং রিসোর্সে কোড চালাতে এবং ইন্টারনেটে সংযোগ স্থাপন করতে সাহায্য করতে পারে, যা এটিকে সাইবার-আক্রমণের একটি প্ল্যাটফর্মে পরিণত করতে পারে। গ্যারাঘান এই ফলাফলগুলো জনসমক্ষে প্রকাশ করার সিদ্ধান্তকে সমর্থন করে বলেছেন, মাইন্ডগার্ড মুনশটকে বিষয়টি জানিয়েছিল এবং কীভাবে জেলব্রেকটি করা হয়েছিল সে সম্পর্কে গুরুত্বপূর্ণ বিবরণ গোপন রেখেছিল।

মাইন্ডগার্ড ২৭ জুলাই ইমেলের মাধ্যমে মুনশটকে সতর্ক করে এবং প্রায় এক সপ্তাহ পরে পুনরায় যোগাযোগ করে। ১২ সেপ্টেম্বর তারা এই বিষয়টি বিস্তারিতভাবে বর্ণনা করে একটি ব্লগ প্রকাশ করে। মুনশট জানিয়েছে যে, অভ্যন্তরীণ মূল্যায়নের সময় তাদের মডেলগুলো সাধারণত এই ধরনের অনুরোধ প্রত্যাখ্যান করার ক্ষেত্রে “উচ্চ হার” দেখিয়েছে। ক্লোজড, প্রোপাইটারি এআই মডেল এবং ওপেন-ওয়েট সিস্টেমের নিরাপত্তা নিয়ে চলমান ব্যাপক বিতর্কের মধ্যেই এই ফলাফলগুলো সামনে এসেছে।

তথ্যসূত্র: আন্তর্জাতিক প্রযুক্তি ও গবেষণা ডেস্ক