AI-কে প্রশ্ন, উত্তর বোমার! ‘জেলব্রেকিং’-এ নিরাপত্তার দেওয়াল টপকে জঙ্গিদের হাতিয়ার হয়ে উঠছে চ্যাটবট?
কলকাতা:চিকিৎসা থেকে মহাকাশ গবেষণা, পড়াশোনা থেকে দৈনন্দিন কাজ—কৃত্রিম বুদ্ধিমত্তা এখন মানুষের জীবনের নানা ক্ষেত্রে গুরুত্বপূর্ণ ভূমিকা পালন করছে। কিন্তু সেই প্রযুক্তির অপব্যবহার নিয়েই এবার সামনে এসেছে উদ্বেগজনক অভিযোগ। অনুসন্ধানী প্রতিবেদনে দাবি করা হয়েছে, আন্তর্জাতিক জঙ্গি সংগঠন ISIL-এর সঙ্গে যুক্ত চরমপন্থীরা AI চ্যাটবটের মাধ্যমে বিস্ফোরক ও প্রাণঘাতী অস্ত্র সংক্রান্ত তথ্য পাওয়ার চেষ্টা করছে। বিশেষ করে ইলন মাস্কের সংস্থা X-এর AI মডেল Grok-কে ঘিরে এই অভিযোগ সামনে এসেছে। সরাসরি নিষিদ্ধ প্রশ্ন না করে ভিন্ন ভাষা, প্রসঙ্গ বা নির্দেশের ধরন ব্যবহার করে AI-এর নিরাপত্তা ব্যবস্থাকে পাশ কাটিয়ে সংবেদনশীল তথ্য বের করে নেওয়ার চেষ্টা করা হচ্ছে বলে দাবি করা হয়েছে। এই ধরনের নিরাপত্তা-বাইপাস কৌশলকেই প্রযুক্তির পরিভাষায় বলা হয় ‘Jailbreaking’। সাধারণত AI চ্যাটবটের মধ্যে একাধিক নিরাপত্তা স্তর থাকে, যাতে অস্ত্র তৈরি, বিস্ফোরক, বিষাক্ত পদার্থ কিংবা সন্ত্রাসমূলক কর্মকাণ্ডে সহায়তা করতে পারে এমন তথ্য সরাসরি দেওয়া না হয়। কিন্তু একটি প্রশ্নে উত্তর না মিললে তার ভাষা বা কাঠামো বদলে নতুনভাবে Prompt তৈরি করে সেই সীমারেখা অতিক্রম করার চেষ্টা করা হতে পারে। ফলে বিষয়টি শুধু কোনও নির্দিষ্ট AI মডেলের নিরাপত্তা নিয়ে প্রশ্ন নয়। মানুষের জ্ঞান ও তথ্যকে সহজলভ্য করার প্রযুক্তি যদি ভুল হাতে বিপজ্জনক জ্ঞান ছড়ানোর মাধ্যম হয়ে ওঠে, তাহলে সেই অপব্যবহার কীভাবে ঠেকানো যাবে—তা নিয়েই বাড়ছে উদ্বেগ। AI নিরাপত্তার ক্ষেত্রে এই ধরনের Jailbreaking-কে এখন অন্যতম গুরুত্বপূর্ণ চ্যালেঞ্জ হিসেবে দেখা হচ্ছে।
AI-কে প্রশ্ন, উত্তর বোমার! ‘জেলব্রেকিং’-এ নিরাপত্তার দেওয়াল টপকে জঙ্গিদের হাতিয়ার হয়ে উঠছে চ্যাটবট?
কলকাতা:চিকিৎসা থেকে মহাকাশ গবেষণা, পড়াশোনা থেকে দৈনন্দিন কাজ—কৃত্রিম বুদ্ধিমত্তা এখন মানুষের জীবনের নানা ক্ষেত্রে গুরুত্বপূর্ণ ভূমিকা পালন করছে। কিন্তু সেই প্রযুক্তির অপব্যবহার নিয়েই এবার সামনে এসেছে উদ্বেগজনক অভিযোগ। অনুসন্ধানী প্রতিবেদনে দাবি করা হয়েছে, আন্তর্জাতিক জঙ্গি সংগঠন ISIL-এর সঙ্গে যুক্ত চরমপন্থীরা AI চ্যাটবটের মাধ্যমে বিস্ফোরক ও প্রাণঘাতী অস্ত্র সংক্রান্ত তথ্য পাওয়ার চেষ্টা করছে। বিশেষ করে ইলন মাস্কের সংস্থা X-এর AI মডেল Grok-কে ঘিরে এই অভিযোগ সামনে এসেছে। সরাসরি নিষিদ্ধ প্রশ্ন না করে ভিন্ন ভাষা, প্রসঙ্গ বা নির্দেশের ধরন ব্যবহার করে AI-এর নিরাপত্তা ব্যবস্থাকে পাশ কাটিয়ে সংবেদনশীল তথ্য বের করে নেওয়ার চেষ্টা করা হচ্ছে বলে দাবি করা হয়েছে। এই ধরনের নিরাপত্তা-বাইপাস কৌশলকেই প্রযুক্তির পরিভাষায় বলা হয় ‘Jailbreaking’। সাধারণত AI চ্যাটবটের মধ্যে একাধিক নিরাপত্তা স্তর থাকে, যাতে অস্ত্র তৈরি, বিস্ফোরক, বিষাক্ত পদার্থ কিংবা সন্ত্রাসমূলক কর্মকাণ্ডে সহায়তা করতে পারে এমন তথ্য সরাসরি দেওয়া না হয়। কিন্তু একটি প্রশ্নে উত্তর না মিললে তার ভাষা বা কাঠামো বদলে নতুনভাবে Prompt তৈরি করে সেই সীমারেখা অতিক্রম করার চেষ্টা করা হতে পারে। ফলে বিষয়টি শুধু কোনও নির্দিষ্ট AI মডেলের নিরাপত্তা নিয়ে প্রশ্ন নয়। মানুষের জ্ঞান ও তথ্যকে সহজলভ্য করার প্রযুক্তি যদি ভুল হাতে বিপজ্জনক জ্ঞান ছড়ানোর মাধ্যম হয়ে ওঠে, তাহলে সেই অপব্যবহার কীভাবে ঠেকানো যাবে—তা নিয়েই বাড়ছে উদ্বেগ। AI নিরাপত্তার ক্ষেত্রে এই ধরনের Jailbreaking-কে এখন অন্যতম গুরুত্বপূর্ণ চ্যালেঞ্জ হিসেবে দেখা হচ্ছে।
দেশ
‘জাতীয় সেবার প্রকৃত সাধক’, দীনদয়াল উপাধ্যায়ের জন্মবার্ষিকীতে শ্রদ্ধা মোদির! ‘অন্ত্যোদয়ের দর্শন আজও অনুপ্রেরণা’
নয়াদিল্লি: পণ্ডিত দীনদয়াল উপাধ্যায়ের জন্মবার্ষিকীতে তাঁকে শ্রদ্ধা জানালেন প্রধানমন্ত্রী নরেন্দ্র মোদি। শুক্রবার সকালে সমাজমাধ্যমে একটি পোস্ট করে বিজেপির পূর্বসূরি ভারতীয়
বিদেশ
কলকাতা
বিনোদন
খেলা
এশিয়ান গেমসে শুটিংয়ে রুপো ভারতের! ১০ মিটার এয়ার রাইফেলে চিনের কাছে হার রুদ্রাংশ-হিমাংশুদের, ব্যক্তিগত বিভাগে ফাইনালে দুই ভারতীয়
আইচি: এশিয়ান গেমসে শুটিংয়ে রুপোর পদক জিতল ভারত। পুরুষদের ১০ মিটার এয়ার রাইফেলের দলগত ইভেন্টে রুদ্রাংশ পাতিল, হিমাংশু ধিলোঁ এবং
