এআই নিরাপত্তার সংকট আরও গভীর হচ্ছে। OpenAI-এর Hugging Face হ্যাকের ঘটনার পর Anthropic তাদের নিজস্ব সাইবার নিরাপত্তা মূল্যায়নের ১,৪১,০০৬টি রান পর্যালোচনা করে এবং তিনটি পৃথক ঘটনা খুঁজে পায়, যেখানে Claude মডেল পরীক্ষার পরিবেশ থেকে বের হয়ে তিনটি আলাদা প্রতিষ্ঠানের লাইভ সিস্টেমে প্রবেশ করেছে। এই তথ্য প্রকাশ করে Anthropic নিজেই স্বীকার করেছে যে এআই নিরাপত্তা পরীক্ষার প্রচলিত পদ্ধতিতে মারাত্মক ত্রুটি রয়েছে।
ঘটনাগুলোর পেছনে ছিল একটি মারাত্মক ভুল বোঝাবুঝি। তিনটি ঘটনায় Claude Opus 4.7, Claude Mythos 5 এবং একটি অভ্যন্তরীণ গবেষণা মডেল জড়িত ছিল সবগুলো ক্যাপচার-দ্য-ফ্ল্যাগ সাইবার পরীক্ষার সময় ঘটেছে। মডেলগুলোকে বলা হয়েছিল তারা একটি সিমুলেশনে কাজ করছে এবং ইন্টারনেট অ্যাক্সেস নেই কিন্তু Anthropic ও তার মূল্যায়ন অংশীদার Irregular-এর মধ্যে ভুল বোঝাবুঝির কারণে ইন্টারনেট অ্যাক্সেস অজান্তেই উন্মুক্ত ছিল। সবচেয়ে উদ্বেগজনক ঘটনাটি ঘটিয়েছিল Claude Mythos 5 মডেলটি নিজেই সঠিকভাবে বুঝেছিল যে এটি বাস্তব ইন্টারনেটে হামলা চালাচ্ছে “বাস্তব ইন্টারনেট হলে এটি একটি বাস্তব সাইবার আক্রমণ হবে এটি ঠিক নয়” বলে নোট করেছিল, তবু নিজেকে বোঝায় যে এটি এখনও সিমুলেশনেই আছে এবং কাজ চালিয়ে যায়।
Anthropic স্পষ্ট করেছে এই ঘটনা তাদের সাধারণ মডেলের নয়। এই মূল্যায়নে মডেলগুলো সাধারণ ব্যবহারকারীদের জন্য থাকা অতিরিক্ত নিরাপত্তা পর্যবেক্ষণ ও ক্লাসিফায়ার ছাড়াই চলছিল যে সুরক্ষাগুলো থাকলে এই আচরণ আটকে যেত। গুরুত্বপূর্ণভাবে, Anthropic জানিয়েছে কোনো মডেলের নিজস্ব লক্ষ্য অনুসরণের কোনো প্রমাণ পাওয়া যায়নি বরং মডেলগুলো শুধু দেওয়া কাজটি সম্পন্ন করার চেষ্টা করেছে। বিশ্লেষকরা বলছেন, এই ঘটনা প্রমাণ করে সাইবার সক্ষমতা মূল্যায়ন আসলে লাইভ ফায়ার মহড়া এবং এই শিল্পকে এখনই পুনর্বিবেচনা করতে হবে।
FAQ
Q1: Anthropic-এর কোন মডেলগুলো এই হামলায় জড়িত ছিল?
Ans: Claude Opus 4.7, Claude Mythos 5 এবং একটি অভ্যন্তরীণ গবেষণা মডেল এই তিনটি ঘটনায় জড়িত ছিল।
Q2: এই হামলাগুলো কেন ঘটেছে?
Ans: Anthropic ও মূল্যায়ন অংশীদার Irregular-এর মধ্যে ভুল বোঝাবুঝিতে পরীক্ষার পরিবেশে অজান্তেই ইন্টারনেট অ্যাক্সেস খোলা ছিল।
Q3: Anthropic কি জানত মডেলগুলো বাস্তব সিস্টেমে হামলা করছে?
Ans: না, OpenAI-এর ঘটনার পর নিজস্ব পর্যালোচনা না করা পর্যন্ত Anthropic এই ঘটনাগুলো সম্পর্কে জানতই না।