मैलवेयर में परमाणु हथियार टेक्स्ट जोड़कर AI स्कैनर को बाइपास

साइबर सिक्योरिटी एक्सपर्ट John Scott-Railton ने X पर एक नई हमला तकनीक की जानकारी दी है। मैलवेयर डेवलपर्स अब अपने स्पाइवेयर में परमाणु और जैविक हथियारों से संबंधित टेक्स्ट जानबूझकर जोड़ रहे हैं। इसका मकसद LLM की सेफ्टी सिस्टम को ट्रिगर करना है ताकि AI-आधारित सिक्योरिटी स्कैनर इन मैलवेयर का विश्लेषण करने से इनकार कर दें। Railton ने बताया कि यह उदाहरण दिखाता है कि aggressive refusal मैकेनिज्म वाले AI मॉडल्स में second-order blindspots होते हैं जिनका हमलावर फायदा उठा सकते हैं। उन्होंने चेतावनी दी कि यह केवल शुरुआत है और भविष्य में ऐसे और भी हमले देखने को मिल सकते हैं। Socket Security के एक पोस्ट का हवाला देते हुए उन्होंने मैलवेयर एनालिसिस पाइपलाइन में intention के महत्व पर भी जोर दिया।