كشفت تقارير أمنية متخصصة في مكافحة الجرائم السيبرانية عن أسلوب هجومي مبتكر وخبيث لجأت إليه مجموعات قرصنة روسية متقدمة لتجاوز أدوات الفحص الأمني، حيث يقوم المهاجمون بزرع نصوص وعبارات حساسة تتعلق بالأسلحة النووية والمواد المحظورة داخل الأكواد البرمجية للبرمجيات الخبيثة، بهدف استغلال فلاتر الأمان الأخلاقية الصارمة المدمجة في نماذج الذكاء الاصطناعي التوليدي وإجبارها على رفض تحليل الشيفرات أو التوقف المفاجئ عن فحص الملفات الضارة بدعوى انتهاك سياسات المحتوى.
استغلال القيود الأخلاقية للنماذج اللغوية كدرع للملفات الضارة
وفقًا لتقرير منشور بموقع Help Net Security، يمثل هذا التكتيك غير المسبوق تلاعبًا خطيرًا بالضوابط الأمنية للنماذج الذكية المستخدمة في منصات الدفاع السيبراني وأدوات التحليل التلقائي، حيث ترفض النماذج معالجة الملفات التي تحتوي على كلمات مفتاحية مصنفة كتهديد للأمن القومي، مما يمنح البرمجيات الخبيثة فرصة التسلل إلى الخوادم والشبكات المستهدفة دون إطلاق أي إنذارات، وأوضح الخبراء الأمنيون أن هذا السلوك يكشف عن ثغرة هيكلية في كيفية تصميم جدران الحماية الأخلاقية للذكاء الاصطناعي عندما تواجه نصوصًا خبيثة مضللة مصممة للهروب من الفحص.
اقرا ايضا: المدعومة بالذكاء الاصطناعي
إعادة تصميم آليات الفحص الأمني الذاتي
تطالب الأوساط السيبرانية الشركات المطورة لنماذج الأمان بفصل سياقات الفحص الأمني والتحليل الجنائي عن قيود الاستخدام العام للجمهور، وسوف تسهم هذه التعديلات الهندسية في منع القراصنة من استغلال ثغرات النماذج اللغوية وتحصين أدوات الدفاع الرقمي في المستقبل.
