«كاسبرسكي» تكشف تأثير الذكاء الاصطناعي على الأمن السيبراني
كشفت كاسبرسكي التأثير العميق للذكاء الاصطناعي على مشهد الأمن السيبراني، بتحليل متعدد الأوجه للآثار المترتبة على الذكاء الاصطناعي، مع التركيز على كيفية استخدام المدافعين والمنظمين له، وتقييم استغلاله المحتمل من قبل المجرمين السيبرانيين.
يوضح باحثو كاسبرسكي في تقرير كيف ساعدت أدوات الذكاء الاصطناعي المجرمين السيبرانيين في أنشطتهم الخبيثة في 2023، كما يعرضون التطبيقات الدفاعية المحتملة لهذه التقنية، كما يكشف خبراء الشركة عن المشهد المتطور للتهديدات المتعلقة بالذكاء الاصطناعي في المستقبل والتي تشمل:
1 - زيادة نقاط الضعف المعقدة
مع استمرار دمج النماذج اللغوية الكبيرة التي تتبع التعليمات في المزيد من المنتجات الموجهة للمستهلكين، ستظهر ثغرات أمنية معقدة جديدة عند التقاء الذكاء الاصطناعي التوليدي الاحتمالي مع التقنيات القطعية التقليدية، ما سيؤدي إلى توسيع سطح الهجوم الذي يتوجب على متخصصي الأمن السيبراني حمايته. سيتطلب هذا من المطورين البحث في إجراءات أمنية جديدة مثل إصدار موافقة المستخدم على الأنشطة التي يبدأها الوكلاء العاملون بنماذج لغوية كبيرة.
2 - ظهور مساعد شخصي شامل
يستفيد أعضاء فريق المخترقين الاختباري (Red Team) والباحثون من الذكاء الاصطناعي التوليدي في بناء أدوات أمن سيبراني مبتكرة، ما قد يؤدي إلى ظهور مساعد شخصي يستخدم نموذجاً لغوياً كبيراً أو تعلم الآلة، إذ يمكن لهذه الأداة أتمتة مهام فريق المخترقين الاختباري وتوجيههم بناءً على أوامر منفذة في بيئة لاختبار الاختراق.
3 - تزايد استخدام الشبكات العصبونية
في العام المقبل، قد يستخدم المحتالون الشبكات العصبونية لتعزيز مناوراتهم وأيضاً أدوات الذكاء الاصطناعي لإنشاء محتوى احتيالي أكثر إقناعاً. فبفضل قدرة هذه التقنيات على إنشاء صور ومقاطع فيديو مقنعة دون عناء سيرتفع خطر تصعيد جهات الممارسات الخبيثة للتهديدات السيبرانية المتعلقة بالاحتيال والخداع.
4 - لن يُحدث تغييراً
على الرغم من التوجهات المذكورة أعلاه، يبقى خبراء كاسبرسكي شاكّين في قدرة الذكاء الاصطناعي على تغيير مشهد التهديدات بشكل كبير في أي وقت قريب. ففي حين يتبنى المجرمون السيبرانيون الذكاء الاصطناعي التوليدي، سيفعل المدافعون السيبرانيون الأمر ذاته، فهم سيستخدمون الأدوات نفسها أو حتى أدوات أكثر تقدماً لاختبار تعزيز أمان البرامج والشبكات، ما يقلل احتمالية تغيير هذه التقنية لمشهد الهجوم بشكل جذري.
5 - المزيد من المبادرات التنظيمية
أصبح وضع السياسات والتنظيمات أولوية وسط التطوير السريع للتكنولوجيا. فمن المتوقع أن يرتفع عدد المبادرات التنظيمية المتعلقة بالذكاء الاصطناعي. ويمكن أن تقدم الجهات غير الحكومية، مثل الشركات التقنية نظراً لخبرتها في تطوير واستخدام الذكاء الاصطناعي معلومات ستكون قيّمة لإجراء نقاشات حول التنظيمات التي سيتم تطبيقها على الذكاء الاصطناعي على المنصات العالمية والوطنية.
6 - تعريف محتوى الذكاء الاصطناعي
ستظهر حاجة إلى المزيد من التنظيمات، فضلاً عن سياسات لمزودي الخدمات، التي تفرض تعريف أو تفريق المحتوى الاصطناعي، مع الاستمرار في الاستثمار في تقنيات الكشف عنه. وبدورهم، سيسهم المطورون والباحثون في تطوير طرق لوضع علامات مائية على المحتوى الاصطناعي لتسهيل التعرف عليه ومعرفة مصدره.
