أخرى
#الأمن_السيبراني
#الذكاء_الاصطناعي
تحول الأمن السيبراني: من الشك إلى الثقة في 90 يومًا
تقدم مقابلة حصرية مع سام إيفانز، كبير مسؤولي الأمن المعلوماتي في Clearwater Analytics، لمحة عن سبب تحول المتصفحات المؤسسية بسرعة إلى خط الدفاع الأول ضد الذكاء الاصطناعي الخفي بأشكاله المتعددة. واجه إيفانز تحديًا حاسمًا في أكتوبر 2023، حيث كان عليه مواجهة مخاوف مجلس إدارة Clearwater Analytics بشأن احتمال تعرض الموظفين لبيانات قد تعرض أصول الشركة البالغة 8.8 تريليون دولار للخطر.
قال إيفانز لـ VentureBeat: "أسوأ شيء ممكن هو أن يأخذ أحد موظفينا بيانات العملاء ويضعها في محرك ذكاء اصطناعي لا نديره. قد لا يعرف الموظف أي شيء مختلف أو يحاول حل مشكلة لعميل... تلك البيانات تساعد في تدريب النموذج." إليكم محادثتنا مع إيفانز، وقد تم تحريرها لتكون أكثر وضوحًا وإيجازًا.
VentureBeat: كيف ترى تأثير الذكاء الاصطناعي على الأمن السيبراني اليوم؟
إيفانز: لقد أصبحت الهجمات أكثر تعقيدًا بشكل كبير. إذا نظرت إلى الأمر من منظور جهة فاعلة سيئة، فإن رسائل البريد الإلكتروني الاحتيالية ومحاولات الاختراق التي نتلقاها أصبحت أكثر تعقيدًا. ومع ذلك، يمتلك الذكاء الاصطناعي أيضًا قدرات استجابة. أحب أن أشرح ذلك لمجلس إدارتنا، كأنه لعبة قط وفأر في نهايتها.
مع بدء الجهات الفاعلة السيئة في استخدام الذكاء الاصطناعي لتعزيز الاحتيال، هناك الجانب الآخر من الممارسين الأمنيين الذين يستخدمون الذكاء الاصطناعي للمساعدة في تحسين كيفية استجابتنا. بدأنا في دمج الذكاء الاصطناعي في خطط الأمان لدينا، مما يساعد محللي الأمان لدينا في قضاء وقت أقل في البحث والصيد.
على الجانب الدفاعي، نبدأ حقًا في رؤية الذكاء الاصطناعي يتدخل. كانت CrowdStrike وSentinel One وMicrosoft Defender تستخدم بعض التعلم الآلي، لكن الذكاء الاصطناعي يعزز قدرة محرك EDR على الوصول إلى معدل احتمال أعلى لتحديد التهديد.
VentureBeat: ما الذي يثير قلقك عندما يتعلق الأمر بالذكاء الاصطناعي والأمن السيبراني؟
إيفانز: الشيء الذي يثير قلقي كثيرًا هو التزييف العميق. قرأت العديد من القصص عن أشخاص يستخدمون التزييف العميق لتقليد المدير التنفيذي لبدء تحويلات مالية. تلك الأمور مقلقة لأنها تبدو حقيقية جدًا.
لكن أكبر قلق؟ أسوأ شيء ممكن هو أن يأخذ أحد موظفينا بيانات العملاء ويضعها في محرك ذكاء اصطناعي لا نديره، ثم تصبح تلك البيانات التي تساعد في تدريب النموذج.
VentureBeat: كيف شرحت هذا الخطر من الذكاء الاصطناعي الخفي لمجلس إدارتك؟
إيفانز: أتذكر عندما كنت في أحد الاجتماعات الأولى لمجلس الإدارة، سألوني: "ما هي آراؤك حول ChatGPT؟" قلت: "حسنًا، إنه أداة إنتاجية رائعة. ومع ذلك، لا أعرف كيف يمكننا السماح لموظفينا باستخدامه، لأن أكبر مخاوفي هي أن يقوم شخص ما بنسخ ولصق بيانات العملاء فيه، أو شفرتنا المصدرية، التي هي ملكيتنا الفكرية."
لكنني لم أذهب إلى المجلس بمخاوفي ومشاكلي فقط. قلت: "حسنًا، إليكم حلي. لا أريد أن أوقف الناس عن أن يكونوا منتجين، لكنني أريد أيضًا حمايتهم."
بعد اجتماع مجلس الإدارة في أكتوبر 2023، بدأنا عملية تدقيق طويلة. نظرنا إلى بعض البائعين الرئيسيين في مجال المتصفحات المؤسسية. كنا بحاجة إلى القدرة على التحكم فيما يستخدمه الأشخاص من متصفحات على نقاط النهاية الخاصة بهم.
السبب الآخر الذي جعلنا نختار Island هو حقًا سرعة النشر. بدأنا نشر Island في أبريل 2024 مع حوالي 200 شخص. عرضت لهم لقطات شاشة، "ها أنا على ChatGPT. حاولت لصق شيء ما، وحصلت على الرسالة: 'سياسة Island تمنعك من القيام بذلك.'"
قالوا: "واو، هذا رائع! لكن يمكن للناس استخدام الأداة لطرح أسئلة جيدة؟" قلت: "نعم، بالتأكيد. لا يمكنهم فقط إدخال البيانات فيها."
VentureBeat: هل تشعر أن Island يضمن لك ويقلل من خطر الذكاء الاصطناعي الخفي؟
إيفانز: لقد ساعدتنا بالتأكيد في السيطرة على الذكاء الاصطناعي الخفي. لا توجد أداة أمان مثالية بنسبة 100%. بعد نشر Island، ننام بالتأكيد بشكل أكثر راحة.
هذا التحول لم يكن سهلاً، لكنه أثبت أن الالتزام والتعاون يمكن أن يحقق نتائج مذهلة. من "هذا غير منطقي" إلى "نحن محصنون" في 90 يومًا، كانت رحلة ملهمة للجميع.
في النهاية، الأمن السيبراني ليس مجرد وظيفة، بل هو ثقافة يجب أن تتبناها كل مؤسسة.
مع استمرار تطور التهديدات، يبقى التحدي قائمًا، لكن الدروس المستفادة من هذه التجربة ستظل حاضرة كمرجع لكل من يسعى إلى تعزيز أمان مؤسسته.
الخطوات الأساسية للتحول
- تقييم شامل للمخاطر: فهم التهديدات التي تواجه المؤسسة.
- تدريب الموظفين: تعزيز الوعي الأمني بين جميع العاملين.
- تطبيق تقنيات جديدة: استخدام أدوات متطورة لمواجهة التهديدات.
تظهر رؤى إيفانز كيف أصبح الذكاء الاصطناعي الخفي تهديدًا وجوديًا لكل شركة تعتمد على البيانات. قال إيتامار جولان، المدير التنفيذي لشركة Prompt Security، لـ VentureBeat: "نرى 50 تطبيق ذكاء اصطناعي جديد يوميًا، وقد قمنا بالفعل بتصنيف أكثر من 12,000".
الخطوات الأساسية للتحول
تتجاوز وصفة أرورا ضجيج البائعين: "يجب على المنظمات تحديد استراتيجيات مع أمان قوي بينما تتيح للموظفين استخدام تقنيات الذكاء الاصطناعي بشكل فعال. الحظر التام غالبًا ما يدفع استخدام الذكاء الاصطناعي إلى الظلام، مما يزيد من المخاطر فقط."
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!