أثارت تقنية Deepfake مخاوف كبيرة بسبب احتمالية إساءة استخدامها.
قبل الآن، لم يكن لدى الشركات ما يدعوها للقلق بشأن التزييف العميق، ولكن مع استفادة المهاجمين من الذكاء الاصطناعي ، وخاصة الذكاء الاصطناعي التوليدي ، أصبحت الجودة تتحسن باستمرار، وبدأت أعدادهم تخرج عن نطاق السيطرة.
تظهر الأبحاث أن عدد مقاطع الفيديو المزيفة العميقة التي تم تداولها عبر الإنترنت في عام 2023 بلغ حوالي 96000، بزيادة قدرها 550٪ عن 14678 في عام 2019. وبصرف النظر عن انتشارها، يشير تقرير آخر صادر عن Intergrity360 إلى أن 68٪ من المتخصصين في مجال الأمن الذين شملهم الاستطلاع على تويتر يشعرون بالقلق بشأن الجرائم الإلكترونية التي تستخدم عمليات الاحتيال العميق لاستهداف منظماتهم.
ونظرًا لهذا القلق المتزايد، نشرت مجموعة الأبحاث Forrester دراسة تنبه الشركات إلى خمسة مخططات رئيسية للتزييف العميق يجب الانتباه إليها، بما في ذلك التلاعب في أسعار الأسهم، والاحتيال، والإضرار بالسمعة والعلامة التجارية.
خمس عمليات احتيال Deepfake التي تهدد المنظمات
5. التلاعب بأسعار الأسهم
شائعات التلاعب في أسعار الأسهم ليست جديدة. ومع ذلك، مع التزييف العميق، يصبح من الأسهل نشر أساليب التلاعب بالأسعار التي يسهل الوقوع فيها.
وفقًا لتقرير Forrester، يمكن للجهات الفاعلة السيئة إنشاء مقطع فيديو مزيف حيث يغادر أحد كبار المسؤولين التنفيذيين شركة مساهمة عامة وينشر الأخبار على الإنترنت. مع هذا يأتي الذعر والقلق، الأمر الذي سيؤدي في النهاية إلى انخفاض سعر سهم الشركة.
يحذر جيف بولارد، نائب الرئيس والمحلل الرئيسي في شركة Forrester، من أنه "على الرغم من أن هذا يبدو بسيطًا إذا تم توقيته بشكل صحيح، إلا أنه يمكن أن يؤثر على تعويضات الموظفين وجهود تمويل الشركة".
حدث ثال على هذا التلاعب عندما انتشرت صورة مزيفة بعمق تصور انفجارًا مزعومًا بالقرب من البنتاغون وأعيد تغريدها من قبل منافذ مثل روسيا اليوم (RT)، مما أدى إلى تقلبات في سوق الأسهم الأمريكية.
ونظرًا للمخاوف المتزايدة بشأن استخدام عمليات الاحتيال العميق للتلاعب بسوق الأوراق المالية، فإن بعض أعضاء مجلس الشيوخ في الولايات المتحدة يضغطون بالفعل من أجل سن تشريعات جديدة لفرض غرامات على الشركات التي تستخدم عمليات التزييف العميق أو أدوات الذكاء الاصطناعي الأخرى للتلاعب بالأسواق أو المشاركة في الاحتيال في الأوراق المالية.
4. الاحتيال
تستخدم الشركات عادة المصادقة البيومترية مثل التعرف على الوجه أو الصوت للتحقق من الموظف. ويحذر بولارد الشركات من أن تنتبه لأن تكنولوجيا التزييف العميق يمكنها استنساخ الوجوه والأصوات، مما يشكل خطرًا في عمليات التحقق من الموظفين.
أثناء حديثه مع Techopedia، يعتقد Arti Raman، المؤسس والرئيس التنفيذي لشركة Portal26، أن التزييف العميق يشكل خطرًا كبيرًا، خاصة وأننا جميعًا أصبحنا مرتاحين لاستخدام القياسات الحيوية لتسجيلات الدخول.
قالت:
"مع انطلاقة الذكاء الاصطناعي التوليدي، زادت جودة وسرعة التزييف العميق بشكل كبير. وهذا يعني أنه يتم استهداف المزيد من الأفراد، كما أن احتمال وقوع موظف أو عميل في فخ التزييف العميق مرتفع جدًا.
يسلط بولارد الضوء أيضًا على أن الاحتيال يمكن أن يأتي في شكل معاملات احتيالية، مثل قيام مهاجم بانتحال شخصية مسؤول تنفيذي على المستوى التنفيذي لبدء دفعات غير مصرح بها، أو تحويلات مصرفية، أو تغيير التفاصيل المالية.
قد يكون بولارد على حق، حيث أبلغت رويترز مؤخرًا عن عملية احتيال مالية تعتمد على التزييف العميق ، حيث أقنع أحد المهاجمين شخصًا ما بتحويل الأموال تحت ستار صديق - وهو أحد أكثر أنواع التزييف العميق انتشارًا بسبب مساره السريع نحو تحقيق الدخل.
اقرأ ايضا:برنامج GraphCast AI من Google يقدم نظرة أكثر إشراقًا للتنبؤ بالطقس من هنا
3. السمعة والعلامة التجارية
تهدد تقنية التزييف العميق سمعة الشركة أو اسم علامتها التجارية بشكل كبير، حيث يمكن للمهاجمين إنشاء محتوى مسيء يبدو بشكل خاطئ أنه منشأ من العلامة التجارية. على سبيل المثال، يمكن استخدام تقنية التزييف العميق في مخطط التلاعب بالفيديو لجعل أحد كبار المسؤولين ينفذون لغة مسيئة لإهانة العملاء، أو إلقاء اللوم على شركاء العمل والموظفين، أو حتى نشر أخبار مزيفة حول منتجات الشركة وغير ذلك الكثير.
ومن الأمثلة الواضحة على ذلك مقطع فيديو حديث على شبكة الإنترنت يُظهر رئيس شركة طاقة مشهورة ينتقد تدابير تغير المناخ قبل أسبوع من بدء مؤتمر الأمم المتحدة لتغير المناخ (COP28). انتشر الفيديو على نطاق واسع وتم فضحه لاحقًا لأنه ملفق بالكامل بواسطة الذكاء الاصطناعي.
يمكن أن يؤدي هذا النوع من الحوادث إلى أزمة علاقات عامة حرجة يمكن أن تنتشر عبر المؤسسة مثل موجة الصدمة، مما يؤدي إلى تحطيم الثقة، وتشويه السمعة، وترك عواقب طويلة الأمد وغير قابلة للإصلاح في أعقابها.
2. تجربة الموظف والموارد البشرية
تعد عمليات الاحتيال الجنسي وإنشاء مواد إباحية غير موافقة من بين الطرق الرئيسية التي يستخدمها الممثلون السيئون للتزييف العميق. وجدت الأبحاث التي أجراها Home Security Heroes أن المواد الإباحية العميقة شكلت 98٪ من جميع مقاطع الفيديو المزيفة العميقة في عام 2023.
واستنادًا إلى تقرير شركة Forrester، قد يصبح هذا قريبًا مشكلة للشركات حيث يمكن للموظفين أو المنافسين الساخطين إنشاء هذا النوع من المحتوى المزيف العميق باستخدام صور الموظفين، ويبدأ في الانتشار.
وأشار بولارد إلى أن "الدافع وراء عمليات الاحتيال هذه قد يكون بسبب الانتقام أو أي نوايا خبيثة أخرى".
1. الضخيم
يمكن استخدام تقنية Deepfake ليس فقط لإنشاء محتوى مزيف ولكن أيضًا لنشر محتوى مزيف آخر.
وفقًا لشركة Forrester، يمكن تشبيه ذلك بـ "نشر الروبوتات للمحتوى، ولكن بدلاً من إعطاء تلك الروبوتات أسماء مستخدمين وتاريخ منشورات، نمنحها الوجوه والعواطف".
يمكن أيضًا استخدام هذه التزييف العميق للرد على محتوى إضافي للتزييف العميق ونشره، ونقل الآراء، ومشاركة المشاعر، والمزيد. وهذا يشكل تهديدًا لسمعة الشركة ويزيد من نشر الأخبار والمحتوى الملفق بالفعل لجمهور أوسع.
ما الذي يمكن أن تفعله المنظمات لحماية نفسها؟
وأوصت شركة Forrester المؤسسات بالاستثمار بشكل أكبر في الأبحاث الأكاديمية وأبحاث الشركات للكشف عن التزييف العميق والتحقق من الحلول التجارية ومفتوحة المصدر والحلول غير التقنية لاكتشاف الذكاء الاصطناعي.
البحوث الأكاديمية والشركات
وفقًا لبولارد، فإن التزييف العميق لديه الكثير من الأبحاث الأكاديمية والشركات المخصصة له. ومع ذلك، أكد مجددًا أننا لا نستطيع إيقاف ذلك، "... لا توجد استراتيجية مضمونة هنا، ولا توجد طريقة مؤكدة تقريبًا لمنع التزييف العميق".
وشدد أيضًا على أن هذا هو السبب وراء عدم إمكانية عزل التزييف العميق تمامًا عن مساحتنا، ويجب على الشركات أن تكون دائمًا على أهبة الاستعداد لمراقبة ما يحدث مع علامتها التجارية.
الحلول التجارية ومفتوحة المصدر
تتوفر اليوم العديد من الأدوات التجارية ومفتوحة المصدر للكشف عن التزييف العميق وعمليات الاحتيال العميق. يعطي البعض الأولوية لمنع الاحتيال، بينما يركز البعض الآخر على العلامة التجارية والسمعة.
استنادًا إلى تقرير Forrester، يمكن للمؤسسات استخدام أدوات مثل Blackbird.AI وSentinel وReality Defender والعديد من الحلول التجارية الأخرى للكشف عن التزييف العميق.
الحلول غير التقنية
يمكن للمؤسسات دمج العديد من الحلول غير التقنية في عملياتها الأمنية الحالية.
تعتبر الممارسات مثل تدوير الكلمات الرمزية أو عبارات المرور لعمليات نقل الحساب عبر الهاتف أو الرسائل النصية بمثابة إجراءات غير فنية مناسبة. يضيف هذا الأسلوب طبقة إضافية من المصادقة، مما يجعل من الصعب على الجهات الفاعلة الخبيثة التعامل مع قنوات الاتصال في مؤسستك.
يوصي بولارد بأن يؤدي تغيير هذه الرموز بانتظام إلى تعزيز الأمان ومساعدة المؤسسات على إحباط التهديدات المحتملة المتعلقة بالتزييف العميق والهندسة الاجتماعية.
بالإضافة إلى ما سبق، أوصى رامان باستخدام مزيج من تقنية التعرف على الوجه/الصوت وتقنية كلمة المرور/عبارة المرور القديمة. نظرًا لأن الوجوه والأصوات تعد أهدافًا شائعة للتزييف العميق، فإن هذا سيقلل من المخاطر المرتبطة بها.
الخاتمه
كما هو الحال مع كل ما يتعلق بالأمن السيبراني، فإن اليقظة هي كلمة السر ولا تزال خط الدفاع الأول ضد عمليات الاحتيال العميقة.
على الرغم من التقدم الذي تم إحرازه في تطوير تقنيات جديدة للكشف عن التزييف العميق، فإن المحتالين ليسوا خاملين أيضًا؛ إنهم يتقدمون باستمرار للمناورة بهذه الإجراءات البوليسية.
لذلك، يتعين على المنظمات أن تظل على اطلاع. تعرف على آخر التطورات في تكنولوجيا التزييف العميق وكيف يمكن للمحتالين استخدامها لإلحاق الضرر بمؤسساتهم. قد يتراوح ذلك من مجرد تدريب موظفيهم على اكتشاف علامات التزييف العميق إلى استخدام أدوات وإجراءات أمان المصادقة القوية.
مرحبا بكم في جريدة وموقع كلام فور يو