مع وصول حجم سوق برمجيات التزييف العميق العالمي إلى 72.41 مليون دولار في عام 2023، قد تحتاج الشركات إلى الانتباه إلى نقاط القوة والمخاطر التي تنطوي عليها التزييف العميق - فقد تكون مفيدة في بعض المواقف، ولكنها قد تؤدي أيضًا إلى عمليات احتيال وإلحاق الضرر بالسمعة.
Deepfakes - وهو نوع من الوسائط الاصطناعية التي تستخدم الذكاء الاصطناعي والتعلم الآلي لتكوين افتراءات واقعية للغاية عبر مقاطع الفيديو والصور والنصوص والأشكال الصوتية - لم تلفت انتباهنا أبدًا بقدر ما فعلت في الآونة الأخيرة.
ربما لأنهم افتقروا إلى مستوى الانتشار الذي يتمتعون به الآن، أو شعرنا أن الأمر كان يقتصر على ساحة لعب وسائل التواصل الاجتماعي، حيث نرى المستخدمين يتلاعبون بوجوههم وأصواتهم بجميع أنواع المرشحات، وبالتالي لا يهتمون كثيرًا بآثارها فيما وراء ذلك. عالم وسائل التواصل الاجتماعي.
مهما كان الأمر، فالحقيقة هي أن التقدم في الذكاء الاصطناعي أدى إلى تعميق الجذور وتسريع انتشار التزييف العميق. مع وصول حجم سوق برمجيات التزييف العميق العالمي إلى 72.41 مليون دولار في عام 2023 ومن المتوقع أن يصل إلى 1.2 مليار دولار في عام 2032، هناك فرصة كبيرة لاستمرار مشهد التزييف العميق في النمو من حيث التطور والاستخدام. ومثل كل ابتكار تكنولوجي، ستوفر لنا تقنية التزييف العميق ازدواجية في الاستخدام: الجوانب الإيجابية والخطرة.
الجانب الخطير من التزييف العميق
إن البحث السريع على Google عن "أدوات إنشاء التزييف العميق بالذكاء الاصطناعي" سيترك فمك مندهشًا ويشعر بالذهول من السهولة التي يمكن بها للشخص العادي الوصول إلى الأدوات التي يمكنه من خلالها إنشاء تزييف عميق يصعب تمييزه في غضون دقائق قليلة.
أظهر استطلاع حديث أنه بحلول عام 2024، سيكون حوالي 95% من المستهلكين في الولايات المتحدة قد وقعوا ضحية للتزييف العميق . حذرت وكالة الأمن القومي الأمريكية ومكتب التحقيقات الفيدرالي ووكالة الأمن السيبراني والبنية التحتية، في تقرير حديث ، من أن هناك خطرًا كبيرًا ينشأ من سوء استخدام التزييف العميق (PDF)، مشددين على أن هذا يمكن أن يعرض العلامة التجارية لمنظمة ما للخطر ويمكن استخدامه لـ تقليد الشخصيات الرئيسية مثل القادة والمسؤولين الماليين للاتصالات الخادعة.
وفي حديثه إلى Techopedia حول مخاطر التزييف العميق، أشار جيياسا جروفر، كبير علماء البيانات في Faire، إلى أن التزييف العميق أصبح الآن المروج الرئيسي للمعلومات الخاطئة على الإنترنت. واستشهدت بحالات من المواد الإباحية الخاصة بالمشاهير، والمكالمات الخادعة، ومقاطع الفيديو المعدلة للقادة السياسيين للتحريض على الصراع وغير ذلك الكثير.
وذكرت بلومبرج مؤخرًا أن بعض مقاطع الفيديو المستخدمة لتصوير ضحايا المأساة بلغات مختلفة حول الحرب بين حماس وإسرائيل هي مقاطع مزيفة، مشيرة إلى أن TikTok تكافح من أجل إزالتها.
في تقريرها عن تهديدات Deepfake لعام 2023 ، شاركت KPMG حادثة تم فيها خداع مدير فرع في هونغ كونغ لتحويل 35 مليون دولار من أموال الشركة إلى المحتالين. اعتقد المدير أنه كان يتبع أوامر رئيسه عبر الهاتف، لكن تبين أن الأمر كان عملية احتيال. استخدم المحتالون الذكاء الاصطناعي لاستنساخ صوت المشرف، مما أدى إلى خسارة مالية كبيرة للشركة.
هناك أمثلة أخرى للتزييف العميق على الإنترنت تستهدف شخصيات عامة، مثل الفيديو الذي تم تداوله على وسائل التواصل الاجتماعي في منتصف العام الماضي ويظهر بشكل مخادع فولوديمير زيلينسكي، رئيس أوكرانيا، وهو يعلن الاستسلام.
لقطات فيديو مزيفة للسيد زيلينسكي – Credit BBC
في حين أن السيناريوهات المذكورة أعلاه تبدو وكأنها بعض الإيقاع المروع، إلا أن كل الأمل لم يفقد، حيث أن هناك بعض الجوانب الإيجابية لاستخدام التزييف العميق التي يمكن للمؤسسات الاستفادة منها.
اقرا ايضا:كيف ستعيد القوى العاملة المتصلة والمعززة تشكيل الصناعات من هنا
Deepfakes كقوة للمنظمات
على الرغم من المخاطر الواضحة التي تشكلها التزييف العميق، لا يزال بعض الخبراء يعتقدون أن المنظمات يمكنها الاستفادة بشكل فعال من الفوائد مع التخفيف من المخاطر المرتبطة بها.
يفتح استخدام تقنيات التزييف العميق إمكانيات مختلفة، مثل تعزيز سيناريوهات التدريب القائمة على المحاكاة دون إشراك أفراد حقيقيين وإنشاء محتوى السوق، كما يقول تيم جرين، كبير مسؤولي العمليات في GoTeamUp.
وأوضح الأخضر:
"يمكن لهذه التكنولوجيا أن تمكننا من إنشاء سيناريوهات واقعية دون إشراك أفراد حقيقيين، مما يعزز فعالية برامجنا التدريبية. ومع ذلك، من المهم وضع مبادئ توجيهية أخلاقية لمنع سوء الاستخدام.
ويشير أيضًا إلى أنه يمكن للمؤسسات الاستفادة من التزييف العميق لتسويق إنشاء المحتوى لأنه يمكن أن يوفر طرقًا أكثر إبداعًا للتفاعل مع جمهورنا. وأضاف: "لكن من الضروري الحفاظ على الشفافية وإبلاغ العملاء عند استخدام هذه التكنولوجيا للحفاظ على الثقة والمصداقية".
البلوكشين مقابل التزييف العميق: معركة عادلة في المعركة من أجل الحقيقة؟
في بيان متاح لـ Techopedia، أوضح جوش أميشيف، المؤسس والرئيس التنفيذي لشركة BreachSense، أنه يمكن للمؤسسات الاستفادة من التزييف العميق لروبوتات الدردشة الخاصة بها وممثلي خدمة العملاء. عند استخدامها على هذا المستوى، ستكون تقنية التزييف العميق قادرة على التفاعل مع العملاء بطريقة أكثر إقناعًا وواقعية، مما يؤدي في النهاية إلى تعزيز تجارب المستخدم والعملاء.
ويشير أميشيف أيضًا إلى حالة الاستخدام التعليمي للتزييف العميق. "يمكن للمؤسسات الاستفادة من تقنية التزييف العميق في مجالات مثل التدريب. ويمكن استخدامها لإنشاء عمليات محاكاة تفاعلية، وإعادة تمثيل تاريخية، وتجارب تعليمية مخصصة."
اكتشاف التزييف العميق
نظرًا للتقدم في مجال الذكاء الاصطناعي، يعد اكتشاف التزييف العميق أحد أصعب الأشياء التي يجب القيام بها. على الرغم من وجود أدوات للكشف عن التزييف العميق مثل Intel Real-Time Deepfake Detector وSentinel وWeverify، إلا أن الإحصائيات لا تزال تظهر أن التزييف العميق شكلت معظم تقنيات الاحتيال المدعومة بالذكاء الاصطناعي التي سجلتها الشركات في عام 2023.
وهذا يؤكد عدم القدرة على نطاق واسع على اكتشاف التزييف العميق بدقة عالية. ردًا على ذلك، أشارت هيذر لوري، رئيسة أمناء أمن المعلومات بجامعة مانشستر، إلى أن "التهديدات الصادرة عن الوسائط الاصطناعية، مثل التزييف العميق، تمثل تحديًا متزايدًا، ولا يزال اكتشافها يمثل تحديًا كبيرًا للجمهور".
"سنحتاج إلى تطوير تدابير فعالة لكشف ومنع والرد على تهديدات التزييف العميق والهجمات على سلامة المعلومات. تلعب حملات التثقيف والتوعية دورًا مهمًا في مكافحة تهديد التزييف العميق. يمكننا أن نتوقع رؤية أطر قانونية وأخلاقية جديدة يتم تطويرها حول تقنية التزييف العميق في عام 2024.
يقول جيمس بور، الرئيس التنفيذي لمجموعة بوريس جروب، إن القليل جدًا يمكن أن يوفر المستوى الذي يمكن الوصول إليه من سلامة المعلومات الذي نحتاجه لمكافحة التزييف العميق بشكل فعال. "على الرغم من وجود طرق لضمان صحة المعلومات، إلا أنه من الصعب جدًا إثبات أن المعلومات كاذبة ما لم تصبح هذه الأساليب عالمية. وأوضح أنه "مع الاستخدام المحدود وإمكانية الوصول إليها، لم يتبق لنا سوى أدوات التحقق من الأصالة المعتمدة على الذكاء الاصطناعي، مما يعني أننا في سباق تسلح معلوماتي بين الاثنين".
نصائح Deepfake للمؤسسات
يشير ثيو زافيراكوس، متخصص في المخاطر السيبرانية وأمن المعلومات في Fortra، إلى أن الانتشار المتزايد للتزييف العميق يتطلب أن يحاول الناس قدر الإمكان الابتعاد وإيلاء اهتمام وثيق.
فيما يلي النصائح الموصى بها لمساعدة المؤسسات على اكتشاف التزييف العميق وفقًا لـ Zafirakos:
قم بإجراء تحليل مرئي للمحتوى الذي تشاهده. غالبًا ما تنتج التزييفات العميقة التي تم إنشاؤها باستخدام مولدات الصور أصابعًا "متزعزعة" ولطخات وأشياء غريبة أخرى غير موجودة في الصور الأصلية.
انظر إلى العيون. غالبًا ما تحتوي مقاطع الفيديو المزيفة العميقة على أنماط وميض غير منتظمة أو تفتقر إلى انعكاسات الضوء في كلتا العينين.
قم بالتكبير. ابحث عن الحالات الشاذة الرقمية، وألوان البشرة الغريبة، واللطخات بين الوجوه والخلفيات.
تقييم جودة الحركة. ابحث عن الحركات الآلية، وقلة حركة اللسان، وعدم تطابق الشفاه.
التأكد من أن الفيديو أو المقطع الصوتي يأتي من مصدر معروف وموثوق.
ابدأ محادثات هاتفية مع زملائك باستخدام كلمات مرور سرية أو أسئلة خاصة. إذا لم يتمكن المتحدث من الإلزام، فقد يكون ذلك بمثابة استنساخ صوتي.
الخاتمه
وبمعدل انتشار التزييف العميق، من العدل أن نقول إن الرؤية لم تعد تصدقًا. على الرغم من أن تقنيات الكشف عن التزييف العميق يجري تطويرها ببعض النجاح، إلا أنها ليست بالسرعة التي يمضي بها المحتالون قدمًا في الاستخدامات الخادعة. يجب على المنظمات والأفراد تسليح أنفسهم بالمعرفة والمهارات لتجنب الوقوع ضحية لهجمات التزييف العميق الضارة.
كما يسلط جرين الضوء على الحاجة إلى تطوير السياسات التي ستوجه استخدام التزييف العميق. "تحتاج الهيئات ذات الصلة، بدءًا من الحكومة وصولاً إلى المنظمات، إلى وضع سياسات واضحة لاستخدام التزييف العميق وضمان التنفيذ الصارم. ستكون هذه السياسات بمثابة دليل لاستخدام التزييف العميق، مما يضمن فهم الجميع للحدود والعواقب.
مرحبا بكم في جريدة وموقع كلام فور يو