تحذير من استنساخ الأصوات بالذكاء الاصطناعي وطرق بسيطة لكشفه

05 مارس 2024

بعد التلاعب بالصور وابتكار الفيديوهات الخاصة، ظهر في الأشهر الأخيرة نوع جديد من التلاعب الخطير يُعرف باسم "استنساخ الصوت"، حيث يستخدمه هاكرز الذكاء الاصطناعي لمحاكاة صوت شخص آخر.

ونشرت "دايلي ميل" البريطانية تقريراً يؤكد أنه تم بالفعل استنساخ أصوات مشاهير مثل ستيفن فراي وصادق خان وجو بايدن، وإطلاق تصريحات لا تمت لهم بصلة، ما تسبب بمشكلة لهم، ولفت التقرير إلى أن الخداع وصل إلى أحد المديرين التنفيذيين، الذي لم يذكر اسمه، لتحويل 243 ألف دولار إلى محتال بعد تلقي مكالمة هاتفية مزيفة!

وفي مقابلة مع مهندس الحلول الإلكترونية دين شيريتس لـ"ديلي ميل"، لفت إلى أن "استنساخ الصوت مسألة مرعبة، وهو تقنية ذكاء اصطناعي تسمح للهاكرز بأخذ تسجيل صوتي لشخص ما، وتدريب أداة الذكاء الاصطناعي على صوته، وإعادة إنشائه. إن تلك التقنية تم ابتكارها بالأساس لمساعدة الأشخاص الذين فقدوا أصواتهم لأسباب طبية، ولكن يتم حاليا استخدامها بشكل متزايد من قبل صناع السينما في هوليوود، ومعهم المحتالين والهاكرز".

وأضاف: "عندما ظهرت التكنولوجيا لأول مرة في أواخر التسعينيات، كان استخدامها يقتصر على الخبراء ذوي المعرفة المتعمقة بالذكاء الاصطناعي. وبمرور الوقت، أصبحت التكنولوجيا أكثر سهولة وبأسعار معقولة، لدرجة أنه يمكن لأي شخص تقريباً استخدامها، بل إنه يمكن لأي شخص لديه خبرة محدودة للغاية استنساخ الصوت. وربما يستغرق الأمر أقل من خمس دقائق باستخدام بعض الأدوات المتوفرة بشكل مجاني".

ولفت شيريتس إلى أن الأمر المثير للقلق حقا هو "أن الأدوات المتوفرة الآن تجعله قادرا على إضافة المزيد من التصريفات أو التوقفات أو أشياء أخرى تجعل الكلام يبدو أكثر طبيعية، مما يجعله أكثر إقناعا في سيناريو الاحتيال".

وتابع: "لقد تلقى بعض الأشخاص مكالمات وهمية بشأن الاختطاف، حيث اتصل بهم طفلهم قائلاً: "لقد تم اختطافي، أحتاج إلى ملايين الدولارات وإلا فلن يطلقوا سراحي"، وكان صوت الطفل في غاية الحزن، بينما في الحقيقة هو تسجيل ذكي يطبع صوت الطفل ويستخدم للاحتيال على الأهل.

ولكشف الأمر، أوضح شيريتس أن هناك العديد من العلامات الرئيسية التي تشير إلى أن الصوت مستنسخ، من بينها أن هناك فترات توقف مؤقتة، والقضايا التي لا يبدو فيها الأمر طبيعيا، وربما يكون هناك ما يمكن تسميته بالمصنوعات اليدوية في الخلفية. على سبيل المثال، إذا تم استنساخ صوت في غرفة مزدحمة وكان هناك الكثير من الأشخاص الآخرين يتحدثون، فعند استخدام هذا النسخ الصوتي، ستسمع بعض الأشياء غير المرغوب فيها في الخلفية".

ودق المهندس ناقوس الخطر قائلاً إنه "مع استمرار تطور التكنولوجيا، سيصبح اكتشاف هذه العلامات أكثر صعوبة، فلا بد أن يصبح الجميع على دراية أكبر بهذه التكنولوجيا، وأن يكونوا متشككين دائما في أي شيء يطلب منهم التصرف بشكل عاجل"

واضاف: "يجب أن يكونوا سريعين في طرح الأسئلة التي ربما لا يعرفها إلا الشخص الحقيقي، وألا يخافوا من محاولة التحقق من الأشياء قبل اتخاذ أي إجراء".

يوصي شيريتس بتحديد "كلمة سرية آمنة" مع أفراد العائلة والأصدقاء، موضحا أنه إذا الشخص الحقيقي في موقف عاجل أو طارئ، فيمكنه أن يقول تلك الكلمة الآمنة وسيعرف متلقي الاتصال على الفور أنه هو الشخص حقاً وليس استنساخاً لصوته.

وينصح في النهاية بأن يكون الجميع على دراية بما يقوم بتحميله من مقاطع فيديو أو صوت على الإنترنت لأنه من الممكن ببساطة استخدام تلك المقاطع لإعداد مقاطع تستخدم ضد الشخص بشكل مذهل.