Ù„قد كان نائب كبير موظفي جو بايدن، رئيس الولايات المتحدة، واضحًا: إن الذكاء الاصطناعي لاستنساخ الصوت أمر خطير. الاستخدام الصحيح للتكنولوجيا سيجعل حياتنا أسهل، ولكن الاستخدام غير الصحيح يمكن أن يؤدي إلى صراعات دبلوماسية وعمليات احتيال وعمليات اختطاف كاذبة. إنه ليس احتمالا، إنه يحدث بالفعل.

أصبحت أنظمة الذكاء الاصطناعي، التي ظهرت عالميًا في عام 2021 باستخدام ChatGPT والتي أصبحت الآن في نسختها الرابعة أكثر دقة. من الصعب بالفعل التمييز بين ما إذا كانت الصورة حقيقية أم لا، ويحدث نفس الشيء مع استنساخ الصوت. يمكن لأي شخص محاكاة نبرة صوت شخص مشهور، أو شخص يعرفه، و"جعله يقول" ما يريد.

وقال لصحيفة بوليتيكو: "المجتمع لم يدرك بعد إلى أي مدى يمكن لفكرة الانتحال الصوتي أن تعطل حياتنا. لن يجيب أحد على الهاتف إذا لم يكن متأكداً مما إذا كان الصوت على الطرف الآخر حقيقياً أم مزيفاً". .

يمكن أن يؤدي هذا إلى صراع دبلوماسي واسع النطاق، حيث يمكن، على سبيل المثال، إصدار إعلان حرب مزيف. ومع ذلك، ليس من الضروري التفكير في السيناريو المروع، فهو يؤثر بالفعل على حياة المزيد والمزيد من الناس. لا تتوقف عمليات الاختطاف المزيفة والأعمال الإجرامية باستخدام الذكاء الاصطناعي عن الانتشار.

وفي مارس/آذار، أفادت لجنة التجارة الفيدرالية الأمريكية أن المجرمين يستخدمون الذكاء الاصطناعي لتنفيذ عمليات اختطاف وهمية. ومن خلال استنساخ صوت أحد الأقارب، يمكنهم إقناع الشخص بأنه مختطف والمطالبة بدفع ثمنه. في أبريل/نيسان الماضي، تعرضت أم من ولاية أريزونا لمثل هذا الهجوم: فقد قام مجرم بتقليد صوت ابنتها.

وعلى الرغم من ذلك، فإن هذه التكنولوجيا، إذا استخدمت بشكل جيد، يمكن أن تحدث ثورة في حياتنا نحو الأفضل. يتيح لنا الذكاء الاصطناعي ترجمة أصواتنا للتواصل مع الأشخاص في أي مكان على هذا الكوكب دون عوائق. كما أنه مفيد جدًا على مستوى العمل، سواء للتواصل مع أولئك الذين لا يتحدثون لغتنا، أو لمنشئي المحتوى لنشر مقاطع الفيديو باللغة التي يريدونها أو التواصل مع جمهورهم دون مشاكل.