تنتشر إيصالات مزيفة مدعومة بالذكاء الاصطناعي في جميع أنحاء العالم: وباء جديد من الاحتيال المؤسسي

لقد دخل الاحتيال في مكان العمل عصرًا جديدًا. في جميع أنحاء العالم، يستخدم الموظفون بشكل متزايد أدوات الذكاء الاصطناعي لإنشاء إيصالات وفواتير مزيفة تبدو واقعية لدرجة أن المدققين المدربين يكافحون حتى لتمييز الحقيقي من المزيف.

الشركات الآن تحذر: “لا تثق بعيونك.”

من الصفر إلى 14% في عام واحد فقط وفقًا للبيانات من AppZen، وهي شركة تطور برامج إدارة النفقات، شكلت الإيصالات المتولدة بواسطة الذكاء الاصطناعي حوالي 14% من جميع الوثائق الاحتيالية المقدمة في سبتمبر — مقارنة بعدم وجود أي منها قبل عام. شركة أخرى، Ramp، أفادت أن نظام الكشف عن الاحتيال الجديد لديها كشف عن أكثر من $1 مليون دولار من الفواتير المزورة في غضون 90 يومًا فقط. وجدت أبحاث Medius، التي تتخصص في إدارة النفقات، اتجاهات مشابهة. قال حوالي 30% من المهنيين الماليين في الولايات المتحدة والمملكة المتحدة إنهم لاحظوا المزيد من الإيصالات المزيفة منذ أن أصدرت OpenAI GPT-4o في وقت سابق من هذا العام. “هذه الإيصالات مقنعة لدرجة أننا نقول لعملائنا: لا تثقوا بعيونكم”، قال كريس يونيو، نائب الرئيس الأول في SAP Concur، واحدة من أكبر منصات إدارة النفقات في العالم، والتي تعالج أكثر من 80 مليون عملية تحقق من الامتثال شهريًا باستخدام الذكاء الاصطناعي.

الذكاء الاصطناعي يجعل الاحتيال سهلاً للجميع حتى وقت قريب، كانت صناعة الإيصالات تتطلب مهارات في تحرير الصور أو توظيف شخص ما عبر الإنترنت للقيام بذلك.

الآن، مع أدوات الذكاء الاصطناعي المجانية وسهلة الاستخدام، يمكن لأي موظف إنشاء إيصال مزيف في ثوانٍ ببساطة عن طريق كتابة موجه قصير.

الكثير من المزيفات التي تُنتج بواسطة الذكاء الاصطناعي تبدو غير قابلة للتمييز عن الشيء الحقيقي:

خطوط وتصميمات واقعية

ملمس ورق مجعد

قوائم المطاعم المفصلة

حتى التوقيعات المزورة “هذه ليست تهديدًا مستقبليًا - إنه يحدث الآن” ، قال سيباستيان مارشون ، الرئيس التنفيذي لمنصة إدارة النفقات رايدو.

“تظل الإيصالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي تشكل جزءًا صغيرًا اليوم، ولكن هذا الرقم سينمو فقط.”

الشركات تتصدى باستخدام الذكاء الاصطناعي لأن الوثائق المزيفة أصبحت الآن واقعية للغاية، تلجأ الشركات إلى أدوات الكشف المعتمدة على الذكاء الاصطناعي - حيث لم يعد بإمكان المراجعين البشريين مواكبة ذلك. تقوم هذه الأنظمة بتحليل:

🔹 البيانات الوصفية في ملفات الصور لكشف أصول الذكاء الاصطناعي

🔹 الأنماط المتكررة في أسماء الملفات والطوابع الزمنية

🔹 بيانات سفر أوسع للتحقق من مطالبات الموظفين إذا قام المحتال بإزالة البيانات الوصفية عن طريق أخذ لقطة شاشة، فإن البرنامج بعد ذلك يفحص مؤشرات أخرى. “يمكن للذكاء الاصطناعي اكتشاف الأنماط الدقيقة التي تفوتها عين الإنسان - يتعب الناس، لكن الخوارزميات لا تتعب”، كما أوضح كالفن لي، المدير الأول لإدارة المنتج في رامب.

70% من المديرين الماليين يشتبهون في أن الموظفين يستخدمون الذكاء الاصطناعي للغش أظهرت دراسة استقصائية أجرتها SAP في يوليو أن ما يقرب من 70% من المديرين الماليين يعتقدون أن موظفيهم استخدموا الذكاء الاصطناعي لتزوير إيصالات السفر أو النفقات، وأن حوالي 10% أكدوا أن ذلك قد حدث بالفعل داخل شركاتهم. ماسون وايلدر، مدير البحث في جمعية الفاحصين المعتمدين للاحتيال، أطلق على الإيصالات المزورة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي “تهديد خطير وسريع النمو.” “لم تعد هناك أي barriers للدخول بعد الآن”، قال وايلدر.

“لا تحتاج إلى مهارات فوتوشوب مثل قبل خمس سنوات - فقط بضع نقرات وأنتهيت.”

تجيب OpenAI قالت OpenAI إنها تتخذ إجراءات ضد المستخدمين الذين ينتهكون شروطها وأشارت إلى أن جميع الصور التي تم إنشاؤها من خلال ChatGPT تحتوي على علامات رقمية مخفية تشير إلى أنها تم إنشاؤها بواسطة الذكاء الاصطناعي.

ومع ذلك، يمكن إزالة هذه المعرفات أو إخفاؤها إذا قام شخص ما بالتقاط صورة أو لقطة شاشة للوثيقة المزيفة.

واقع جديد لفرق التمويل الذكاء الاصطناعي الآن يمثل سيفًا ذا حدين للشركات:

يُحسن كفاءة اكتشاف الاحتيال

لكنها تجعل الاحتيال أسهل وأسرع في التنفيذ أيضًا يحذر الخبراء من أن المنظمات يجب أن تستثمر الآن في أنظمة الكشف الذكية وتدريب الموظفين، أو تواجه خطر أن تصبح ضحية للتقنيات التي تم تصميمها لمساعدتها.

#ArtificialInteligence , #AI , #OpenAI , #احتيال , #أخبار_العالم

ابقَ خطوة واحدة إلى الأمام - تابع ملفنا الشخصي وابقَ على اطلاع بكل ما هو مهم في عالم العملات المشفرة! إشعار: ,المعلومات والآراء المقدمة في هذه المقالة مخصصة فقط للأغراض التعليمية ولا ينبغي اعتبارها نصيحة استثمارية في أي حالة. يجب عدم اعتبار محتوى هذه الصفحات نصيحة مالية أو استثمارية أو أي شكل آخر من النصائح. نُحذر من أن الاستثمار في العملات المشفرة يمكن أن يكون محفوفًا بالمخاطر وقد يؤدي إلى خسائر مالية.“