الذكاء الاصطناعي في الامتثال ليس صندوقًا أسودًا — إنه اختبار للمساءلة: مقابلة مع رومان إلوشفيلي

رومان إلُوشفيلي هو مؤسس شركة ComplyControl، وهي شركة ناشئة في مجال الامتثال واكتشاف الاحتيال مدعومة بالذكاء الاصطناعي للمؤسسات المالية.

اكتشف أبرز أخبار وأحداث التكنولوجيا المالية!

اشترك في النشرة الإخبارية لدى FinTech Weekly

يقرأها المديرون التنفيذيون في JP Morgan وCoinbase وBlackrock وKlarna وغيرهم

ما الذي يجري اختباره حقًا بشأن الذكاء الاصطناعي في الامتثال: التكنولوجيا، أم نحن؟

في الخدمات المالية، لم يعد الامتثال مجرد وظيفة فحسب. بل هو نقطة ضغط فعّالة—حيث تتقاطع اللوائح مع المخاطر والعمليات. ومع إدخال تقنيات الذكاء الاصطناعي إلى هذا المجال، يبقى سؤال واحد يطفو مجددًا: إلى أي مدى يمكننا أتمتة كل ذلك حقًا، ومن سيظل مسؤولًا عندما تسوء الأمور؟

من السهل فهم جاذبية الذكاء الاصطناعي في اكتشاف الاحتيال والامتثال. تواجه المؤسسات المالية توقعات متزايدة لمعالجة كميات هائلة من البيانات، والاستجابة للتهديدات المتطورة، والالتزام باللوائح المتغيرة—دون المساس بالسرعة أو الدقة. تُعد الأتمتة، ولا سيما عندما تقودها تعلّم الآلة، طريقة لتقليل الضغط التشغيلي. لكن ذلك يثير أيضًا مخاوف أعمق تتعلق بالحَوْكمة وقابلية التفسير والتحكم.

هذه التوترات ليست مجرد نظريات. إنها تتكشف في الوقت الحقيقي، إذ تقوم الشركات المالية بنشر نماذج ذكاء اصطناعي في أدوار كانت تقليديًا من اختصاص محللين بشريين. خلف الكواليس، تظهر مخاطر جديدة: نتائج إيجابية كاذبة، فجوات في التدقيق، وقرارات خوارزمية تظل غير واضحة لكلٍّ من المستخدمين والجهات التنظيمية.

وفي الوقت نفسه، يُطلب من المتخصصين في الامتثال تغيير أدوارهم. بدلًا من فحص كل معاملة يدويًا، أصبحوا الآن يشرفون على الأدوات التي تقوم بذلك. يتطلب هذا التحول—من المنفّذ إلى المقوِّم—ليس مجرد مهارات تقنية جديدة، بل إحساسًا أقوى بالمسؤولية الأخلاقية والإجرائية. يمكن للذكاء الاصطناعي توسيع نطاق تحليل البيانات. ويمكنه الإشارة إلى التناقضات. لكنه لا يستطيع بالكامل شرح النوايا، أو تفسير السياق، أو تحمل اللوم.

إن فهم هذه الحدود أمر بالغ الأهمية. وقليلون هم من يتوافرون في موقع أفضل لاستكشافها من رومان إلُوشفيلي، مؤسس شركة تقنيات الامتثال ComplyControl ومقرها المملكة المتحدة. يعمل في قلب تقاطع المخاطر والأتمتة والإشراف—حيث تلتقي كفاءة الخوارزميات بالتدقيق التنظيمي.

وبأكثر من عقد من الخبرة في هذا المجال، شاهد رومان عن كثب كيف تتطور فرق الامتثال وكيف يعيد الذكاء الاصطناعي تشكيل كلٍّ من سير العمل ومسؤولياتهم. وهو يرى أن وعد الذكاء الاصطناعي لا يكمن في إلغاء الأدوار البشرية، بل في إعادة تشكيلها—إضافة وضوح جديد لما ينبغي أن تتولاه الآلات، وما يجب أن يظل البشر مسؤولين عنه.

يتطلب هذا التحول أكثر من مجرد ترقيات تقنية. إنه يطلب إعادة مواءمة ثقافية حول المساءلة. لم تعد الأنظمة الشفافة والعمليات القابلة للتدقيق والمسؤولية البشرية المحددة بوضوح مجرد ميزات—بل هي الحد الأدنى للمعيار. وعندما يُقدَّم الذكاء الاصطناعي إلى البنية التحتية الحيوية، فإنه لا يحل المشكلات فحسب. بل يُدخل فئة جديدة من القرارات التي تتطلب رعاية استراتيجية نشطة.

في هذا الحوار مع FinTech Weekly، يقدم رومان رؤية واقعية لما يلزم لدمج الذكاء الاصطناعي بمسؤولية في الامتثال ومنع الاحتيال. لا تُقدِّم وجهة نظره الأتمتة باعتبارها أمرًا حتميًا، بل باعتبارها خيارًا—يتطلب حكمًا بشريًا مستمرًا، ووضوحًا تشغيليًا، واستعدادًا لطرح الأسئلة الصعبة حول مكان تموضع الثقة فعليًا.

يسعدنا مشاركة رؤاه في وقت يطرح فيه كثيرون داخل قطاع التكنولوجيا المالية سؤالًا ليس عمّا إذا كان ينبغي تبني الذكاء الاصطناعي—بل كيف يتم ذلك دون فقدان المعايير التي جعلت الأنظمة المالية تعمل كما تعمل في المقام الأول.

1. لقد طوّرت مسيرة مهنية عند مفترق الامتثال والتكنولوجيا. هل يمكنك استحضار اللحظة التي أدركت فيها أن الذكاء الاصطناعي يمكن أن يغيّر بشكل جوهري طريقة إنجاز إدارة المخاطر؟

لن أقول إن الأمر كان مجرد لحظة واحدة محددة غيّرت كل شيء. بل كان ذلك عملية ممتدة. كنت قد قضيت جزءًا كبيرًا من مسيرتي المهنية في العمل مع بنوك أوروبية راسخة، وما ظللت ألاحظه باستمرار هو أن كثيرًا منها كان بعيدًا جدًا عندما يتعلق الأمر بحلول الخدمات المصرفية الرقمية. وكان الفرق واضحًا بشكل خاص مقارنةً بمراكز التكنولوجيا المالية الأكثر تقدمًا.

قبل عدة سنوات، عندما بدأ موضوع تطوير الذكاء الاصطناعي يسخن مجددًا، نشأت فضولي بشكل طبيعي وتعمقت فيه. ومع دراستي للتقنية وطريقة عملها، أدركت أن الذكاء الاصطناعي لديه القدرة على تغيير جذري لكيفية تعامل البنوك مع امتثالها، بحيث يصبح أقرب إلى ما تقوم به شركات التكنولوجيا المالية الحديثة والمرنة.

وهذا ما دفعني لإطلاق شركتي في عام 2023. إن تعقيد الامتثال وإدارة المخاطر لا يتوقف عن التزايد عامًا بعد عام. وبالنظر إلى هذه الحقيقة، تتمثل مهمتنا في أمر واحد بسيط: تقديم حلول مدعومة بالذكاء الاصطناعي للشركات المالية ومساعدتها على التعامل مع هذه التحديات المتزايدة بطريقة أكثر فعالية.

2. من منظورك المهني، كيف تطور دور المتخصصين البشر مع ازدياد تطور أدوات الذكاء الاصطناعي في الامتثال واكتشاف الاحتيال؟

قبل أن أقول أي شيء آخر، اسمح لي بمعالجة نقطة واحدة مباشرة من البداية. توجد مخاوف شائعة عبر العديد من المجالات بشأن ما إذا كان الذكاء الاصطناعي سيستبدل العاملين البشر. وبالنسبة إلى المتخصصين في الامتثال وإدارة المخاطر، فإن جوابي هو لا—على الأقل، ليس في أي وقت قريب.

في حين أن الذكاء الاصطناعي يعمل بالفعل على تحويل صناعتنا، فإنه بعيد عن كونه خاليًا من الأخطاء. لذلك ما يزال وجود الإنسان عاملًا أساسيًا. تتغير لوائح الامتثال باستمرار، ولا بد أن يكون هناك من يتحمل المسؤولية عندما تفشل الأنظمة في مواكبة المتطلبات أو ترتكب أخطاء. وعلى مستوى التطور الحالي، لا يزال الذكاء الاصطناعي يعاني من صعوبة شرح قراراته بوضوح، لذا لا يكون جاهزًا لأن يُترك وحده. خصوصًا في مجال تكون فيه الثقة والشفافية من الأمور الجوهرية.

ومع ذلك، يعمل الذكاء الاصطناعي بنشاط على جعل عمليات الامتثال أسهل. على سبيل المثال، وبناءً على الإعدادات، يمكن لأنظمة الذكاء الاصطناعي الآن أن تميز المعاملات المشبوهة أو حتى تمنعها مؤقتًا بينما تطلب تحققًا إضافيًا. لا توجد حاجة لأن يقوم البشر الحقيقيون بالتمحيص في كل تفصيلة يدويًا، إلا إذا ظهر شيء غير معتاد حقًا. ومع تطور هذه الأنظمة، ستستمر في تقليل الحاجة إلى العمل اليدوي، مما يسمح للفرق بالتركيز أكثر على مهام أكثر تعقيدًا تتطلب اللمسة البشرية فعلًا.

أعتقد أننا سنشهد صعود نموذج هجين، حيث يصبح خبراء الامتثال أكثر كفاءة أيضًا في استخدام أدوات الذكاء الاصطناعي. سيكونون هم الذين يقومون بتنفيذ أنظمة الذكاء الاصطناعي وصيانتها، بينما سيقوم الذكاء الاصطناعي نفسه بتبسيط عملهم عبر فهم البيانات المعقدة وتقديم توصيات. لكن الحكم النهائي سيظل لدى البشر.

3. عند العمل مع الذكاء الاصطناعي في مجالات حساسة مثل الامتثال المالي، كيف تعاملت أنت شخصيًا مع تحدي الحفاظ على الثقة والمساءلة في اتخاذ القرار؟

بالطبع. كما ذكرت بالفعل، عندما تستخدم الذكاء الاصطناعي في الامتثال، تكون الثقة أمرًا حاسمًا.

لهذا السبب بنينا أنظمة الذكاء الاصطناعي لدينا بحيث تكون شفافة بالكامل. فهي لا تعمل مثل «الصندوق الأسود»—فكل توصية يصدرها النظام تستند إلى قواعد وبيانات قابلة للتتبع. نحتفظ بسجل تدقيق كامل لكيفية اتخاذ كل قرار، بحيث يمكن تفسيره بالكامل. وقد أثبتت هذه الممارسة بالفعل قيمتها الكبيرة عند التعامل مع الجهات التنظيمية.

يبقى النداء النهائي دائمًا لدى مسؤول الامتثال. يقدم الذكاء الاصطناعي مجرد اقتراح مبرر جيدًا يمكن للإنسان التحقق منه بسهولة، ثم اتخاذ قرار بالموافقة عليه أو رفضه.

4. خبرتك تمتد لأكثر من 10 سنوات. كيف تغيرت نظرتك الذهنية تجاه الأتمتة والإشراف البشري خلال مسيرتك المهنية، خاصةً الآن مع بدء الذكاء الاصطناعي بالتصرف بشكل أكثر استقلالية؟

بالتأكيد. وبشكل أوسع، عند الحديث عن وضع تبني الذكاء الاصطناعي، كلما تقدمت هذه التقنية أكثر، نسمح له تدريجيًا بمزيد من الاستقلالية—طالما أنها جرى اختبارها جيدًا وما تزال تثبت موثوقيتها.

لكن ما الذي يتغير أكثر من ذلك هو الدور الذي يضطلع به المتخصص البشري في هذه المعادلة. بدلًا من الإدارة التفصيلية لكل حالة، يقوم مسؤولو الامتثال الآن بشكل متزايد بدور «المشرفين الاستراتيجيين». يمكنهم مراجعة مجموعات كاملة من الحالات المتشابهة بسرعة، والتحقق من أداء النظام، وضبط النماذج بدقة بناءً على النتائج.

بعبارة أخرى، ينتقل الدور الفعلي لمسؤولي الامتثال من إنجاز العمل يدويًا إلى إدارة أنظمة الذكاء الاصطناعي أثناء قيامها بذلك نيابةً عنهم.

5. العمل في إدارة مخاطر تقودها أنظمة الذكاء الاصطناعي يعني التنقل عبر أسئلة أخلاقية معقدة. كيف طورت أنت شخصيًا إطارًا لاتخاذ خيارات مسؤولة عند تصميم أو تطبيق حلول قائمة على الذكاء الاصطناعي؟

لقد بنينا نهجنا على فكرتين رئيسيتين: إشراف واضح ومبادئ الذكاء الاصطناعي المسؤول. كل نموذج نستخدمه يكون هناك شخص مُعيَّن يتحمل المسؤولية عنه. تُجرى عمليات تقييم المخاطر ومراجعات الأداء وفحوصات الامتثال بانتظام.

كما نحرص على أن تكون أنظمتنا قابلة للتدقيق. إذا اتخذ الخوارزم قرارًا، يمكن مراجعة هذه العملية والتحقق منها. تُعد هذه الشفافية جزءًا أساسيًا من التزامنا بتطوير ذكاء اصطناعي مسؤول.

6. في رحلتك، ما هي أصعب درس مهني تعلمته حول حدود—أو مخاطر—الاعتماد بشكل مفرط على الأتمتة في مجالات حاسمة مثل منع الاحتيال؟

هناك درس واحد بالتأكيد نحتاج إلى أخذه في الحسبان وهو أن حتى النماذج المدربة جيدًا قد تظل «تُهْمِل» — قد ترتكب أخطاء بشكل دقيق لكن جسيم.

قد تفوت أنظمة الذكاء الاصطناعي مخططات احتيال معقدة، أو قد تُطلق عددًا كبيرًا جدًا من التنبيهات الإيجابية الكاذبة. وهذا بالضبط سبب أهمية دمج الذكاء الاصطناعي مع الخبرة البشرية—فالبشر يجلبون معهم حكمًا مرنًا، وهم أفضل في تقييم الأخلاقيات والسياق العام بطرق لا يمكن للذكاء الاصطناعي القيام بها.

يتحقق التوازن بين الوعود على نحو أفضل، مع نتائج أكثر موثوقية. يمكن استخدام الذكاء الاصطناعي لتغطية حجم المهام الهائل وتخفيف تعقيدها، بينما تُستخدم الأطر البشرية بدورها للحفاظ على المستوى المناسب من الدقة والثقة.

7. بالنسبة إلى المهنيين الشباب الذين يدخلون اليوم مجالات الامتثال أو إدارة المخاطر أو تطوير الذكاء الاصطناعي، ما المبادئ أو العادات الشخصية التي تنصحهم بتنميتها لتحقيق النجاح والتكيف في بيئة تتغير بسرعة مثل هذه؟

أولًا وقبل كل شيء: لا تتوقف عن التعلم. لا توجد أزرار «إيقاف مؤقت» للتقدم التكنولوجي، وتحتاج إلى مواكبة التطورات أو ستتخلف عن الركب. لا يوجد حل وسط هنا.

ثانيًا، فكّر بشكل واسع. مع تقدم الذكاء الاصطناعي، أصبحت الحدود بين الأدوار تَتَلاشى—فالتقنية والتمويل والتنظيم صارت خليطًا. أنا مقتنع بأن امتلاك مجموعة واسعة من المهارات والعقلية المنفتحة ستكون السمات الحاسمة للمهنيين في المستقبل داخل هذا المجال.

ثالثًا—وكمتابعة طبيعية للنقطتين السابقتين—كن مرنًا. التغيير أمر ثابت، والقدرة على التكيف بسرعة ستكون ميزة كبيرة لك.

وأخيرًا، طوّر مهارات تواصل قوية وتعلم أن تكون لاعبًا ضمن فريق. كما غطينا بالفعل، يقع الامتثال عند تقاطع الأعمال والتقنية والقانون. لذلك ستكون القدرة على تغيير المسار والتحدث إلى الناس من كل هذه العوالم مهارة قيمة لاكتسابها.