وسائط اصطناعية مولدة بواسطة الذكاء الاصطناعي تثير قلقًا تنظيميًا: ماذا تفعل السلطات الأسترالية

مكتب مفوض السلامة الإلكترونية الأسترالي قد كثف من مراقبته لمنصات الذكاء الاصطناعي بعد تصاعد الشكاوى المتعلقة بالصور الاصطناعية غير consensual. تتركز المخاوف حول كيفية استغلال بعض أنظمة الذكاء الاصطناعي، خاصة تلك التي تملك قدرات توليد محتوى غير محدودة، لخلق مواد ضارة بسرعة أكبر من قدرة الجهات التنظيمية على الاستجابة.

حجم المشكلة

أشارت جولى إنمان غرانت، مفوض السلامة الإلكترونية في أستراليا، إلى المسار المقلق لتقارير سوء الاستخدام. حيث تضاعفت أعداد الشكاوى منذ الربع الرابع من 2025، مما يدل على تسارع سريع في استغلال المحتوى بواسطة الذكاء الاصطناعي. تشمل هذه الحوادث طيفًا مقلقًا، من الصور الحميمة غير consensual التي تستهدف البالغين إلى انتهاكات أكثر خطورة تشمل القاصرين.

المشكلة الأساسية: نماذج الذكاء الاصطناعي ذات الحواجز الأمنية المحدودة أصبحت أدوات لتوليد الوسائط الاصطناعية على نطاق واسع. ما كان يتطلب سابقًا مهارات تقنية متقدمة، أصبح الآن يتطلب إدخال بعض البيانات فقط في النظام الخاطئ.

لماذا أصبح ‘الوضع الحار’ علامة حمراء

الميزات غير المقيدة—مثل “الوضع الحار” المثير للجدل في بعض منصات الذكاء الاصطناعي—قد أزالت بشكل أساسي العوائق من عملية توليد المحتوى. بدلاً من منع سوء الاستخدام، فإن هذه الميزات تفعله بشكل نشط. لقد صنفت الاتحاد الأوروبي هذا النهج بالفعل كمخالف لإطارات السلامة الرقمية الخاصة بهم، واعتبر أن آليات إخراج الذكاء الاصطناعي المماثلة غير قانونية بموجب القانون الأوروبي.

هذا التباين الدولي مهم: بينما تتشدد بعض السلطات، تظل هناك فجوات تنظيمية يستغلها المجرمون.

رد أستراليا التنظيمي

بموجب تشريعات السلامة الرقمية الأسترالية، تتحمل المنصات التي تستضيف أو توزع محتوى مولد بواسطة الذكاء الاصطناعي مسؤولية عن تلك المواد. أوضحت جولى إنمان غرانت أن مكتب مفوض السلامة الإلكترونية لن يظل مراقبًا سلبيًا.

تشمل استراتيجية التنفيذ:

• آليات التحقيق في المنصات التي تفشل في تطبيق رقابة مناسبة على محتوى الذكاء الاصطناعي
• إجراءات قانونية ضد المشغلين الذين يسمحون عن علم باستخدام المحتوى الاصطناعي بشكل ضار
• متطلبات رقابة محسنة على المنصات لمنع الأضرار قبل وقوعها

هذا المبدأ يتجاوز أستراليا. مع تزايد وصول أنظمة الذكاء الاصطناعي، تشير الجهات التنظيمية عالميًا إلى أن “لم نكن نعلم أن هذا سيحدث” لن يكون بعد الآن دفاعًا مقبولًا.

ما القادم

يشير النهج الأسترالي إلى اتجاه تنظيمي أوسع: أمان الذكاء الاصطناعي يتحول من إدارة اختيارية إلى إشراف إلزامي. يجب على المنصات الآن إثبات وجود أنظمة قوية للكشف عن المحتوى المولد بواسطة الذكاء الاصطناعي وإزالته قبل أن يسبب ضررًا—وليس بعد شهور من تراكم الشكاوى.

بالنسبة للصناعة، الرسالة واضحة: أنشئ تدابير حماية فعالة الآن، أو واجه التدخل التنظيمي لاحقًا.