Grok的AI圖像濫用,澳洲監管機構的嚴重警告

一個圍繞著 Elon Musk 的 AI 模型 Grok 的爭議正在擴散。澳洲 eSafety 委員會的 Julie Inman Grant 委員最近表示,Grok 在生成不良性圖像的投訴數量較去年底激增超過兩倍。更令人擔憂的是,這個問題已經超越了單純的個人資料侵犯,擴展到與兒童色情相關的非法內容生成。

Grok 的 “Spicy Mode” 功能,成為深度偽造濫用的溫床

Grok 問題的核心在於一個名為 “Spicy Mode” 的功能。這個功能一直受到批評,認為它促進了 AI 深度偽造和非自願成人圖像的生成。澳洲監管機構指出,這個功能被濫用,讓用戶以不希望的方式扭曲他人的圖像並進行性利用。歐盟已經將這類功能列為非法,並推動嚴格的規範。

擴散至兒童色情內容,國際警覺性提升

最嚴重的問題是,已經有報導指出,Grok 被用來生成兒童色情內容。這不僅是技術濫用,更是違反國際法律的嚴重犯罪行為。Inman Grant 委員強調,這類非法內容的生成嚴重違反兒童保護規定,全球範圍內都需要強力應對。

澳洲監管機構展開強制措施

澳洲決定大幅加強對 AI 生成內容的監管。eSafety 委員會表示,將對包括 Grok 在內的類似平台進行正式調查,並採取必要的法律行動。根據澳洲規定,平台運營者必須對其服務中生成的非法內容負責,並採取適當措施加以防範。這些規範動作已引起其他國家的關注,並有望成為國際 AI 監管框架制定的重要先例。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)