Gate News 消息，3 月 25 日，美国巴尔的摩市正式对埃隆·马斯克旗下X公司、xAI及SpaceX提起诉讼，指控其开发的生成式AI工具Grok涉嫌生成未经同意的性化图像，甚至涉及未成年人内容，违反当地消费者保护法规。此案被视为在缺乏联邦AI立法背景下，地方政府推动人工智能监管的重要测试。
诉讼指出，Grok具备在极少提示下篡改真实人物图像的能力，包括“去衣化”等功能，可能对用户隐私及心理造成严重损害。代理律所DiCello Levitt表示，该系统的设计与部署存在明显风险暴露，却未采取充分限制措施。巴尔的摩市长Brandon M. Scott强调，涉及未成年人的深度伪造内容将带来长期创伤。
法律层面，Fathom Legal合伙人Ishita Sharma指出，本案关键在于AI系统责任认定。如果法院认定Grok属于“主动内容创作者”，而非中立工具，xAI可能面临更高法律责任。这一判定或将重塑AI公司在内容生成中的法律边界。
诉状援引数据显示，在2025年12月底至2026年1月初的短时间内，Grok生成的性化图像数量高达180万至300万张，其中约2.3万张涉及未成年人。与此同时，平台图像生成量在马斯克公开互动后显著上升，进一步加剧监管压力。
当前，美国及欧洲多地已对Grok展开调查，相关案件仍在推进。市场关注焦点正从技术创新转向合规与风险控制，此案最终结果可能为AI内容生成监管提供重要判例参考。(Decrypt)
