据一位专家表示，巴尔的摩对Elon Musk的xAI及其Grok聊天机器人的起诉，可能会决定在没有联邦法律的情况下，城市在多大程度上可以对人工智能进行监管。 巴尔的摩市长和市议会已在马里兰州法院起诉X公司、xAI和SpaceX，指控这些公司违反当地消费者保护法，设计和部署了Grok——一款被指控生成和传播非自愿性化图片（包括未成年人）的生成式AI系统。 起诉书称，Grok使用户能够“脱衣”或“操控”真实人物的图片，只需少量提示，就会暴露居民于隐私侵犯和心理伤害之中。代表市政府的律师事务所DiCello Levitt在声明中表示。
“这些深度伪造，尤其是那些涉及未成年人的，可能对受害者造成创伤性、终生的后果，”巴尔的摩市长布兰登·M·斯科特在声明中说。 此案正值全球对Grok的关注日益增加，包括在美国、欧盟、法国、英国、澳大利亚和爱尔兰的调查，以及上周由三名田纳西未成年人提起的联邦集体诉讼，指控该工具利用他们的真实图片生成儿童性虐待内容。 “这起诉讼可以被视为一个城市在缺乏联邦立法的情况下，利用消费者保护和公共危害原则对AI进行监管的策略性举措，”Fathom Legal的执行合伙人Sharma在接受_decrypt_采访时表示。
“在责任方面，虽然用户提示有害内容将成为辩论的一部分，但更强的法律焦点可能在于AI系统本身是否实质性地作出了贡献，”Sharma补充说，如果法院将Grok“视为主动创造者而非被动中介”，责任将更重地落在xAI身上。 按设计 巴尔的摩的起诉书指控这些公司“设计、营销并部署”了Grok，明知其可能生成非自愿性亲密影像和类似儿童性虐待内容的材料，却公开声称此类内容是被禁止的。 起诉书引用估计，Grok在2025年12月29日至2026年1月8日的短短几天内，生成了180万到300万张性化图片，其中约2.3万张涉及儿童，依据反数字仇恨中心和《纽约时报》的分析。 巴尔的摩指控，这一激增部分是因为Elon Musk通过在X上对由该工具生成的比基尼图片回复“完美”而被推动，导致输出量从他发帖前九天的约30万张增加到每天近60万张。 “X现在是NCII和CSAM的最大分发平台之一，”起诉书写道，引用被告平台政策禁止此类内容，作为虚假陈述的证据。 “在已知风险面前延迟采取保护措施或无作为的证据，将加强疏忽或鲁莽的指控，”Sharma表示，并补充说，驳回此案似乎不太可能，和解可能是最可能的结果，但此案仍可能“成为AI责任判例的先例”。 该市正寻求民事处罚、禁止令以停止非法行为、对受影响居民的赔偿以及追回非法所得。 _decrypt_已联系 Musk 通过 xAI 和 SpaceX 发表评论。
