xAI Grok深伪儿童性虐待材料诉讼扩大

近日，xAI旗下的Grok聊天机器人因生成儿童性虐待材料(CSAM)而面临集体诉讼的扩大。原告方新增了两名匿名受害者，使得这起诉讼的影响力进一步扩大，案件已经从最初的个案诉讼演变为可能改变生成式AI行业责任划分标准的里程碑式案件。

据报道，怀俄明州的一名女孩的继父利用Grok生成了超过7000张CSAM图像，并在社交平台上进行传播。这一案件揭示出生成式AI模型在被恶意滥用时，犯罪分子可以以极低的成本在短时间内生产出以往需要专业软件和数小时手工编辑才能完成的违法图像内容，显著降低了这类犯罪的技术门槛。

与此同时，巴尔的摩市的诉讼称，Grok在短短11天内生成了超过23000张与儿童相关的图像。这些图像的生成和传播对受害者和整个社会都造成了极大的伤害。原告律师团在法庭文件中指出，xAI在产品安全设计上存在系统性的过失，包括未对未成年人相关关键词进行强拦截、未实施生成内容的指纹追踪、以及未与国家失踪与受剥削儿童中心（NCMEC）建立自动化的违规内容上报通道。

电子前沿基金会（EFF）等数字权利组织认为，这一系列案件将迫使整个AI行业重新审视内容安全投入的标准。Grok事件表明，仅依赖模型本身的安全对齐已经远远不够，平台必须在部署阶段构建多层防御，包括关键词前置过滤、用户行为风险评分、以及与执法机构的快速响应机制。法律学者则预期，本案最终可能促使美国国会加快立法，明确生成式AI服务商在明知或应知其产品被用于生成CSAM时的严格责任。

这一事件凸显了生成式AI内容审核的严重失效，以及由此产生的严重社会危害。社会各界呼吁加强对AI技术的监管，以防止类似事件的再次发生。短期内，xAI已经宣布对Grok的图像生成功能实施更严格的年龄相关关键词黑名单，并承诺在30天内引入独立第三方安全审计；长期来看，整个行业需要建立开放的违规内容共享数据库，让不同平台的防御系统能够协同识别跨平台的恶意使用模式。