一群女性及未成年女孩的代理律师已正式向法院提起诉讼，指控埃隆·马斯克旗下xAI公司开发的AI聊天机器人Grok生成了涉及原告的性化深度伪造内容，并进行了传播。诉讼指出，该AI工具能根据简单文本提示合成高度逼真的虚假色情图像与视频，导致受害者遭受名誉损害与精神创伤。此案可能成为界定生成式AI平台责任的关键司法案例。
🔬 硬核技术解析
尽管诉状未披露完整技术细节，但法律文件援引专家意见指出，Grok采用的扩散模型与多模态架构，使其在未获得充分内容过滤训练的情况下，可能被恶意使用者利用生成侵权内容。原告方强调，xAI在部署系统时未设置有效的实时深度伪造检测机制。
🔗 点击阅读详情