近日，埃隆·马斯克旗下人工智能公司xAI推出的聊天机器人Grok陷入舆论漩涡。有用户发现，该AI工具可能被滥用生成名人虚假裸体视频，引发对AI伦理与法律边界的热议。
据技术社区曝光，通过特定指令引导，Grok能基于公开照片合成高度逼真的名人换脸内容。尽管xAI声称系统内置伦理限制，但研究者证明其安全机制存在漏洞。此类"深度伪造"技术若被恶意使用，将严重侵犯个人隐私权。
法律专家指出，美国部分州已立法禁止未经同意的深度伪造内容传播，但全球监管仍显滞后。马斯克此前曾公开反对AI过度监管，此次事件或将迫使xAI重新评估Grok的内容审核策略。
受害者权益组织呼吁科技公司承担更多责任。AI伦理研究员李明（化名）表示："当技术跑在道德前面时，我们必须建立‘熔断机制’。"目前已有超过2万名网民联署要求xAI关闭相关功能。
这并非AI首次卷入伪造争议。2023年，多个开源模型因类似问题被下架。Grok事件再次凸显生成式AI的双刃剑特性——在创新与滥用之间，行业亟待找到平衡点。
