加州总检察长正在调查Grok的色情深度伪造内容 - 商业内幕

埃隆·马斯克的xAI公司现在正因Grok生成真实人物的未经同意的色情图像而面临美国监管机构的压力。周三，加州总检察长罗布·邦塔宣布，他的办公室正在调查大量此类图像的报告。

"最近几周，xAI在线上制作和发布的未经同意的色情材料的大量报告令人震惊，"邦塔在一份声明中说。"这些描绘了女性和儿童裸体及色情场景的材料，已被用来骚扰互联网上的人们。我敦促xAI立即采取行动，确保此类事件不再发生。"

这一消息是在印度、英国、印度尼西亚和马来西亚的官员已对Grok采取各自不同的行动之后发布的。印度尼西亚和马来西亚甚至采取了封锁Grok访问的措施。英国通信监管机构Ofcom本周早些时候宣布了其调查。首相基尔·斯塔默此前曾告诉议员们，X公司可能会"失去自我监管的权利。"

针对Business Insider就邦塔调查请求的评论，xAI回复称"传统媒体谎言。"马斯克的AI公司经常用这句话回应媒体的请求。

在面临强烈反对的情况下，xAI限制了Grok图像生成的访问权限，仅限付费订阅者使用。周三早些时候，马斯克表示他不知道"Grok生成过任何未成年人的裸体图像。"马斯克此前曾说，任何要求Grok制作非法内容的人"将面临与上传非法内容相同的后果。"

"显然，Grok不会自发生成图像，它只根据用户请求生成，"马斯克在X平台上写道。"在被要求生成图像时，它会拒绝制作任何非法内容，因为Grok的基本原则是遵守任何国家或州的法律法规。"

马斯克的声明与监管机构正在调查的许多实例不符。具体来说，这些调查是由用户要求Grok对图像进行色情化的担忧引发的，例如，当原始照片中没有显示某人穿着比基尼时，却要求将其描绘成穿着比基尼的状态。

美国参议院周二通过口头表决一致通过了一项法案，该法案将赋予受害者起诉要求AI创建此类图像的用户的联邦民事权利。这项名为"《不服从法案》"的立法文本提到了照片的数字操纵，"移除个人的衣物，使该人看起来裸体。"

撰写该法案的伊利诺伊州民主党人理查德·德宾参议员表示，该法案旨在阻止类似Grok图像的事件。"最近的报告显示，前身为Twitter的X公司可以要求其AI聊天机器人Grok在照片中脱掉女性和未成年女孩的衣服，"德宾在参议院发言说。"Grok会 comply 展示各种裸露状态，我不会为记录重复这些图像，但它们很可怕。"

目前尚不清楚该法案是否会在众议院获得投票。去年，唐纳德·总统签署了一项两党立法，成为法律，要求社交媒体平台在收到删除请求后的48小时内移除未经同意的照片以及AI深度伪造内容。