深潮 TechFlow 消息，3 月 18 日，据 International Business Times 报道，三名青少年女性在美国加州联邦法院对 Elon Musk 旗下人工智能公司 xAI 提起诉讼，指控其聊天机器人 Grok 在未经当事人同意的情况下，生成了涉及她们的儿童性剥削图像。诉讼要求获得未指定金额的赔偿，并申请立即禁令，阻止 Grok 继续生成此类内容。三名原告均选择匿名，其中两人尚未成年。诉状显示，相关用户利用 Grok 的图像处理功能篡改原告照片，将其制作成裸露或性暴力内容，并在私人 Discord 服务器上传播，受害者范围涉及至少 18 名未成年人。其中一名原告在收到匿名 Instagram 私信后发现，其高中毕业照已被篡改为性暗示图像。原告律师指出，xAI 明知 Grok 的”Grok Imagine”功能（含”脱衣”选项）可生成此类内容，仍选择公开发布，意在推动 Grok 及社交平台 X 的用户增长。据”打击数字仇恨中心”报告，该功能上线两周内已生成逾 2 万张涉及未成年人的性化图像。
Thank you for reading this post, don't forget to subscribe!