日本 生成式AI被用于制作性暗示图像并发布至X平台 引发担忧

（亚太快讯消息）据NHK报道，在社交平台X（原推特）上，使用生成式AI工具“Grok”，将他人照片擅自加工成泳装等性暗示图像并发布的情况在全球范围内接连发生，日本国内也已确认相关案例。

（图源NHK NEWS）

“Grok”是由美国企业家埃隆·马斯克领导的公司xAI开发的对话型生成式AI，可直接在X平台上使用。去年12月，该工具新增了简易图片编辑功能。

NHK调查发现，在日本国内，也有人将偶像等真实人物的照片加工成性暗示图像，其中甚至包括疑似未成年人的图片。

这类图像被称为“性深度伪造”，受害风险日益严重。专家指出，随意发布此类图像，可能触犯儿童色情法、名誉侵权等多项法律，同时严重侵犯人权。

X公司回应NHK称，对于包括使用Grok生成的违法内容，将采取删除内容、永久冻结账号，并与行政机构和执法部门合作等措施。