（讯报雅加达讯）印尼通信与数字部提醒，在X平台上滥用Grok人工智能功能制作淫秽内容将面临刑事指控。经证实制作和/或传播色情内容，或未经授权操纵个人图像的AI服务提供商及用户，将根据现行法律规定受到行政和/或刑事制裁。
“成为修图、深度伪造淫秽内容或肖像权侵权受害者的民众可采取法律行动。”通信与数字部数字空间监管总局局长亚历山大（Alexander Sabar）1月7日在新闻声明中表示。法律途径可通过现行法规机制进行，包括向执法机构举报及向通信与数字部投诉。
自2023年第1号《刑法典》法案于2026年1月2日生效以来，色情内容主要受第172条和第407条规制。第172条将色情定义为包含违反道德规范淫秽或性剥削内容的媒介；第407条规定最短6个月、最长10年监禁或相应罚金。
亚历山大指出，通信与数字部正深入调查Grok AI被怀疑用于在X平台制作和传播淫秽内容的情况。据X平台流传信息，Grok AI被用于制作不雅内容，包括未经所有者同意处理敏感个人照片。
“初步调查显示，Grok AI尚未建立明确且充分的规则，来防止基于印尼公民真实照片的色情内容制作与传播。”亚历山大表示。这种情况可能侵犯隐私权和肖像权，尤其是在个人照片被未经合法同意篡改或传播时，存在严重风险。
亚历山大强调，对个人照片的数字篡改不仅是道德问题，更是对个人视觉身份控制权的剥夺，可能造成心理、社会和声誉损害。通信与数字部已与电子系统提供商协调，推动建立有效保护机制，包括强化内容审核、防止制作深度伪造淫秽内容，以及建立快速处理隐私和肖像权侵权举报程序。
通信与数字部提醒，遵守印尼法律法规的义务适用于所有在印尼境内运营的电子系统提供商。若发现违规或不合作态度，通信与数字部可实施行政处罚，直至终止Grok AI及X平台访问服务。
马斯克警告非法内容制作者
近期，埃隆·马斯克公司xAI开发的聊天机器人Grok在X平台上成为热议话题。部分用户被指滥用该AI聊天机器人，未经所有者许可伪造或生成他人照片，甚至将其转换为不雅内容，其中包括疑似涉及未成年人图像。
据观察，自2025年12月底以来，这一趋势在全球范围内引发讨论。受害者不仅包括名人，也包括普通用户。部分用户甚至要求Grok制作伪造照片，显示真实女性遭受骚扰、羞辱、伤害甚至杀害。
作为X平台所有者，马斯克对此予以严厉警告：“任何使用Grok制作非法内容的人都将面临与上传非法内容相同的后果。”
X平台官方安全账号@Safety亦声明，将对非法内容采取行动，包括删除内容、永久封禁账号，并在必要时与执法机构合作。
多国发出抗议与警告
印度信息技术部门已要求X采取措施限制Grok生成色情、露骨、不雅、恋童内容及其他违法内容，并要求在72小时内回应，否则可能失去平台“安全港”保护。
法国亦启动调查，巴黎检察官办公室关注X平台上出现的大量深度伪造色情内容。马来西亚通讯与多媒体委员会则表示，将调查涉嫌违反相关法律的X用户，强调对利用女性和未成年人数字图像制作不雅内容的投诉“予以严肃对待”。（INT/NR）
