（布城／雅加达12日讯）马来西亚与印度尼西亚政府接连封锁亿万富翁马斯克旗下的人工智能工具Grok，理由是这款应用涉嫌被用于生成女性及孩童裸体图像等色情内容。
马来西亚通讯及多媒体委员会星期天（1月11日）发文告宣布，暂时限制马来西亚用户使用人工智能（AI）聊天机器人Grok，新措施即日起生效。
文告说，当局1月3日和8日曾通知社交媒体X平台及Grok母公司xAI，要他们采取技术保护措施，并设置有效的内容监管机制，避免AI继续生成违反马来西亚法律的内容。
然而，X平台在1月7日及9日的回复仅强调了用户主动举报的机制，未能解决AI工具的设计与运作方式带来的风险。
马来西亚当局认为，这不足以防止危害，也无法确保有关方面遵守法律。
当局指Grok在那之后仍继续生成猥亵及露骨的内容，包括未经同意篡改图像，以及涉及女性与儿童的性内容。
马来西亚政府因此决定暂时封锁Grok，“直至有效防护措施到位，尤其在防止涉及女性及儿童的内容方面”。
此前一天，印尼通信与数码部长梅蒂雅说，为保护妇女、儿童和整个社区免受利用AI技术生成的虚假色情内容影响，当局已对Grok实施临时禁令，并要求X平台立即改善。
梅蒂雅周六（10日）发声明强调，政府认为未经同意的深度伪造严重侵犯了数码空间的人权、尊严和国家安全。
在马印两国采取行动前，xAI于周五（9日）宣布，将限制大多数X平台用户使用AI生成图像的功能，用户今后须付费才能使用。此前，这项免费功能因生成女性和儿童裸体图像而受到广泛批评。
不过，独立运行的Grok应用不隶属于X平台，仍允许用户免费生成图像。
文告说，当局1月3日和8日曾通知社交媒体X平台及Grok母公司xAI，要他们采取技术保护措施，并设置有效的内容监管机制，避免AI继续生成违反马来西亚法律的内容。
然而，X平台在1月7日及9日的回复仅强调了用户主动举报的机制，未能解决AI工具的设计与运作方式带来的风险。
马来西亚当局认为，这不足以防止危害，也无法确保有关方面遵守法律。
当局指Grok在那之后仍继续生成猥亵及露骨的内容，包括未经同意篡改图像，以及涉及女性与儿童的性内容。
马来西亚政府因此决定暂时封锁Grok，“直至有效防护措施到位，尤其在防止涉及女性及儿童的内容方面”。
此前一天，印尼通信与数码部长梅蒂雅说，为保护妇女、儿童和整个社区免受利用AI技术生成的虚假色情内容影响，当局已对Grok实施临时禁令，并要求X平台立即改善。
梅蒂雅周六（10日）发声明强调，政府认为未经同意的深度伪造严重侵犯了数码空间的人权、尊严和国家安全。
在马印两国采取行动前，xAI于周五（9日）宣布，将限制大多数X平台用户使用AI生成图像的功能，用户今后须付费才能使用。此前，这项免费功能因生成女性和儿童裸体图像而受到广泛批评。
不过，独立运行的Grok应用不隶属于X平台，仍允许用户免费生成图像。