大马政府封杀Grok AI 指其被滥用生成瑟瑟内容

大马政府封杀Grok AI 指其被滥用生成瑟瑟内容

这几周一直因为太容易生成真人少穿衣服图像的 Grok，即日起在大马被禁用了！

马来西亚通讯及多媒体委员会（MCMC）宣布，由于X公司旗下的生成式人工智能工具Grok未能建立有效的安全防护机制，当局决定从2026年1月11日起在全国范围内暂时封锁该服务。

此次监管行动的主要诱因是Grok频繁被用于制造有害内容，包括违反法律的淫秽、色情以及在未经当事人许可下生成的误导性图像，且受害者中涉及妇女与未成年人。

在此次强制执行封锁之前，监管机构曾于1月3日和8日两次向X Corp及xAI发出正式通知，要求其根据1998年《通讯及多媒体法令》第233条，采取必要的技术手段和审核措施。

尽管X公司分别在1月7日和9日作出了回复，但其方案主要依赖于用户事后举报，MCMC认为这种被动机制无法从源头上解决AI工具设计及运作中所带来的固有风险。

通讯及多媒体委员会强调，目前的限制措施是基于公众安全考量而采取的预防性手段。只有当X公司能够证明其已落实足以保护妇女儿童等弱势群体的合规保障措施后，封锁才可能被解除。

与此同时，当局也呼吁公众在发现违规内容时向MCMC或警方举报。

值得注意的是，马来西亚并非首个对该工具采取行动的国家，此前印尼也因类似的人工智能虚假色情内容问题禁用了Grok。

Grok 母公司 X 是全球首富马斯克旗下 xAI 的生成式 AI，可说是当今排名前五的 AI 大模型。不过，就在 OpenAI 和 谷歌等 AI 公司 都比较积极的在约束自家 AI 不要胡乱生成黄色或者违法内容时， X 却在几周前突然开放 X 平台用户随时可以调用 Grok 在 X 上改图，导致各种乱象。这也是为什么许多国家开始考虑禁用 Grok 的一大原因。

更多消息请守住 Mdroid。

来源：Soyacincau