印度政府近日對埃隆·馬斯克旗下的社交平台 X（原 Twitter）發出嚴厲指令，要求其立即對人工智能聊天機器人 Grok 進行技術與程序上的深度整改。此前，多名用户及立法者指控該工具被濫用，生成了包括針對女性和未成年人的“淫穢”及色情圖像。
印度信息技術部週五正式下達命令，指示 X 公司必須限制 Grok 生成涉及“裸露、性化、露骨色情或非法”的內容。關鍵細則如下：
-
72小時期限：X 平台須在72小時內提交詳細的行動報告，説明防止託管或傳播法律禁止內容（包括戀童、色情及不雅內容）的具體措施。
-
安全港危機：命令警告，若 X 不遵守指令，將危及印度法律賦予其作為互聯網平台的“安全港”保護。一旦失去此資格，X 將需對用户生成的非法內容承擔直接法律責任。
-
嚴厲制裁：違規行為可能導致平台及其負責人面臨印度《信息技術法》和《刑法》的嚴厲刑事制裁。
此次監管行動源於印度議員普里揚卡·查圖爾維迪（Priyanka Chaturvedi）的正式投訴。她指出，用户正通過 Grok 誘導 AI 修改個人照片(主要是女性)，生成高度性化的虛假圖像。此外，近期報道披露 Grok 還曾生成涉及未成年人的性暗示圖片。
儘管 X 公司已承認安全措施存在漏洞並刪除了相關違規圖片，但外界發現，部分由 AI 修改的性化圖像在平台上仍處於可訪問狀態。
截至目前，X 公司與 xAI 尚未對印度政府的最新命令作出正式迴應。
