國內首起因AI服務涉黃而追究刑事責任的案件即將迎來二審。2025年9月，上海市徐彙區人民法院一審以製作、販賣淫穢物品牟利罪，判處AlienChat App兩名主要開發及運營者有期徒刑四年和一年六個月。二人不服判決，已提起上訴，案件將於2026年1月14日在上海市第一中級人民法院開庭審理。
據公開信息，AlienChat App曾以“創造擁有自我意識的AI朋友、戀人、家人”為宣傳口號，主打高擬人化、情感化的人設互動體驗。然而，法院查明，該平台並非單純提供中立的AI對話服務。
其核心問題在於，開發者通過精心編寫和反覆修改系統提示詞（Prompt），主動繞過大語言模型內置的道德與安全過濾機制，誘導AI持續生成包含色情低俗內容的對話，以此吸引用户付費
判決書顯示，截至案發，AlienChat累計註冊用户達11.6萬人，其中付費會員2.4萬人，平台通過會員充值獲取非法收入共計363萬餘元。這一商業模式，使其行為被司法機關定性為“以牟利為目的製作並傳播淫穢電子信息”，而非簡單的技術中立或用户濫用。
此案的核心爭議點在於，AI服務提供者是否應為其模型輸出的內容承擔直接責任。一審判決明確指出，當開發者主動干預模型的安全機制，使其成為穩定輸出違法信息的工具時，其行為已構成犯罪。
