英國西米德蘭茲警方代理警察局長 Scott Green 在一次審查會議上表示，由於擔心“AI 會產生幻覺”，警方已停止使用微軟的 AI 工具 Copilot，“直至另行通知”。
這場風波源於一次極具爭議的足球賽事安保建議。此前，該機構曾建議禁止以色列特拉維夫馬卡比隊的球迷參加在伯明翰舉行的一場歐協聯比賽。調查發現，這一決定部分基於 Copilot 提供的情報，然而事實上，AI 描述的所謂“球迷衝突”竟然發生在一場根本不存在的虛構比賽中。
這一“AI 幻覺”引發了連鎖反應。前任警察局長 Craig Guildford 因在國會聽證會上就 AI 的使用情況提供了前後矛盾的證詞，面臨巨大輿論壓力，最終於近期提前退休。目前，英國警察行為獨立辦公室（IOPC）已介入調查，重點核查 AI 工具在警務決策中的合規性與倫理風險。
代理局長 Green 強調，儘管 AI 未來在提升犯罪偵查效率方面仍有巨大潛力，但在建立起嚴密的監管政策和使用指南之前，警方將不會重啓 Copilot。此事件也為全球執法機構敲響了警鐘:在涉及公共安全與國際關係的重大決策中，過度依賴尚未完全成熟的 AI 技術可能會導致災難性的法律與外交後果。
