@安全機制 / 博客 RSS 訂閱

Jan 03 2026

yuer2025 - AI 項目裏的一個高危設計： Human-in-the-Loop 並不等於安全

在很多 AI 項目評審中，我都會聽到一句話： “沒關係，我們有人在迴路裏（Human-in-the-Loop）。” 這句話在合規層面成立， 但在工程層面，經常是事故的起點。 一、工程上必須先問一個問題 “這個人，具體在迴路的哪一段？” 大多數系統裏的真實流程是： AI 分析輸入，給出判斷 /

字段 , 流程圖 , NLP , 安全機制 , 人工智能

收藏 評論