Project Beacon 將安全監控重新定位為模型內部可視性問題,而非逐字稿稽核工作。Beacon 不會把每個 Agent 行動都交給另一個 LLM 判定安全與否,而是透過小型分類器(也就是啟動探針)分析模型的中間訊號。由於這些探針會沿用模型本身的運算,並在每次前向傳播時執行,因此能在模型內部狀態顯露不良行為的當下,立即發出警示。這項早期訊號也改變了團隊面臨的實務取捨:監控得以逐輪進行、近乎即時,而且比持續依賴評審模型便宜得多。
從技術角度來看,系統會以帶有標籤、且與濫用模式相關的啟動值樣式訓練輕量探針,涵蓋獎勵鑽漏洞、暗中走捷徑、提示注入與網路攻擊行為。這些探針是精簡的分類器,通常採用線性模型或小型 MLP 預測頭,直接處理隱藏層啟動值。在正式環境中,它們會納入級聯式管線:探針以高召回率、低成本的方式進行第一階段篩選,只有可疑軌跡才會交由成本較高的評審模型或人工審查者處理。這種設計既能維持高偵測率,也大幅減少呼叫評審模型的次數;此外,它還能找出僅根據表層文字判斷的評審模型無法察覺的訊號。
對企業營運團隊而言,Beacon 能大幅降低兩項痛點:監控費用與延遲。探針在每次前向傳播時執行,額外負擔幾乎可忽略,讓團隊能在獎勵作弊的捷徑與隱藏的惡意行動鏈形成時就加以偵測,而不是事後才發現。Goodfire 的內部評估顯示,這套系統能偵測出大多數有害工作階段,同時將良性行為的誤報控制在一定範圍內;由於呼叫評審模型的頻率大幅降低,整體監控成本最多可降低數個數量級。這讓長時間執行的 Agent,以及建構於開放權重模型上的工作流程,也能切實採用持續即時的防護措施。
採用內部探針也會改變工程團隊的職責:團隊必須為探針訓練標記行為、維護監控遙測資料,並制定應變流程。Project Beacon 會將警示送入可設定的工作流程,例如自動記錄、重新導向、拒絕回應或交由人工審查,讓營運團隊能依照對誤報與業務風險的容忍度調整敏感度。實務上的重點很明確:將探針整合為第一線偵測工具,只在必要時升級處理,並持續驗證與進行對抗測試,確保監控能力跟得上 Agent 的發展。

