Anthropic 的這項公告重新提出了網路安全領域的一個重要問題:如何運用前沿生成式模型協助防禦,同時避免助長濫用。「網路安全使命」推出兩項具體服務。OSS Scanner 會定期為已加入的開源專案產出模型生成的弱點報告,其中包含概念驗證(PoC)和建議修補方式;為了優先提升速度,這些報告會在未經人工審查的情況下直接送出。另一方面,關鍵基礎設施防禦計畫(CIDP)則透過一群成熟的 OT 廠商與資安服務提供者,結合模型、威脅研究和現場工程支援,協助強化電網、供水系統與交通網路的安全。
對開源維護者來說,這項服務帶來立竿見影的好處:以機器運作的速度取得發現結果,再搭配建議修補方式,就能大幅縮短從發現問題到完成修復的時間。Anthropic 預期真陽性率將超過 90%,並會持續提升修補建議的品質。不過,未經審查的模型生成報告也會改變維護團隊的工作流程:團隊必須處理更多告警、更快確認是否能利用漏洞,並導入自動化或半自動化的修補流程。無法承受告警量增加的專案,建議繼續採用經人工驗證的揭露管道;Anthropic 也會透過既有計畫持續進行協調式揭露。
營運技術(OT)環境面臨的限制和風險則有所不同。CIDP 的合作夥伴包括系統整合商、資安公司與設備製造商,這些都是營運者仰賴、能安全落實修補措施的可信任中介。Anthropic 採取務實做法:先從小規模群組開始,了解模型如何融入現有 OT 分流和變更控制流程,再謹慎擴大規模。此計畫也考量到 OT 環境的實際情況:設備使用年限長、維護時段有限,而且錯誤或時機不當的修補可能造成嚴重後果。
更廣泛來看,防禦工作也能跟上機器的速度,但前提是建立新的驗證機制。模型生成的發現有助加快漏洞探索,卻也可能造成驗證瓶頸和誤報,浪費維護者所剩不多的時間;更糟的是,可能促使人們在脆弱的 OT 系統中過早安裝修補程式。想要善用這些工具的組織,必須更新作業手冊,涵蓋問題分流、自動化測試、分階段部署,以及如何負責任地分享未經審查的弱點資料等法律與協調流程。


