開源 AI 的承諾非常強大:下載模型,在本地運行,避免平台鎖定,並獲得對自己 AI 系統更多的控制權。但用戶與 Kimi 拒絕回答基本政治問題的經驗,顯示「開放」一詞需要更仔細的審視。
一個 AI 模型在技術上可能是可用的,但仍帶有用戶無法完全察覺的界限。這些界限可能來自訓練數據、訓練後的調整、拒絕政策、安全過濾器、預設提示、產品包裝、託管 API、本地部署工具或更新通道。
可信的擔憂不是每個中國開源模型都秘密設計用來入侵用戶電腦。那需要具體的技術證據。更重要的擔憂是,廣泛採用的模型可能成為個人設備上的預設資訊層,並默默教導用戶哪些問題是允許的、不鼓勵的或被轉向的。


