开源 AI 的承诺非常强大:下载模型,本地运行,避免平台锁定,并获得对自己 AI 系统的更多控制权。但用户在 Kimi 拒绝回答基本政治问题时的体验,显示了“开源”一词需要更仔细的审视。
一个 AI 模型在技术上可以是可用的,但仍然带有用户无法完全察觉的边界。这些边界可能来自训练数据、训练后对齐、拒绝政策、安全过滤器、默认提示、产品包装、托管 API、本地部署工具或更新渠道。
可信的担忧不是每个中国开源模型都秘密设计用来入侵用户计算机。这需要具体的技术证据。更重要的担忧是,广泛采用的模型可能成为个人设备上的默认信息层,同时默默教导用户哪些问题被允许、被劝阻或被引导。


