AI数据安全

AI 系统对数据的依赖程度远超传统应用：它不只「存取」数据，还会把数据编码进参数、压缩进向量、拼进上下文。每多一道这样的加工，就多一层传统数据安全覆盖不到的风险。

三个阶段，三种风险

训练阶段关注的是数据来源与完整性。语料从哪来、有没有被投毒、里面有没有夹带后门触发模式，这些问题的答案会一直留在模型权重里，事后很难清除。

检索与存储阶段关注的是向量化带来的新问题。文本变成 embedding 之后，原有的访问控制和脱敏策略往往失效——向量本身可以被反演出大致语义，而检索权限的设计不当会让越权访问变得非常隐蔽。

推理阶段关注的是运行时泄露。多轮对话中的上下文残留、日志与缓存的落盘策略、多租户环境下的隔离强度，都会决定一次正常请求会不会把别人的数据带出来。

本分类计划覆盖的方向

• 训练语料安全：数据投毒与后门植入的手法、语料来源的合规与版权风险。
• 向量库与检索增强：向量反演攻击、越权检索、embedding 泄露与检索结果的越界拼接。
• 推理链路数据泄露：上下文残留、日志与缓存策略、多租户隔离的常见失效点。
• 数据出域与合规：跨境传输、最小化原则、脱敏与假名化在 AI 场景下的实际做法。
• 敏感信息识别与脱敏：在数据进入模型之前做识别和处理的工程实践。

这个方向的内容还在整理和验证中，写好后会陆续发布在这里。