训练数据管理系统漏洞
风险概览
风险编号：GAARM.0001.002
风险归属：GAARM.0001
安全阶段：基座安全
生命周期：训练阶段
创建时间：2024.05.01
修改时间：2024.05.01
攻击概述¶
训练数据管理系统负责存储、处理、标注和提供数据，将准备好的数据交付给模型进行学习。当该系统存在供应链相关的安全漏洞，攻击者可以利用这些漏洞来篡改数据、窃取数据，甚至通过数据投毒影响模型的训练结果。
攻击案例¶
| 攻击案例 | 描述 |
|---|---|
| 案例一 | 攻击者可能利用训练数据管理系统中的风险，未授权访问敏感数据，进一步实现对数据的篡改 |
| 案例二 | Dataiku DSS CVE-2023-51717漏洞导致绕过系统访问的认证功能，攻击者可以未授权访问数据与系统 |
攻击风险¶
- 数据投毒攻击：攻击者可能会向训练数据中注入恶意数据，影响模型的决策过程，导致模型预测不准确或产生偏见。
- 模型窃取攻击：攻击者尝试通过询问模型来逆向工程并获得模型的参数或训练数据，从而窃取知识产权。
- 数据泄露：攻击者通过未授权访问获取敏感的训练数据。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 安全更新与审计 | 定期更新和审计训练数据管理系统以修复漏洞并增强安全性 |
| 监控和日志 | 实施实时监控和日志记录，以便及时发现和响应可疑活动 |