训练环境隔离缺陷
风险概览
风险编号：GAARM.0002
子风险：无
安全阶段：基座安全
生命周期：训练阶段
创建时间：2024.05.01
修改时间：2024.08.09
攻击概述¶
训练环境隔离是指，通过将调试和运行环境划分为两个完全隔离的区域，以此防止调试环境对运行环境的渗透攻击。在调试环境中，可以修改程序逻辑但只能使用脱敏数据；而在运行环境中，能操作真实全量数据且操作受到审查，结果可追溯和可追责。如果训练环境隔离存在缺陷，可以从开发环境进入到运行测试环境，则会导致未授权用户访问敏感数据，给攻击者可趁之机。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | 训练环境隔离缺陷，导致攻击者从开发者环境进入到运行测试环境，从而出现训练数据泄露等风险 |
攻击风险¶
- 数据泄露：攻击者可能会访问和窃取存储在运行环境中的敏感数据，这些数据的泄露可能导致重大的经济损失和法律责任。
- 获取系统控制权：如果攻击者渗透到运行环境，他们可能会获得系统控制权，进而操控数据访问、资源管理和系统设置。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 强化隔离措施 | 使用安全技术和最佳实践来加强调试环境和运行环境之间的隔离 |
| 访问控制 | 实施基于角色的访问控制（RBAC）策略，确保只有经过授权的人员才能访问运行环境 |
| 安全沙箱技术 | 将LLM的运行环境进行隔离和保护，以防止其受到外部攻击和干扰 |
| ## 参考 |