未授权访模型部署环境
风险概览
风险编号：GAARM.0051
子风险：无
安全阶段：身份安全
生命周期：部署阶段
创建时间：2024.05.01
修改时间：2024.08.08
攻击概述¶
该风险是指攻击者利用ML部署平台服务中的配置错误、已知漏洞或缺乏适当的身份验证和授权机制等风险，实现对ML部署环境的未授权访问，进一步开展窃取敏感数据、滥用计算资源、破坏AI模型的完整性或进行其他恶意活动。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | 攻击者利用Ray框架中的API未授权访问风险，实现远程代码执行，完成对目标企业计算资源的控制 |
攻击风险¶
- 敏感信息泄露： 攻击者可能会访问和窃取训练数据、模型参数、用户数据等敏感信息。
- 恶意操作：未授权访问可能导致模型被恶意操作，输出结果可能会产生误导。
- 资源滥用：攻击者可能会未经授权地使用ML部署环境中的计算资源进行挖矿或其他计算密集型任务。
- 模型完整性破坏：攻击者可能会修改或污染AI模型的训练过程，导致模型准确性下降或产生误导性的结果。
- 服务中断：攻击者的行为可能会导致ML服务中断，影响业务连续性。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 加强身份认证和访问控制 | 实施访问控制和身份验证机制，以防止未经授权访问LLM部署平台环境及其数据，避免使用ML平台服务的默认认证策略 |
| 定期更新和打补丁 | 及时更新ML平台和依赖的库，以修复已知漏洞 |
| 模型保护和安全部署 | 部署前对模型进行安全扫描和渗透测试，采用加密、签名等技术手段保护模型参数和训练数据的机密性和完整性 |