云平台安全漏洞
风险概览
风险编号：GAARM.005
风险归属：GAARM.0005.003
安全阶段：基座安全
生命周期：部署阶段
创建时间：2024.05.01
修改时间：2024.08.09
攻击概述¶
大模型应用由于对算力的高需求，通常需要依托云平台环境来完成训练和推理任务，因此云平台的安全性对于大模型的安全至关重要。但是由于云平台的技术缺陷、技术漏洞、缺乏多重身份验证等原因导致的安全隐患，攻击者可以利用这些安全问题，对部署在云上的大模型进行恶意攻击，例如读取敏感数据、非法窃取并使用账号凭证等，给平台带来一系列损失，包括但不限于数据泄露、服务中断、恶意代码执行等。这些攻击不仅影响大模型的安全性，还可能威胁到使用该云服务的其他用户。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | Amazon SageMaker Notebook服务发现CSRF漏洞，攻击者可能利用漏洞读取敏感数据并在客户环境中执行任意操作 |
| 案例二 | 由于Laravel 版本 ( CVE-2021-3129 ) 的系统存在安全隐患，易受攻击，导致有攻击者利用从Laravel窃取到的AWS凭证，非法探测该凭证可以使用的云端托管模型服务，受害者每天损失可超46000美元 |
攻击风险¶
- 数据泄露：由于云应用程序的安全漏洞、不安全的API等原因，可能导致敏感信息被未授权的第三方访问或公开，造成严重的隐私和合规性问题。
- 模型应用未授权访问：云平台安全漏洞可能导致用户部署的模型应用出现未授权访问的风险。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 严格的访问控制 | 确保只有经过身份验证和授权的用户可以访问API端点 |
| 最小权限原则 | 实施最小权限原则，确保用户和进程仅拥有完成其任务所必需的访问权限 |