利用云凭证非法访问云端模型
风险概览
风险编号：GAARM.0053.002
风险归属：GAARM.0053
安全阶段：身份安全
生命周期：应用阶段
创建时间：2024.05.01
修改时间：2024.05.01
攻击概述¶
现阶段AWS、Azure等云厂商均对外提供大模型托管服务，开发人员通过该服务轻松使用主流模型，快速完成应用程序的构建。该风险指攻击者通过盗取或不当获取的云服务凭证，非法登录利用云平台API，探索并访问云端模型，执行未授权的操作，如数据窃取、服务滥用或部署恶意任务。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | Sysdig监控到有攻击者利用从Laravel窃取到的AWS凭证，非法探测该凭证可以使用的云端托管模型服务，受害者每天损失可超46000美元 |
攻击风险¶
- 云端模型滥用：使用非法获取的凭证，攻击者通过云API测试并发现哪些云端模型的权限被开放，然后滥用这些模型进行非法操作。
- 云端凭证泄露：攻击者通过非法获取到的云端凭证，滥用企业云端其他的服务。
- 企业经济损失：云端模型算力按量计费，滥用单日费用数万元。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 最小访问原则 | 利用云端服务控制策略，集中管理权限并降低账户权限过多的问题，避免单个凭证滥用各类云端服务 |
| 安全审计和自动化扫描 | 在代码提交和部署前进行自动化安全扫描，检测硬编码凭据的风险，以发现潜在的安全问题 |
| 监控和警报 | 部署监控系统来检测云上不寻常的访问模式或操作，针对异常访问行为及时处理，避免更大的经济损失 |