权限管控不当
风险概览
风险编号：GAARM.0053
子风险：GAARM.0053.001、GAARM.0053.002、GAARM.0053.003
安全阶段：身份安全
生命周期：应用阶段
创建时间：2024.05.01
修改时间：2024.05.01
攻击概述¶
该风险是指，攻击者利用大模型应用平台由于权限设置错误或管控不当的漏洞，能执行超出预期权限的操作。攻击者利用该风险恶意操纵权限管控不当的用户或者直接访问相关API接口，导致出现未授权、越权等风险。例如，普通用户越权访问付费模型。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | OpenAI普通用户账号通过特定URL地址，可以越权访问GPT-4模型 |
攻击风险¶
- 数据泄露：未经授权的用户可能会访问到敏感的训练数据或生成的信息。
- 服务滥用：攻击者可能会滥用高级模型的功能，如生成不当内容或执行非法任务。
- 财务损失：服务提供商可能会因为处理未授权的高级请求而遭受财务损失。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 最小访问原则 | 定期审查和更新权限管理策略，确保只有授权用户才能访问敏感资源或功能 |
| 全面的安全测试 | 在发布任何新模型或功能更新前，进行彻底的安全测试，确保没有遗漏任何潜在的安全漏洞 |
| 持续的监控和审计 | 实施有效的监控系统来跟踪资源访问，以及定期进行安全审计，以便快速发现并响应任何未授权的访问尝试 |
| 员工培训和意识提升 | 对开发和运维团队进行定期的安全培训，增强他们对于安全最佳实践和潜在威胁的认识 |