API信息泄露
风险概览
风险编号：GAARM.0022
子风险：无
安全阶段：数据安全
生命周期：应用阶段
创建时间：2024.05.01
修改时间：2024.05.01
攻击概述¶
该风险是指在构建GPTs等应用阶段，通过定义外部API的地址、路由、请求方式、参数信息、认证方式等关键信息，这些API接口定义赋予了LLM模型特定任务的解析和执行能力。攻击者可以巧妙地构造提示词，诱导LLM模型输出它所掌握的API接口列表信息，进而会利用企业公开的GPTs应用测绘获取目标的资产信息，进一步利用传统API中存在的未授权访问、代码执行等漏洞，实现从“AI云端”到目标企业的攻击。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | 该案例介绍了GPTS Action攻击这种典型的API信息泄露 |
攻击风险¶
- 提示和数据泄露：攻击者利用获取的API接口信息，进行目标企业的网络资产测绘。
- 恶意攻击：利用API存在的安全漏洞进行未授权访问或者代码执行，实现从“AI云端”到目标企业的攻击
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 强化认证 | 实施多因素认证、OAuth等安全框架，确保只有经过授权的用户和服务能够访问API |
| 定期审查 | 定期对API的使用情况和权限设置进行审查，确保没有不当的访问或配置错误 |
| 输入/输出验证 | 实施严格的输入验证机制，过滤和清理传入的提示词。包括检查和阻止任何包含潜在有害指令或可疑模式的输入 |