LLMs应用传统漏洞风险
风险概览
风险编号：GAARM.0035.002
风险归属：GAARM.0035
安全阶段：应用安全
生命周期：训练阶段
创建时间：2024.08.07
修改时间：2024.08.07
攻击概述¶
传统的应用安全漏洞不仅存在于传统软件系统中，也可能存在于LLM应用程序当中。例如，常见API接口攻击，账户接管，代码执行等，传统的风险漏洞仍然在LLM中存在，因此在训练阶段必须严格遵循安全最佳实践，以确保系统在应对传统风险的时候有足够的防护能力，否则可能会导致服务中断、账户接管、数据篡改等一系列危险。
攻击案例¶
| 案例 | 描述 |
|---|---|
| 案例一 | 案例报导了ChatGPT受到DDoS（分布式拒绝服务）攻击的迹象，外部攻击者试图通过反复发送Ping请求，从而使网络或服务器超载而崩溃 |
| 案例二 | ChatGPT-Next-Web应用程序存在SSRF漏洞(CVE-2023-49785),可以使用此漏洞探测内网网络资源 |
攻击风险¶
- 服务中断：拒绝服务攻击（DoS）或资源耗尽会导致LLM应用无法响应用户请求，影响业务连续性。
- 系统控制：远程代码执行或脚本执行漏洞可能使攻击者接管服务器，植入恶意软件或执行破坏性操作。
缓解措施¶
| 缓解方式 | 描述 |
|---|---|
| 强化API安全 | 确保所有API接口都经过严格的身份验证和授权控制，限制访问权限。 |
| 最小权限原则 | 限制或禁用LLM应用中不必要的命令执行功能，减少潜在攻击面。 |
| 定期安全评估 | 定期对LLM应用进行安全漏洞扫描，及时修补发现的安全问题。 |