2025 OWASP 大语言模型应用程序10大风险
2025 OWASP 大语言模型应用程序10大风险
聊安全 一起聊安全 2025-01-07 02:18
网安人必收！2024年度报告&白皮书、安全标准与技术方案全汇总
在这个AI技术日新月异的时代，大规模语言模型（LLM）正以前所未有的速度重塑各行各业。从客户互动到内部运营，LLM技术的广泛应用为我们的工作和生活带来了前所未有的便捷与效率。然而，随着技术的深入渗透，一系列安全挑战也随之浮现，不容忽视。
通过看2025版大语言模型应用程序10大风险的更新，可以了解LLM存在的风险类型有哪些，并与2023版10大风险进行对比，了解主要存在风险及新增风险。
OWASP 大语言模型应用程序10大风险(OWASP Top 10 for LLM Applications 2025)
LLM01:2025 提示注入（
2025 Prompt Injection
）
LLM02:2025 敏感信息披露（
2025 Sensitive Information Disclosure
）
LLM03:2025 供应链（
2025 Supply Chain
）
LLM04: 2025 数据和模型投毒（2025
Data and Model Poisoning
）
LLM05:2025 不当输出处理 （
2025 Improper Output Handling
）
LLM06:2025 过度代理（
2025 Excessive Agency
）
LLM07:2025 系统提示泄露（
2025 System Prompt Leakage
）
LLM08:2025 向量和嵌入的弱点（
2025 Vector and Embedding Weaknesses
）
LLM09:2025 虚假信息（
2025 Misinformation
）
LLM10:2025 无界消费 （
2025 Unbounded Consumption
）
LLM应用架构与TOP 10风险点对应
OWASP 大语言模型应用程序10大风险(OWASP Top 10 for LLM Applications 2023)
LLM01：提示词注入（Prompt Injection）
LLM02：不安全输出（Insecure Output Handling）
LLM03：训练数据投毒（Training Data Poisoning）
LLM04：模型拒绝服务（Model Denial of Service）
LLM05：供应链漏洞（Supply Chain Vulnerabilities)
LLM06：敏感信息泄露（Sensitive Information Disclosure）
LLM07：不安全的插件设计（Insecure Plugin Design）
LLM08：过度代理（Excessive Agency）
LLM09：过度依赖（Overreliance）
LLM010：模型窃取（Model Theft）
LLM应用架构与TOP 10风险点对应
LLM Top 10对比（2023版和2025版）
| OWASP Top 10 for LLM Applications 2025 | OWASP Top 10 for LLM Applications 2023 |
| LLM01:2025 提示注入（2025 Prompt Injection） | LLM01：提示词注入（Prompt Injection） |
| LLM02:2025 敏感信息披露（2025 Sensitive Information Disclosure） | LLM02：不安全输出（Insecure Output Handling） |
| LLM03:2025 供应链（2025 Supply Chain） | LLM03：训练数据投毒（Training Data Poisoning） |
| LLM04: 2025 数据和模型投毒（2025 Data and Model Poisoning） | LLM04：模型拒绝服务（Model Denial of Service） |
| LLM05:2025 不当输出处理 （2025 Improper Output Handling） | LLM05：供应链漏洞（Supply Chain Vulnerabilities) |
| LLM06:2025 过度代理（2025 Excessive Agency） | LLM06：敏感信息泄露（Sensitive Information Disclosure） |
| LLM07:2025 系统提示泄露（2025 System Prompt Leakage） | LLM07：不安全的插件设计（Insecure Plugin Design） |
| LLM08:2025 向量和嵌入的弱点（2025 Vector and Embedding Weaknesses） | LLM08：过度代理（Excessive Agency） |
| LLM09:2025 虚假信息（2025 Misinformation） | LLM09：过度依赖（Overreliance） |
| LLM10:2025 无界消费 （2025 Unbounded Consumption） | LLM010：模型窃取（Model Theft） |
对比发布的2025版和2023版的 LLM Top 10，对于2025版的前七项安全风险问题基本和2023版发布的安全风险问题基本一致，有一些调整而已，唯一不变的是LLM01:提示注入风险问题同样是最大的安全风险。同时也新增几项安全风险，比如系统提示泄露、向量和嵌入的弱点及无界消费等，部门风险有一些整合，比如无界消费这一概念扩展了传统的“拒绝服务（Denial of Service）”风险，不仅包括资源管理方面的风险，还涵盖了在大规模 LLM 部署中可能出现的意外成本问题。
全部内容请到帮会中下载，感谢支持！！
END
来源：OWASP及OWASP中国
freebuf 帮会简介
「一起聊安全」
公众号及帮会
致力于网络安全材料汇总与分享，
围绕网络安全标准
、安全政策法规
、安全报告及白皮书
、安全会议、安全方案、新技术
等
方向，与FREEBUF知识大陆共建【一起聊安全】帮会，目前相关内容已有
5300+
，安全标准涵盖国标、行标、团标等，包括等保、关基、商密、数据安全、
云计算、物联网、工业互联网、移动安全、风险评估、安全攻防等30+方向内容，覆盖最新安全政策法规
、安全报告及白皮书等，为网安人提供最新最全资料。****
加入方式：网页端和APP
网页端：
https://wiki.freebuf.com/societyDetail?society_id=69
APP端：
点分享
点收藏
点在看
点点赞