主页 / 第16期“安全范儿”技术沙龙「LLM安全漏洞挖掘」专场 / 火山引擎AI安全保障实践-曲乐炜
-
作者曲乐炜@火山引擎
-
简介
这份文档详细介绍了火山引擎在AI领域的安全保障实践。首先，文档概述了火山引擎的AI业务架构，该架构涵盖了从底层AI基础设施（AI Infra）、大模型服务平台（MaaS）到智能体开发运维（Agent DevOps）和最终的AI智能体（AI Agent）应用的全方位服务。
文档的核心部分阐述了火山引擎的AI安全保障方案，强调“安全是一切Agent的基础”。该方案构建了一个多层次的纵深防御体系，包括针对大语言模型（LLM）本身的提示词攻击防护、模型平台安全；针对Agent和工具的协议安全、沙箱防护；以及覆盖底层基础设施和平台治理的全面安全措施。
文档重点分析了AI智能体场景中MCP（Model-as-a-Service Connector Protocol）面临的七大核心安全风险，例如传统的Web服务漏洞、工具描述投毒、间接提示词注入、恶意“地毯式骗局”（Rug Pull）以及企业数据安全风险等。
为应对这些挑战，火山引擎设计了MCP安全架构。该架构包含三大核心策略：
- 第一，严格的安全准入控制，确保所有接入MCP市场的服务都经过安全扫描和漏洞修复；
- 第二，原生安全设计，针对多租户体验场景和单租户私有化部署场景，分别采用临时凭证隔离和VPC内部署等不同安全机制；
- 第三，运行时安全防护，通过“大模型防火墙”和“AgentArmor”等工具，实时检测并拦截恶意输入和非预期行为，保障模型和智能体在运行过程中的安全。
-
援引https://mp.weixin.qq.com/s/u8vIFU_TXIrXJ1EZOPBB4g
-
提示本站仅做资料的整理和索引,转载引用请注明出处
相关推荐
-
2019-09-02 07:15:20 -
2022-07-20 14:22:58.070394 -
2020-08-27 03:21:12.953478 -
2023-04-29 16:43:37.823138
附件下载
-
火山引擎AI安全保障实践-曲乐炜-img.pdf