AI 大模型护栏
面向车载助手、运营智能体和企业大模型应用的 AI 安全防护产品，帮助企业识别并拦截 Prompt 注入、敏感信息泄露、越权工具调用、不合规输出和高风险自动化操作。
木卫四 V-Guard AI 大模型护栏是什么？
V-Guard 是专门针对大语言模型（LLM）和智能体（Agent）的安全代理组件。
- 解决问题：防御 Prompt 注入、敏感数据泄露、越权工具调用及输出不合规等语义级安全威胁。
- 核心能力：注入拦截、隐私脱敏、权限管控、合规审查、安全审计。
- 适用对象：主机厂、自动驾驶团队、机器人厂商及引入 AI 提效的企业安全团队。
- 与 S3 Platform 的关系：属于 Shield（防护风险）层产品，是 V-SafetyMind 等座舱应用的安全能力底座。
主要防护能力
构建从输入到输出的全链路 AI 安全防线
Prompt 注入防护
实时检测并拦截恶意指令、越狱尝试和系统提示词窃取。
敏感信息检测
识别并脱敏输入输出中的 PII 数据、车辆 VIN 码和企业机密。
越权调用拦截
基于身份和上下文，拦截未授权的智能体工具调用尝试。
工具调用管控
细粒度控制 Agent 对外部 API、数据库和执行环境的访问权限。
输出合规审查
对模型生成的文本进行合规性、有害性和价值观审查。
模型行为审计
记录所有会话、防护日志和工具调用记录，满足合规审计要求。
安全策略编排
提供可视化的策略引擎，灵活配置不同场景下的拦截和放行规则。
与 VSOC 联动处置
将 AI 安全事件实时同步至 VSOC，实现跨域关联分析和自动化响应。
典型应用场景
车载语音助手安全
防止车内人员或外部攻击者通过语音注入恶意指令，干扰驾驶安全。
智能座舱大模型安全
保障座舱娱乐和信息查询服务不输出有害内容，保护车主隐私。
VSOC 运营智能体安全
管控安全运营智能体对关键数据的访问权限，防止误操作。
企业知识库问答安全
确保员工在使用内部大模型时不泄露敏感业务数据。
机器人任务规划安全
审查具身智能机器人的行动规划，防止执行危险物理动作。
售后和客服智能体安全
保障面向客户的 AI 客服输出合规，防止被诱导做出虚假承诺。
它和其他木卫四产品的关系
| 产品 | 主要解决什么 | 与本产品关系 |
|---|---|---|
| S3-VSOC | 云端安全运营与事件闭环 | 接收 V-Guard 拦截的越权请求与注入告警。 |
| V-SafetyMind | 座舱全域安全状态监测与隐私权限防护 | V-SafetyMind 是座舱场景的综合产品，其中大模型保护部分由 V-Guard 驱动。 |
| V-Copilot | 自动化的安全研判与响应智能体 | V-Guard 负责保护 V-Copilot，防止其在调用安全工具时被恶意诱导。 |
常见问题
什么是 AI 大模型护栏？
AI 大模型护栏是一种专门针对大型语言模型（LLM）和智能体（Agent）的安全代理组件。它位于用户输入、大模型和外部工具之间，负责实时检测和过滤恶意输入、违规输出及高风险工具调用，确保 AI 系统在预定的安全边界内运行。
AI 大模型护栏可以防什么？
它可以防御 Prompt 注入（Prompt Injection）、越狱攻击（Jailbreak）、敏感数据泄露（如 PII、企业机密）、不合规或有害内容生成，以及智能体在调用外部 API 时的越权操作。
Prompt 注入攻击是什么？
Prompt 注入是指攻击者通过在输入中植入精心设计的恶意指令，试图覆盖或篡改大模型原有的系统提示词（System Prompt），从而诱导模型执行未授权任务或泄露敏感信息的攻击手法。
车载大模型为什么需要安全护栏？
车载大模型直接与车内人员和车辆控制接口交互。如果没有护栏，攻击者可能通过语音输入恶意指令操控车辆功能，或者模型可能输出不适当的内容影响驾驶情绪。安全护栏是保障座舱 AI 体验底线的基础。
智能体工具调用为什么需要管控？
智能体（Agent）不仅能对话，还能执行动作（如查询数据库、控制设备）。如果不对其调用的工具进行细粒度权限管控，一旦智能体被 Prompt 注入控制，攻击者就能通过智能体作为跳板，直接入侵后端系统或物理设备。
AI 大模型护栏如何与 VSOC 联动？
护栏拦截的所有高危注入尝试和越权调用事件，会实时以标准化日志发送给 VSOC 平台。VSOC 可以将其与车辆网络流量、终端日志进行关联分析，快速定位攻击源并触发全网自动化防御。
是否支持审计和合规报告？
支持。系统会详细记录所有的对话内容、拦截动作、策略匹配详情和工具执行结果，支持数据留存和加密存储，一键生成符合监管要求的 AI 安全审计报告。
木卫四 AI 大模型护栏适合哪些客户？
主要适合正在将大模型引入业务的主机厂（OEM）、Tier1 供应商、自动驾驶团队、机器人研发厂商，以及希望保障内部 AI 办公和研发效率的企业安全团队。