（来源：安博通）
近日，全球权威机构Gartner发布《2026年重点关注的十大战略技术趋势》报告。其中提出，AI安全平台（AISPs）将成为企业保护AI投资、构建竞争壁垒的关键支撑。预计到2028年，超半数企业将采用AI安全平台，而约八成未经授权的AI操作将来自内部违规，凸显了平台的管控价值。
AI技术正成为企业数字化转型的“必选项”，驱动着效率跃升与业务创新。但伴随大模型、智能体的规模应用，AI原生风险也爆发式增长。国家网信办《生成式人工智能服务管理暂行办法》明确要求，企业需落实AI安全主体责任，筑牢技术与合规双重防线。
AI原生风险
传统安全体系的短板
AI技术的非结构化输入、多语言交互、上下文依赖等特性，让传统安全工具陷入查不清也防不住的困境，三类核心风险已从理论走向现实。
1、提示注入攻击
攻击者通过篡改输入指令，诱导AI模型绕过预设的安全规则，从而生成恶意内容或泄露敏感信息。2024年，ChatGPT曾因该漏洞被诱导生成恶意代码，而传统关键词过滤机制无法解析语义关联，完全失去防御效果。
这类攻击隐蔽性强，小到诱导生成违规内容，大到窃取企业核心信息，给业务安全带来直接冲击。
2、恶意智能体行为
攻击者通过篡改模型参数、劫持控制权或协同攻击，使AI系统在特定条件下执行非法操作，如数据窃取、系统破坏等。2024年，微软Azure AI“健康助手机器人”的权限提升漏洞，险些导致数百租户的敏感健康数据泄露；美国人工智能公司Anthropic为Claude模型新增的Computer Use功能，可能因提示词注入下载并运行恶意软件，扩大了潜在威胁面。
这类风险不仅破坏系统稳定性，更直接威胁数字资产安全。
3、数据泄露
AI模型训练与推理需处理海量数据，包括用户隐私、企业机密、业务数据等。由于权限配置错误、API接口暴露等问题，数据泄露事件频发。2024年，ChatGPT因接口漏洞导致用户对话数据被第三方访问，Claude模型因权限管理问题泄露训练数据片段。
此类事件引发合规风险的同时，还会削弱企业核心竞争力。
安博通AI安全平台
直击AI原生风险
面对上述风险，传统安全工具已显得力不从心。安博通对此推出AI推理平台一体化安全解决方案，基于OWASP发布的LLM Applications（大模型应用）Top 10漏洞以及MITRE ATLAS框架，遵循最小权限、纵深防御、零信任架构的设计原则，为企业提供全方位AI安全防护。
零信任架构：持续验证防护
打破“内部可信、外部不可信”的认知惯性，默认不采信任何内部或外部请求，持续验证用户身份、设备状态和上下文环境。用户访问AI资源时需通过多因素认证（MFA），且终端环境需符合安全基线，包括防火墙状态、补丁更新情况等。有效防御内部违规操作和外部伪装攻击。
大模型防火墙：阻断提示注入
融合正则匹配过滤、语义分析等技术，实时识别并阻断恶意提示词。针对“多语言绕过审核”“模糊语义诱导”等复杂攻击场景，精准检测到英文、代码等非中文指令中的高危内容，阻止模型生成响应。此外，支持动态策略调整，可根据不同行业合规要求自定义防护规则，确保输出内容始终符合规范。
行为分析与动态防护：智能体行为监控
实时追踪智能体的API调用、数据访问、决策逻辑等行为，通过机器学习算法建立行为基线。当检测到异常操作时，如频繁访问敏感数据、执行未授权任务等，立即触发告警并自动阻断。这种动态防护机制既能抵御外部协同攻击，又能遏制内部权限滥用。
数据脱敏与审计：敏感数据防护
通过预定义规则与机器学习算法，自动识别并加密API传输、数据存储中的敏感信息，实现数据“可用不可见”。同时，记录所有数据访问行为，生成可追溯的审计日志。即使数据被意外访问，也不会暴露原始敏感信息；审计日志则帮助企业快速定位漏洞来源，满足合规审计要求。
平台价值
AI安全平台为何成为企业刚需？
传统安全工具的失效
AI模型的输入具有非结构化、多语言、上下文依赖等特点，传统安全检测手段难以适应这种复杂性。例如，无法识别跨语言恶意指令、语义模糊的攻击话术等。AI安全平台通过零信任架构与动态策略调整，填补了传统安全工具的防护缺口，为企业提供更全面的安全防护方案。
内部违规行为的威胁
Gartner预测，到2028年约八成未经授权的AI操作将来自内部违规。例如，员工因疏忽或恶意，通过API接口泄露敏感数据、篡改模型参数等。AI安全平台通过细粒度访问控制、AI使用策略强制执行和行为审计，帮助企业构建内部风险的防控网，有效遏制内部违规行为的发生。
行业合规要求的约束
随着《生成式人工智能服务管理暂行办法》《数据安全法》《个人信息保护法》的落地实施，企业AI应用需满足安全合规要求。AI安全平台的身份验证、数据脱敏、审计追溯等功能，帮助企业对接合规标准。
未来趋势
AI安全平台赋能企业核心竞争力
Gartner将AI安全平台列为2026年十大战略技术之一，其价值远不止风险防控，更关乎企业数字化进程的可持续性。AI安全不再是“成本中心”，而是企业构建信任生态、赢得市场竞争的核心资产。
安博通AI安全平台以“AI治理+安全监控+风险管理”为核心，通过三大路径帮助企业打造可持续竞争优势：
技术架构转型：将AI安全能力嵌入开发、运维和数据流程，实现从虚拟机、网络、API到模型层的全覆盖防护，构建可编排、可扩展的云原生安全架构，规避单体AI系统风险，为企业转型提供技术支撑。
信任生态构建：通过大模型防火墙和数据防护模块，构建模型输入输出可信管道，实现模型、数据与应用的全生命周期可控可溯，为企业打造安全、可信的AI应用生态。
主动风险管理：通过漏洞扫描、对抗测试、攻击模拟等功能，将未知威胁转化为可量化、可处置的安全指标，形成闭环的风险管理体系，提前发现并应对潜在风险，确保AI应用的稳定运行。
数字化转型，安全先行；AI创新，防护为基。作为AI时代安全算力生态构建者，安博通以一体化防护、场景化落地与生态化协同优势，助力企业实现“安全赋能创新，创新反哺安全”的可持续发展。让安全，成为AI创新的加速度！