AI 时代,不用大模型怕错失先机,用了又怕数据云端“裸奔”
企业如何兼顾数据隐私与高效部署,亟待破局
而 “机密计算” 正以硬件级安全范式重塑信任根基:
它将安全防线深植于物理芯片之中
在计算最底层构建无法被软件绕过、高度隔离的信任锚点
目前,火山方舟已将机密计算技术原生内置于MaaS平台,在行业内率先推出MaaS原生的机密推理服务。它不仅能进一步解决运行时数据的安全保护难题,还向用户提供可自行验证的远程证明文件,带来“透明可验证”的信任。
更关键的是,基于原生内置,火山方舟机密推理服务默认支持PD分离(Prefill-Decode disaggregation)高性能推理框架,在提供更高等级安全防护的同时,保证推理效率。目前,火山方舟机密推理服务已支持 Doubao-Seed-1.6-250615 可选部署(支持LLM/VLM),未来计划覆盖更多模型。

火山方舟豆包大模型机密推理服务介绍
机密计算:构筑“芯片级”安全防线
在火山方舟已有安全机制的基础上,机密计算通过把推理任务运行在可信执行环境(TEE)中,为用户数据带来更高等级的安全保护:
•芯片级安全隔离:从物理芯片(GPU/CPU)到容器的全链路安全隔离,即使底层基础设施被入侵,数据也无法被窃取或篡改,从根本上杜绝云服务商、大模型供应商以及其他非授权人员接触数据。
•端到端数据保护:用户在平台会话中的明文数据(如 Prompt、Response)仅在 TEE 内部可见,数据进出硬件隔离环境时,执行严格校验并加密传输。
•硬件级密钥托管:基于可信硬件执行环境构建密钥管理系统,确保密钥全生命周期始终运行在可信边界内。
•可验证透明信任:提供可下载的远程证明报告,用户可离线验证部署环境的可信性,实现从“契约信任”到“技术可验证信任”的转变。

火山方舟推理接入点安全审计页面
MaaS原生:安全与效率兼得
推理性能是大模型服务质量的重要指标之一。传统模式下,用户往往需要基于云基础设施中提供的可信计算能力,自行构建可信执行环境。相比之下,火山方舟MaaS原生机密推理服务具备两大核心优势:
•开箱即用:用户仅需在创建推理接入点时选择“机密部署”方式,即可一键开启机密推理能力,大幅降低使用门槛。
•高效推理:默认支持PD分离式高性能推理框架,兼顾安全与性能。

火山方舟持续在安全领域加强投入,已通过一系列国内外权威认证,包括:ISO系列认证、CSA STAR、SOC 1/2/3审计、国家网络安全等级保护(三级)认证、信通院可信AI/可信云认证、电子四院GB/T-45288大模型国标符合性认证,以及第三方信息系统安全测评等。
多行业落地:给数据一个云端“安全屋”
火山方舟MaaS原生机密推理服务兼顾数据安全与模型效能,为多行业企业提供可靠路径与实践经验:
智能员工助手:保护企业机密信息安全
上汽大众基于豆包大模型打造智能知识助手“SVW Copilot·出众”日常调用企业内部各业务域知识库、随时随地响应员工提问,帮助员工提升办公事务效率。火山方舟机密推理服务帮助上汽大众盘活内部知识,在保障内部数据隐私与安全的前提下,实现了企业知识资源的智能化利用。
AI代码生成:守护企业数字资产
火山方舟为 TRAE——AI 原生编程工具提供高安全等级的模型推理服务。通过把代码推理任务运行在一个资源独享、高度隔离、严格保护的“云端安全屋”,确保 TRAE 智能编程助手在为开发者提供代码生成、优化、调试等智能化支持的过程中,开发者代码始终处于严格的安全防护之中,Prompt、Response 等数据不会被任何非用户的第三方触碰获取。
欢迎点击阅读原文,了解更多火山方舟机密推理服务最佳实践。
https://www.volcengine.com/docs/82379/1803071
