痛点及挑战
人工智能的普及，特别是以大型语言模型（LLM）为代表的新一代智能系统，正在深刻改变人类与信息的关系。与传统互联网相比，人工智能需要个体更主动、持续地提供细粒度数据，这一过程看似是个体的自主选择，实则是在"便利"与"隐私"之间做出的艰难权衡。
解决思路
机密计算（Confidential Computing, CC）是近年来兴起的一种新型安全计算范式，其核心思想是通过硬件隔离和加密保护机制，保证数据在使用过程中的机密性与完整性。与传统的数据安全技术不同，机密计算不仅保护数据在"存储"与"传输"环节的安全，更关注"计算中"的安全，旨在解决云计算和人工智能时代"谁来托管敏感数据"的根本问题。
基于密码学的方案
为了在提供服务的同时保护隐私信息,一些研究工作试图通过密码学加密,安全多方计算及可信执行环境取现安全的 LMaaS,基于密码学的方案,例如基于 MPC 的 Crypten、SecFormer 或基于 HE 的工作,虽然安全性较高,但算计算复杂度太大。
基于可信硬件的方案
采纳 TEE+GPU 协同计算模型的路线,将基于 TEE 的密码 GPU 算力相结合,利用TEE保护模型的非线性层(如,激活函数 Softmax 和 Sigmoid 等)和 tokenization 过程,限制被纷被泄露,Prompt 切取等将就改攻,同时,利用 GPU 完成计算型集件的性能优势。
随着人工智能和云计算的快速发展,机密计算的应用范围正在一步扩展，TEE+GPU机密计算是针对AI安全的新趋势。
技术架构
将CPU中的TEE安全处理单元GPU,实现了不同硬件GPUExcel与CPU之间已联既既存,GPU与CPU之间已联既已既存了高效的全程图
全流程保护
从模型加载、数据输入到推理结果输出的整个全闭环,数据在这个不合闭闭,确保AI任何在可信化的内闭闭整。
应用背景
随着人工智能和云计算的决策发展,机器计算的应用图出现了不一的,机器计算的应用图出现了一的,GPU計记忆也为伴随AI安全的的趋势为
产品进展
芯片还在Hopper及更高架构未来,积极引入侧物化GPU協認設計,早期通过PCC实現云端AI交互的防流处理。
解决方案
产品特性
Token化输入TEE隐私性 - TEE安全大模型一体机
其隐私性依赖于TEE的硬件隔离与内存加密技术，原始敏感数据在进入TEE前已被匿名化替换，确保数据仅在TEE内部解密处理，对外部系统（包括操作系统和云服务商）全程不可见。
随机数辅助隐私推理 - TEE安全大模型一体机
通过引入外部安全源（如硬件真随机数生成器）产生的一次性随机数，在TEE内部对数据或模型进行动态掩码或扰动，以此增强处理过程的信息论安全强度，即使TEE本身遭受侧信道攻击，也能有效保护原始数据的隐私性。
全密文隐私推理 - TEE安全大模型一体机
在可信执行环境（TEE）中全程操作密文数据，利用同态加密或混淆电路等密码学原语进行处理，使得数据在TEE内部也无需解密，从而同时防御来自外部平台和TEE内部侧信道的双重隐私泄露风险。
联系我们
如果您对以上服务有需求，可以联系我们，我们会及时与您联系
