人工智能与机器学习模型本身已成为高价值资产,模型文件、训练数据及超参数可能被窃取用于仿制服务或推断隐私。保护AI资产安全是前沿的数据防泄露课题。解决方案采取“端到端”的保护策略。在训练阶段,对使用的训练数据进行脱敏或加密,并在可信执行环境中进行训练。对生成的模型文件进行加密和完整性签名,防止篡改。在部署和推理阶段,不直接分发模型文件,而是通过加密的API接口提供服务,并在API网关实施严格的调用认证、频率限制和输入输出监控,以对抗模型提取攻击。对于必须分发给边缘设备的模型,可运用模型水印或模型混淆技术,在模型性能中嵌入可追溯的标记,或增加其逆向工程的难度。同时,监控暗网和代码仓库,查看是否有本...
人工智能与机器学习模型本身已成为高价值资产,模型文件、训练数据及超参数可能被窃取用于仿制服务或推断隐私。保护AI资产安全是前沿的数据防泄露课题。解决方案采取“端到端”的保护策略。在训练阶段,对使用的训练数据进行脱敏或加密,并在可信执行环境中进行训练。对生成的模型文件进行加密和完整性签名,防止篡改。在部署和推理阶段,不直接分发模型文件,而是通过加密的API接口提供服务,并在API网关实施严格的调用认证、频率限制和输入输出监控,以对抗模型提取攻击。对于必须分发给边缘设备的模型,可运用模型水印或模型混淆技术,在模型性能中嵌入可追溯的标记,或增加其逆向工程的难度。同时,监控暗网和代码仓库,查看是否有本...