中华网数码

数码
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置: 数码 > IT硬件 >

微软推EzPC框架:在AI模型验证中增强数据安全性

微软推EzPC框架:在AI模型验证中增强数据安全性
2022-01-16 13:51:44 来源:cnBeta.COM

在数据科学领域工作过的人都知道,开发一个人工智能模型通常可以概括为 3 个阶段:训练、验证和测试。在测试模型的准确性时,选择验证集来调整超参数(hyperparameters)时,通常有很多考虑。

为了进行准确的模型评估,企业倾向于使用一部分真实数据进行验证,但自然会有很多安全和隐私方面的考虑,特别是在处理个人身份信息(PII)方面。

如果你的模型是由一个外部公司开发的,你基本上有两个选择。要么该公司与你分享其模型,这将对其知识产权保护构成风险;要么你与他们分享你的真实数据,这对你来说是一种隐私风险,也可能导致模型对真实数据过度拟合。在做出这两种困难的选择时,也有很多法律障碍需要跳过。因此,虽然企业希望尽快采用人工智能,但在处理数据时,模型开发过程无论是内部还是外部,他们都面临着挑战。

为了解决这个问题, 微软正在研究一个名为 EzPC 的新框架 ,它代表着“轻松安全的多方计算”。 从本质上讲,EzPC 是基于安全的多方计算(MPC)的。MPC 使多方能够使用加密技术联合计算一个函数,而不向对方透露他们的数据。

虽然 MPC 已经存在多年,但事实证明它很难实现,因为在计算多个函数时,使其具有可扩展性和高效性的挑战。EzPC 通过使用 MPC 作为构建块来解决这些问题,并使开发者--不仅仅是密码学专家--能够在此基础上进行扩展。

微软表示

EzPC 的核心是两项创新。

● CrypTFlow 模块化编译器

将用于 ML 推理的 TensorFlow 或 Open Neural Network Exchange(ONNX)代码作为输入,并自动生成类似 C 的代码,然后可以将其编译为各种 MPC 协议。这个编译器既是“MPC感知”的,也是优化,确保了 MPC 协议的高效和可扩展。

高性能的加密协议

第二个创新是一套高性能的加密协议,用于安全地计算复杂的ML函数。

微软吹嘘说,EzPC 在与斯坦福大学研究人员的测试中实现了“有史以来第一次对生产级人工智能模型的安全验证”,从而证明你不需要分享数据来进行验证。尽管微软的EzPC模型在“两个标准的云端虚拟机”上用了15分钟做带有验证元素的安全推理--这比普通推理要长 3000 倍,但该公司表示,这并不重要,因为计算并行可以解决这个问题。

根据目前的方法,验证集中的 500 多个图像在五天的时间内完成了推理,总成本不到 100 美元。微软声称,如果所有的数据都是并行运行的,它可以在 15 分钟内完成对整个集合的推理。你可以在这里发表的论文中探讨这些发现。

【来源:cnBeta.COM】

责任编辑:kj005

文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com
关键词:

个保法颁布一周年:个性化广告发展需平衡隐私保护与用户体验

2022-11-14 11:53:20个保法颁布一周年:个性化广告发展需平衡隐私保护与用户体验

2022年全球折叠手机总销量将首度超过千万部大关

2022-02-09 11:40:212022年全球折叠手机总销量将首度超过千万部大关

印度市场智能手机出货量出炉:vivo占比排名第三

2022-02-08 11:19:13印度市场智能手机出货量出炉:vivo占比排名第三

平板电脑进入新的竞争阶段 重新夺回市场主导权

2022-02-07 16:52:08平板电脑进入新的竞争阶段 重新夺回市场主导权

2021年四季度中国手机市场苹果占有率位居第一

2022-01-27 13:33:342021年四季度中国手机市场苹果占有率位居第一

预测2022年中国市场智能机销量达3.4亿部 同比增长8%

2022-01-26 14:57:26预测2022年中国市场智能机销量达3.4亿部 同比增长8%

相关新闻