现实生活中,代理为具有特定属性的人群提供服务,云存储的发展使得代理能够从云端获取丰富的数据以提高服务效率。在社交网络图中,具有特定属性的人群的邻居节点集很可能具有相同的属性,为代理获取数据提供了潜在机会。随着社交网络图规模的持续增长,本地维护这些数据已变得愈发困难。云计算的快速发展为解决这一问题提供了有效的途径:通过将社交网络图数据上传至云服务器,可以显著节省本地资源,但与此同时也带来了数据安全问题。结构化加密(Structured Encryption,STE)技术为这一问题提供了一种可行的解决方案。STE能够对社交网络图进行加密,并通过构建关联性的加密索引,支持对加密图的复杂查询操作。然而,结构化加密在查询效率和实用性上仍然存在一定的局限性。隐私集合并集(Private Set Union, PSU)协议能够在保护两方交集不被泄露的前提下求出两方集合的并集,为了使得代理从云端获取数据的过程中返回必要的数据并确保数据的安全性,我们提出了基于结构化加密的隐私集合并集协议(Private Set Union for Structured Encryption, STE-PSU),实现了服务器与代理两方的隐私集合并集操作,降低了查询过程中的计算和通信开销。方案引入一种不经意键值存储(Oblivious Key-ValueStores,OKVS)构造,即基于三个哈希函数的混淆布谷鸟哈希表(3-HashGarbledCuckooTable,3H-GCT),在保证隐私的基础上实现了两方高效的PSU协议。同时云服务器上的社交网络图通过结构化加密技术加密后存储,保证了数据的安全性。理论分析与实验结果表明,尽管我们提出的代理与服务器两方的PSU协议需要首先搜索加密索引再进行并集操作,但仍然比已有的PSU协议效率更优。安全性分析证明,本文方案满足自适应选择查询攻击(Adaptive Chosen Query Attacks, CQA2)安全性。
预训练模型容易受到外部敌手实施的模型微调和模型剪枝等攻击,导致它的完整性被破坏。针对这一问题,提出一种针对黑盒模型的脆弱指纹框架FFWAS(Fragile Fingerprint With Adversarial Samples)。首先,提出一种无先验知识的模型复制框架,...
详细信息
预训练模型容易受到外部敌手实施的模型微调和模型剪枝等攻击,导致它的完整性被破坏。针对这一问题,提出一种针对黑盒模型的脆弱指纹框架FFWAS(Fragile Fingerprint With Adversarial Samples)。首先,提出一种无先验知识的模型复制框架,而FFWAS为每一位用户创建独立的模型副本;其次,利用黑盒方法在模型边界放置脆弱指纹触发集,若模型发生修改,边界发生变化,触发集将被错误分类;最后,用户借助模型副本上的脆弱指纹触发集对模型的完整性进行验证,若触发集的识别率低于预设阈值,则意味着模型完整性已被破坏。基于2种公开数据集MNIST和CIFAR-10对FFWAS的有效性和脆弱性进行实验分析,结果表明,在模型微调和剪枝攻击下,FFWAS的指纹识别率相较于完整模型均明显下降并低于设定阈值;与基于模型唯一性和脆弱签名的深度神经网络认证框架(DeepAuth)相比,FFWAS的触发集与原始样本在2个数据集上的相似性分别提高了约22%和16%,表明FFWAS具有更好的隐蔽性。
暂无评论