苹果公司将扫描每台设备上的虐待儿童内容，但专家担心隐私

苹果公司周四表示，将在iOS、iPadOS、watchOS和macOS中引入新的儿童安全功能，以限制儿童性虐待材料（CSAM）在美国的传播。

为此，这家iPhone制造商表示，它打算在上传到iCloud照片中时，开始对通过每台苹果设备共享的图像进行客户端扫描，以查找已知的虐待儿童内容，除了利用设备上的机器学习来审查未成年人账户（13岁以下）发送或接收的所有iMessage图像，以警告父母通过消息平台共享的露骨性照片。

此外，苹果还计划更新Siri和Search，以便在用户尝试搜索与CSAM相关的主题时进行干预，提醒用户“对这个主题的兴趣是有害的和有问题的”

苹果公司指出：“短信使用设备上的机器学习来分析图像附件，并确定照片是否有露骨的性行为。”。“该功能的设计目的是让苹果无法访问这些信息。”这项被称为“通讯安全”的功能被称为“选择加入”设置，必须由家长通过家庭共享功能启用。

如何检测儿童性虐待材料

已知CSAM图像的检测包括在照片上传到云端之前，使用国家失踪和受剥削儿童中心（NCMEC）和其他儿童安全组织提供的已知CSAM图像哈希数据库进行设备匹配。该系统名为“NeuralHash”，由一种称为私有集交叉的加密技术提供动力。然而，值得注意的是，虽然扫描会自动进行，但该功能仅在iCloud照片共享打开时才起作用。

此外，苹果预计将使用另一种称为阈值秘密共享的加密原理，如果iCloud照片帐户超过已知虐待儿童图像的阈值，它可以“解释”内容，然后手动检查内容以确认是否匹配，如果匹配，则禁用用户的帐户，将材料报告给NCMEC，并将其转交给执法部门。

研究人员对隐私表示担忧

苹果的CSAM计划促使安全研究人员表达了担忧，担心它可能会受到任务爬行的影响，并被扩展到检测可能具有政治和安全影响的其他类型的内容，甚至通过发送无害但恶意的图像来陷害无辜的人，这些图像旨在与儿童色情相匹配。

美国告密者爱德华·斯诺登（Edward Snowden）在推特上表示，尽管该项目意图良好，但苹果推出的是“大规模监控”，而约翰·霍普金斯大学密码学教授兼安全专家马修·格林（Matthew Green）表示，“问题是，加密是一种提供隐私的强大工具，你不可能在监视任何人发送的每一张图像的同时拥有强大的隐私。”

苹果已经将通过电子邮件发送的iCloud文件和图像与已知的虐待儿童图像进行了核对，谷歌、Twitter、微软、Facebook和Dropbox等科技巨头也进行了核对，他们使用类似的图像哈希方法来查找和标记潜在的虐待材料，但该公司走隐私钢丝的尝试可能会重新引发关于削弱加密的辩论，加剧在数字时代围绕隐私和监管展开的长期拔河。

《纽约时报》在2019年的一项调查中披露，2018年报告了创纪录的4500万张儿童遭受性虐待的在线照片和视频，其中Facebook Messenger占了近三分之二，Facebook作为一个整体负责90%的报告。

迫在眉睫的变化也标志着这家公司在某种程度上的转变。该公司与Facebook旗下的WhatsApp一起，一直在抵制故意削弱加密和后门系统的努力。尽管如此，路透社去年报道称，在美国联邦调查局（FBI）担心加密用户到iCloud的完整备份会妨碍调查后，该公司于2018年放弃了加密用户到iCloud的完整备份的计划。

《电子前沿基金会（EFF）》在一份声明中说，“儿童剥削是一个严重的问题，苹果并不是第一个试图改变隐私保护立场以试图与之抗争的科技公司，但这一选择将为整个用户隐私带来高昂的代价。”注意到苹果的举动可能会破坏加密保护，并为更广泛的滥用打开大门。

“要拓宽苹果正在构建的狭窄后门，所需要的只是扩大机器学习参数，以寻找更多类型的内容，或者调整配置标志，以便扫描，不仅是儿童的，而且是任何人的帐户。这不是一个滑坡；这是一个完全构建的系统，只需等待外部压力做出最微小的改变，”它补充道。

CSAM将在未来几个月在美国推出，作为iOS 15和macOS Monterey的一部分，但它是否或何时在国际上可用还有待观察。2020年12月，Facebook被迫关闭了其在欧洲的一些儿童虐待检测工具，以应对欧盟委员会的ePrivacy指令最近的变化，该指令实际上禁止在未经用户明确同意的情况下自动系统扫描儿童性虐待图像和其他非法内容。