家里的小孩偷传色情照，苹果想用审查机制阻止却出现反效果！

社群网站的发达，以及网络的匿名性与便利，让网络霸凌事件层出不穷，色情网站更缺乏守门员控管，为了解决这些问题，苹果推出用于审查儿童安全的功能，但问题是，我们真能相信苹果在审查的过程，不侵犯我们隐私吗？

苹果「儿童安全」新功能潜藏重大缺失

苹果于2021年八月宣布，将推出3项安全隐私政策，目的是为了遏止色情照片在聊天室里肆意流传，以捍卫儿童网络使用安全。

然而随着计划细节逐渐明朗，社会大众开始针对个人隐私、信息安全，抛出各种舆论压力。

甚至有研究学者指出，由于设计思考不够周全，苹果的隐私安全设定更新后，不仅帮助不大，或许还可能造成反效果──部分行为心理学实验结果显示，当系统跳出违反他人隐私的警示，对于原先无意转传照片的使用者而言，反而可能变相鼓励这种行为，为抵制网络霸凌开倒车。

自动侦测儿童色情图像，用户隐私争议大

苹果预计从三个层面更新儿童安全政策：首先是关于兼具搜寻、智能助手功能的Siri，日后当使用者上网搜寻关于儿童性暴力的主题，苹果将自动导向相关倡导资源，劝退儿童不要点色情网站。

另一项隐私争议性颇高的新政策，是未来苹果将主动扫描储存于iCloud云端上的图片，并且与多家儿童安全组织的数据库进行比对。若为儿童性虐待内容，系统将警告苹果审查人员，人工审查后，再决定是否向美国国家儿童失踪与受虐儿童援助中心（National Center for Missing and Exploited Children，NCMEC）举报。

而其中引发最多争议的新措施，是苹果打算在信息（Messages）功能里加上监护人控制选项，监护人启用后，只要使用者未满18岁所接收与传送的每张图片，都会经过守门员般的图像分类机制。

这项功能受过色情片的机器学习训练，能过滤出具明显性意味的色情内容。当孩子试图加以检视，系统将会模糊化该图片，同时向年幼使用者提出警告与协助资源；而若使用者未满13岁，选择略过系统提醒、观看或转传色情图片，父母就会收到通知信息。

「越被禁止就越想要」，苹果隐私警告根本无效？

提到这项安全政策的反方立场，心理学与计算机科学专家认为，苹果的新措施可能引发所谓的抗拒效应（reactance）。

也就是当个人接收到貌似不合理、不必要的规矩或提示，这种受限的感受可能点燃抗拒心理，做出反其道而行的举止，就像伊甸园的禁忌之果显得格外诱人。

对于喜欢冒险、好奇的年轻使用者而言，接连跳出的隐私安全提醒，当然可能带给他们不妨姑且一试的念头，低估转传分享的风险，沦为网络色情霸凌趋势下另一名受害者。

「性短信」危害青少年心理健康，目前业界如何预防？

这种网络「性短信」文化（sexting）是指通过手机或电脑等数字设备，发送、接收和转发性暴露信息、照片或图像的行为。

由于现代这些装置的使用者年龄层不断降低，儿童与青少年很早便开始接触各种应用程序、社群媒体、聊天室信息，情色短信泛滥情形也因此变得更加明显。

情色短信可能是无意或有意的玩笑，或争取异性注意力的工具、无伤大雅的调情，却也能演变成网络霸凌、性骚扰、人身攻击，进而导致严重的心理健康与社会问题。

苹果并非第一时间着手遏止儿少性虐待内容（child sexual abuse material，CSAM）的科技巨头，像是脸书、推特、Reddit论坛等企业，也都有内置机制扫描使用者档案，并与散列数据库（hash library）进行比对，其中以微软的图片辨识技术PhotoDNA最为常见，而法律也要求这些公司将CSAM内容举报给NCMEC。