是保護兒童的蜜蘋果，還是侵害隱私的毒蘋果-Apple CSAM計畫爭議

前言：

      「What happens on Your iPhone, stays on your iPhone.」這句簡單又強而有力的廣告詞，是2019年由蘋果推出，不僅僅是Apple重視用戶隱私權的承諾，更是他們對於公司保護使用者隱私能力的自信。然而在2021年8月，蘋果宣布未來將會推出CSAM偵測功能，這一舉動除了大大違反其公司基本價值外，更引起了資訊界的強烈反彈，有6000多個企業或個人，在github發起了公開聯署信，希望蘋果公司撤銷這個計畫，曾揭發美國稜鏡事件的吹哨者Edward Snowden更提到：「這個技術能掃描兒童照片，未來可能被用來掃描更多東西。」。然而什麼是CSAM偵測技術？他與用戶隱私又有什麼關聯？

淺談CSAM計畫：

        

        CSAM全名為children sexual abuse material（兒童性虐待材料）蘋果官方對外宣稱，這項技術將用於保護兒童安全，他們會掃描用戶上傳至icloud雲端的照片，利用演算法比對是否有關於兒童性虐待之相關照片，藉此來限制相關影像的傳播，甚至通知執法機關寄出者的資料。這項技術更會應用在imessage、safari、spotlight上，若演算法辨識出孩童收到了相關圖片，會進行圖片模糊處理，並會透過Apple家庭通知孩童監護人，藉此來保護兒童。

 你可能會想說我行得正坐得直，讓他檢查又有什麼關係？打擊犯罪不好嗎？

那你就大錯特錯了!!

 

引起強烈反彈的原因：

        CSAM計畫的核心是NeuralHash演算法，該演算法會將用戶上傳的照片在使用者裝置上與第三方CSAM資料庫的雜湊值進行比對，蘋果號稱該演算法具有高準確率且比對成功後還會經過後台人工審核，然而NeuralHash演算法卻存在了重大問題。

• 看似沒問題、以後說不準：具有高準確率的NeuralHash演算法，只要有足夠的圖片資料庫可供演算法辨識，未來可能會被利用於辨識其他“爭議性”內容的圖片，然而所謂爭議性圖片，可能不是你說的算，它有可能被政府利用來侵犯打壓異議人士，加強對人民的控制。也有很多人對於掃描標準產生質疑，家長若拍下孩童裸體洗澡抑或是戲水的照片，快樂回憶會不會因此變調，手機持有者因而被上報到執法機關。

• 內容差很遠、雜湊雙胞胎：由機器學習研究者 Asuhariet Ygvar早期的研究發現，該演算法對於圖片的尺寸調整、壓縮具有良好的抗性，但只要圖片經過裁切或旋轉，辨識正確率會下降。而在現實中，波特蘭安全研究員 Cory Cornelius曾製作出兩幅內容毫不相干的圖片，透果該演算法計算出的雜湊值居然一模一樣，網路上也陸陸續續有人發布他們刻意利用一張照片，生成出雜湊值相同的另一張圖片。還記得前面所言，要是被蘋果偵測出來，他們極有可能將使用者的資料，上報給相關執法機關，一個清白之人極有可能因此遭受麻煩，即便他沒有做錯任何事情。

蘋果為什麼想發展相關技術：

        事實上蘋果的安全設計（端對端加密），一直是不少人選擇蘋果產品的一大考量，然而卻也被不法分子盯上。根據爆料，蘋果FEAR高層主管和同事在2020年的imessage聊天內容說到:「蘋果是全世界最大的兒童色情內容平台」，但蘋果公司是怎麼知道這件事的呢？在之前一次的記者詰問，蘋果發言人證實，他們在2019年就已經開始掃描用戶的icloud郵件甚至是其他數據，但並沒有事先告知用戶，而且拒絕向大眾透露其他數據的類別。

       

       但你知道嗎？其實Google、Dropbox、微軟、等提供雲端存儲服務的公司早已開始利用PhotoDNA針對違反其服務條款及非法內容進行掃描，但他們並沒有引起像是Apple如此大的砲火攻擊，它們之間最大的差異在於PhotoDNA是用戶上傳至雲端伺服器的內容進行掃描，掃描地點位於“公司伺服器”上，但蘋果的相關技術掃描地點位於“個人裝置”上，他們會將第三方csam資料庫的圖片轉換為雜湊值，並儲存於使用者裝置上，而篩查到符合資料庫的圖片，並不會告知用戶該照片屬於違法內容。但這個技術也會導致一個潛藏的後門，雖然目前蘋果堅稱該技術不會受到任何外來壓力而改變掃描內容（csam相關），但倘若政府以法律為由對蘋果進行施壓，要求蘋果篩查其他“政府想看”的資料，蘋果也沒有任何立場推辭。

事件後續發展：

        在發布該項技術一個月後，因為引起廣大爭議，蘋果公司宣佈“暫緩”該項技術的發行，並向外界解釋，蘋果並不會知道分析內容，蘋果並不會主動去掃描用戶上傳至icloud的所有照片，而是當滿足特定的偵測值，蘋果才會開啟掃描功能，一開始蘋果不願意告訴外界到底裝置內到底含有幾張爭議性圖片就會開啟掃描功能，但在外界的壓力下，蘋果公佈了初始他們設定是在三十張相關圖片會啟動後續機制，但張數會隨著技術進步逐漸降低。

        而在2022年5月12號，一份歐盟的機密文件被流出，指出歐盟認為，相關公司（Google、微軟等）自願性提供的掃描服務，對防治兒童性犯罪的成效極其有限，歐盟會員國正在研擬加強相關防治措施，而這些措施就包括了，強制要求公司提供端對端加密的後門，提供給執法機關。要是公司不願意配合，歐盟將對該公司提出巨額罰款的處罰，這也是一直以來，資安專家擔心發生的事情，這項技術會造成隱私權的嚴重侵害。

結語：

      

       雖然蘋果說要暫緩該項計畫的執行，但歐盟擬定的草案著實讓人憂心，其實不只是歐盟，當時英國政府也曾對蘋果的這項計畫公開表達支持，並希望尋求破除端對端加密的方法，政府已經開始行動，但許多用戶卻如同隔靴搔癢一般，覺得沒什麼大不了的。然而，隱私權這個眾人都耳熟能詳的名詞，在大眾選擇購買手機前，卻不是優先考慮的因素，在瀏覽網路資料就可發現，大家購買手機優先考慮的因素不外乎是價格、硬體效能、使用者體驗等……在台灣，因為媒體的關係，大多數消費者在購買前，會考慮不要購買中國品牌的手機，來保護自己的資料，但其他品牌如果“暗著來”，消費者一是不知道，二是其他因素的吸引力高過於資安議題的隱憂。唯有消費者開始關注這些議題，公司才有機會取消不合理的措施。