分享
大規模監控的陰影依然籠罩著歐洲。儘管**《一般資料保護條例》（GDPR）**已取得諸多進展，但繞過資料加密仍是一項目標。
遺憾的是，以「保護我們免受怪物侵害」為名，對我們的公民自由進行侵犯的情況實在太過常見。歐盟針對《制定預防及打擊兒童性虐待規則的規例》（CSA 規例，或稱 CSAR）所提出的提案，便是令人震驚的典型案例。該法規本週再次提交歐洲議會表決。所幸，由於圍繞著 隱私權倡導者 所稱的「有史以來最受批評的歐盟法律草案」所引發的爭議，該草案最終於昨日被推遲。
截圖攝於 2024 年 6 月 21 日
CSAR 實質上是向網路客戶端提供由人工智慧驅動的監控技術，藉此破壞保護每個人個人檔案與通訊的加密機制。這一切都是以打擊兒童性虐待為名，但千萬別被這隻披著羊皮的狼所蒙蔽。歐盟公民正被賦予一個虛假的選擇：私人通訊，還是性掠食者？所幸，許多人——包括 Nym 核心團隊和社群成員——正緊急發聲反對此舉。
Nym 團隊一直密切關注 「聊天控制」 1.0 版和 2.0 版自 2022 年推出以來的逐步推進。該提案再次以看似修訂過、實則具有誤導性的措辭，尋求進行討論並可能進行表決。然而，這些變更僅僅是淡化了其大規模監控策略的基調。這一切不過是種障眼法，企圖規避《一般資料保護條例》（GDPR）中關於保護端對端資料加密的承諾。雖然 CSAR 可能不會觸及加密技術，但其中卻提出了一項更令人不安的加密後門機制，此機制將能對裝置進行更深入且大規模的監控。
以下將說明 CSAR 提案的關鍵爭議點，以及為何該提案對歐盟乃至全球所有人的網路隱私構成如此嚴重的威脅。
什麼是聊天控制？
被批評者稱為「聊天管制」的 CSAR 法案，是一項旨在「在傳輸之前」定位並封鎖兒童色情與虐待內容流量的監管嘗試。雖然幾乎沒有人會對這個目標提出異議，但專家們一直大聲疾呼，指出這項擬議的法規根本行不通。更糟的是，這不僅授權，更強行在整個大陸用戶的裝置中設置監控後門。
客戶端掃描 (CSS)
CSAR 針對兒童性虐待素材（亦稱 CSAM）問題所提出的解決方案，是透過 客戶端掃描 (CSS) 進行大規模監控。它並非透過破解加密傳輸來取得資料，而是基本上在加密發生之前，先掃描裝置或伺服器上的資料。這將損害所有人的通訊安全，並違背端對端加密的原則。
加密 是安全通訊的基石。當您透過加密連線在網路上進行任何操作時——例如將個人照片傳送給朋友或家人，或線上使用信用卡——您可以相當放心，外部人士無法存取或濫用您的資料。 CSAR 最初的努力，是希望迫使網路服務商破解保護客戶通訊內容的加密機制。一旦加密被破解，所有訊息都可能被掃描以尋找特定內容。所幸此舉引發了公民社會與隱私權倡導者們的 強烈反彈。
目前所提議的，是一系列 CSS 技術，這些技術將在法律上允許並使網路服務能夠在 加密甚至尚未套用之前，掃描或「監控」您裝置上的檔案與通訊內容。試想，如果 Apple 能夠定期掃描您的 iPhoto 或 iMessenger 應用程式，以搜尋被視為威脅的預先編程資料點。或者某項私人通訊服務接獲了 法律命令 要求其這麼做。事實上，Signal 的總裁甚至曾 公開聲明，表示寧可從歐盟司法管轄區撤出服務，也不願在用戶安全上做出此類妥協。
截圖攝於 2024 年 6 月 21 日
科學家表示，CSS 技術「存在嚴重缺陷」
任何監控掃描程式都需要搜尋特定的目標。關鍵問題在於：它能否在不捲入無關資料的情況下，明確地找到目標？就 CSAR 而言，其聲明目標是掃描用戶的裝置，以查找潛在的兒童色情材料（CSAM）案例。這意味著，例如，描繪兒童裸體或性行為的照片，或描述此類行為的訊息。但這到底是怎麼運作的呢？
基本上，一個很可能由人工智慧驅動的數據分析程式，將會獲得存取裝置或伺服器上所有人未加密內容的權限。系統將根據數據點標記大量潛在威脅，然後將所有案例送交人工團隊進行驗證。該團隊隨後將能存取您的個人檔案及通訊紀錄，以判定您是否曾有任何不當行為。可疑內容或活動將轉交執法機關進行進一步調查。
研究人員一直極力疾呼，警告這項技術不僅在技術層面上容易出錯，更會損害公民自由。試想一種誤報的情況：父母拍攝子女的個人照片被演算法標記，隨後由分析師檢視與審查，最後才轉交給執法機關。資料科學家已 警告，此類「掃描注定無效」，若大規模實施，將產生「對所有網路使用者都極具危害的副作用，並可能使網路與數位社會對所有人而言變得更不安全」。
時間軸
自 2022 年提出以來，《CSAR》在歐盟議會中一直舉步維艱。本週該節目再度回歸，並在近期國會選舉的風頭之下，精心安排了一場低調的討論。以下是了解其進展、變動及當前狀態的關鍵時間軸。
- 2022年5月11日： 介紹原始的 CSAR 提案。
- 2022年6月： 據披露，好萊塢演員阿什頓·庫奇納 曾與 內政專員伊爾瓦·約翰森合作，為當時稱為 CSAR 的組織進行遊說，此舉旨在為他共同創辦的組織「Thorn」謀取利益。 Thorn 販售 可用於掃描使用者裝置的 AI 工具。（庫奇納後來因 為一名被定罪的強姦犯辯護 而辭去 Thorn 董事長一職。）
- 2023年4月13日： 歐洲議會委託編製的一份關於《CSAR提案》影響的報告，已提交給歐盟議會的公民自由、司法及內政事務委員會。
- 2023年7月： 由465位科學與研究界簽署人聯署的 公開信 已送交歐盟委員會。科學家明確警告，所提議的技術很可能效率低下，並將削弱「我們社會的安全數位未來」以及「歐洲及以外地區的民主進程」。
- 2024年5月2日： 來自32個國家的312位科學家與研究人員向歐盟發出一封新的 公開信。他們重申，CSAR 提案中的措辭變更並不會改變這項「嚴重缺陷」且危險的技術。這封信由隱私權倡導者、教授暨 Nym Tech 顧問巴特·普拉尼爾（Bart Praneel）共同撰寫。
- 2024年2月13日： 歐洲人權法院在「Podchasov 訴 俄羅斯」一案中的 判決 強調，端對端加密對於「保障及保護電子通訊的隱私」以及確保「享有其他基本權利（例如言論自由）」至關重要。
- 2024年6月20日： 經延期後，針對修訂版《CSAR》的討論與表決已排定（詳見「司法與內政」項下第28項）。投票終於取消了！
必須注意的是，CSAR 文件僅為一項立法提案，除非經議會機構批准，否則不具法律效力。儘管如此，歐盟公民仍應聯繫其代表，並抗議這些侵犯公民自由的行徑。
立法語言遊戲
語言的表達方式對我們可能產生重大影響：一句誘人的措辭，可能會讓我們渴望一些我們原本可能並不想要的東西，或者讓我們對其實並不太糟糕的事物產生反感。有時候，措辭可能如此單調且抽象，以致我們甚至沒有察覺到，自己正在吞下的是顆毒丸。
請輸入 CSAR 針對「上傳內容審查技術」的最新提案。當閱讀數百頁的議會規章時，這類措辭很容易被忽略，而這正是它們的設計初衷。那麼，這到底是什麼意思呢？
截圖攝於 2024 年 6 月 21 日
讓我們來逐一分析。
[1] 「人際通訊服務提供者」指任何處理您與他人之間數位通訊的網路服務。這是一個廣泛的範圍。這顯然適用於 WhatsApp 之類的通訊應用程式，甚至包括 Signal 這種注重隱私且經過加密的應用程式。但這也適用於像蘋果這樣的大型企業，它們不僅提供作業系統，還提供照片和訊息服務。
[2] 「應安裝並運作」此類 CSS 技術的法律規定，意味著通訊服務業者不僅能夠這樣做，而且必須（或「應」）這樣做。
[3] 這正是問題的關鍵：在「傳輸前」[4] 偵測監控對象，意指在加密之前。一旦加密措施就位，要偵測任何被追查的數位資料，就必須破解加密，而這並非可行的選項。因此，這項技術實質上等同於大規模裝置掃描，而只有裝置供應商或應用程式及網路服務營運商才能代表當局執行此類掃描。由於加密資料的目的是防止第三方存取，這項技術本質上可說是加密的後門。
[4] 雖然這項掃描的目標很可能是偵測兒童性虐待材料（CSAM），但要定位這些內容，意味著人工智慧程式必須先取得我們所有資料或通訊內容的存取權限。首先，「已知兒童性虐待素材」（例如，已由當局確認的照片或影片）與「新發現的兒童性虐待素材」之間存在著顯著差異。就後者而言，任何人工智慧程式的辨識能力，在區分兒童色情內容與無性意圖的私人家庭照片時，都可能出現巨大的錯誤。
因此，所謂的「上傳內容審查」，聽起來雖像「確保人們只在網路上發布適量的內容」這般無害，實際上卻意味著「在加密之前，基於執法目的，對所有用戶的裝置進行由人工智慧驅動的數據監控」。若將「未經測試」以及「在科學上極不可能且容易出錯」這兩個特徵加到這項「技術」上，我們便更接近真相了。
是破解加密，還是從背後下手？
針對 CSAR 的許多反彈意見，主要圍繞著它是否會「破壞」資料傳輸的端對端加密。資料加密受《一般資料保護規範》（GDPR）保護，並因應歐洲人權法院近期在「Podchasov 訴俄羅斯」（2024）一案中的裁決而進一步強化。正如 Signal 總裁梅雷迪思·惠特克（Meredith Whittaker）所 指出的，這無非是玩弄文字遊戲或「重新品牌定位」罷了：
「強制對私人通訊進行大規模掃描，從根本上削弱了加密技術。」句點。[…]我們可以稱之為後門、前門，或是「上傳審核」。但無論我們如何稱呼它，這些方法中的每一種都會產生一個漏洞，可能被駭客和敵對國家所利用，不僅剝奪了「不可破解的數學」所提供的保護，更取而代之的是一個高價值的漏洞。」
啟用網路服務，讓其能在傳輸過程中進行任何加密之前，先在我們的裝置或其伺服器上掃描所有資料，從技術上來說並不屬於「破解加密」。事實上，情況遠比這更糟：這為自動化人工智慧演算法開了一扇後門，使其能在將我們的個人資料與當局連結的過程中，扮演中間監控的角色。
CSAR 提案對於端對端加密的價值，提出了許多相互矛盾的讚譽：
CSAR 承認：「端到端加密是保護基本權利以及政府、產業和社會數位安全的必要手段。」
然而，它所試圖建立的機制，卻會明確地削弱數據加密原本旨在保護的數據隱私。該提案明確指出（26a），監控或「監測」技術，
「確保偵測機制能夠存取未加密形式的数据，以便進行有效的分析與採取行動，同時在數據傳輸後，仍能維持端對端加密所提供的保護。」
監控如何「存取未經加密的數據 […]所謂「不妥協」的端對端加密，根本是一派胡言。
使用者同意
CSAR 提案中的另一項重大變更在於，必須徵求用戶同意才能使用這些監控技術：
「在服務提供者的條款與條件下，只要使用者給予明確同意，所有人際通訊服務應透過應用經審核的技術，在兒童性虐待素材上傳時，確保該素材仍可被偵測到。」
這到底是什麼意思？任何 未給予同意 讓其資料被掃描的用戶，只要該行為「不涉及傳送視覺內容和網址」，仍可使用此網路服務。這將導致許多通訊服務無法運作。試想，你想要一款私密通訊應用程式，但歐盟卻強制要求他們事先掃描你的資料，而你基於正當理由拒絕了。由於該應用程式也允許傳送照片和連結，因此您根本無法使用這項服務。
五. 結論
關於 CSAR 的表決雖然已延期，但這絕不代表此事已告一段落。這項法案將再次露餡，或許會對措辭進行進一步修訂，試圖平息輿論風波，藉此將大規模數位監控強加於歐洲。
然而，許多人很清楚，這類大規模監控並不能解決問題，因為這本質上是一個社會問題，而非技術問題。正如 Nym 的親密顧問之一巴特·普拉尼爾（Bart Praneel）所 評論：
「[目前]尚不清楚為何某些政府持續推動這種大規模監控的做法，而非專注於預防兒童性虐待。」
應透過資助社會服務及其他預防措施，防止對兒童造成傷害。 Ella Jukubowska 和 EDri 一直致力於研究針對兒童色情材料（CSAM）及兒童虐待問題的 真正替代方案，無論是在線上還是線下。不應將濫用行為作為一種玩世不恭的公關噱頭，藉此破解加密機制，並在此過程中危及全體歐洲民眾的隱私與安全。而且，我們不應因為害怕「怪物」而心甘情願地允許政府侵犯我們的隱私權。
但願這次投票的最新延遲，是監管機構開始意識到這個事實的徵兆。
Nym Dispatch
《Nym Dispatch》 系列深入探討線上與社群隱私生態系。請鎖定本節目，進一步了解網路監控經濟的風險與牟利手段，首先從免費 VPN 市場開始探討。本系列文章即將探討免費 VPN 的日誌記錄做法；其刻意含糊其辭的同意條款；它們如何、為何以及向誰出售我們的資料；以及其侵入性的廣告做法。
關於作者
凱西・福特，博士
通訊主管