Mengapa Nym Menentang Pengendalian Obrolan
Mereka menyebutnya "perlindungan anak." Pada praktiknya, ini adalah mesin yang membaca setiap pesan sebelum Anda mengirimkannya.


Bagikan
Chat Control kembali hadir, dan Brussels telah mengubah aturan demi memaksakan penerapannya. Pekan ini, Parlemen Eropa memilih untuk memberlakukan kembali rezim "sementara" yang mengizinkan platform seperti Meta untuk memindai pesan pribadi guna mendeteksi materi pelecehan seksual terhadap anak—perpanjangan yang sebelumnya sempat ditolak oleh para anggota Parlemen Eropa pada bulan Maret dengan 311 suara berbanding 228 suara. Partai Rakyat Eropa menghidupkan kembali undang-undang tersebut melalui prosedur langka yang membalikkan perhitungan: undang-undang tersebut kini disahkan kecuali setidaknya 361 anggota parlemen secara aktif menolaknya. Hari ini mereka tidak melakukannya.
Versi permanennya, yaitu Peraturan tentang Pelecehan Seksual terhadap Anak (CSAR), terus berlanjut. Trilog yang digadang-gadang sebagai tahap akhir tersebut kandas pada 29 Juni akibat tuntutan Dewan agar dilakukan pemindaian tanpa perlu adanya kecurigaan, dan kini perdebatan tersebut beralih ke tangan presidensi Irlandia. Istilah yang digunakan terus berganti — "moderasi unggahan", "perintah pendeteksian", hingga penyimpangan yang bersifat "sukarela". Ide ini tidak masuk akal: perangkat lunak yang memeriksa pesan pribadi Anda sebelum Anda menekan tombol "Kirim". Inilah alasan mengapa Nym menentangnya dengan keras.
1. Pengawasan Obrolan adalah pengawasan massal yang menyamar sebagai upaya perlindungan anak.
Setiap versi dari zombi ini melakukan langkah yang sama: mengambil horor nyata yakni pelecehan seksual terhadap anak lalu menggunakannya sebagai pembenaran untuk memeriksa pesan pribadi orang lain.
Tujuan tersebut adalah sesuatu yang hampir semua orang setujui. Metode tersebut — memindai seluruh populasi untuk menemukan segelintir pihak yang bersalah — adalah wujud dari apa yang selalu disebut sebagai pengawasan. EDRi menyebutnya rancangan undang-undang Uni Eropa yang paling banyak dikritik sepanjang masa. Pengawasan massal tidak pernah muncul sebagai bentuk pengawasan. Hal itu hadir sebagai bentuk keamanan.
2. Aplikasi ini membaca pesan Anda sebelum dienkripsi. Itulah rahasianya.
Fitur Chat Control tidak bisa menembus enkripsi ujung-ke-ujung secara langsung, jadi fitur ini mengelakinya. Pemindaian sisi klien memeriksa berkas-berkas di perangkat Anda sebelum enkripsi diterapkan.
Bayangkan ponsel Anda memeriksa setiap foto dan pesan dengan mencocokkannya terhadap daftar yang disediakan pemerintah, lalu melaporkan temuan yang cocok kepada pihak berwenang. Pesan tersebut masih "terenkripsi selama pengiriman," yaitu, setelah salinannya telah dibaca. Anggap saja ini sebagai pintu belakang yang lebih sopan.
3. Teknologi tersebut tidak berfungsi, dan para ilmuwan Eropa sendiri yang membuktikannya.
Ini bukan sekadar pendapat Nym. Lebih dari 700 pakar kriptografi terkemuka dunia menyatakan hal tersebut dalam sebuah surat terbuka yang ditulis bersama oleh Bart Preneel — seorang profesor di KU Leuven, salah satu pakar kriptografi yang paling sering dikutip saat ini, dan penasihat Nym. Kesimpulan mereka: teknologi pendeteksian tersebut pasti tidak akan efektif.
Setiap metode memiliki kelemahan masing-masing. Hashing pencocokan tepat hanya mendeteksi file yang tidak dimodifikasi. Pangkas atau kompres ulang gambar tersebut, dan hasilnya akan tetap lolos. Perceptual hashing dapat diakali dengan perubahan yang tak terlihat oleh mata, atau ditipu hingga menandai gambar-gambar yang tidak bersalah untuk membanjiri penyelidik dengan data yang tidak relevan. Detektor berbasis pembelajaran mesin begitu buta terhadap konteks sehingga tidak mampu membedakan antara tindakan kekerasan dan foto medis dari orang tua. Pihak-pihak yang membangun teknologi ini menyatakan kepada pemerintah, secara tertulis, bahwa teknologi tersebut tidak mampu melakukan apa yang dijanjikan oleh undang-undang.
4. Dalam skala internet, “kesalahan yang jarang terjadi” dapat berdampak pada ratusan ribu orang yang tidak bersalah.
Detektor dengan tingkat akurasi 99,9% terdengar mengesankan, sampai Anda memproses miliaran pesan setiap hari melalui detektor tersebut. Lalu, hasil positif palsu itu bermunculan dalam jumlah jutaan.
Ini bukan sekadar hipotesis: Kepolisian Federal Swiss menemukan bahwa hingga 80% dari laporan yang dihasilkan oleh sistem otomatis ternyata tidak berkaitan dengan tindak pidana: foto-foto liburan, anak-anak di pantai, remaja yang sedang berkirim pesan teks atau melakukan sexting. Setiap hasil pencarian yang salah adalah momen pribadi yang diambil dan dibaca oleh orang asing hanya untuk mengklarifikasinya. Pengawasan obrolan memicu kecurigaan terhadap orang yang tidak bersalah dalam skala besar.
5. "Moderasi unggahan" adalah perubahan nama, bukan perubahan desain.
Seperti biasa, perhatikan cara bicaramu. Ketika gagasan untuk "membobol enkripsi" menuai terlalu banyak kritik, usulan tersebut muncul kembali dengan istilah "moderasi unggahan", lalu berubah menjadi skema "sukarela" yang Anda "setujui". Presiden Signal, Meredith Whittaker, langsung ke intinya: "Kita bisa menyebutnya 'pintu belakang', 'pintu depan', atau moderasi unggahan." "Namun, apa pun sebutannya, masing-masing pendekatan ini menimbulkan kerentanan."
Persetujuan itu, tentu saja, hanyalah sebuah fiksi. Tolak pemindaian dan Anda akan diblokir sehingga sama sekali tidak bisa mengirim gambar atau tautan. Preneel menyebut upaya rebranding itu sebagai tipu muslihat belaka. Itu bukan persetujuan jika kamu tidak memiliki alternatif yang layak.
6. Pintu belakang bagi pihak yang baik adalah pintu belakang bagi semua orang.
Tidak ada sistem pemindaian yang hanya membaca pesan-pesan para penjahat. Begitu wewenang untuk memeriksa komunikasi pribadi tersedia pada miliaran perangkat, akses terhadapnya terbuka bagi siapa saja yang mampu menjangkaunya: pemerintah yang memusuhi, peretas, maupun pejabat di masa depan yang memiliki prioritas-prioritas baru. Enkripsi bisa berfungsi untuk semua orang, atau justru tidak berfungsi sama sekali bagi semua orang.
7. Setelah pemindai terpasang, daftar target dapat diubah tanpa pemberitahuan.
Detektor itu tidak mengerti apa yang sedang dicarinya. Sistem ini melakukan pencocokan terhadap sebuah daftar atau model yang telah dilatih, dan daftar tersebut dapat diganti melalui pembaruan jarak jauh. Surat para ilmuwan tersebut sangat jelas: tidak ada kendala teknis yang membatasi pemindaian hanya pada materi yang mengandung konten pelecehan. Isi konten tersebut bergantung pada apa yang diputuskan oleh para pelaku politik untuk dimasukkan ke dalamnya. Apakah Anda masih percaya pada para politisi saat ini? Bagaimana dengan kelompok berikutnya yang akan datang?
Tambahkan jejak digital dari pamflet yang dilarang, selebaran protes, atau dokumen yang bocor, maka sistem yang sama akan melaporkan hal-hal tersebut. Karena daftar tersebut tidak dapat diperiksa, tidak ada pengguna yang dapat memastikan bahwa daftar tersebut memang hanya mencari apa yang diklaimnya. Sebuah perangkat yang dibuat untuk satu tujuan, terpasang di setiap ponsel, dan menanti perubahan konfigurasi: seperti itulah wujud negara pengawas dalam bentuk perangkat keras.
8. Untuk menegakkannya, mereka harus menyasar alat-alat yang melindungi jurnalis dan para pembangkang.
Pemindaian hanya akan berfungsi jika Anda tidak dapat memilih untuk tidak ikut serta. Jadi, aplikasi terenkripsi yang menolak untuk mematuhi aturan tersebut akhirnya disingkirkan, dan alat privasi yang digunakan orang untuk mengembalikan kendali atas komunikasi mereka pun diblokir. Infrastruktur yang sama, yang mencegah penyebaran materi penyalahgunaan, juga melindungi narasumber seorang jurnalis, aktivis di bawah pemerintahan otoriter, serta masyarakat biasa di negara yang menerapkan penyensoran. Anda tidak bisa membongkar komunikasi pribadi pihak yang bersalah tanpa turut membongkarnya bagi orang-orang yang justru paling membutuhkannya.
9. Signal dan pihak-pihak lain akan memilih untuk hengkang alih-alih mematuhi ketentuan tersebut, dan pihak pengadilan pun sudah bersikap skeptis.
Signal telah dengan tegas menyatakan bahwa mereka akan keluar dari Uni Eropa daripada melemahkan enkripsinya. Jadi, pencapaian pertama undang-undang ini mungkin justru membuat layanan pesan yang paling aman terusir dari benua ini, sementara pihak-pihak yang melakukan penyalahgunaan serius beralih ke sarana lain yang berada di luar jangkauan Uni Eropa.
Dasar hukumnya pun sedang berubah. Dalam kasus Podchasov v. Rusia, Mahkamah Hak Asasi Manusia Eropa memutuskan bahwa melemahkan enkripsi ujung-ke-ujung bagi semua orang tidak dapat dibenarkan. Uni Eropa justru akan mewajibkan tindakan yang menurut pengadilan hak asasi manusianya sendiri tidak boleh dilakukan oleh negara-negara.
10. Usaha itu terus gagal karena Eropa terus menolaknya. Tetap saja, hal itu terus berulang.
Usulan pengaturan obrolan telah ditolak, ditunda, dan diubah namanya selama empat tahun. Sebuah kelompok minoritas yang memiliki hak veto dan dipimpin oleh Jerman menggagalkan versi yang mewajibkan pemindaian pada Oktober 2025. Sistem "sukarela" tersebut berakhir pada April 2026. Parlemen menolak usulan perpanjangan tersebut pada bulan Maret. Kini hal itu kembali terjadi pada bulan Juli, melalui sebuah trik yang dirancang untuk mempersulit proses penolakan. Ini bukan demokrasi.
Beginilah cara undang-undang pengawasan disahkan: bukan melalui satu pemungutan suara, melainkan dengan terus diajukan kembali sampai masyarakat berhenti memperhatikan. Cara untuk melindungi anak-anak adalah cara yang terus-menerus ditekankan oleh para ahli di sini: memberikan dana bagi para peneliti, upaya pencegahan, dan desain platform yang lebih baik, bukan dengan memindai pesan dari setengah miliar orang. Nym menentang pembatasan obrolan karena privasi bukanlah musuh keamanan. Pengawasan massal adalah.
Nym menentang kontrol obrolan karena alasan yang sama dengan alasan kami membangun apa yang kami bangun: privasi harus dirancang ke dalam teknologi yang kita gunakan. Metadata – dengan siapa Anda berkomunikasi, kapan, dan dari mana – sama informatifnya dengan pesan apa pun, dan sistem yang memindai komunikasi Anda akan memetakan kehidupan Anda.
Pilihan lainnya bukanlah "tidak ada apa-apa." Ini adalah enkripsi menyeluruh yang sesungguhnya sebuah teknologi yang membuktikan apa yang perlu dibuktikan tanpa mengungkap siapa Anda serta sumber daya yang ditujukan untuk menyasar tindak kejahatan, bukan masyarakat umum. Sebagaimana terus dipertanyakan oleh Preneel, tidak jelas mengapa pemerintah justru memilih pengawasan massal alih-alih mencegah penyalahgunaan itu sendiri. Selama mereka belum menjawab pertanyaan itu, pemindaian akan tetap berjalan secara otomatis dan tetap mengarah ke arah Anda. Kami tidak akan berpura-pura bahwa itu adalah perlindungan.
Masih ada kemungkinan untuk mewujudkan jenis internet yang lain.
Tentang para penulis

Casey Ford, Ph.D.
Pimpinan Bidang KomunikasiDaftar Isi
Baca Terus...

Mengapa Nym menentang undang-undang verifikasi usia
Mereka mengklaim bahwa hal itu dilakukan demi melindungi anak-anak. Intinya memang soal memantau semua orang.

