Menganalisis koneksi Anda...
Sedang memeriksa alamat IP Anda...

Pengawasan berbasis AI tidak akan menyelamatkan anak-anak Anda: Upaya pengendalian percakapan kembali muncul

Dalih palsu kembali digunakan untuk memuluskan upaya baru pengawasan massal di Uni Eropa

IMG_2055.jpg
Casey Ford, Ph.D.Pimpinan Bidang Komunikasi
13 menit baca
Nym VPN against surveillance.webp
Bagikan

Momok pengawasan massal terus membayangi Eropa. Terlepas dari semua kemajuan yang dicapai oleh General Data Protection Regulation (GDPR), upaya untuk menembus enkripsi data masih menjadi sasaran.

Sayangnya, sudah terlalu sering terjadi bahwa pelanggaran terhadap kebebasan sipil kita dibungkus dengan janji untuk melindungi kita dari monster. Usulan Uni Eropa mengenai “Regulasi yang menetapkan aturan untuk mencegah dan memerangi kekerasan seksual terhadap anak” (Regulasi CSA, atau CSAR) merupakan contoh nyata yang mencengangkan. Peraturan tersebut kembali diajukan untuk pemungutan suara di Parlemen Eropa minggu ini. Untungnya, hal itu akhirnya ditunda kemarin karena kontroversi seputar apa yang disebut oleh para pegiat privasi sebagai rancangan undang-undang Uni Eropa yang mungkin “paling banyak dikritik sepanjang masa.”

Tangkapan layar diambil pada 21 Juni 2024

Pada dasarnya, CSAR menyediakan teknologi pengawasan berbasis kecerdasan buatan (AI) bagi klien web untuk melemahkan enkripsi yang melindungi berkas dan komunikasi pribadi setiap orang. Semua ini dilakukan dengan dalih memerangi kekerasan seksual terhadap anak, namun jangan terkecoh oleh serigala berbulu domba ini. Warga Uni Eropa dihadapkan pada pilihan palsu: komunikasi pribadi atau predator seksual? Untungnya, banyak pihak termasuk mereka yang berada di tim inti Nym serta komunitasnya menyuarakan penolakan dengan tegas terhadap hal tersebut.

Tim Nym telah mencermati perkembangan bertahap dari versi 1.0 dan 2.0 “Chat control” sejak kemunculannya pada tahun 2022. Pihak tersebut sekali lagi mengupayakan pembahasan dan kemungkinan pemungutan suara dengan menggunakan rumusan yang telah direvisi secara menyesatkan. Namun, perubahan tersebut hanya meredam intensitas strategi pengawasan massalnya. Semua ini hanyalah trik untuk mencoba menghindari komitmen GDPR dalam melindungi enkripsi data menyeluruh. Meskipun enkripsi mungkin tidak disentuh oleh CSAR, diusulkan adanya backdoor yang lebih mengkhawatirkan pada sistem enkripsi, yang akan memungkinkan pengawasan perangkat secara massal dan jauh lebih mendalam.

Berikut adalah hal-hal yang dipertaruhkan dalam usulan CSAR, serta alasan mengapa usulan tersebut menjadi ancaman bagi privasi daring setiap orang, baik di Uni Eropa maupun secara global.

Apa itu kontrol obrolan?

Regulasi CSAR yang oleh para kritikus disebut sebagai “pengawasan percakapan” merupakan upaya regulasi untuk mendeteksi dan memblokir lalu lintas konten pornografi serta kekerasan terhadap anak “sebelum transmisi terjadi.” Meskipun sedikit yang akan membantah tujuannya, para ahli telah berteriak lantang bahwa peraturan yang diusulkan tersebut tidak akan efektif. Lebih buruk lagi, hal ini mengizinkan dan memberlakukan backdoor pengawasan ke dalam perangkat milik para pengguna di seluruh benua.

Pemindaian Sisi Klien (CSS)

Solusi yang diusulkan CSAR untuk mengatasi masalah materi pelecehan seksual terhadap anak (yang juga disebut sebagai CSAM) adalah pengawasan massal melalui pemindaian di sisi klien (Client-Side Scanning/CSS). Alih-alih mengompromikan transmisi yang terenkripsi, sistem ini pada dasarnya memindai data pada perangkat atau server sebelum enkripsi berlangsung. Hal ini akan melemahkan keamanan komunikasi serta prinsip-prinsip enkripsi ujung-ke-ujung bagi semua orang.

Enkripsi adalah landasan komunikasi yang aman. Saat Anda melakukan sesuatu secara daring melalui koneksi terenkripsi — seperti mengirim foto pribadi kepada teman atau keluarga, ataupun menggunakan kartu kredit secara daring — Anda bisa merasa cukup yakin bahwa pihak luar tidak dapat mengakses atau menyalahgunakan data Anda. Upaya CSAR pada awalnya bertujuan untuk memaksa layanan web agar memecah enkripsi yang melindungi konten komunikasi klien. Dengan enkripsi yang telah ditembus, semua pesan dapat dipindai untuk mencari materi tertentu. Untungnya, hal ini menuai penolakan keras dari masyarakat sipil dan para pegiat privasi.

Yang saat ini diusulkan adalah teknologi CSS yang secara hukum akan mengizinkan dan memfasilitasi layanan web untuk memindai atau “memantau” berkas serta komunikasi di perangkat Anda bahkan sebelum enkripsi diterapkan. Bayangkan jika Apple mampu memindai aplikasi iPhoto atau iMessenger Anda secara berkala untuk mencari titik data yang telah diprogram sebelumnya dan dianggap sebagai ancaman. Atau bahwa suatu layanan komunikasi privat diberikan perintah hukum untuk melakukan hal tersebut. Bahkan, presiden Signal telah menyatakan secara terbuka bahwa mereka akan menarik layanan mereka dari wilayah hukum Uni Eropa daripada membiarkan kompromi semacam itu terjadi terhadap keamanan pengguna mereka.

Tangkapan layar diambil pada 21 Juni 2024

Teknologi CSS “sangat cacat,” kata para ilmuwan

Program pemindaian pengawasan apa pun perlu mencari sesuatu yang spesifik. Pertanyaan besarnya adalah: dapatkah ia menemukan target-targetnya secara jelas tanpa turut menyertakan data yang tidak relevan? Dalam kasus CSAR, tujuan yang dinyatakan adalah memindai perangkat pengguna untuk mendeteksi kemungkinan adanya CSAM. Ini berarti, misalnya, foto-foto yang menampilkan anak-anak dalam keadaan telanjang atau secara seksual, ataupun pesan-pesan yang mendeskripsikan tindakan semacam itu. Tapi, bagaimana tepatnya cara kerjanya?

Pada dasarnya, sebuah program analisis data yang kemungkinan ditenagai oleh kecerdasan buatan (AI) akan diberi akses ke konten milik siapa pun yang tidak dienkripsi, baik di dalam perangkat maupun di server. Sistem akan menandai sejumlah besar potensi ancaman berdasarkan titik-titik data, sebelum mengirimkan semua kasus tersebut kepada tim manusia untuk diverifikasi. Tim ini kemudian akan memiliki akses ke berkas dan komunikasi pribadi Anda untuk menentukan apakah Anda telah melakukan kesalahan. Konten atau aktivitas yang mencurigakan kemudian akan diteruskan kepada pihak penegak hukum untuk penyelidikan lebih lanjut.

Para peneliti telah sangat vokal dalam memberikan peringatan mengenai betapa rentannya teknologi ini terhadap kesalahan, baik dari segi teknis maupun dalam hal dampaknya yang merugikan terhadap kebebasan sipil. Bayangkan sebuah kasus positif palsu, di mana foto-foto pribadi anak yang diambil oleh orang tuanya ditandai oleh algoritma, lalu dilihat dan ditinjau oleh para analis sebelum akhirnya diteruskan kepada penegak hukum. Para ilmuwan data telah memperingatkanbahwa “pemindaian” semacam itu “pasti tidak akan efektif,” dan jika dilakukan dalam skala besar akan menimbulkan “efek samping yang bisa sangat merugikan bagi siapa pun yang daring, serta dapat membuat Internet dan masyarakat digital menjadi kurang aman bagi semua orang.”

Garis Waktu

CSAR telah mengalami kendala di Parlemen Uni Eropa sejak diperkenalkan pada tahun 2022. Hal ini kembali hadir minggu ini dengan diskusi yang dijadwalkan secara strategis agar tidak terlalu mencolok di tengah berlangsungnya pemilihan umum parlemen baru-baru ini. Berikut adalah linimasa utama untuk melihat perkembangan, perubahan, serta statusnya saat ini.

  • 11 Mei 2022: Usulan CSAR yang orisinal diperkenalkan.
  • Juni 2022: Terungkap bahwa aktor Hollywood Ashton Kutchner [telah bekerja]](https://netzpolitik.org/2022/dude-wheres-my-privacy-how-a-hollywood-star-lobbies-the-eu-for-more-surveillance/) dengan Komisaris Urusan Dalam Negeri Ylva Johansson melobi untuk apa yang saat itu disebut CSAR, yang menguntungkan Thorn, sebuah organisasi yang turut ia dirikan. Thorn menjual perangkat AI yang akan digunakan untuk memindai perangkat milik orang-orang. (Kutcher kemudian mengundurkan diri sebagai ketua Thorn setelah membela seorang terpidana pemerkosa).
  • 13 April 2023: Sebuah laporan yang ditugaskan oleh Parlemen Eropa mengenai dampak usulan CSAR telah dipresentasikan kepada Komite Kebebasan Sipil, Keadilan, dan Urusan Dalam Negeri di Parlemen Uni Eropa.
  • Juli 2023: Surat terbuka dari 465 penanda tangan di bidang sains dan penelitian dikirimkan kepada Komisi Eropa. Para ilmuwan secara tegas memperingatkan akan kemungkinan inefisiensi dari teknologi yang diusulkan tersebut, serta dampaknya dalam melemahkan “masa depan digital yang aman bagi masyarakat kita” dan “proses-proses demokratis di Eropa maupun di luar Eropa.”
  • 2 Mei 2024: Sebuah surat terbuka baru dari 312 ilmuwan dan peneliti di 32 negara telah dikirimkan kepada Uni Eropa. Mereka menegaskan kembali bahwa perubahan bahasa pada usulan CSAR tidak akan mengubah teknologi yang “sangat cacat” dan berbahaya tersebut. Artikel ini ditulis bersama oleh Bart Praneel, seorang aktivis privasi, profesor, dan penasihat Nym Tech.
  • 13 Februari 2024: Putusan Mahkamah Hak Asasi Manusia Eropa dalam kasus Podchasov v. Rusia menekankan peran enkripsi ujung-ke-ujung dalam “mengamankan dan melindungi privasi komunikasi elektronik” serta menjamin “penikmatan hak-hak mendasar lainnya, seperti kebebasan berekspresi.”
  • 20 Juni 2024: Diskusi dan pemungutan suara mengenai CSAR yang telah direvisi telah dijadwalkan setelah sempat ditunda (lihat butir 28 di bawah bagian “Keadilan dan Urusan Dalam Negeri”). Pemungutan suara akhirnya dibatalkan!

Perlu dicatat bahwa dokumen CSAR merupakan usulan legislatif dan tidak memiliki kekuatan hukum kecuali jika disetujui oleh badan parlemen. Meskipun demikian, penting bagi warga Uni Eropa untuk menghubungi perwakilan mereka dan memprotes upaya-upaya pelanggaran kebebasan sipil ini.

Permainan bahasa dalam bidang legislatif

Cara sesuatu diungkapkan dalam bahasa dapat memberikan dampak yang signifikan bagi kita: rangkaian kata yang memikat bisa membuat kita menginginkan sesuatu yang sebenarnya mungkin tidak kita perlukan, atau justru membuat kita tidak tertarik pada sesuatu yang sebenarnya tidak seburuk itu. Terkadang, pemilihan kata bisa terasa begitu monoton dan abstrak, sampai-sampai kita tidak menyadari bahwa apa yang sedang kita serap sebenarnya adalah pil beracun.

Simak usulan terkini CSAR mengenai “teknologi untuk moderasi konten yang diunggah.” Saat membaca ratusan halaman peraturan parlemen, frasa seperti ini bisa dengan mudah luput dari perhatian dan memang itulah tujuan dari perancangan frasa tersebut. Jadi, apa sebenarnya artinya?

Tangkapan layar diambil pada 21 Juni 2024

Mari kita uraikan ini.

[1] “Penyedia layanan komunikasi antarpribadi” berarti layanan web mana pun yang menangani komunikasi digital Anda dengan orang lain. Ini cakupannya luas. Hal ini jelas berlaku untuk aplikasi pesan seperti WhatsApp, bahkan untuk aplikasi yang berfokus pada privasi dan terenkripsi seperti Signal. Namun, hal ini juga berlaku bagi perusahaan-perusahaan yang lebih besar seperti Apple, yang menyediakan layanan foto dan pesan, belum lagi sistem operasi.

[2] Ketentuan hukum yang menyatakan “wajib memasang dan mengoperasikan” teknologi CSS ini menyiratkan bahwa penyedia layanan komunikasi tidak hanya sekadar mampu melakukannya, melainkan juga diharuskan (atau “wajib”) untuk melaksanakannya.

[3] Inilah inti permasalahannya: mendeteksi objek pengawasan [4] “sebelum transmisi” berarti sebelum enkripsi dilakukan. Setelah enkripsi diterapkan, pendeteksian materi digital apa pun yang dicari akan memerlukan pemecahan enkripsi, dan hal ini tidak mungkin dilakukan. Jadi, teknologi ini sama saja dengan pemindaian perangkat secara massal, yang hanya dapat dilakukan oleh penyedia perangkat atau operator aplikasi dan layanan web atas nama pihak berwenang. Mengingat tujuan dari data terenkripsi adalah untuk mencegah akses oleh pihak ketiga, teknologi ini pada dasarnya merupakan backdoor terhadap enkripsi tersebut.

[4] Meskipun tujuan dari pemindaian ini mungkin memang untuk mendeteksi CSAM, upaya untuk menemukannya berarti program AI tersebut harus terlebih dahulu memiliki akses ke seluruh data atau komunikasi kita. Pertama, terdapat perbedaan besar antara “materi pelecehan seksual terhadap anak yang sudah diketahui” (sebagai contoh, foto atau video yang telah diidentifikasi oleh pihak berwenang) dengan “materi pelecehan seksual terhadap anak yang baru.” Dalam kasus yang terakhir ini, program AI betapapun canggih kemampuannya dapat melakukan kesalahan fatal dalam membedakan antara pornografi anak dengan foto keluarga pribadi yang tidak mengandung niat seksual apa pun.

Jadi, “moderasi unggahan” — yang terdengar tidak berbahaya, seolah-olah hanya berarti “memastikan orang-orang tidak mengunggah materi secara berlebihan ke internet” — sebenarnya bermakna “pengawasan data berbasis kecerdasan buatan (AI) pada perangkat semua pengguna, yang dilakukan sebelum enkripsi, demi kepentingan penegakan hukum.” Tambahkan label “belum diuji” serta “secara ilmiah tidak mungkin dan rentan terhadap kesalahan” pada “teknologi” ini, maka kita akan lebih dekat dengan kebenaran.

Mematahkan enkripsi atau menyelinap dari belakang?

Banyak kritik yang ditujukan terhadap CSAR berkisar pada pertanyaan apakah kebijakan tersebut “merusak” enkripsi ujung-ke-ujung untuk transmisi data. Enkripsi data dilindungi oleh GDPR dan baru-baru ini diperkuat oleh putusan Mahkamah Eropa untuk Hak Asasi Manusia dalam kasus Podchasov v. Rusia (2024). Seperti yang telah dicatat oleh Meredith Whittaker, Presiden Signal, [di sini: https://signal.org/blog/pdfs/upload-moderation.pdf], ini tidak lebih dari sekadar permainan kata atau "penggantian merek":

Mewajibkan pemindaian massal terhadap komunikasi pribadi pada dasarnya merusak enkripsi. Titik. […] Kita bisa menyebutnya pintu belakang, pintu depan, atau ‘moderasi unggahan.’ Namun, apa pun sebutannya, setiap pendekatan ini menciptakan kerentanan yang dapat dieksploitasi oleh peretas maupun negara-negara yang memusuhi; hal ini menghilangkan perlindungan yang diberikan oleh matematika yang tak terpatahkan, dan menggantinya dengan kerentanan bernilai tinggi

Memberikan akses kepada layanan web yang memproses data kita untuk memindai seluruh data tersebut di perangkat kita atau di server mereka sebelum enkripsi diterapkan saat transmisi, secara teknis bukanlah tindakan "membobol enkripsi." Faktanya, situasinya jauh lebih buruk: terdapat pintu belakang yang memungkinkan algoritma AI otomatis berperan sebagai perantara pengawasan dalam menghubungkan data pribadi kita dengan pihak berwenang.

Usulan CSAR memuat banyak pujian yang kontradiktif mengenai nilai enkripsi ujung-ke-ujung:

“[E]nkripsi ujung-ke-ujung,” aku CSAR, “merupakan sarana yang diperlukan untuk melindungi hak-hak mendasar serta keamanan digital pemerintah, industri, dan masyarakat.”

Padahal, apa yang ingin diciptakannya justru akan secara nyata merusak privasi data yang seharusnya dilindungi oleh enkripsi data. Teknologi pengawasan atau “pemantauan”, menurut usulan tersebut (26a),

“memastikan bahwa mekanisme deteksi dapat mengakses data dalam bentuk yang tidak terenkripsi untuk keperluan analisis dan tindakan yang efektif, tanpa mengurangi perlindungan yang diberikan oleh enkripsi ujung-ke-ujung setelah data tersebut dikirimkan.”

Bagaimana pengawasan dapat “mengakses data dalam bentuk yang tidak dienkripsi […] “tanpa mengorbankan” enkripsi ujung-ke-ujung adalah omong kosong yang sangat kurang ajar.

Persetujuan pengguna

Perubahan besar lainnya dalam usulan CSAR adalah bahwa pengguna harus dimintai persetujuan terkait penggunaan teknologi pengawasan ini:

“Materi pelecehan seksual terhadap anak harus tetap dapat dideteksi dalam semua layanan komunikasi antarpribadi melalui penerapan teknologi yang telah diperiksa, pada saat materi tersebut diunggah, dengan ketentuan bahwa pengguna memberikan persetujuan secara eksplisit sesuai dengan syarat dan ketentuan penyedia layanan.”

Apa sebenarnya arti dari hal ini? Pengguna mana pun yang tidak memberikan persetujuan agar datanya dipindai tetap dapat menggunakan layanan web tersebut, selama penggunaannya “tidak melibatkan pengiriman konten visual dan URL.” Hal ini dapat membuat banyak layanan komunikasi tidak berfungsi. Jadi, bayangkan Anda menginginkan aplikasi pesan pribadi, tetapi pihak Uni Eropa memaksa penyedia layanan tersebut untuk memindai data Anda terlebih dahulu dan Anda menolaknya karena alasan yang kuat. Karena aplikasi ini juga memungkinkan pengiriman foto dan tautan, Anda sama sekali tidak bisa menggunakan layanan tersebut.

Kesimpulan

Pemungutan suara mengenai CSAR telah ditunda, namun hal ini sama sekali belum berakhir. Rancangan undang-undang tersebut akan kembali muncul mungkin dengan revisi redaksional lebih lanjut yang berupaya meredam gejolak demi memuluskan penerapan pengawasan digital massal di Eropa.

Namun, yang jelas bagi banyak orang adalah bahwa pengawasan massal semacam ini tidak akan menyelesaikan masalah tersebut, yang pada hakikatnya merupakan masalah sosial, bukan masalah teknis. Seperti yang telah dikatakan oleh Bart Praneel, salah satu penasihat dekat Nym:

"Tidak jelas mengapa beberapa pemerintah terus mendesak penerapan pendekatan pengawasan massal ini, alih-alih berfokus pada pencegahan kekerasan seksual terhadap anak"

Tindakan yang merugikan anak-anak harus dicegah melalui pendanaan layanan sosial serta berbagai upaya pencegahan lainnya. Ella Jukubowska dan EDRi telah meneliti alternatif nyata untuk mengatasi masalah materi pelecehan seksual anak (CSAM) serta kekerasan terhadap anak, baik secara daring maupun luring. Penyalahgunaan tidak boleh dijadikan sebagai taktik humas yang sinis untuk merusak enkripsi, yang pada akhirnya justru mengorbankan privasi dan keamanan seluruh penduduk Eropa. Dan kita tidak seharusnya dengan sukarela membiarkan pemerintah melanggar hak privasi kita karena rasa takut terhadap monster.

Semoga penundaan pemungutan suara yang terbaru ini menjadi pertanda bahwa pihak regulator mulai menyadari fakta tersebut.

Nym Dispatch}

Seri The Nym Dispatch mengulas secara mendalam ekosistem privasi daring dan sosial. Simak untuk mempelajari lebih lanjut mengenai risiko serta taktik meraup keuntungan dalam ekonomi pengawasan daring, dimulai dari pasar VPN gratis. Seri ini akan segera membahas praktik pencatatan data oleh VPN gratis; perjanjian persetujuan mereka yang sengaja dibuat samar; bagaimana, mengapa, dan kepada siapa mereka menjual data kita; serta praktik periklanan mereka yang bersifat intrusif.

Tentang para penulis

IMG_2055.jpg

Casey Ford, Ph.D.

Pimpinan Bidang Komunikasi
Casey merupakan Kepala Bidang Komunikasi, penulis utama, dan peninjau editorial di Nym. Casey bergelar PhD di bidang Filsafat dan meneliti hubungan antara teknologi terdesentralisasi dan kehidupan sosial.

Harga terendah baru

VPN paling privat di dunia

Coba NymVPN secara gratis

Baca Terus...

Pablo: Improve quality

Siapa yang melacak aktivitas internet Anda, dan mengapa?

Setiap aktivitas Anda di internet sedang dipantau. VPN terdesentralisasi dapat lebih baik dalam melindungi privasi kita.

1 menit baca