المراقبة بالذكاء الاصطناعي لن تنقذ أطفالك: عودة موضوع مراقبة الدردشة إلى الواجهة مرة أخرى

لا يزال شبح المراقبة الجماعية يخيم على أوروبا. على الرغم من جميع التطورات التي حققها القانون العام لحماية البيانات (GDPR)، لا يزال التحايل على تشفير البيانات هدفًا مستهدفًا.

لسوء الحظ، من الشائع جدًّا أن تتستر انتهاكات حرياتنا المدنية وراء وعود بحمايتنا من الوحوش. ويعد اقتراح الاتحاد الأوروبي بشأن «اللائحة التي تحدد قواعد لمنع ومكافحة الاستغلال الجنسي للأطفال» (لائحة CSA، أو CSAR) مثالاً صارخاً على ذلك. تم طرح اللائحة مرة أخرى للتصويت في البرلمان الأوروبي هذا الأسبوع. لحسن الحظ، تم تأجيله في النهاية أمس بسبب الجدل الدائر حول ما يصفه مدافعو الخصوصية بأنه ربما «مشروع قانون الاتحاد الأوروبي الأكثر انتقادًا على الإطلاق».

لقطة شاشة مأخوذة في 21 يونيو 2024

يوفر CSAR بشكل أساسي لعملاء الويب تقنية مراقبة مدعومة بالذكاء الاصطناعي لتقويض التشفير الذي يحمي الملفات الشخصية والاتصالات الخاصة بالجميع. كل هذا باسم مكافحة الاستغلال الجنسي للأطفال، لكن لا تنخدع بهذا الذئب الذي يرتدي ثوب الحملان. يُعرض على مواطني الاتحاد الأوروبي خيار زائف: الاتصالات الخاصة أم المعتدين الجنسيين؟ لحسن الحظ، يرفع الكثيرون، بمن فيهم أعضاء فريق Nym الأساسي والمجتمع، أصواتهم بعاجلة ضد ذلك.

يتابع فريق Nym عن كثب التقدم التدريجي للإصدارين 1.0 و2.0 من “التحكم في الدردشة” منذ إطلاقه في عام 2022. وهي تسعى مرة أخرى إلى إجراء مناقشة وتصويت محتمل باستخدام صياغة تم تعديلها بشكل خادع. ومع ذلك، فإن هذه التغييرات لا تزيد عن تخفيف حدة استراتيجيتها في المراقبة الجماعية. كل هذا مجرد خدعة لمحاولة التحايل على التزامات اللائحة العامة لحماية البيانات (GDPR) لحماية تشفير البيانات من طرف إلى طرف. في حين أن التشفير قد لا يتأثر بقانون CSAR، إلا أنه تم اقتراح باب خلفي أكثر خطورة على التشفير من شأنه أن يؤدي إلى مراقبة جماعية أعمق للأجهزة.

فيما يلي ما هو على المحك في اقتراح CSAR ولماذا يمثل تهديدًا كبيرًا لخصوصية الجميع على الإنترنت في الاتحاد الأوروبي وعلى مستوى العالم.

ما هو التحكم في الدردشة؟

يُعد قانون CSAR، الذي أصبح يُعرف لدى النقاد باسم «التحكم في الدردشة»، محاولة تنظيمية لتحديد موقع وحجب حركة مرور المواد الإباحية المتعلقة بالأطفال وحالات الإساءة «قبل إرسالها». ورغم أن القليلين قد يختلفون مع هذا الهدف، إلا أن الخبراء ما زالوا يصرخون من فوق أسطح المنازل بأن اللائحة المقترحة لن تكون فعالة ببساطة. والأسوأ من ذلك، أنه يصرح بإنشاء باب خلفي للمراقبة في أجهزة مستخدمي قارة بأكملها ويفرض استخدامه.

الفحص من جانب العميل (CSS)

الحل الذي اقترحته CSAR لمشكلة المواد المتعلقة بالاعتداء الجنسي على الأطفال (المعروفة أيضًا باسم CSAM) هو المراقبة الجماعية من خلال المسح من جانب العميل (CSS). بدلاً من المساس بالبيانات المشفرة أثناء الإرسال، يقوم النظام بشكل أساسي بمسح البيانات الموجودة على الأجهزة أو الخوادم قبل أن يتم تشفيرها. وهذا من شأنه أن يقوض أمن الاتصالات ومبادئ التشفير من طرف إلى طرف للجميع.

التشفير هو حجر الزاوية في الاتصالات الآمنة. عندما تقوم بشيء ما عبر الإنترنت من خلال اتصال مشفر — مثل إرسال صور شخصية إلى الأصدقاء أو العائلة، أو استخدام بطاقتك الائتمانية عبر الإنترنت — يمكنك أن تطمئن إلى حد معقول من أن الأطراف الخارجية لا يمكنها الوصول إلى بياناتك أو استغلالها. كانت الجهود الأصلية لـ CSAR تهدف إلى إجبار خدمات الويب على كسر التشفير الذي يحمي محتويات اتصالات العملاء. مع اختراق التشفير، يمكن فحص جميع الرسائل بحثًا عن مواد مستهدفة. لحسن الحظ، قوبل هذا بـ رد فعل عنيف من المجتمع المدني ودعاة الخصوصية.

ما يُقترح حاليًا هو تقنيات CSS التي من شأنها أن تسمح قانونيًا لخدمات الويب بمسح أو «مراقبة» الملفات والاتصالات على جهازك قبل تطبيق التشفير. تخيل أن شركة Apple قادرة على فحص تطبيقات iPhoto أو iMessenger الخاصة بك بانتظام بحثًا عن نقاط بيانات مبرمجة مسبقًا تُعتبر تهديدًا. أو أن خدمة اتصالات خاصة تتلقى أمرًا قانونيًا للقيام بذلك. في الواقع، صرح رئيس Signal علنًا بأنهم سيسحبون خدماتهم من الولايات القضائية التابعة للاتحاد الأوروبي بدلاً من السماح بمثل هذا التنازل عن أمن مستخدميهم.

لقطة شاشة مأخوذة في 21 يونيو 2024

تقنية CSS «معيبة بشدة»، حسبما يقول العلماء

يحتاج أي برنامج مسح مراقبة إلى البحث عن شيء معين. السؤال الكبير هو: هل يمكنه تحديد أهدافه بشكل واضح دون جمع بيانات غير ذات صلة؟ في حالة CSAR، يتمثل الهدف المعلن في فحص أجهزة المستخدمين بحثًا عن حالات محتملة لـ CSAM. وهذا يعني، على سبيل المثال، الصور التي تصور أطفالاً عراة أو في أوضاع جنسية، أو الرسائل التي تصف مثل هذه الأفعال. ولكن كيف سيعمل هذا بالضبط؟

بشكل أساسي، سيتم منح برنامج تحليل البيانات، الذي يُرجح أنه مدعوم بالذكاء الاصطناعي، حق الوصول إلى المحتوى غير المشفر الخاص بالجميع على أي جهاز أو خادم. سيقوم النظام بتمييز كميات هائلة من التهديدات المحتملة استنادًا إلى نقاط البيانات قبل إرسال جميع الحالات إلى فريق بشري للتحقق منها. سيتمكن هذا الفريق بعد ذلك من الوصول إلى ملفاتك الشخصية واتصالاتك لتحديد ما إذا كنت قد ارتكبت أي مخالفة. سيتم بعد ذلك إحالة أي محتوى أو نشاط مشبوه إلى سلطات إنفاذ القانون لإجراء مزيد من التحقيق.

وقد كان الباحثون صريحين للغاية في التحذير من مدى عرضة هذه التكنولوجيا للأخطاء، سواء من الناحية التقنية أو من حيث الإضرار بالحريات المدنية. تخيل حالة "إيجابية كاذبة"، حيث يتم الإبلاغ عن الصور الشخصية لأطفال أحد الوالدين بواسطة خوارزمية، ثم يتم عرضها ومراجعتها من قبل المحللين قبل إحالتها إلى سلطات إنفاذ القانون. وقد حذر علماء البيانات من أن مثل هذا «المسح محكوم عليه بالفشل»، وأن إجراؤه على نطاق واسع سيؤدي إلى «آثار جانبية يمكن أن تكون ضارة للغاية لكل مستخدمي الإنترنت، وقد تجعل الإنترنت والمجتمع الرقمي أقل أمانًا للجميع».

الجدول الزمني

تواجه مبادرة CSAR صعوبات في البرلمان الأوروبي منذ طرحها في عام 2022. وقد عاد هذا الأسبوع بمناقشة مجدولة استراتيجياً بعيداً عن الأضواء في ظل الانتخابات البرلمانية الأخيرة. فيما يلي الجدول الزمني الرئيسي لمتابعة تطوراته وتغييراته ووضعه الحالي.

• 11 مايو 2022: تم تقديم اقتراح CSAR الأصلي.
• يونيو 2022: تم الكشف عن أن الممثل الهوليوودي أشتون كوتشنر كان يعمل مع مفوضة الشؤون الداخلية يلفا يوهانسون في الضغط من أجل ما كان يُعرف آنذاك باسم CSAR، لصالح منظمة Thorn التي شارك في تأسيسها. تبيع Thorn أدوات الذكاء الاصطناعي التي ستُستخدم لفحص أجهزة الأشخاص. (استقال كوتشنر لاحقًا من منصب رئيس مجلس إدارة Thorn بعد دفاعه عن مغتصب مدان).
• 13 أبريل 2023: تم تقديم تقرير بتكليف من البرلمان الأوروبي حول تأثير اقتراح CSAR إلى لجنة الحريات المدنية والعدالة والشؤون الداخلية التابعة للبرلمان الأوروبي.
• يوليو 2023: إرسال رسالة مفتوحة موقعة من 465 من العلماء والباحثين إلى المفوضية الأوروبية. يحذر العلماء صراحةً من أوجه القصور المحتملة للتقنيات المقترحة وتقويضها لـ "مستقبل رقمي آمن لمجتمعنا" و"العمليات الديمقراطية في أوروبا وخارجها".
• 2 مايو 2024: إرسال رسالة مفتوحة جديدة من 312 عالمًا وباحثًا من 32 دولة إلى الاتحاد الأوروبي. ويؤكدون مجددًا أن التغييرات اللغوية في اقتراح CSAR لن تغير من حقيقة أن هذه التكنولوجيا «معيبة بشكل جذري» وخطيرة. شارك في تأليف هذه الرسالة بارت برانيل، المدافع عن الخصوصية والأستاذ الجامعي والمستشار التقني لشركة Nym.
• 13 فبراير 2024: الحكم الصادر عن المحكمة الأوروبية لحقوق الإنسان في قضية Podchasov ضد روسيا يؤكد على دور التشفير من طرف إلى طرف في «تأمين وحماية خصوصية الاتصالات الإلكترونية» وضمان «التمتع بالحقوق الأساسية الأخرى، مثل حرية التعبير».
• 20 يونيو 2024: من المقرر إجراء مناقشة وتصويت على تقرير CSAR المنقح بعد تأجيله (انظر البند 28 تحت عنوان «العدالة والشؤون الداخلية»). تم إلغاء التصويت أخيرًا!

من المهم ملاحظة أن وثيقة CSAR هي اقتراح تشريعي ولا يكون لها أي أثر قانوني ما لم توافق عليها الهيئة البرلمانية. ومع ذلك، من المهم لمواطني الاتحاد الأوروبي الاتصال بممثليهم والاحتجاج على هذه المحاولات لانتهاك الحريات المدنية.

الألاعيب اللغوية التشريعية

يمكن أن يكون للطريقة التي تُعبَّر بها الأشياء لغويًّا تأثيرات كبيرة علينا: فعبارة مغرية قد تجعلنا نرغب في شيء ربما لا نريده، أو تنفرنا من شيء ليس سيئًا إلى هذا الحد في الواقع. في بعض الأحيان، قد تكون الصياغة رتيبة ومجردة لدرجة أننا لا نلاحظ حتى أننا نستوعب حبة سامة.

أدخل أحدث اقتراح من CSAR بشأن «تقنيات الإشراف على التحميل». عند قراءة مئات الصفحات من اللوائح البرلمانية، يمكن أن تمر عبارات مثل هذه مرور الكرام بسهولة، وهذا بالضبط ما صُممت من أجله. فماذا يعني ذلك بالضبط؟

لقطة شاشة مأخوذة في 21 يونيو 2024

دعونا نحلل هذا الأمر.

[1] يُقصد بـ «مقدمي خدمات الاتصالات بين الأفراد» أي خدمة ويب تتولى إدارة اتصالاتك الرقمية مع أشخاص آخرين. هذا نطاق واسع. وينطبق هذا بوضوح على تطبيقات المراسلة مثل WhatsApp، حتى تلك التي تركز على الخصوصية والمشفرة مثل Signal. ولكن هذا ينطبق أيضًا على الشركات الكبرى مثل Apple التي تقدم خدمات الصور والرسائل، ناهيك عن أنظمة التشغيل.

[2] إن الصيغة القانونية لـ «يجب تثبيت وتشغيل» تقنيات CSS هذه تنطوي على أن خدمات الاتصالات لن تكون قادرة على القيام بذلك فحسب، بل إن عليها (أو «يجب عليها») القيام بذلك.

[3] هذا هو جوهر المسألة: الكشف عن هدف المراقبة [4] «قبل الإرسال» يعني قبل التشفير. بمجرد تفعيل التشفير، فإن الكشف عن أي مادة رقمية مطلوبة سيتطلب كسر التشفير، وهو أمر غير وارد. إذن، فإن هذه التقنية تعني إجراء مسح شامل للأجهزة، وهو ما لا يمكن إلا لمزودي الأجهزة أو مشغلي التطبيقات وخدمات الويب القيام به نيابة عن السلطات. نظرًا لأن الهدف من البيانات المشفرة هو الحماية من وصول أطراف ثالثة، فإن هذه التقنية تعد في جوهرها بابًا خلفيًا للتشفير.

[4] في حين أن الهدف من هذا الفحص قد يكون الكشف عن المواد الإباحية التي تصور الأطفال (CSAM)، فإن تحديد موقعها يعني أن برامج الذكاء الاصطناعي لديها أولاً إمكانية الوصول إلى جميع بياناتنا أو اتصالاتنا. أولاً، هناك فرق كبير بين «مواد الاعتداء الجنسي على الأطفال المعروفة» (على سبيل المثال، صورة أو مقطع فيديو تم تحديده بالفعل من قبل السلطات) و«مواد الاعتداء الجنسي على الأطفال الجديدة». مع هذا الأخير، فإن قدرات أي برنامج ذكاء اصطناعي قادرة على ارتكاب أخطاء فادحة في التمييز بين المواد الإباحية للأطفال والصور العائلية الخاصة التي لا تنطوي على أي نية جنسية.

لذا فإن «الإشراف على التحميل»، الذي يبدو بريئًا مثل «التأكد من أن الناس ينشرون كمية معقولة فقط من المواد عبر الإنترنت»، يعني في الواقع «مراقبة البيانات المدعومة بالذكاء الاصطناعي على أجهزة جميع المستخدمين قبل التشفير لأغراض إنفاذ القانون». أضف عبارة «غير مختبرة» و«غير محتملة علمياً وعرضة للأخطاء» إلى هذه «التكنولوجيا»، وسنقترب أكثر من الحقيقة.

كسر التشفير أم التغلب عليه من الخلف؟

تدور الكثير من الانتقادات الموجهة إلى CSAR حول ما إذا كان يخرق التشفير من طرف إلى طرف في عمليات نقل البيانات. تمت حماية تشفير البيانات بموجب اللائحة العامة لحماية البيانات (GDPR)، وتم تعزيزها مؤخرًا بقرار المحكمة الأوروبية لحقوق الإنسان في قضية Podchasov ضد روسيا (2024). وكما أشارت ميريديث ويتاكر، رئيسة شركة Signal، فإن هذا لا يعدو كونه مجرد تلاعب لغوي أو «تغيير للعلامة التجارية»:

“[فرض] الفحص الشامل للاتصالات الخاصة يقوض التشفير بشكل جذري. نقطة. […] يمكننا تسميته بـ"الباب الخلفي" أو "الباب الأمامي" أو "الإشراف على التحميل". ولكن مهما كان الاسم الذي نطلقه عليه، فإن كل نهج من هذه النهج يخلق ثغرة أمنية يمكن استغلالها من قبل المتسللين والدول المعادية، مما يزيل الحماية التي توفرها العمليات الحسابية التي لا يمكن اختراقها ويستبدلها بثغرة أمنية عالية القيمة.”

إن تمكين خدمات الويب التي تسهل وصولها إلى بياناتنا من فحصها بالكامل على أجهزتنا أو على خوادمها قبل تطبيق أي تشفير أثناء الإرسال لا يُعد تقنيًا «كسرًا للتشفير». في الواقع، الأمر أسوأ بكثير: باب خلفي لخوارزميات الذكاء الاصطناعي الآلية لتؤدي دور المراقبة الوسيطة في ربط بياناتنا الشخصية بالسلطات.

يتضمن اقتراح CSAR ثناءً متناقضاً إلى حد كبير على قيمة التشفير من طرف إلى طرف:

"[التشفير من طرف إلى طرف]"، كما يعترف تقرير CSAR، "هو وسيلة ضرورية لحماية الحقوق الأساسية والأمن الرقمي للحكومات والصناعة والمجتمع."

ومع ذلك، فإن ما تسعى إلى إنشائه من شأنه أن يقوض بشكل صريح خصوصية البيانات نفسها التي يهدف تشفير البيانات إلى حمايتها. توضح المقترحات (26أ) أن تقنية المراقبة أو «الرصد»،

“يضمن أن آلية الكشف يمكنها الوصول إلى البيانات في شكلها غير المشفر من أجل التحليل واتخاذ الإجراءات الفعالة، دون المساس بالحماية التي يوفرها التشفير من طرف إلى طرف بمجرد إرسال البيانات.”

كيف يمكن للمراقبة «الوصول إلى البيانات في شكلها غير المشفر [...] "دون المساس بالأمان" هو مجرد هراء صارخ.

موافقة المستخدم

ومن التغييرات الكبيرة الأخرى في اقتراح CSAR أنه يجب طلب موافقة المستخدمين على استخدام تقنيات المراقبة هذه:

“يجب أن تظل مواد الاستغلال الجنسي للأطفال قابلة للكشف في جميع خدمات الاتصالات بين الأفراد من خلال تطبيق تقنيات تم فحصها، عند تحميلها، بشرط أن يمنح المستخدمون موافقتهم الصريحة بموجب شروط وأحكام المزود.”

ماذا يعني هذا بالضبط؟ يمكن لأي مستخدم لا يوافق على فحص بياناته الاستمرار في استخدام خدمة الويب، طالما أنها “لا تنطوي على إرسال محتوى مرئي وعناوين URL.” وهذا يمكن أن يؤدي فعليًا إلى تعطيل العديد من خدمات الاتصالات. لذا تخيل أنك تريد تطبيق مراسلة خاص، لكن الاتحاد الأوروبي يجبرهم على فحص بياناتك مسبقًا، وأنت ترفض ذلك لسبب وجيه. نظرًا لأن التطبيق يسمح أيضًا بإرسال الصور والروابط، فلا يمكنك ببساطة استخدام الخدمة.

خاتمة

تم تأجيل التصويت على CSAR، لكنه لم ينتهِ بأي حال من الأحوال. سيظهر مشروع القانون هذا مرة أخرى، ربما مع مزيد من التعديلات على الصياغة في محاولة لتهدئة الأجواء من أجل فرض المراقبة الرقمية الجماعية على أوروبا.

ومع ذلك، فإن ما يبدو واضحاً للكثيرين هو أن هذا النوع من المراقبة الجماعية لن يحل المشكلة، التي هي مشكلة اجتماعية أكثر منها تقنية. وكما علق بارت برانيل، أحد المستشارين المقربين من Nym:

"[من] غير الواضح لماذا تواصل بعض الحكومات الضغط من أجل اتباع نهج المراقبة الجماعية هذا بدلاً من التركيز على منع الاعتداء الجنسي على الأطفال."

ينبغي منع الإيذاء ضد الأطفال من خلال تمويل الخدمات الاجتماعية والوسائل الوقائية الأخرى. تقوم Ella Jukubowska و EDri بالبحث عن بدائل حقيقية لمشكلة المواد الإباحية التي تصور الأطفال (CSAM) وإساءة معاملة الأطفال، سواء عبر الإنترنت أو في الواقع. لا ينبغي استخدام "Abuse" كحيلة علاقات عامة ساخرة لكسر التشفير والمساس بخصوصية وأمن جميع سكان أوروبا في هذه العملية. ولا ينبغي لنا أن نسمح طواعية للحكومات بانتهاك حقوقنا في الخصوصية خوفاً من الوحوش.

نأمل أن يكون هذا التأخير الأخير في التصويت علامة على أن الهيئات التنظيمية بدأت تدرك هذه الحقيقة.

Nym Dispatch

سلسلة Nym Dispatch تتعمق في النظام البيئي للخصوصية على الإنترنت وفي وسائل التواصل الاجتماعي. تابعنا لمعرفة المزيد عن المخاطر وتكتيكات جني الأموال في اقتصاد المراقبة عبر الإنترنت، بدءًا من سوق شبكات VPN المجانية. ستتناول هذه السلسلة قريبًا ممارسات التسجيل التي تتبعها شبكات VPN المجانية؛ وعقود الموافقة الغامضة عمدًا؛ وكيف ولماذا ولمن تبيع هذه الشبكات بياناتنا؛ وممارساتها الإعلانية المتطفلة.