آیا ChatGPT ایمن است؟ کارشناسان امنیت سایبری Nym نظر خود را بیان می‌کنند **duplicated**

هوش مصنوعی مولد چگونه عمل می‌کند (و چه چیزهایی را ثبت می‌کند)

ChatGPT و سایر مدل‌های زبانی با پردازش حجم زیادی از داده‌های متنی، که اغلب شامل پرس‌وجوهای کاربر در همان لحظه هستند، پاسخ تولید می‌کنند. اگرچه شرکت‌های هوش مصنوعی ادعا می‌کنند که این داده‌ها را ناشناس می‌کنند، اما هنوز خطراتی وجود دارد:

• ممکن است پرامپت‌ها یا همان متن‌هایی که وارد میکنید، توسط انسان‌ها ذخیره یا بررسی شوند
• متادیتا مانند آدرس‌های IP، نوع دستگاه و زمان‌های استفاده می‌توانند ثبت شوند
• اطلاعات حساس ممکن است به طور موقت حفظ شوند

حتی اگر محتوای پیام شما در حین انتقال رمزنگاری شده باشد، آنچه آن را احاطه می‌کند — یعنی متادیتای شما — اغلب در معرض دید قرار دارد.

این می‌تواند الگوهایی را در مورد نحوه، زمان و محل استفاده از ابزارهای هوش مصنوعی آشکار کند.

چه ریسک‌های حریم خصوصی با ChatGPT همراه است؟

استفاده از ابزارهای هوش مصنوعی مولد ممکن است خطرات متعددی را به همراه داشته باشد:

• نگهداری داده‌ها: حتی متن‌هایی که به‌صورت ناشناس‌سازی‌شده وارد می‌کنید ممکن است برای آموزش یا نظارت ذخیره شوند
• عدم شفافیت: کاربران اغلب نمی‌دانند چه چیزی ثبت یا نگهداری می‌شود
• قرار گرفتن در معرض نظارت: [آدرس‌های IP](آدرس IP من چیست) و رفتار استفاده می‌توانند به افراد مرتبط باشند
• اشتراک‌گذاری با اشخاص ثالث: ابزارهای هوش مصنوعی ممکن است متادیتا یا محتوا را برای تحلیل یا انطباق به اشتراک بگذارند
• داده‌های شما ممکن است هرگز فراموش نشوند: هنگامی که داده‌های شما در سیستم هوش مصنوعی مولد ادغام شوند، ممکن است هرگز نتوان آنها را حذف کرد

بدون اقدامات حفاظتی مناسب، استفاده از ابزارهایی مانند ChatGPT می‌تواند هویت، علایق و نحوه وبگردی شما را افشا کند.

آیا می‌توان از ChatGPT به‌صورت ایمن استفاده کرد؟

بله، اما انجام این کار نیاز به گام‌های فعال دارد. در اینجا راه‌هایی برای کاهش میزان در معرض قرار گرفتن شما هنگام استفاده از پلتفرم‌های هوش مصنوعی آمده است:

• از به اشتراک گذاشتن اطلاعات شخصی در پیام‌های تبلیغاتی خودداری کنید
• از ChatGPT هنگام اتصال به یک dVPN مانند NymVPN استفاده کنید
• اجرای ChatGPT در حالت وبگردی خصوصی
• کوکی‌ها و فضای ذخیره‌سازی محلی را به‌طور منظم پاک کنید

همچنین می‌توانید استفاده از ابزارهای هوش مصنوعی خودمیزبان یا متن‌باز را در نظر بگیرید که کنترل کامل بر داده‌های شما را فراهم می‌کنند.

مدل‌های هوش مصنوعی متن‌باز یا اُپِن‌سورس در برابر مدل‌های متن‌بسته

مدل‌های بسته مانند ChatGPT توسط شرکت‌های خصوصی نگهداری می‌شوند و اغلب شفافیت محدودی درباره نحوه مدیریت داده‌ها ارائه می‌دهند. جایگزین‌های متن‌باز به کاربران دید و کنترل بیشتری می‌دهند، اما ممکن است فاقد ظرافت مدل‌های تجاری باشند.

برای درک عمیق‌تر اینکه چرا سیستم‌های باز و شفاف اهمیت دارند، راهنمای Nym درباره اینکه متن‌باز واقعاً به چه معناست را مطالعه کنید.

ابزارهایی برای محافظت از حریم خصوصی هنگام استفاده از هوش مصنوعی

حریم خصوصی فقط مربوط به مدل نیست: بلکه مربوط به محیط اطراف آن نیز می‌شود. از این ابزارها برای تقویت حریم خصوصی خود استفاده کنید:

محافظت از حریم خصوصی در کاربردهای هوش مصنوعی Web3

با گسترش ابزارهای هوش مصنوعی مولد در Web3، توجه به حریم خصوصی اهمیت بیشتری پیدا می‌کند. از تحلیل‌های بلاک‌چین گرفته تا پلتفرم‌های NFT و شبکه‌های اجتماعی غیرمتمرکز، از هوش مصنوعی برای شخصی‌سازی فیدها، خلاصه‌سازی فعالیت‌های جامعه و خودکارسازی بینش‌های حاکمیتی استفاده می‌شود. با این حال، این موارد استفاده اغلب به محاسبات خارج از زنجیره یا یکپارچه‌سازی با APIهای خارجی نیاز دارند که ریسک‌های جدیدی برای افشای متادیتا ایجاد می‌کند.

اگر از ابزارهای هوش مصنوعی برای موارد زیر استفاده می‌کنید:

• مشارکت در DAO یا نگارش پیشنهاد
• تولید متادیتای NFT
• مدیریت جامعه Web3 یا ربات‌ها
• خودکارسازی قراردادهای هوشمند با رابط‌های زبان طبیعی …در این صورت، هر تعامل می‌تواند ردپایی ایجاد کند که برای شناسایی شما مورد استفاده قرار گیرد.

برای جلوگیری از این مسئله، یک معماری جامعِ حریم خصوصی بسازید که موارد زیر را پوشش دهد:

• Network-level protection with Nym’s mixnet base layer
• دفاع در سطح برنامه با جستجوی رمزگذاری شده و نمونه‌های هوش مصنوعی خصوصی duplicated
• محافظت مبتنی بر رفتار با استفاده از حالت‌های ناشناس (Incognito) و مسدودکننده‌های ردیاب

A decentralized infrastructure like NymVPN ensures that both content and metadata remain private — even in AI-enhanced Web3 workflows.

خطرات مخصوص هوش مصنوعی مولد

برخی صنایع در زمینهٔ حریم خصوصیِ هوش مصنوعی با ریسک‌ها و حساسیت‌های بالاتری مواجه هستند:

• برای مثال، در مراقبت‌های بهداشتی، پیام‌های به اشتراک گذاشته شده با هوش مصنوعی می‌توانند ناخواسته شامل اطلاعات بهداشتی حفاظت‌شده باشند.
• در حوزهٔ مالی، راهبردهای سرمایه‌گذاری خصوصی یا داده‌های مشتریان ممکن است افشا شوند.
• حتی در حوزهٔ آموزش نیز دانش‌آموزان و معلمان هنگام استفاده از هوش مصنوعی برای تکالیف یا ارتباطات، در معرض خطر نظارت قرار می‌گیرند.

جوانان: بیش از حد در معرض خطر، بدون آمادگی کافی

کاربران جوان‌تر — به‌ویژه نوجوانان و دانشجویان — اغلب بدون درک ملاحظات و بده‌بستان‌های مربوط به حریم خصوصی از ابزارهای هوش مصنوعی مولد استفاده می‌کنند. چه برای کمک به انجام تکالیف درسی، چه ابزارهای کمک‌آموزشی، یا یکپارچه‌سازی با شبکه‌های اجتماعی باشد، این تعاملات متادیتا تولید می‌کنند. این موارد شامل تایم‌استمپ‌ها، جزئیات دستگاه و الگوهای رفتاری است که می‌توان از آن‌ها پروفایل‌سازی کرد.

همچنین گروه‌های سنی جوان‌تر با احتمال بیشتری از ابزارهای هوش مصنوعی مبتنی بر مرورگر یا اپلیکیشن استفاده می‌کنند که در آن‌ها نه شبکهٔ خصوصی فعال است و نه مسدودکننده‌های ردیاب. بدون تنظیمات آگاهانه و هدفمندِ حریم خصوصی، این گروه سنی می‌تواند به منبعی طلایی از داده برای تبلیغ‌کنندگان، دلالان داده، شرکت‌های فناوری آموزشی (EdTech) یا شرکای نظارتی تبدیل شوند.

بزرگسالان مسن: بدون آنکه بدانند خطر در کمین آنها

کاربران مسن‌تر اغلب برای دریافت کمک در زمینهٔ پرسش‌های پزشکی، امور روزمره یا فناوری‌های جدید به هوش مصنوعی مولد روی می‌آورند. این موضوع احتمالاً باعث افشای جزئیات خصوصی‌تری مانند نام‌ها، علائم بیماری یا اطلاعات حساب کاربری می‌شود. بدون آگاهی از نحوهٔ جریان داده در سامانه‌های هوش مصنوعی، آن‌ها ممکن است در برابر حملات فیشینگ، کلاه‌برداری‌های مبتنی بر هوش مصنوعی یا نشت‌های ناخواستهٔ داده آسیب‌پذیر بشوند.

از آن‌جا که این گروه ممکن است دستگاه‌های خود را به‌طور منظم به‌روزرسانی نکنند یا از ابزارهای حریم خصوصی استفاده نکنند، بیشتر در معرض فینگرپرینتینگ (اثر‌انگشت‌گیری دیجیتال)، ردیابی یا کیت‌های اکسپلویت قرار می‌گیرند که درخواست‌های هوش مصنوعی مولد را هدف قرار می‌دهند.

فارغ از این‌که چه کسی هستید و سطح ریسک شما چقدر است، لایهٔ حریم خصوصی مبتنی بر میکس‌نتِ NymVPN پیشرفته‌ترین حفاظت‌های شبکه‌ای را برای داده‌های شما، در صنایع مختلف و میان گروه‌های گوناگون کاربران (از نوجوانان تا بزرگسالان) فراهم می‌کند. این موضوع تضمین می‌کند که نه‌تنها محتوای شما، بلکه اتصال شما و الگوهای رفتاری‌تان نیز در برابر پروفایل‌سازی و سوءاستفاده محافظت و پنهان باقی بمانند.