Безопасен ли ChatGPT? Эксперты по кибербезопасности Nym дают свою оценку

Как работают генеративные ИИ (и что они сохраняют)

ChatGPT и другие языковые модели генерируют ответы, обрабатывая большие объёмы текстовых данных, часто включая запросы пользователей в реальном времени. Хотя компании, работающие с ИИ, утверждают, что анонимизируют эти данные, риски всё равно существуют:

• Запросы могут сохраняться или проверяться людьми
• Метаданные, такие как IP-адреса, типы устройств и время сеансов, могут регистрироваться
• Конфиденциальная информация может храниться временно

Даже если содержимое вашего сообщения шифруется при передаче, всё, что его окружает — ваши метаданные — зачастую остаются открытыми.

Это может раскрыть шаблоны того, как, когда и откуда вы используете ИИ-инструменты.

Какие риски для конфиденциальности связаны с ChatGPT?

Использование генеративных ИИ-инструментов может привести к нескольким рискам:

• Хранение данных: Даже анонимизированные запросы могут сохраняться для обучения моделей или модерации
• Отсутствие прозрачности: Пользователи часто не знают, какие данные сохраняются или хранятся
• Риск слежки: IP-адреса и поведение при использовании могут быть связаны с конкретными пользователями
• Передача третьим лицам: ИИ-инструменты могут передавать метаданные или содержимое для аналитики или соблюдения требований
• Ваши данные могут никогда не быть забыты: Как только ваши данные попадут в систему генеративного ИИ, их может быть невозможно удалить

Без надлежащих мер безопасности использование таких инструментов, как ChatGPT, может потенциально раскрыть вашу личность, интересы и историю просмотров.

Можно ли безопасно использовать ChatGPT?

Да, но это требует активных шагов. Вот как снизить риски при использовании ИИ-платформ:

• Не указывайте личную информацию в запросах
• Используйте ChatGPT, подключаясь через dVPN, например, NymVPN
• Запускайте ChatGPT в режиме приватного просмотра
• Регулярно очищайте куки и локальное хранилище

Также можно рассмотреть использование самостоятельно размещённых или открытых ИИ-инструментов, которые предоставляют полный контроль над вашими данными.

Открытые и закрытые ИИ-модели

Закрытые модели, такие как ChatGPT, поддерживаются частными компаниями и часто предоставляют ограниченную прозрачность в вопросах обработки данных. Открытые альтернативы предоставляют пользователям больше прозрачности и контроля, но могут уступать коммерческим моделям в плане доработки и удобства.

Чтобы глубже понять, почему открытые системы важны, прочитайте руководство Nym по теме что действительно означает open source.

Инструменты для защиты вашей конфиденциальности при использовании ИИ

Конфиденциальность — это не только сама модель, но и окружающая её среда. Используйте эти инструменты для усиления защиты вашей конфиденциальности:

Защита конфиденциальности в сценариях использования ИИ в Web3

По мере расширения применения генеративных ИИ-инструментов в Web3, внимание к конфиденциальности становится особенно важным. От аналитики блокчейнов до NFT-платформ и децентрализованных социальных сетей — ИИ используется для персонализации лент, подведения итогов активности сообщества и автоматизации управленческих аналитик. Однако такие сценарии часто требуют вычислений вне блокчейна или интеграции с внешними API, что открывает новые риски утечки метаданных.

Если вы используете инструменты ИИ для:

• Участие в DAO или подготовка предложений
• Генерация метаданных для NFT
• Модерация сообщества Web3 или боты
• Автоматизация смарт-контрактов с помощью интерфейсов на естественном языке... каждое взаимодействие может создавать след, который можно использовать для деанонимизации.

Чтобы этого избежать, создайте комплексный стек приватности, включающий:

• Защита на сетевом уровне с базовым слоем микснета Nym
• Защита на уровне приложений с использованием зашифрованного поиска и приватных инстансов ИИ
• Защита поведения пользователя с помощью режимов инкогнито и блокировщиков трекеров

Децентрализованная инфраструктура, такая как NymVPN, гарантирует, что и контент, и метаданные остаются приватными — даже в рабочих процессах Web3 с искусственным интеллектом.

Конкретные риски генеративного ИИ

В некоторых отраслях ставки в вопросах конфиденциальности ИИ особенно высоки:

• В здравоохранении, например, запросы, отправляемые в ИИ, могут непреднамеренно содержать защищённую медицинскую информацию.
• В финансовой сфере могут быть раскрыты приватные инвестиционные стратегии или данные клиентов.
• Даже в образовании студенты и преподаватели рискуют подвергнуться слежке при использовании ИИ для выполнения заданий или общения.

Молодёжь: чрезмерная уязвимость и недостаточная подготовка

Молодые пользователи — особенно подростки и студенты вузов — часто используют генеративные ИИ-инструменты, не понимая связанных с этим компромиссов в области конфиденциальности. Будь то помощь с домашними заданиями, учебные пособия или интеграции в соцсетях — все эти взаимодействия создают метаданные. Это включает отметки времени, данные об устройстве и поведенческие шаблоны, которые могут использоваться для профилирования.

Молодые пользователи также чаще используют ИИ-инструменты в браузерах или приложениях без блокировщиков трекеров и приватных сетей. Без целенаправленных мер по обеспечению приватности эта возрастная группа может стать золотой жилой данных для рекламодателей, брокеров данных, образовательных технологических компаний или партнёров по слежке.

Более взрослые пользователи: риски без осознания угрозы

Более взрослые пользователи часто обращаются к генеративному ИИ за поддержкой по медицинским вопросам, повседневным задачам или новым технологиям. Скорее всего, это приводит к раскрытию личных данных, таких как имена, симптомы или информация об аккаунтах. Без понимания того, как данные проходят через ИИ-системы, они могут быть уязвимы для фишинговых атак, мошенничества с ИИ или случайных утечек данных.

Поскольку эта группа может не обновлять свои устройства регулярно и не использовать инструменты конфиденциальности, она более уязвима к отпечаткам браузера, отслеживанию и эксплойт-наборам, нацеленным на генеративные ИИ-запросы.

Кем бы вы ни были и какой бы ни был ваш уровень риска, приватный слой на базе микснета NymVPN обеспечивает самые передовые сетевые защиты ваших данных для различных отраслей и групп пользователей. Это гарантирует, что под защитой останутся не только ваши данные, но и соединение с сетью, а также модели вашего поведения, предотвращая профилирование и злоупотребления.