ChatGPT собирает цифровое досье на пользователей: предупреждение МВД РФ

Управление по борьбе с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России выпустило официальное предупреждение: сервис ChatGPT от компании OpenAI систематически аккумулирует сведения о пользователях и формирует на каждого детальное «цифровое досье». По оценке специалистов ведомства, накопленный массив информации позволяет безошибочно установить личность человека, даже если общение велось под вымышленным сетевым псевдонимом.

Основанием для тревоги правоохранителей стали данные масштабного международного исследования «The Algorithmic Self-Portrait» Института Макса Планка, Рурского и Делфтского университетов. Эксперты выяснили, что около 95–96% заметок во встроенной памяти сервиса (функция Memory) создаются алгоритмом автономно — без прямого запроса или ведома самого собеседника. Итоги анализа сотен аккаунтов оказались показательными: в памяти 91% профилей сохранились прямые персональные маркеры (от настоящих имен и локаций до финансовых привычек), а у 54% зафиксированы чувствительные сведения о состоянии здоровья и мировоззрении. Ирония ситуации в том, что пользователи добровольно делятся с диалоговым окном сокровенными подробностями, забывая, что на том конце цифрового провода всё тщательно архивируется на удаленных зарубежных серверах.

Однако угроза приватности — лишь верхушка айсберга. В МВД акцентируют внимание на риске скрытых манипуляций через уязвимости нейросетей. В анализируемые искусственным интеллектом отчеты и рабочие документы злоумышленники способны внедрять скрытые директивы (так называемый indirect prompt injection). В результате скорректированная нейросеть может незаметно подталкивать исследователей, аналитиков и госслужащих к нужным решениям, искусно искажая аналитику с оглядкой на психологический портрет и слабости конкретного специалиста. Чтобы не пополнять базу данных зарубежной корпорации, киберполиция призывает пересмотреть цифровые привычки: проверить настройки конфиденциальности, отключить функции памяти и персонализации, наотрез отказаться от загрузки служебных файлов, а для чувствительных запросов применять режим временных чатов с полной анонимизацией вводных данных.
Источник