Уязвимость ChatGPT: Хакеры внедряют ложные данные в память ИИ

Хакер украл пользовательские данные через ChatGPT. Уязвимость позволяет злоумышленникам внедрять ложную информацию в память бота, открывая доступ к персональным данным. Уязвимость связана с долговременной памятью, которую OpenAI тестирует с февраля. Память ChatGPT хранит важную информацию из переписки с пользователем и использует её в качестве контекста во всех будущих диалогах. Ну что, не такой уж и умный ваш ИИ?

Хакер внедрил в ChatGPT ложные воспоминания для кражи пользовательских данных У ChatGPT обнаружена уязвимость, которая позволяет потенциальному злоумышленнику внедрять в долгосрочную память чат-бота о пользователе ложную информацию при помощи вредоносных запросов — это открывает доступ к персональным данным жертвы. В OpenAI открытие, сделанное экспертом по кибербезопасности Иоганном Рейбергером Johann Rehberger , поначалу сочли незначительной угрозой и быстро закрыли расследование. #openai #chatgpt #ии #уязвимость

Исследователь безопасности Йоханн Ребергер выявил уязвимость в системе ChatGPT, позволяющую злоумышленникам вводить ложные данные в долговременную память чат-бота. Это может угрожать конфиденциальности пользовательской информации. OpenAI частично исправила проблему, однако риск остается. Пользователям рекомендовано быть внимательными к источникам данных.

Известия: Установка шпионского ПО при помощи памяти ИИ: мнения экспертов В приложении ChatGPT для macOS была обнаружена уязвимость, позволяющая злоумышленникам установить шпионское ПО благодаря использованию функции памяти искусственного интеллекта. Эксперты назвали эту технику SpAIware и отметили, что она обеспечивает постоянную утечку данных, включая информацию, введенную пользователями или полученную в чатах. Подробности здесь: Необходимы письменные комментарии экспертов, которые ответят на...

Заплати рублями за получение карты от Газпромбанк ❤️ Оформи бесплатную дебетовую карту от Газпромбанка через нас и мы переведем тебе вознаграждение

Хакеры внедряют ложные воспоминания в ChatGPT: новые угрозы? Оказывается, ChatGPT можно заставить «вспоминать» то, чего не было. Эксперт по кибербезопасности Иоганн Рейбергер обнаружил уязвимость, которая позволяет злоумышленникам внедрять в долгосрочную память чат-бота ложные данные о пользователях. С помощью непрямых инъекций в запросы например, через документы или ссылки можно заставить ИИ поверить, что вы живёте в «Матрице», вам 102 года, и вы верите, что Земля плоская. Впоследствии ИИ использует эту ложную информацию для всех дальнейших бесед с пользователем. ChatGPT с функцией долгосрочной памяти хранит сведения о пользователе — возраст, интересы и даже убеждения. И хотя OpenAI частично исправила уязвимость, эксперты всё ещё предупреждают, что риск существует. Например, с помощью вредоносных файлов злоумышленник может получить доступ к журналам переписок пользователя. OpenAI выпустила инструкцию по управлению памятью, но вам советуют регулярно проверять, не завелись ли в вашем ИИ ложные воспомин...

Исследователь в области кибербезопасности Иоганн Рейбергер выявил уязвимость в ChatGPT, которая позволяет злоумышленникам внедрять ложную информацию в память чат-бота с помощью вредоносных запросов.