Хакеры использовали ChatGPT для оптимизации и написания кода

Компания OpenAI выявила несколько преступных групп, пытавшихся использовать ChatGPT для получения конфиденциальной информации.

Совместно с командой Microsoft разработчикам удалось заблокировать доступ к чатботу. Сообщается, что представители OpenAI и #Microsoft Threat Intelligence обнаружили аккаунты, принадлежащие хакерским группам.

В отчете упоминаются такие организации, как:

• Charcoal Typhoon и Salmon Typhoon, обе связаны с Китаем;
• Crimson Sandstorm (Иран);
• Emerald Sleet (КНДР);
• Forest Blizzard (РФ).

"Мы пресекли деятельность пяти организаций, которые использовали возможности искусственного интеллекта для поддержки вредоносной деятельности. Идентифицированные учетные записи OpenAI, связанные с этими субъектами, были удалены"заявили разработчики.

По данным OpenAI, Charcoal Typhoon и Salmon Typhoon исследовали различные инструменты кибербезопасности, изучая разведывательную деятельность и отладку кода.

Эксперты также обнаружили, что Crimson Sandstorm использовала ChatGPT для создания фишинговых приложений и сайтов, а Emerald Sleet - для написания вредоносного кода и поиска экспертов по защите. Forest Blizzard, в свою очередь, отправляла запросы на поиск информации о спутниковой связи и оборудовании для получения радиолокационных изображений.

В ходе расследования команда обнаружила, что последняя версия #ChatGPT предлагает "ограниченные возможности для хакеров". Тем временем OpenAI заявила, что ей необходимо улучшить #безопасность продукта и ввести усиленный контроль за взаимодействием пользователей с платформой.

В феврале команда #OpenAI выпустила обновление для ChatGPT, которое позволяет ИИ-боту запоминать факты и предпочтения пользователей.