Модели ИИ осваивают методы социальной инженерии

США - Информационное агентство Эхбари

Недавние эксперименты показали, насколько искусственный интеллект становится пугающе хорош в человеческом аспекте компьютерного взлома. Сообщение, появившееся на экране ноутбука, было тщательно разработано для привлечения внимания, упоминая интересы пользователя, такие как децентрализованное машинное обучение и робототехника. Переписка по электронной почте, созданная моделью DeepSeek-V3, объясняла работу над проектом OpenClaw, вдохновленным распределенным обучением для робототехники, и предлагала ссылку на Telegram-бота для демонстрации.

Однако некоторые детали показались подозрительными, например, отсутствие информации о предполагаемом проекте DARPA и необходимость подключения к боту Telegram. Оказалось, что сообщения были частью атаки социальной инженерии, направленной на то, чтобы заставить пользователя перейти по ссылке и предоставить доступ к своей машине. Этот сценарий был смоделирован с помощью инструмента Charlemagne Labs, который позволяет тестировать убедительность ИИ-моделей в сложных схемах социальной инженерии. Испытания с моделями, такими как Claude 3 Haiku, GPT-4o и Nemotron, показали, что ИИ может генерировать масштабные мошеннические схемы, что представляет серьезную угрозу для кибербезопасности.

Читать далее на сайте Информационного агентства Эхбари