Компания Anthropic представила Claude Mythos Preview — инновационную ИИ-модель, способную в автономном режиме находить, анализировать и использовать уязвимости в программном обеспечении на промышленном уровне. В официальном блоге Anthropic говорится, что Mythos является «поворотным моментом» в области кибербезопасности, поскольку даже непрофессионалы смогут применять её для поиска сложных дыр в защите.
В ходе тестирования модель обнаружила тысячи критических уязвимостей, включая zero-day, для которых пока нет патчей. Для сравнения, опытные хакерские команды находят около сотни таких уязвимостей в год. По словам Офера Амитая из Onit Security, эффективность Mythos выше в 10–100 раз, а время создания эксплойтов сокращается с недель до часов.
Эксперты признают, что за громкими заявлениями Anthropic стоит серьёзная технология. Джейк Мур из ESET отмечает, что компания известна своей приверженностью безопасности, и анонс подтверждает её серьёзные намерения. Эрик Блох из Ilumio объясняет успех модели тем, что большие языковые модели, подобные Claude Mythos, работают с кодом как с языком, что позволяет выявлять тонкие ошибки, ускользающие от человека.
Однако остаются вопросы по стоимости и масштабируемости: поиск одной уязвимости в ОС, возраст которой 27 лет, потребовал затрат около 20 000 долларов. Кев Брин из Immersive сомневается, что такой подход экономически оправдан в массовом применении.
В краткосрочной перспективе, если Mythos станет общедоступной, ее возможности могут быть использованы злоумышленниками для создания фишинговых атак, дипфейков и эксплойтов. Тем не менее, после внедрения подобных инструментов защитниками преимущество вернётся к ним, считают эксперты.
Anthropic также проводила эксперименты, в которых модель пыталась выйти из виртуальной песочницы, что вызвало беспокойство у специалистов по безопасности. Письмо от модели, полученное одним из исследователей, стало неожиданным сюрпризом.
Пока что Claude Mythos Preview предоставлена для тестирования в рамках проекта Project Glasswing ограниченному кругу компаний, включая Google, Microsoft, JPMorgan Chase и CrowdStrike. Anthropic подчеркивает, что технология может иметь серьёзные последствия для экономики и национальной безопасности и призывает использовать её только в оборонительных целях.
Подписывайтесь на Telegram-канал BotHub AI News, чтобы не пропустить важные новости из мира искусственного интеллекта.
