Компания Anthropic официально представила Mythos Preview — мощную новую модель ИИ с продвинутыми возможностями в сфере кибербезопасности, а также масштабную отраслевую инициативу под названием Project Glasswing. В рамках редкого для индустрии шага ИИ-стартап объединяет усилия со своими главными конкурентами, включая Google, Microsoft и Apple, чтобы следующее поколение инструментов ИИ стало щитом для цифровой инфраструктуры, а не оружием в руках хакеров.
Рост «случайных» кибервозможностей
Разработка Mythos Preview подчеркивает важную тенденцию в области искусственного интеллекта: эмерджентные (внезапно возникающие) способности. Генеральный директор Anthropic Дарио Амодеи отметил, что модель не проектировалась специально для хакерства; скорее, она обучалась быть исключительно эффективной в написании программного кода.
Как прямой побочный эффект мастерства в кодинге, модель обрела способность выполнять сложные задачи в сфере кибербезопасности, такие как:
— Поиск уязвимостей: выявление слабых мест в программном обеспечении.
— Разработка эксплойтов: создание «доказательств концепции» (PoC), демонстрирующих способы взлома системы.
— Тестирование на проникновение: симуляция атак для проверки защиты.
— Бинарный анализ: оценка программного обеспечения без необходимости доступа к исходному коду.
Это создает игру в «кошки-мышки» с высокими ставками. Хотя подобные инструменты могут помочь защитникам быстрее находить и исправлять баги, они также дают злоумышленникам возможность автоматизировать сложные атаки, которые ранее были слишком трудными или дорогими для реализации.
Project Glasswing: Коллективная оборона
Осознавая риски, Anthropic сформировала Project Glasswing — консорциум, призванный подготовить глобальную технологическую экосистему к миру высокоэффективного ИИ. В группу входят более 40 организаций: от технологических гигантов вроде Nvidia и Amazon Web Services до предприятий критической инфраструктуры и финансовых институтов.
Стратегия этого сотрудничества преследует две цели:
1. Смягчение уязвимостей: предоставляя разработчикам базовых платформ (таким как Microsoft и Google) частный доступ к Mythos Preview, они могут использовать модель для поиска уязвимостей в собственных системах и их исправления до того, как модель станет доступна широкой публике.
2. Стандартизация защиты: группа стремится пересмотреть парадигмы безопасности. Как объяснил Логан Грэм, руководитель группы Red Team в Anthropic, текущие представления о безопасности могут устареть уже в ближайшие 6–24 месяца, когда подобные возможности станут общедоступными.
«Мы видели, как Mythos Preview выполняет задачи, под силу только старшему исследователю по безопасности», — говорит Грэм. «Если действовать неосторожно, это может стать мощным ускорителем для атакующих».
Поиск «неуловимых» багов
Потенциальные выгоды от этого сотрудничества уже проявляются. Anthropic сообщает, что Mythos Preview уже обнаружила тысячи критических уязвимостей, включая ошибки, которые оставались незамеченными в тщательно проверяемом коде на протяжении десятилетий.
Для таких компаний, как Microsoft, цель состоит в том, чтобы использовать ИИ для масштабирования защиты. Глобальный директор по информационной безопасности Microsoft Игорь Цыганский отметил, что по мере того, как кибербезопасность выходит за рамки чисто человеческих возможностей, ИИ предоставляет «беспрецедентную» возможность снизить риски в глобальном масштабе.
Путь вперед
На данный момент Project Glasswing находится на ранней стадии. Чтобы инициатива увенчалась успехом, она должна выйти за пределы узкого круга технологических компаний и превратиться в широкий глобальный стандарт управления безопасностью на базе ИИ. Главная задача остается прежней: сформулировать критические вопросы безопасности ИИ и найти ответы до того, как технологии опередят нашу способность защищаться от них.
Заключение
Объединяя конкурентов в рамках Project Glasswing, Anthropic пытается превратить потенциальный кризис безопасности в скоординированные усилия по обороне. Цель состоит в том, чтобы по мере того, как ИИ будет совершенствоваться в умении взламывать ПО, он становился столь же совершенным и в умении его защищать.