Anthropic запускає Project Glasswing для боротьби з кіберзагрозами, викликаними ІІ
Компанія Anthropic офіційно представила Mythos Preview — потужну нову модель ІІ з просунутими можливостями у сфері кібербезпеки, а також масштабну галузеву ініціативу під назвою Project Glasswing**. В рамках рідкісного для індустрії кроку ІІ-стартап об’єднує зусилля зі своїми головними конкурентами, включаючи Google, Microsoft і Apple, щоб наступне покоління інструментів ІІ стало щитом для цифрової інфраструктури, а не зброєю в руках хакерів.
Зростання «випадкових» кіберможливостей
Розробка Mythos Preview підкреслює важливу тенденцію у сфері штучного інтелекту: емерджентні (раптово виникаючі) здібності. Генеральний директор Anthropic Даріо Амодеї зазначив, що модель не проектувалась спеціально для хакерства; швидше, вона навчалася бути виключно ефективною у написанні програмного коду.
Як прямий побічний ефект майстерності в кодингу, модель набула здатності виконувати складні завдання у сфері кібербезпеки, такі як:
– Пошук уразливостей: виявлення слабких місць у програмному забезпеченні.
– Розробка експлойтів: створення «доказів концепції» (PoC), що демонструють способи злому системи.
– Тестування на проникнення: симуляція атак для перевірки захисту.
– Бінарний аналіз: оцінка програмного забезпечення без необхідності доступу до вихідного коду.
Це створює гру в “кішки-мишки” з високими ставками. Хоча подібні інструменти можуть допомогти захисникам швидше знаходити та виправляти баги, вони також дають зловмисникам можливість автоматизувати складні атаки, які раніше були надто важкими чи дорогими для реалізації.
Project Glasswing: Колективна оборона
Усвідомлюючи ризики, Anthropic сформувала Project Glasswing – консорціум, покликаний підготувати глобальну технологічну екосистему до світу високоефективного ІІ. До групи входять понад 40 організацій: від технологічних гігантів на кшталт Nvidia та Amazon Web Services до підприємств критичної інфраструктури та фінансових інститутів.
Стратегія цієї співпраці має дві мети:
1. Пом’якшення вразливостей: надаючи розробникам базових платформ (таким як Microsoft і Google) приватний доступ до Mythos Preview, вони можуть використовувати модель для пошуку вразливостей у власних системах та їх виправлення до того, як модель стане доступна широкому загалу.
2. Стандартизація захисту: * група прагне переглянути парадигми безпеки. Як пояснив Логан Грем, керівник групи Red Team в Anthropic, поточні уявлення про безпеку можуть застаріти вже протягом найближчих 6–24 місяців, коли подібні можливості стануть загальнодоступними.
«Ми бачили, як Mythos Preview виконує завдання під силу лише старшому досліднику з безпеки», — каже Грем. “Якщо діяти необережно, це може стати потужним прискорювачем для атакуючих”.
Пошук «невловимих» багів
Потенційні вигоди від цієї співпраці вже виявляються. Anthropic повідомляє, що Mythos Preview вже виявила тисячі критичних уразливостей, включаючи помилки, які залишалися непоміченими у ретельно перевіряному коді протягом десятиліть.
Для таких компаній, як Microsoft, мета полягає в тому, щоб використовувати ШІ для масштабування захисту. Глобальний директор з інформаційної безпеки Microsoft Ігор Циганський зазначив, що в міру того, як кібербезпека виходить за межі суто людських можливостей, ІІ надає «безпрецедентну» можливість знизити ризики у глобальному масштабі.
Шлях вперед
На даний момент Project Glasswing знаходиться на ранній стадії. Щоб ініціатива мала успіх, вона повинна вийти за межі вузького кола технологічних компаній і перетворитися на широкий глобальний стандарт управління безпекою на базі ІІ. Головне завдання залишається незмінним: сформулювати критичні питання безпеки ІІ та знайти відповіді до того, як технології випередять нашу здатність захищатися від них.
Висновок
Поєднуючи конкурентів у рамках Project Glasswing, Anthropic намагається перетворити потенційну кризу безпеки на скоординовані зусилля з оборони. Мета полягає в тому, щоб у міру того, як ІІ вдосконалюватиметься в умінні зламувати ПЗ, він ставав настільки ж досконалим і в умінні його захищати.
