Společnost Anthropic oficiálně představila Mythos Preview, nový výkonný model umělé inteligence s pokročilými možnostmi kybernetické bezpečnosti, a také hlavní průmyslovou iniciativu s názvem Project Glasswing. V tomto odvětví je to vzácný krok, kdy startup s umělou inteligencí spojuje své síly se svými hlavními konkurenty včetně Google, Microsoft a Apple, aby zajistil, že se nová generace nástrojů AI stane spíše štítem pro digitální infrastrukturu než zbraní v rukou hackerů.
Vzestup „náhodných“ kybernetických schopností
Vývoj Mythos Preview zdůrazňuje důležitý trend v umělé inteligenci: vznikající schopnosti. Generální ředitel společnosti Anthropic Dario Amodei poznamenal, že model nebyl navržen speciálně pro hackování; spíše byla vycvičena tak, aby byla extrémně efektivní při psaní kódu.
Jako přímý vedlejší efekt své kódovací schopnosti model získal schopnost provádět složité úkoly v oblasti kybernetické bezpečnosti, jako jsou:
– Hledání zranitelností: identifikace slabin v softwaru.
– Exploit Development: Vytvořte „proofs of concept“ (PoC) demonstrující, jak hacknout systém.
– Testování penetrace: Simuluje útoky za účelem testování bezpečnosti.
– Binární analýza: Vyhodnocování softwaru bez nutnosti přístupu ke zdrojovému kódu.
Vzniká tak vysoká hra na kočku a myš. I když takové nástroje mohou pomoci obráncům rychleji najít a opravit chyby, dávají útočníkům také možnost automatizovat složité útoky, které byly dříve příliš obtížné nebo drahé na implementaci.
Projekt Glasswing: Kolektivní obrana
Společnost Anthropic si uvědomovala rizika a vytvořila Project Glasswing, konsorcium, jehož cílem je připravit globální technologický ekosystém pro svět vysoce výkonné umělé inteligence. Tato skupina zahrnuje více než 40 organizací, od technologických gigantů jako Nvidia a Amazon Web Services až po podniky s kritickou infrastrukturou a finanční instituce.
Strategie této spolupráce má dva cíle:
1. Zmírnění zranitelnosti: Poskytnutím soukromého přístupu vývojářům základních platforem (jako je Microsoft a Google) k Mythos Preview mohou model použít k nalezení zranitelností ve svých vlastních systémech a jejich opravě před zpřístupněním modelu veřejnosti.
2. Standardizace zabezpečení: Skupina se snaží předefinovat paradigmata zabezpečení. Jak vysvětluje Logan Graham, vedoucí týmu Red Team ve společnosti Anthropic, současné bezpečnostní myšlení může být v příštích 6 až 24 měsících zastaralé, protože tyto schopnosti budou obecně dostupné.
„Viděli jsme, jak Mythos Preview provádí úkoly, které by mohl dělat jen zkušený bezpečnostní výzkumník,“ říká Graham. “Pokud se s tím nebude zacházet opatrně, může to být pro útočníky silný akcelerátor.”
Hledejte „nepolapitelné“ chyby
Potenciální výhody této spolupráce se již objevují. Společnost Antropic uvádí, že Mythos Preview již objevil tisíce kritických zranitelností, včetně chyb, které byly v pečlivě kontrolovaném kódu po desetiletí neodhaleny.
Pro společnosti, jako je Microsoft, je cílem využít AI ke škálování ochrany. Generální ředitel pro globální informační bezpečnost společnosti Microsoft Igor Tsygansky poznamenal, že jak kybernetická bezpečnost přesahuje čistě lidské možnosti, AI poskytuje „bezprecedentní“ příležitost ke snížení rizik v globálním měřítku.
Cesta vpřed
Projekt Glasswing je v současné době v rané fázi. Aby byla iniciativa úspěšná, musí se rozšířit mimo úzký okruh technologických společností a stát se širokým globálním standardem pro správu zabezpečení pomocí AI. Hlavní výzva zůstává stejná: formulovat kritické bezpečnostní otázky umělé inteligence a najít odpovědi dříve, než technologie překoná naši schopnost se proti nim bránit.
Závěr
Spojením konkurentů pod Project Glasswing se Anthropic snaží proměnit potenciální bezpečnostní krizi v koordinované obranné úsilí. Cílem je, že jak se umělá inteligence zdokonaluje v prolomení softwaru, bude stejně dobrá i v jeho obraně.
