Firma Anthropic oficjalnie zaprezentowała Mythos Preview, nowy, potężny model sztucznej inteligencji z zaawansowanymi możliwościami cyberbezpieczeństwa, a także ważną inicjatywę branżową o nazwie Project Glasswing. W ramach rzadkiego w branży posunięcia startup AI łączy siły ze swoimi czołowymi konkurentami, w tym Google, Microsoft i Apple, aby zapewnić, że następna generacja narzędzi AI stanie się tarczą dla infrastruktury cyfrowej, a nie bronią w rękach hakerów.
Wzrost „przypadkowych” możliwości cybernetycznych
Rozwój Mythos Preview podkreśla ważny trend w sztucznej inteligencji: emergentne zdolności. Dyrektor generalny Anthropic, Dario Amodei, zauważył, że model nie został zaprojektowany specjalnie do hakowania; raczej została przeszkolona, aby być niezwykle skutecznym w pisaniu kodu.
Jako bezpośredni efekt uboczny swoich umiejętności kodowania, model zyskał możliwość wykonywania złożonych zadań związanych z cyberbezpieczeństwem, takich jak:
– Wyszukiwanie luk: identyfikacja słabych punktów w oprogramowaniu.
– Opracowywanie exploitów: Twórz „dowody koncepcji” (PoC) demonstrujące, jak zhakować system.
– Testowanie penetracyjne: Symuluje ataki w celu sprawdzenia bezpieczeństwa.
– Analiza binarna: Ocena oprogramowania bez konieczności dostępu do kodu źródłowego.
Tworzy to grę w kotka i myszkę o wysoką stawkę. Chociaż takie narzędzia mogą pomóc obrońcom w szybszym znajdowaniu i naprawianiu błędów, dają atakującym możliwość automatyzacji złożonych ataków, które wcześniej były zbyt trudne lub kosztowne w realizacji.
Projekt Glasswing: Obrona Zbiorowa
Dostrzegając ryzyko, Anthropic utworzył Project Glasswing, konsorcjum mające na celu przygotowanie globalnego ekosystemu technologicznego na świat wysokowydajnej sztucznej inteligencji. Grupa obejmuje ponad 40 organizacji, od gigantów technologicznych, takich jak Nvidia i Amazon Web Services, po przedsiębiorstwa zajmujące się infrastrukturą krytyczną i instytucje finansowe.
Strategia tej współpracy ma dwa cele:
1. Łagodzenie luk w zabezpieczeniach: Dając głównym twórcom platform (takim jak Microsoft i Google) prywatny dostęp do Mythos Preview, mogą oni używać modelu do znajdowania luk w swoich własnych systemach i naprawiania ich zanim model zostanie udostępniony publicznie.
2. Standardyzacja bezpieczeństwa: Grupa stara się na nowo zdefiniować paradygmaty bezpieczeństwa. Jak wyjaśnia Logan Graham, kierownik zespołu Red w Anthropic, obecne podejście do bezpieczeństwa może stać się przestarzałe w ciągu najbliższych 6 do 24 miesięcy, gdy te możliwości staną się powszechnie dostępne.
„Widzieliśmy, jak Mythos Preview wykonuje zadania, które mógłby wykonać tylko starszy badacz bezpieczeństwa” – mówi Graham. „Jeśli nie zostanie potraktowany ostrożnie, może to być potężnym akceleratorem dla atakujących”.
Wyszukaj „nieuchwytne” błędy
Potencjalne korzyści z tej współpracy już się pojawiają. Anthropic donosi, że Mythos Preview odkrył już tysiące krytycznych luk, w tym błędy, które przez dziesięciolecia pozostawały niewykryte w starannie sprawdzanym kodzie.
Celem firm takich jak Microsoft jest wykorzystanie sztucznej inteligencji do skalowania ochrony. Globalny dyrektor ds. bezpieczeństwa informacji w firmie Microsoft, Igor Tsygansky, zauważył, że w miarę jak cyberbezpieczeństwo wykracza poza możliwości czysto ludzkie, sztuczna inteligencja zapewnia „bezprecedensową” możliwość ograniczenia zagrożeń w skali globalnej.
Droga naprzód
Projekt Glasswing jest obecnie na wczesnym etapie. Aby inicjatywa odniosła sukces, musi wyjść poza wąski krąg firm technologicznych i stać się szerokim światowym standardem zarządzania bezpieczeństwem opartym na sztucznej inteligencji. Główne wyzwanie pozostaje takie samo: sformułowanie kluczowych pytań dotyczących bezpieczeństwa sztucznej inteligencji i znalezienie odpowiedzi, zanim technologia przewyższy naszą zdolność do obrony przed nimi.
Wniosek
Jednocząc konkurentów w ramach Projektu Glasswing, Anthropic próbuje przekształcić potencjalny kryzys bezpieczeństwa w skoordynowany wysiłek obronny. Celem jest to, że w miarę jak sztuczna inteligencja będzie coraz lepsza w łamaniu oprogramowania, stanie się równie dobra w jego obronie.
