Dziesięć lat temu nagrody za błędy były po prostu nowym pomysłem.
W tamtych czasach giganci technologiczni postrzegali badaczy jako wrogów. Ich podejście było defensywne i wrogie. Za standardową reakcję uznano ignorowanie skarg. Ale sytuacja się zmieniła.
Apple dołączył do tej praktyki w 2016 roku, ustalając maksymalną wypłatę na poziomie 200 001 dolarów. W 2013 roku kwota ta podwoiła się do miliona, a w zeszłym roku osiągnęła poziom dwóch milionów. To kwitnie.
Ale ta era dobiega końca.
Agenci AI autonomicznie poszukują teraz luk w zabezpieczeniach. Nie tylko je znajdują, ale także tworzą exploity. Bariery upadły.
Dla badaczy ekonomika tego obszaru jest zniekształcona. Niektórzy uważają, że jest to ich jedyne źródło dochodu. Dla firm oznacza to napływ raportów połączony z gwałtownym wzrostem liczby podatności wykrywanych przez systemy wewnętrzne. Dynamika zmienia się wraz ze sposobem działania atakujących.
„Złożyłem trzy razy więcej raportów o błędach” – mówi Joseph Tucker, niezależny badacz bezpieczeństwa, który w swojej pracy wykorzystuje sztuczną inteligencję. Jego zdaniem płatności Google są teraz dziesięciokrotnie wyższe niż rok wcześniej.
Technologicznych gigantów stać na takie wydatki.
Większość innych firm tego nie robi.
Tucker zauważa, że agenci zbierają obecnie owoce łatwe do średnio trudnych. Luki o dużej wartości są łatwo wykrywane przez duże modele językowe (LLM). Jednak podaż wkrótce spadnie.
„W przyszłym roku będzie mniej raportów o błędach.”
Mniejsza liczba zgłoszeń może oznaczać, że nagrody za rzadkie znaleziska ponownie wzrosną. Nikt nie wie, w jaki sposób długoterminowa relacja między podażą i popytem osiągnie równowagę. Zależy to w dużej mierze od tego, jak szybko sztuczna inteligencja może tworzyć exploity.
Nacisk ten wymusza szybsze nałożenie plastrów.
90-dniowe okno ujawniania informacji?
Zniknął.
„To okno zostało stworzone z myślą o świecie… w którym osoby wykrywające luki były rzadkością” – napisał badacz bezpieczeństwa Himanshu Anand. “Ten świat zniknął. Modele językowe skompresowały oba zakresy czasowe.”
Atakujący również przyspieszają ten proces.
Potrzebują zero dni.
„Wykorzystywanie luk typu zero-day przez przestępców… jest nadal dość ograniczone… ale nie sądzę, że powinniśmy lekceważyć konsekwencje udostępnienia tej możliwości większej liczbie osób.”
Za najpoważniejszymi incydentami stoją przestępcy: są tani w zatrudnieniu i mają dużą motywację. Jeśli sztuczna inteligencja obniży barierę wejścia na rynek w celu tworzenia exploitów dnia zerowego, stawka gwałtownie wzrośnie.
Myśliwi już czują się przegrzani.
Project Curl zakończył swój program nagród w styczniu. Sztuczna inteligencja wypełniła go śmieciami niskiej jakości. Zespół otwarcie stwierdził, że zgłaszanie w złej wierze przeciąża systemy i stwarza możliwości nadużyć. Nadal potrzebują ważnych raportów. Tylko nie śmieci.
Linus Torvalds powiedział w zeszłym tygodniu, że listą zabezpieczeń Linuksa „praktycznie nie da się zarządzać” z powodu zduplikowanej zawartości spamu pochodzącej od sztucznej inteligencji.
A potem w kwietniu główny programista Curl, Daniel Stenberg, opublikował na LinkedIn post z nieoczekiwanym zwrotem akcji.
Spam ustał. Jakość wzrosła dramatycznie.
„Otrzymujemy coraz więcej naprawdę dobrych raportów, prawie wszystkie od sztucznej inteligencji.”
Stanowi to znaczne obciążenie dla zespołów. Google zareagował w kwietniu gruntowną zmianą swojego programu nagród, obcinając niektóre wypłaty i zwiększając inne, aby skupić się wyłącznie na rzeczywistym wpływie luk w zabezpieczeniach.
Jonathan Dunn, który jako kardiolog szuka błędów między zmianami, widzi zmianę paradygmatu. Elitarni łowcy posiadający głębokie umiejętności będą nadal otrzymywać wynagrodzenie za rozwiązywanie trudnych problemów.
Ale nadal musimy zachęcać do badań etycznych.
Kto zapłaci za znalezienie luk w infrastrukturze działającej w tle, którymi nikt inny się nie przejmuje?
Dyrektor ds. technologii Edera, Alex Cenla, twierdzi, że nadal wymaga to ludzkiego czasu. To zmienia dynamikę branży.
Firma Anthropic uruchomiła niedawno program nagród za błędy w serwisie HackerOne za swoje modele Claude. To wpisuje się w trend. Niektórzy twierdzą, że obecnie wymagane są zabezpieczenia strukturalne.
Niels Provos mówi wprost: prostymi łatkami nie zaradzisz temu kryzysowi.
Musisz przede wszystkim stworzyć infrastrukturę, która sprawi, że same błędy będą nieistotne.
Łatwiej powiedzieć niż zrobić. Sztuczna inteligencja nie będzie czekać, aż naprawimy nasz kod. On już tu jest i patrzy.
