Před deseti lety byly odměny za chyby jen novým nápadem.
Tehdy tech giganti vnímali výzkumníky jako nepřátele. Jejich přístup byl defenzivní a nepřátelský. Ignorování stížností bylo považováno za standardní odpověď. Ale situace se změnila.
Apple se k této praxi připojil v roce 2016 a stanovil maximální výplatu 200 001 $. V roce 2013 se tato částka zdvojnásobila na milion a loni dosáhla dvou milionů. Je to na vzestupu.
Ale tato éra se chýlí ke konci.
Agenti AI nyní autonomně hledají zranitelnosti. Nejenže je nacházejí, ale také vytvářejí exploity. Zábrany se zhroutily.
Pro výzkumníky je ekonomika této oblasti zkreslená. Někteří z nich dělají svůj jediný zdroj příjmů. Pro společnosti to znamená příliv zpráv smíchaný s prudkým nárůstem počtu zranitelností objevených interními systémy. Dynamika se mění v synchronizaci s tím, jak útočníci operují.
„Podal jsem třikrát tolik hlášení o chybách,“ říká Joseph Tucker, nezávislý bezpečnostní výzkumník, který při své práci používá AI. Podle jeho názoru jsou nyní platby Googlu desetkrát vyšší než o rok dříve.
Techničtí giganti si takové výdaje mohou dovolit.
Většina ostatních společností ne.
Tucker poznamenává, že agenti v současné době sklízejí lehké až středně obtížné ovoce. Velké jazykové modely (LLM) snadno naleznou zranitelnosti vysoké hodnoty. Nabídka však brzy klesne.
“Příští rok bude podáno méně hlášení o chybách.”
Méně příspěvků by mohlo znamenat, že odměny za vzácné nálezy opět porostou. Nikdo neví, jak se dlouhodobý vztah mezi nabídkou a poptávkou dostane do rovnováhy. To do značné míry závisí na tom, jak rychle může AI vytvářet exploity.
Tento tlak nutí náplasti k rychlejší aplikaci.
90denní lhůta pro zveřejnění?
Zmizel.
„Toto okno bylo vytvořeno pro svět… kde byli nálezci zranitelnosti vzácní,“ napsal bezpečnostní výzkumník Himanshu Anand. “Ten svět zmizel. Jazykové modely zkomprimovaly oba časové rozsahy.”
Útočníci také urychlují proces.
Potřebují nula dní.
“Využití zranitelnosti zero-day zločinci… je stále poměrně omezené… ale nemyslím si, že bychom měli podceňovat důsledky zpřístupnění této schopnosti více lidem.”
Za většinou vážných incidentů stojí zločinci: jejich najímání je levné a vysoce motivované. Pokud AI sníží bariéru vstupu pro vytváření zero-day exploitů, sázky prudce vzrostou.
Myslivci už cítí přehřátí.
Project Curl ukončil svůj program odměn v lednu. AI to naplnila nekvalitním odpadem. Tým otevřeně prohlásil, že hlášení ve zlém úmyslu přetěžuje systémy a vytváří příležitosti ke zneužití. Stále potřebují platné zprávy. Jen ne odpadky.
Linus Torvalds minulý týden řekl, že seznam zabezpečení Linuxu se stal „prakticky neřiditelným“ kvůli duplicitnímu spamu z AI.
A pak v dubnu hlavní vývojář společnosti Curl Daniel Stenberg zveřejnil příspěvek na LinkedIn s nečekaným zvratem.
Spam se zastavil. Kvalita se dramaticky zvýšila.
„Dostáváme stále více opravdu dobrých zpráv, téměř všechny od AI.“
To výrazně zatěžuje týmy. Google zareagoval v dubnu rozsáhlou revizí svého programu odměn, kdy některé výplaty snížil a jiné zvýšil, aby se soustředil pouze na skutečný dopad zranitelností.
Jonathan Dunn, který jako kardiolog hledá chyby mezi směnami, vidí změnu paradigmatu. Elitní lovci s hlubokými dovednostmi budou i nadále dostávat zaplaceno za řešení obtížných problémů.
Ale stále musíme podporovat etický výzkum.
Kdo zaplatí za nalezení zranitelností v infrastruktuře na pozadí, o které se nikdo jiný nezajímá?
CTO Edera Alex Cenla říká, že to stále vyžaduje lidský čas. To mění dynamiku průmyslu.
Společnost Anthropic nedávno spustila na HackerOne program bug bounty pro své modely Claude. To zapadá do trendu. Někteří tvrdí, že nyní jsou vyžadovány strukturální ochrany.
Niels Provos to říká přímo: tuto krizi nevyřešíte jednoduchými záplatami.
Musíte vytvořit infrastrukturu, která v první řadě činí samotné chyby irelevantními.
Snáze se řekne, než udělá. AI nebude čekat, až opravíme náš kód. Už je tady a hledá.
