Vor einem Jahrzehnt waren Bug Bounties nur eine neue Idee.
Damals behandelten Technologiegiganten Forscher wie Feinde. Sie waren defensiv und feindselig. Dich zu ignorieren war die Standardreaktion. Aber die Dinge haben sich verändert.
Apple trat 2016 mit einer maximalen Auszahlung von 200.001 US-Dollar bei. Diese Zahl verdoppelte sich 2013 auf eine Million und erreichte im vergangenen Jahr zwei Millionen. Es war eine Boomzeit.
Diese Ära geht zu Ende.
Agentische KI sucht jetzt autonom nach Schwachstellen. Es findet sie und erstellt auch die Exploits. Die Schleusen öffneten sich.
Für Forscher verzerren sich die Wirtschaftsverhältnisse. Manche bestreiten ihren gesamten Lebensunterhalt davon. Für Unternehmen bedeutet dies eine Flut von Meldungen, gepaart mit einem Anstieg intern gefundener Fehler. Die Dynamik verändert sich im Gleichschritt mit der Vorgehensweise der Angreifer.
„Ich habe dreimal so viele Fehler gemeldet“, sagt Joseph Thacker, ein unabhängiger Sicherheitsforscher, der bei seiner Jagd KI einsetzt. Er geht davon aus, dass Google das Zehnfache dessen auszahlt, was es letztes Jahr geleistet hat.
Technologiegiganten können diese Kosten auffressen.
Die meisten Unternehmen können das nicht.
Thacker stellt fest, dass Agenten derzeit niedrig- und mittelhängende Früchte ernten. Hochwertige Fehler sind für einen LLM leicht zu finden. Aber das Angebot wird sinken.
„Nächstes Jahr werden weniger Fehler eingereicht.“
Weniger Einsendungen könnten bedeuten, dass die Auszahlungen für die seltenen Funde wieder steigen. Niemand weiß, wie sich Nachfrage und Angebot langfristig ausgleichen werden. Es hängt stark davon ab, wie schnell die KI Exploits ausführt.
Dieser Druck erzwingt ein schnelleres Patchen.
Das 90-tägige Offenlegungsfenster?
Gegangen.
„Dieses Fenster wurde für eine Welt gebaut, in der Bug-Finder selten waren“, schrieb der Sicherheitsforscher Himanshu Anand. „Diese Welt ist vorbei. LLMs haben beide Zeitpläne komprimiert.“
Auch Angreifer beschleunigen den Prozess.
Sie wollen Zero-Days.
„Zero-Day-Nutzung durch Kriminelle… ist ziemlich begrenzt… aber wir sollten die Auswirkungen nicht unterschätzen, wenn mehr Menschen über diese Fähigkeit verfügen.
Bei den meisten schwerwiegenden Vorfällen handelt es sich um Kriminelle, die günstig zu engagieren und hochmotiviert sind. Wenn KI die Eintrittsbarriere für Zero-Days senkt, steigt der Einsatz deutlich.
Jäger spüren das Brennen bereits.
Curl hat sein Bug-Bounty im Januar eingestellt. Die KI hat es mit minderwertigem Müll überflutet. Das Team machte es direkt deutlich: Bösgläubige Meldungen überlasten Systeme und führen zu Missbrauch. Sie wollen weiterhin gültige Berichte. Nur nicht der Müll.
Linus Torvalds sagte letzte Woche, dass die Linux-Sicherheitsliste aufgrund des doppelten KI-Spams „fast völlig unüberschaubar“ sei.
Dann postete Daniel Stenberg, der Hauptentwickler von Curl, im April einen überraschenden Beitrag auf LinkedIn.
Der Spam hörte auf. Die Qualität stieg sprunghaft an.
„Wir erhalten immer mehr wirklich gute Berichte, fast alle mithilfe von KI.“
Dies stellt eine erhebliche Belastung für die Teams dar. Google reagierte im April mit einer Überarbeitung seines Belohnungsprogramms für Schwachstellen und senkte einige Auszahlungen, während andere angehoben wurden, um sich nur auf die Auswirkungen zu konzentrieren.
Jonathan Dunn, der als Kardiologe zwischen den Schichten auf Käferjagd geht, sieht eine Schicht. Elitejäger mit fundierten Fähigkeiten werden weiterhin für schwierige Probleme bezahlt.
Aber wir müssen weiterhin Anreize für ethische Forschung schaffen.
Wer bezahlt dafür, Dinge in der Hintergrundinfrastruktur zu finden, die sonst niemanden interessiert?
Alex Zenla, CTO von Edera, sagt, dass dies immer noch menschliche Zeit erfordert. Es verändert die Branchendynamik.
Anthropic hat kürzlich eine Bug-Bounty auf HackerOne für seine Claude-Modelle gestartet. Es passt zum Trend. Einige sagen, jetzt seien strukturelle Abwehrmaßnahmen erforderlich.
Niels Provos bringt es auf den Punkt: Man kann sich nicht aus der Krise befreien.
Sie müssen eine Infrastruktur aufbauen, die die Fehler von vornherein irrelevant macht.
Was leichter gesagt als getan ist. Die KI wartet nicht darauf, dass wir unseren Code reparieren. Es ist schon da und sieht aus.
