Apple begrenzt KI-Bug-Meldungen wegen Flut minderwertiger Einreichungen

Apple hat die Anzahl der Sicherheitslücken begrenzt, die Forscher gleichzeitig über sein internes Sicherheitsportal melden dürfen. Der Grund: eine Flut von KI-generierten Berichten, die das Prüfungssystem des Unternehmens überlastet. Seit Juni gilt eine Obergrenze sowie eine 30-tägige Abkühlphase zwischen Einreichungen. Forscher können jedoch jederzeit ein erhöhtes Kontingent beantragen.

Das Problem ist branchenweiter Natur. Generative KI-Tools verändern das Wettrüsten in der Cybersicherheit grundlegend – sie ermöglichen einerseits die schnellere Entdeckung echter Schwachstellen, erzeugen andererseits aber auch eine Welle minderwertiger Einreichungen von Amateur-Bug-Huntern. Apple spricht intern von „KI-Müll"-Berichten (AI slop), die Sicherheitsrisiken halluzinieren können und menschliche Prüfkapazitäten binden.

Italienisches Start-up findet 50 Fehler in drei Wochen

Wie gravierend das Problem ist, zeigt der Fall des italienischen Cybersicherheits-Start-ups Bynario. Das Mailänder Unternehmen mit sieben Mitarbeitern nutzte ChatGPT von OpenAI, um in nur drei Wochen mehr als 50 Fehler in der neuesten Version des MacBook-Betriebssystems zu identifizieren. Darunter befand sich eine besonders schwerwiegende Schwachstelle: eine sogenannte „Privilege Escalation Exploit Chain", also eine Kette zur Ausweitung von Zugriffsrechten.

Diese Art von Exploit könnte es einem Angreifer ermöglichen, die volle Kontrolle über einen Apple-Computer zu erlangen. Bynario-CEO Alfredo Pesoli schätzte, dass ein solcher Exploit auf dem Schwarzmarkt für Cyberkriminelle zwischen 100.000 und 200.000 US-Dollar einbringen könnte. Das Start-up konnte Apple über diese kritische Schwachstelle jedoch zunächst nicht informieren, weil das Unternehmen weitere Einreichungen abgelehnt hatte.

„Es ist eine sehr schwierige Zeit für die Branche", sagte Pesoli gegenüber der FT. „Betreiber und Anbieter werden von der schieren Menge an gefundenen Fehlern überflutet." Apple teilte der FT mit, man stehe inzwischen in Kontakt mit Bynario und prüfe deren Einreichungen.

KI als Werkzeug auf beiden Seiten

Bynario ist kein Unbekannter in der Sicherheitsbranche. Drei der Mitbegründer arbeiteten zuvor bei Hacking Team, dem italienischen Unternehmen für Überwachungssoftware, dessen Tools 2015 bei einem Cyberangriff geleakt wurden. Im Jahr 2025 meldete Bynario acht Schwachstellen an Apple, von denen eine im November durch ein Software-Update behoben wurde.

Der Fall reiht sich in eine Serie von KI-gestützten Sicherheitsentdeckungen bei Apple ein. Forscher des Unternehmens Calif aus Palo Alto nutzten das KI-Modell Mythos von Anthropic, um einen Weg zu finden, Apples im September angekündigtes „Memory Integrity Enforcement" zu umgehen – eine Funktion, die Apple selbst als „das bedeutendste Upgrade für die Speichersicherheit in der Geschichte der Verbraucher-Betriebssysteme" bezeichnet hatte.

Apple setzt KI jedoch auch selbst zur Stärkung seiner Software ein. In den zuletzt veröffentlichten Sicherheitsupdates dankte das Unternehmen Tools von Anthropic und OpenAI für die Unterstützung bei der Identifizierung von Schwachstellen. Diese Updates enthielten etwa fünfmal so viele Sicherheitskorrekturen wie frühere Release-Zyklen.

Bug-Bounty-Prämien von bis zu 5 Millionen Dollar

Um qualifizierte Sicherheitsforscher zu incentivieren, hat Apple im vergangenen Jahr seinen Bug-Bounty-Mechanismus ausgebaut. Für die Identifizierung der schwerwiegendsten und komplexesten Bedrohungen können Forscher nun bis zu 5 Millionen US-Dollar erhalten.

Rafe Pilling, Direktor für Bedrohungsanalyse beim Cybersicherheitsunternehmen Sophos, beschreibt den Effekt von KI auf die Fehlersuche als „doppelt": Es werde sowohl für Amateure einfacher, spekulative Berichte einzureichen, als auch für qualifizierte Forscher, gefährliche Exploits zu finden. „Das Ergebnis ist, dass sich Bug-Bounty-Programme von der Suche nach Schwachstellen hin zu deren Validierung, Priorisierung und Reaktion in Maschinengeschwindigkeit verlagern", so Pilling. Die Herausforderung für die gesamte Softwarebranche ist damit klar: KI beschleunigt sowohl Angriff als auch Verteidigung – und zwingt Unternehmen wie Apple, ihre Sicherheitsprozesse grundlegend neu zu denken.