Mobile-Menu

Open-Source-Sicherheit OpenAI startet Initiative gegen Sicherheitslücken in Open-Source-Projekten

Von Sebastian Gerstl 1 min Lesedauer

Anbieter zum Thema

MicroConsult Academy GmbH
emlix GmbH
Linutronix GmbH

Mit „Patch the Planet“ will OpenAI Open-Source-Projekte entlasten, die mit einer zunehmenden Zahl durch KI entdeckter Sicherheitslücken geflutet werden. Die Initiative beschäftigt menschliche Sicherheitsforscher, die durch KI aufgespürte Schwachstellen prüfen und Patches entwickeln, um so Maintainer zu unterstützen.

„Patch the Planet“: Die von OpenAI gestartete Initiative soll mittels KI-gestützter Sicherheitsanalyse Open-Source-Maintainer entlasten, indem potenzielle Schwachstellen vor der Weitergabe an Projekte von Experten geprüft und in belastbare Patches überführt werden. (Bild: Dall-E / KI-generiert)
„Patch the Planet“: Die von OpenAI gestartete Initiative soll mittels KI-gestützter Sicherheitsanalyse Open-Source-Maintainer entlasten, indem potenzielle Schwachstellen vor der Weitergabe an Projekte von Experten geprüft und in belastbare Patches überführt werden.
(Bild: Dall-E / KI-generiert)

OpenAI hat mit „Patch the Planet“ eine neue Initiative gestartet, die Open-Source-Projekte bei der Suche nach Sicherheitslücken und deren Behebung unterstützen soll. Das Programm ist Teil der Cybersecurity-Initiative Daybreak und richtet sich an Maintainer, die mit begrenzten Ressourcen immer mehr Fehlerberichte prüfen müssen.

Für das Projekt arbeitet OpenAI mit dem Sicherheitsunternehmen Trail of Bits zusammen. Dessen Sicherheitsforscher sollen potenzielle Schwachstellen nicht nur identifizieren, sondern auch bewerten, Patches entwickeln, Tests begleiten und die Abstimmung mit den jeweiligen Projekten unterstützen.

Dabei kommen OpenAIs Sicherheitswerkzeuge wie Codex Security sowie Modelle wie GPT-5.5-Cyber zum Einsatz. Die KI soll mögliche Schwachstellen schneller aufspüren, während menschliche Experten die Ergebnisse prüfen, bevor sie an die Maintainer weitergegeben werden. So sollen Fehlalarme und doppelte Meldungen reduziert werden.

Menschen prüfen KI-Funde vor der Weitergabe

OpenAI begründet den Ansatz mit einer wachsenden Belastung der Open-Source-Community. KI-gestützte Werkzeuge können inzwischen große Mengen an potenziellen Sicherheitsfunden erzeugen. Für viele Projekte entsteht dadurch zusätzlicher Aufwand, weil echte Schwachstellen von falschen oder unbrauchbaren Meldungen getrennt werden müssen.

In einer ersten Runde arbeiteten Trail-of-Bits-Forscher mit 19 Open-Source-Projekten zusammen, darunter cURL, Python, der Go-Compiler, aiohttp, Sigstore, pyca/cryptography, NATS Server und freenginx. Laut den vorliegenden Angaben wurden dabei zahlreiche legitime Fehler gefunden; ein Teil der gemeldeten Probleme wurde bereits behoben.

Die Initiative ist auch vor dem Hintergrund des Wettbewerbs um KI-gestützte Cybersicherheit zu sehen. OpenAI betont dabei weniger das bloße Auffinden möglichst vieler Lücken, sondern die anschließende Behebung. „Patch the Planet“ soll deshalb helfen, Funde zu validieren, brauchbare Korrekturen zu entwickeln und wiederverwendbare Abläufe für künftige Sicherheitsarbeit in Open-Source-Projekten aufzubauen.(sg)

(ID:50880525)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte