OpenAI zahlt bis zu 100.000 US-Dollar für Hinweise auf Sicherheitslücken in kritischen Infrastrukturen

OpenAI hat wichtige Aktualisierungen seiner Cybersicherheitsinitiativen angekündigt. Das Unternehmen erweitert sein Security Bug Bounty Program und erhöht die maximale Belohnung für Berichte über kritische Schwachstellen von bisher 20.000 US-Dollar auf 100.000 US-Dollar.

Dieses erweiterte Programm soll weltweit führende Sicherheitsforscher anlocken, um potenzielle Bedrohungen zu identifizieren und zu beheben, bevor sie zu größeren Problemen werden.

OpenAI’s Engagement für Sicherheitsexzellenz ist Teil seines umfassenderen Bestrebens, künstliche allgemeine Intelligenz (AGI) zu erreichen.

Das Unternehmen ist der Ansicht, dass die Aufrechterhaltung solider Sicherheitsmaßnahmen von entscheidender Bedeutung ist, insbesondere da sich Sicherheitsbedrohungen weiterentwickeln und immer ausgefeilter werden.

Weiterentwicklung des Förderprogramms für Cybersicherheit

Neben den Verbesserungen des Bug-Bounty-Programms entwickelt OpenAI auch sein Förderprogramm für Cybersicherheit weiter.

Im Rahmen dieser vor zwei Jahren gestarteten Initiative wurden bereits 28 Forschungsprojekte finanziert, die sich auf Bereiche wie Prompt Injection, sichere Code-Generierung und autonome Cybersicherheitsmaßnahmen konzentrieren.

Das Programm ist nun offen für Vorschläge für eine breitere Palette von Projekten, mit folgenden Schwerpunkten:

• Software-Patching: Einsatz von KI zur Erkennung und Behebung von Schwachstellen.
• Modellierter Datenschutz: Verbesserung der Widerstandsfähigkeit gegen unbeabsichtigte Offenlegung privater Trainingsdaten.
• Erkennung und Reaktion: Verbesserung der Fähigkeiten zur Erkennung und Reaktion auf fortgeschrittene, hartnäckige Bedrohungen.
• Sicherheitsintegration: Steigerung der Genauigkeit und Zuverlässigkeit der KI-Integration mit Sicherheitstools.
• Agentenbasierte Sicherheit: Erhöhung der Widerstandsfähigkeit von KI-Agenten gegen ausgeklügelte Angriffe.

OpenAI führt auch Mikrozuschüsse ein und bietet Forschern API-Gutschriften für die schnelle Erstellung von Prototypen für innovative Ideen im Bereich der Cybersicherheit an.

Dieser Ansatz lädt die breitere Gemeinschaft ein, zur Förderung der KI- und Cybersicherheitswissenschaften beizutragen.

Diese Zusammenarbeit hat beeindruckende Ergebnisse hervorgebracht, insbesondere im Bereich der Codesicherheit, wo die Modelle von OpenAI modernste Fähigkeiten beim Auffinden und Beheben von Code-Schwachstellen unter Beweis gestellt haben.

Das „Security Bug Bounty Program“ umfasst nun einen Bonus-Aktionszeitraum, in dem Forscher zusätzliche Boni für qualifizierte Berichte erhalten können, die innerhalb bestimmter Kategorien eingereicht werden.

Diese Verbesserungen spiegeln das Engagement von OpenAI wider, Sicherheitsforschung mit hoher Wirkung zu belohnen, die wesentlich zum Schutz der Benutzer und zur Aufrechterhaltung des Vertrauens in seine Systeme beiträgt.

Um das Ganze abzurunden, kündigte OpenAI an, die Nutzung seiner eigenen KI-Modelle auszuweiten, um die Erkennung und Reaktion auf Bedrohungen in Echtzeit zu verbessern.
Im Rahmen der Ankündigung einer neuen Partnerschaft mit dem in Seattle ansässigen Cybersicherheitsunternehmen SpecterOps kündigte OpenAI an, „unsere Sicherheitsvorkehrungen durch realistische simulierte Angriffe auf unsere gesamte Infrastruktur rigoros zu testen“.

Kontinuierliche gegnerische Tests, die die Unternehmens-, Cloud- und Produktionsumgebungen abdecken, werden Sam Altman dabei helfen, proaktiv umfassende Sicherheitsmaßnahmen direkt in seine Infrastruktur und Modelle zu integrieren, hieß es.

Diese kontinuierlichen gegnerischen Tests helfen dabei, Schwachstellen proaktiv zu erkennen, die Erkennungsfähigkeiten zu verbessern und Reaktionsstrategien gegen ausgeklügelte Bedrohungen zu stärken.

OpenAI erklärt, dass es bei der Einführung fortschrittlicherer KI-Agenten wie Operator und Deep Research noch mehr über die einzigartigen Sicherheits- und Resilienzherausforderungen zu verstehen gibt, die mit einer solchen Technologie einhergehen.

Zu den Strategien zur Förderung der aufkommenden KI-Sicherheit gehören die Abwehr von Prompt-Injection-Angriffen, die Implementierung fortschrittlicher Zugriffskontrollen, eine umfassende Sicherheitsüberwachung, kryptografische Schutzmaßnahmen und eine tiefgreifende Verteidigung.

Cybersecurity Grant Program application

---

Bild/Quelle: https://depositphotos.com/de/home.html