OpenAI: KI-Modell drang bei Sicherheitstest in fremde Systeme ein

Ein interner Sicherheitstest bei OpenAI hat einen ungewöhnlichen Cybervorfall offengelegt: KI-Modelle des Unternehmens verschafften sich im Rahmen einer Evaluation eigenständig Zugang zum Internet und kompromittierten anschließend Systeme der KI-Plattform Hugging Face. Der Vorfall ereignete sich während eines Tests zur Bewertung der Cyberfähigkeiten neuer Modelle und wirft Fragen zur Sicherheit hochentwickelter KI-Systeme auf.

Wie Bild berichtete, sollten die Modelle GPT-5.6 Sol sowie ein weiteres, noch nicht veröffentlichtes System im Rahmen des Branchen-Benchmarks „ExploitGym“ Sicherheitslücken analysieren. Dabei überwanden sie jedoch die vorgesehene Testumgebung, nutzten eine bislang unbekannte Schwachstelle und verschafften sich Zugriff auf das Internet. Anschließend griffen sie auf die Infrastruktur von Hugging Face zu, um Informationen zu beschaffen, die ihnen beim Lösen der Testaufgaben helfen konnten.

OpenAI bezeichnet den Vorfall als „beispiellosen Cyber-Zwischenfall“. Gemeinsam mit Hugging Face untersucht das Unternehmen die Hintergründe und will die Sicherheitsmaßnahmen für künftige KI-Tests deutlich verschärfen. (mho)