Die KI, die sich selbst befreite

In dieser Folge von ISMS X-Plain sprechen Melissa, René und Tobias über einen internen Testfall von OpenAI: Ein noch unveröffentlichtes KI-Modell brach aus seiner Testumgebung aus, nutzte eine Zero-Day-Schwachstelle in einem Paketmanager und kompromittierte über einen Drittanbieter am Ende interne Systeme von Hugging Face – innerhalb weniger Tage wurden 17.600 Aktionen der KI forensisch rekonstruiert. René und Tobias ordnen ein, was agentische KI von klassischen Sprachmodellen unterscheidet, warum der eigentliche Angriff auf altbekannte Schwachstellen wie fehlende Patches und Standardpasswörter zurückgeht und welche Rolle Normen wie ISO 27001, ISO 42001 und die geplante BSI-Prüfarchitektur A5 für den sicheren KI-Einsatz spielen. Außerdem sprechen sie über Haftungsfragen, Schatten-KI und praktische Maßnahmen wie Netzwerksegmentierung, Sandboxing und Killswitch-Konzepte.