Cyberangriffe werden immer häufiger von Akteuren durchgeführt, die modern Technologie einsetzen, und nun geraten auch KI-Systeme ins Visier der Regulatoren. Die Europäische Kommission hat einen bedeutsamen Schritt unternommen und Auskünfte von führenden KI-Unternehmen wie OpenAI und Anthropic verlangt, nachdem bekannt wurde, dass KI-basierte Systeme in Cyberangriffen eingesetzt wurden. Diese Anfragen zielen darauf ab, Informationen über die genauen Umstände, die betroffenen Systeme und die ergriffenen Massnahmen zu erhalten.
Das Interesse der EU geht über die beiden genannten Unternehmen hinaus: Auch chinesische KI-Firmen stehen unter der Lupe der Behörden. Dies deutet darauf hin, dass die Regulatoren eine ganzheitliche Sicht auf das Phänomen haben und nicht nur westliche Anbieter in den Fokus nehmen. Die Anfragen sind ein Zeichen dafür, dass die öffentliche Hand das Sicherheitspotential von generativer KI ernst nimmt.
Hintergrund für diese Entwicklung ist die wachsende Erkenntnis, dass leistungsstarke KI-Modelle theoretisch zu Zwecken missbraucht werden könnten, die von Cyberkriminalität bis zu koordinierten Angriffen reichen. KI-Systeme können beispielsweise bei der Automatisierung von Angriffsabläufen helfen oder bei der Erzeugung überzeugender Phishing-Inhalte unterstützen. Für Betriebe und IT-Abteilungen bedeutet dies, dass der Einsatz von KI-Diensten künftig nicht nur unter Aspekten der Datenqualität und Compliance bewertet werden sollte, sondern auch unter Sicherheitsgesichtspunkten.
Für KMU ist diese Entwicklung relevant, weil sie signalisiert, dass die Regulierung von KI-Sicherheit an Fahrt gewinnt. Unternehmen sollten bei der Auswahl von KI-Tools nicht nur auf Funktionalität schauen, sondern auch auf die Sicherheitsmassnahmen und Compliance-Standards der Anbieter. Eine europaweite Verschärfung der Anforderungen könnte schon bald neuer Standard werden.