Die rasante Entwicklung generativer KI (GenAI) bietet sowohl neue Möglichkeiten als auch erhebliche Herausforderungen für die IT-Sicherheit. Während Cyberkriminelle KI nutzen, um Angriffe zu automatisieren und zu verfeinern, ermöglicht sie gleichzeitig innovative Verteidigungsstrategien. Daher ist es entscheidend, Chancen und Risiken dieser Technologie sorgfältig abzuwägen.

Kommentar
Generative KI in der Cybersicherheit:
Chancen und Risiken

Rico Komenda
Senior Consultant IT Security
adesso SE
Einsatz GenAI in der Verteidigung
GenAI spielt eine zentrale Rolle in der Cybersicherheit, indem sie Bedrohungen erkennt, Sicherheitsprozesse automatisiert, forensische Analysen unterstützt und Mitarbeitende schult.
Ein wesentlicher Vorteil ist die frühzeitige Identifikation von Gefahren. KI-Modelle analysieren große Datenmengen in Echtzeit und erkennen Anomalien im Netzwerkverkehr oder verdächtige E-Mails mit Phishing-Merkmalen. Durch die Verbesserung dieser Systeme kann die Anzahl falscher Alarme reduziert und die Erkennungsgenauigkeit erhöht werden.
Darüber hinaus automatisiert KI Sicherheitsmaßnahmen und beschleunigt Reaktionszeiten. Bei einem Angriff kann sie beispielsweise Skripte generieren, um betroffene Systeme zu isolieren oder Schwachstellen durch Patch-Management zu schließen. Trotz dieser Automatisierung bleibt menschliche Kontrolle essenziell, um Fehleinschätzungen zu vermeiden.
Auch bei der forensischen Analyse unterstützt GenAI, indem sie Angriffsmuster rekonstruiert und Berichte erstellt. So können IT-Teams Angriffe nachvollziehen und geeignete Gegenmaßnahmen ergreifen. In Penetrationstests und Red Teaming entwickelt KI realistische Angriffsszenarien, um Schwachstellen in IT-Systemen frühzeitig zu identifizieren.
Ein weiterer Einsatzbereich ist die Betrugserkennung. KI analysiert Transaktionsmuster, erkennt Deepfakes und verhindert Identitätsbetrug. Da Cyberkriminelle ihre Methoden stetig weiterentwickeln, bleibt dies ein fortwährender Wettlauf zwischen Angriff und Verteidigung.
Schließlich trägt GenAI zur Schulung von Mitarbeitenden bei, indem sie realistische Phishing-Simulationen und dynamische Lernplattformen bereitstellt. So wird das Sicherheitsbewusstsein gestärkt und Unternehmen widerstandsfähiger gegen Angriffe.
GenAI als Werkzeug von Cyberkriminellen
Kriminelle nutzen KI, um Phishing-Angriffe präziser und schwerer erkennbar zu machen. Durch die Analyse öffentlicher Daten lassen sich täuschend echte Nachrichten erstellen, die selbst erfahrene Nutzende in die Irre führen können.
Zudem ermöglicht GenAI die Entwicklung neuer Malware-Varianten, die sich automatisiert anpassen und klassische Erkennungsmethoden umgehen. Diese Flexibilität stellt eine zunehmende Herausforderung für Verteidigungsstrategien dar.
Da sowohl Verteidiger als auch Angreifer von KI profitieren, ist es entscheidend, Sicherheitsmaßnahmen kontinuierlich anzupassen und den verantwortungsvollen Einsatz dieser Technologie zu fördern.
Fazit
GenAI verändert die Cybersicherheitslandschaft grundlegend. Sie bietet leistungsstarke Werkzeuge zur Bedrohungserkennung, Automatisierung von Sicherheitsmaßnahmen und Schulung von Mitarbeitenden. Gleichzeitig eröffnet sie Cyberkriminellen neue Möglichkeiten, Angriffe raffinierter und schwerer erkennbar zu gestalten.
Um die Vorteile dieser Technologie optimal zu nutzen und Missbrauch einzudämmen, sind kontinuierliche Weiterentwicklung, strenge Sicherheitsrichtlinien und menschliche Kontrolle unerlässlich. Nur durch eine ausgewogene Strategie kann GenAI dazu beitragen, die IT-Sicherheit nachhaltig zu stärken und den wachsenden Bedrohungen effektiv entgegenzuwirken.
adesso data day 2025
Intelligente Daten, starke Unternehmen – Mit Datenmut in die Zukunft.
Künstliche Intelligenz ist kein Ersatz für menschliche Diskussion
Wir freuen uns darauf, mit Ihnen ins Gespräch zu kommen.