Dem Phishing-Radar der Verbraucherzentrale Nordrhein-Westfalen wurden im Jahr 2024 über 400.000 verdächtige E-Mails gemeldet [1]. Allein im Mai 2024 erreichte die Zahl der weitergeleiteten Phishing-Mails mit 45.565 Meldungen einen neuen monatlichen Höchstwert. Diese Entwicklung ist Teil einer stetig wachsenden Bedrohungslage im Cyberraum. So stellt das Bundeskriminalamt (BKA) im Bundeslagebild Cybercrime fest, dass seit Jahren eine zunehmende Dynamik im Phänomenbereich Cybercrime zu beobachten ist. Steigende Möglichkeiten für Straftaten durch fortschreitende digitale Vernetzung, sinkende Eintrittsschwellen durch Cybercrime-as-a-Service-Angebote sowie neue technologische Möglichkeiten führen zu einer quantitativ verschärften Bedrohungslage [1].

Phishing gilt weiterhin als effektive und häufig genutzte Methode zur Verbreitung von Schadsoftware und zur Erlangung sensibler Zugangsdaten [1]. Laut BKA können Phishing-Nachrichten mithilfe generativer KI realistischer formuliert, stärker personalisiert und automatisiert in großem Umfang verbreitet werden. Die grundlegenden Angriffsmuster haben sich bislang jedoch nicht strukturell verändert [1]. Diese Einschätzung wirft eine zentrale Frage auf, die sowohl für die Wissenschaft als auch für die IT-Sicherheitspraxis relevant ist: Wie verändert der Einsatz von KI konkret die Methoden und die Erfolgswahrscheinlichkeit von Phishing- und Social-Engineering-Angriffen, und welche Konsequenzen ergeben sich daraus für eine Organisation?

Social Engineering und Phishing: Mechanismen und Entwicklung

Während technische Cyberangriffe primär auf Systemschwachstellen abzielen, nutzt Social Engineering die menschliche Komponente als Angriffsfläche. Im Kontext der Cybersicherheit ist Social Engineering eine Angriffsmethode, bei der menschliche Schwächen wie Vertrauen, Neugier oder Angst ausgenutzt werden, um die Sicherheitsziele von Informationssystemen zu gefährden [2]. Die Attraktivität dieser Methode liegt in ihrer Effizienz, da sie technische Schutzmaßnahmen vollständig umgeht, indem sie die psychologischen Schwachstellen der Menschen ausnutzt.
Eine der weitverbreitetsten und gefährlichsten Ausprägungen des Social Engineering ist Phishing [3]. Dabei wird durch gefälschte E-Mails, Webseiten oder Nachrichten der Anschein einer legitimen Kommunikation erzeugt, um Zugangsdaten, Kreditkarteninformationen oder vertrauliche Dokumente zu erlangen. Neben dem klassischen E-Mail-Phishing haben sich weitere Varianten entwickelt: Beim Spear-Phishing werden Einzelpersonen oder Organisationseinheiten gezielt ins Visier genommen, beim Whaling bzw. CEO-Fraud sind Führungskräfte die Zielgruppe und beim Smishing und Vishing werden alternative Kommunikationskanäle wie SMS oder Telefon genutzt [3].

Aktuelle Statistiken belegen die anhaltend hohe Relevanz dieser Angriffsmethoden. So zeigt eine Auswertung des Bundesamts für Sicherheit in der Informationstechnik (BSI), dass Phishing mit 18,3 % aller Anfragen an das BSI-Service-Center den größten Einzelanteil innerhalb des Cybercrime-Bereichs ausmacht, der insgesamt 45,9 % aller Anfragen umfasst [4]. Die Zahlen verdeutlichen, dass digitale Angriffe keine abstrakte Bedrohung mehr darstellen, sondern für viele Menschen und Organisationen zur realen Alltagserfahrung geworden sind.

Neben der quantitativen Zunahme ist auch eine qualitative Anpassung von Phishing-Kampagnen zu beobachten. So registrierte das BSI eine Zunahme von Kampagnen, die Markennamen beliebter Streamingdienste missbrauchen und sich thematisch an allgemein bekannte Inhalte, wie Änderung von Nutzungs- oder Preis- und Zahlungsbedingungen, anlehnen [5]. Dadurch erscheinen die Nachrichten für potenzielle Opfer glaubwürdiger und sind schwerer als Betrugsversuch zu identifizieren.

KI als Verstärker von Social-Engineering-Angriffen

Die Forschung der vergangenen Jahre hat verdeutlicht, dass generative KI einen der dynamischsten technologischen Trends im Bereich digitaler Bedrohungen darstellt [6]. Generative Modelle werden zunehmend für die Erzeugung realistischer Texte, Bilder und Audiosequenzen eingesetzt und eröffnen damit neue Möglichkeiten für Täuschung und Manipulation. Dadurch erreichen Angriffe eine Qualität, die mit früheren Formen digitaler Betrugsversuche kaum vergleichbar ist [6]. Dabei wirkt KI im Social Engineering nicht als eigenständige neue Angriffskategorie, sondern als Verstärker bereits bekannter Methoden.

Ein zentraler Vorteil für Angreifer liegt in der Automatisierung und Standardisierung von Angriffen. Generative KI ermöglicht es, menschliche Kommunikation und Vertrauenssignale in hohem Maße zu imitieren. Dadurch werden Täuschungsangriffe glaubwürdiger und schwerer erkennbar [7]. Large Language Models (LLM) ermöglichen Social-Engineering- und Phishing-Angriffe in einem bisher unbekannten Ausmaß, die von legitimer Kommunikation kaum zu unterscheiden sind [8]. In der Praxis zeigt sich insbesondere, dass die sprachliche Qualität von Phishing-Nachrichten deutlich zugenommen hat. Auffällige Rechtschreibfehler oder untypische Formulierungen treten zunehmend in den Hintergrund, wodurch klassische Erkennungsmerkmale an Bedeutung verlieren.