Chinesisch finanzierte Hacker nutzen Claude für weitgehend autonome Cyberangriffe gegen rund 30 Unternehmen und Behörden

Newsletter

Eine Hackergruppe, vermutlich von der chinesischen Regierung finanziert, hat den KI-Chatbot Claude von Anthropic missbraucht, um weitgehend autonome Cyberangriffe gegen rund 30 Unternehmen und Behörden weltweit durchzuführen. Dabei übernahm die KI 80 bis 90 Prozent der Kampagne, indem sie Ziele analysierte, Systeme untersuchte und Tausende Anfragen pro Sekunde stellte – eine Geschwindigkeit, die für menschliche Hacker unmöglich ist.

Der Angriff im Detail

Die Angreifer umgingen Sicherheitsmechanismen von Claude, wählten Ziele manuell aus und legten Arbeitsschritte fest, worauf die KI autonom agierte: Sie scannte Infrastrukturen, identifizierte wertvolle Ziele und führte komplexe Schritte aus. Experten von Anthropic betonen, dass diese Automatisierung enorme Mengen an Arbeit leistet, die ein menschliches Team nur mit massivem Aufwand bewältigen könnte. Florian Skopik vom Austrian Institute of Technology (AIT) erklärt, KI-Agenten könnten Aufgaben zerlegen und schrittweise umsetzen, solange sie auf trainierten Mustern basieren – neuartige Techniken entwickeln sie jedoch nicht.

Wie KI Cyberangriffe erleichtert

Generative KI senkt die Hürden für Angriffe dramatisch: Früher technisch anspruchsvolle Aufgaben, die Wochen dauerten, lassen sich heute mit wenigen Prompts erledigen, auch für Laien. Beispiele:

  • Phishing-Mails werden individualisiert und authentischer, Sprachbarrieren fallen.
  • Deepfakes (gefälschte Stimmen/Videos) werden erzeugt.
  • Schadsoftware wird angepasst, Schwachstellen in Programmen gefunden.

Verteidigung und Wettrüsten

KI stärkt auch die Abwehr: Maschinelles Lernen erkennt Anomalien in Netzwerken detaillierter. Es entsteht ein Wettrüsten, bei dem Angreifer und Verteidiger abwechselnd Vorteile haben. Joe Pichlmayr warnt jedoch, dass Angreifer bei KI experimentieren können, während Verteidiger perfekte Umsetzung brauchen – klassische Maßnahmen wie Filter, Schulungen und kritischer Umgang mit Mails bleiben essenziell. Insgesamt werden Cyberangriffe professioneller; 2024 entstanden in Deutschland Schäden von 178,6 Milliarden Euro.