„Grokking“: KI als neues Einfallstor für Cyberangriffe

Cyberkriminelle setzen Künstliche Intelligenz zunehmend als Werkzeug für Betrug und Phishing ein. Der europäische IT-Sicherheitsanbieter ESET warnt vor einer neuartigen Angriffsmethode, die derzeit in sozialen Netzwerken für Aufmerksamkeit sorgt: Beim sogenannten „Grokking“ bringen Angreifer KI-Chatbots dazu, selbstständig schädliche Links zu verbreiten – und zwar im Namen vermeintlich vertrauenswürdiger Accounts. Ziel ist es, sensible Daten von Nutzern abzugreifen.

„Ein verantwortungsvoller Umgang mit generativer KI wird immer wichtiger“, betont Michael Klatte, Cybersicherheitsexperte bei ESET. „Viele Menschen vertrauen Chatbots nahezu blind – besonders, wenn diese auf bekannten Plattformen wie X auftreten. Deshalb sollten Nutzer beim Anklicken von Links grundsätzlich vorsichtig sein.“

So funktioniert der Angriff

„Grokking“ ist eine spezielle Form der Prompt-Injection, also der Manipulation durch versteckte Befehle. Cyberkriminelle platzieren Phishing-Links in scheinbar harmlosen Beiträgen oder Datenfeldern. Wird eine KI aufgefordert, diese Inhalte zu analysieren oder zu kommentieren, interpretiert sie die eingebetteten Befehle und gibt die schädlichen Links automatisch weiter.

Ein Beispiel auf der Plattform X zeigt die Wirksamkeit: Betrüger versteckten eine manipulierte URL in einem Videopost und brachten den offiziellen KI-Bot „Grok“ dazu, diese in einer Antwort zu teilen. Der Link wirkte seriös, führte jedoch auf eine gefälschte Seite.

Die Gefahr beschränkt sich nicht auf X – auch andere soziale Netzwerke mit integrierten KI-Assistenten können betroffen sein.

Wachsende Bedrohung durch KI-Manipulation

Laut Gartner waren bereits 32 Prozent der Unternehmen im vergangenen Jahr von Prompt-Injection-Angriffen betroffen.

„Das Problem ist, dass diese Technik auf jeder Plattform funktioniert, die Sprachmodelle nutzt“, warnt Klatte. „KI-Systeme haben kein Bewusstsein für Absichten. Sie verarbeiten Texte – egal ob harmlos oder manipulativ – und können dadurch unbeabsichtigt zu Komplizen werden.“

Tipps von ESET zum Schutz vor „Grokking“

• Links aus KI-Antworten niemals unüberlegt anklicken – immer die Zieladresse prüfen.
• Auch bei offiziellen Bots misstrauisch bleiben: Verifizierte Accounts sind keine Garantie für Sicherheit.
• Betriebssysteme und Sicherheitssoftware stets aktuell halten.
• Zwei-Faktor-Authentifizierung aktivieren und Passwortmanager nutzen.
• Im Zweifel lieber Originalquellen prüfen, statt sich auf automatisch generierte Inhalte zu verlassen.