LLMJacking: Unsichtbare Bedrohung für KI-Systeme

Künstliche Intelligenz ist längst zu einem festen Bestandteil unseres Alltags geworden. Ob ChatGPT, Google Gemini oder das kürzlich erschienene DeepSeek: Large Language Models (LLMs) erleichtern zahlreiche berufliche und private Aufgaben. Doch diese Beliebtheit blieb nicht unbemerkt: Cyberkriminelle nutzen die Verbreitung von KI-Diensten gezielt aus, um sogenannte LLMJacking-Angriffe durchzuführen. In diesem Beitrag erfahren Sie, was LLMJacking-Angriffe sind, wie sie funktionieren und welche Maßnahmen Sie zum Schutz ergreifen können.

Ein Überblick: Was sind Large Language Models (LLMs)?

Large Language Models (LLMs) sind KI-Modelle, die mithilfe großer Textdatenmengen trainiert wurden. Sie sind darauf spezialisiert, menschliche Sprache zu verstehen und zu generieren. Bekannte Beispiele für LLMs sind ChatGPT, DeepSeek, Google Gemini und Microsoft Copilot. Dank ihrer Fähigkeit, Texte zu analysieren und Inhalte zu erstellen, erfreuen sich diese Modelle großer Beliebtheit. Doch genau diese Beliebtheit birgt auch Risiken: Mit der zunehmenden Nutzung von LLMs ist das sogenannte LLMJacking entstanden.

LLMJacking und wie es funktioniert

Was sind LLMJacking-Angriffe?

LLMJacking-Angriffe sind neue und gefährliche Formen des Cyberangriffs, die speziell auf große Sprachmodelle wie ChatGPT, DeepSeek oder Google Gemini abzielen. Der Begriff „LLMJacking“ beschreibt den Diebstahl von Zugangsdaten zu diesen KI-Diensten, um diese anschließend unbefugt zu nutzen. Dabei verschaffen sich die Angreifenden Zugriff auf kostenintensive KI-Ressourcen und nutzen diese für eigene Projekte oder illegale Aktivitäten. Die betroffenen Unternehmen bleiben auf den hohen Kosten sitzen, während die Kriminellen die KI-Modelle für eigene Zwecke missbrauchen.

Unterschied zu klassischen Cloudangriffen

LLMJacking-Angriffe ähneln klassischen Cloudangriffen auf Plattformen wie AWS oder Microsoft Azure. Auch hier stehen gestohlene Zugangsdaten im Mittelpunkt, mit denen Angreifer unberechtigt auf kostenintensive Ressourcen zugreifen. Der Unterschied liegt in der Zielgruppe: Während Cloudangriffe klassische Server-Infrastrukturen betreffen, konzentriert sich LLMJacking gezielt auf Sprachmodelle und deren Rechenleistung.

Ziel der Angreifer

Das Hauptziel der Angreifer besteht darin, teure KI-Dienste unbefugt zu nutzen. Die aufwendige Rechenleistung hinter Modellen wie ChatGPT oder DeepSeek bietet enorme Möglichkeiten, sei es für die Generierung von Inhalten, das Training neuer Modelle oder andere ressourcenintensive Aufgaben. Durch den Missbrauch dieser Zugangsdaten können die Kriminellen erhebliche Kosten einsparen, die sonst bei legaler Nutzung anfallen würden.

Vorgehen der Angreifer

Um an die Zugangsdaten zu gelangen, setzen Cyberkriminelle häufig auf Phishing-Angriffe. Dabei versenden sie täuschend echt wirkende E-Mails, die das Opfer auf gefälschte Anmeldeseiten führen. Gibt es dort seine Zugangsdaten ein, erhalten die Angreifer direkten Zugriff auf den jeweiligen KI-Dienst. Einmal im Besitz dieser Zugangsdaten, können sich die Angreifer ungehindert einloggen und die wertvolle Rechenleistung für eigene Projekte nutzen.

Aktuelles Beispiel für LLMJacking-Angriffe

LLMJacking-Angriffe sind eine ernstzunehmende Bedrohung, die seit ihrer Entdeckung im Mai 2024 durch das Sysdig Threat Research Team stark zugenommen haben. Besonders besorgniserregend ist dabei die Geschwindigkeit, mit der Cyberkriminelle neue Technologien ins Visier nehmen und für ihre Zwecke missbrauchen.

Ein prominentes Beispiel ist das KI-Modell DeepSeek: Nur wenige Tage nach der Veröffentlichung des fortgeschrittenen Modells DeepSeek-V3 wurde es auch schon Ziel eines LLMJacking-Angriffs. Die Angreifenden integrierten das Modell in Proxy-Server, die mit gestohlenen API-Schlüsseln ausgestattet waren. Dies ermöglichte es den Kriminellen, die leistungsstarke KI-Infrastruktur unbefugt zu nutzen, um eigene Projekte umzusetzen.

Die Geschwindigkeit dieses Angriffs verdeutlicht die Effizienz und das Know-how der Cyberkriminellen: Nur wenige Tage nach der Veröffentlichung des Modells konnten sie bereits Zugangsdaten entwenden und missbrauchen!

Und tatsächlich ist LLMJacking längst kein Randphänomen mehr. Denn laut Sysdig haben sich bereits spezialisierte Communities auf Plattformen wie 4chan und Discord gebildet, die aktiv Tools und Techniken zur missbräuchlichen Nutzung von LLMs austauschen. Die Nutzung dieser gestohlenen Ressourcen reicht von der Generierung nicht jugendfreier Inhalte bis hin zu betrügerischen Rollenspielen mit KI-Charakteren.

Schutzmaßnahmen gegen LLMJacking

Um sich effektiv gegen LLMJacking-Angriffe zu schützen, können und sollten Sie gezielte Sicherheitsmaßnahmen implementieren. Dazu zählen unter anderem:

Multi-Faktor-Authentifizierung (MFA)

Implementieren Sie MFA für alle Zugänge zu KI-Diensten. Durch die zusätzliche Verifizierung wird die Sicherheit der Anmeldeprozesse erheblich verbessert und unbefugter Zugriff erschwert.

Überwachung und Logging

Setzen Sie umfassende Überwachungsmechanismen ein, um ungewöhnliche Aktivitäten frühzeitig zu erkennen. Nutzen Sie spezialisierte Tools, die auf verdächtige API-Nutzungen, auffällige Zugriffsmuster oder stark abweichende Nutzungszeiten hinweisen. Ergänzen Sie diese Maßnahmen durch automatisierte Alarme und detaillierte Protokolle, um Sicherheitsvorfälle effizient nachzuverfolgen.

Schulung Ihrer Mitarbeitenden

Sensibilisieren Sie Ihre Mitarbeitenden für Phishing-Angriffe und andere Social-Engineering-Methoden. Bieten Sie regelmäßige Schulungen und Simulationen an, um das Bewusstsein und die Reaktionsfähigkeit zu stärken. Mitarbeitende sollten lernen, verdächtige E-Mails zu erkennen, insbesondere wenn sie Links zu Anmeldeseiten oder verdächtige Dateianhänge enthalten.

Sicherung von Zugangsschlüsseln und Anmeldedaten

Ein zentraler Aspekt der Verteidigungsstrategie ist der Schutz von API-Schlüsseln und Zugangsdaten. Vermeiden Sie es, diese im Quellcode zu speichern. Stattdessen sollten Unternehmen Umgebungsvariablen oder spezialisierte Secret-Management-Tools wie HashiCorp Vault, AWS Secrets Manager oder Azure Key Vault nutzen. Zudem sollten API-Schlüssel regelmäßig rotiert und mit restriktiven Zugriffsbeschränkungen versehen werden, um Missbrauch zu verhindern.

Zugriffskontrollen und Rechteverwaltung

Implementieren Sie ein striktes Rechte- und Rollenkonzept (Principle of Least Privilege, PoLP), bei dem jeder Nutzer nur die minimalen Berechtigungen erhält, die zur Erfüllung seiner Aufgaben erforderlich sind. Beschränken Sie außerdem den Zugriff auf sensible KI-Dienste durch IP-Whitelisting und andere Netzwerk-Sicherheitsmaßnahmen.

Regelmäßige Sicherheitsüberprüfungen

Führen Sie regelmäßige Sicherheits-Audits und Penetrationstests durch, um Schwachstellen frühzeitig zu identifizieren. Diese Tests sollten insbesondere die Sicherheit von API-Schnittstellen, Zugangsdaten und der gesamten IT-Infrastruktur abdecken.

Fazit: LLMJacking ist eine ernstzunehmende Gefahr im KI-Zeitalter

LLMJacking ist eine ernstzunehmende Bedrohung für Unternehmen, die KI-Modelle einsetzen. Die rasante Weiterentwicklung von Angriffstechniken und die hohe Attraktivität von LLM-Diensten für Cyberkriminelle machen dieses Thema besonders brisant. Ohne angemessene Schutzmaßnahmen riskieren Unternehmen nicht nur finanzielle Schäden durch den unbefugten Verbrauch kostenintensiver Ressourcen, sondern auch einen potenziellen Reputationsverlust.

Um dieser wachsenden Gefahr zu begegnen, ist ein ganzheitlicher Sicherheitsansatz unerlässlich. Dazu gehört die konsequente Implementierung von Multi-Faktor-Authentifizierung, die laufende Überwachung von Zugriffsaktivitäten und die regelmäßige Schulung der Mitarbeitenden. Besonders wichtig ist der verantwortungsvolle Umgang mit Zugangsdaten und API-Schlüsseln, um Angreifern keine unnötigen Einfallstore zu bieten.

Unternehmen, die ihre Sicherheitsstrategien kontinuierlich anpassen und auf verdächtige Aktivitäten achten, können das Risiko durch LLMJacking-Angriffe erheblich minimieren und die Integrität ihrer KI-Systeme langfristig gewährleisten.