Wenn KI zum Köder wird: Wie Cyberkriminelle den Hype um Copilot, ChatGPT & Co. ausnutzen

Künstliche Intelligenz ist längst im Arbeitsalltag angekommen. Mitarbeitende testen neue Tools, Unternehmen prüfen Copilot-Szenarien, Entwickler suchen nach neuen Modellen und viele Nutzer möchten bei aktuellen KI-Trends möglichst früh dabei sein. Genau diese Neugier nutzen Cyberkriminelle zunehmend aus.

Microsoft Threat Intelligence berichtet, dass Angreifer in den vergangenen Monaten verstärkt bekannte KI-Marken wie ChatGPT, Microsoft Copilot, DeepSeek oder Claude als Köder für Social-Engineering-Angriffe verwendet haben. Wichtig dabei: Es geht nicht darum, dass diese KI-Dienste selbst kompromittiert wurden. Die Angreifer missbrauchen lediglich bekannte Namen, Logos und aktuelle Trends, um Vertrauen zu erzeugen und Nutzer zum Klicken, Einloggen oder Herunterladen zu bewegen.

Warum KI-Marken für Angreifer so attraktiv sind

KI ist aktuell eines der stärksten Aufmerksamkeitsthemen in Unternehmen. Neue Modelle, neue Funktionen und neue Tools werden regelmäßig angekündigt. Für viele Mitarbeitende ist es daher völlig plausibel, eine E-Mail zu einem KI-Abo, einem neuen Plugin oder einem angeblichen Sicherheitsproblem im KI-Konto zu erhalten.

Genau hier setzen Angreifer an. Sie kombinieren vertraute Markenelemente mit klassischen Manipulationstechniken: Dringlichkeit, Angst vor Kontosperrung, vermeintlich offizielle Hinweise, gefälschte Downloadseiten oder Suchergebnisse, die auf den ersten Blick legitim wirken. Microsoft beschreibt diese Entwicklung als eine langfristige Verschiebung im Social Engineering: Neben klassischen Ködern wie Rechnungen, Paketbenachrichtigungen oder Zahlungsaufforderungen werden KI-Themen zu einem immer wichtigeren Angriffsmuster.

Beispiel 1: Gefälschte ChatGPT-Zahlungsaufforderungen

Ein besonders greifbares Beispiel ist eine von Microsoft beobachtete ChatGPT-Phishing-Kampagne. Nutzer erhielten E-Mails mit dem Hinweis, dass ihre ChatGPT-Plus-Zahlungsmethode aktualisiert werden müsse. Die Nachricht wirkte dringend: Wenn keine neue Zahlungsmethode hinterlegt werde, solle das Konto angeblich auf einen kostenlosen Plan zurückgestuft werden.

Der Angriff zielte darauf ab, persönliche Daten und Kreditkarteninformationen abzugreifen. Die Opfer wurden nicht direkt auf eine offensichtliche Betrugsseite geleitet, sondern über mehrere Weiterleitungen, darunter legitime oder missbrauchte Dienste. Solche Umleitungen helfen Angreifern, E-Mail-Filter zu umgehen und die Glaubwürdigkeit der Links zu erhöhen.

Was Unternehmen daraus lernen sollten:
Nicht jede professionell gestaltete E-Mail mit bekanntem Logo ist vertrauenswürdig. Gerade Abo-, Zahlungs- und Konto-Hinweise sollten Mitarbeitende niemals direkt über einen Link in der E-Mail öffnen. Sicherer ist der Weg über die offizielle Website oder die zentral verwalteten Unternehmensanwendungen.

Beispiel 2: Claude-Phishing mit angeblichem Richtlinienverstoß

Eine weitere Kampagne nutzte die Marke Claude von Anthropic. Die E-Mails behaupteten, das Konto des Empfängers habe gegen Nutzungsrichtlinien verstoßen. Um Einspruch einzulegen, sollten Nutzer ein PDF öffnen und einem Link folgen. Dahinter verbarg sich ein Ablauf, der auf den Diebstahl von Zugangsdaten und Zugriffstokens ausgelegt war.

Besonders gefährlich ist hier der psychologische Effekt: Niemand möchte, dass ein beruflich genutztes Tool eingeschränkt oder gesperrt wird. Der angebliche Richtlinienverstoß erzeugt Druck und bringt Nutzer dazu, schneller zu handeln, ohne die Nachricht sorgfältig zu prüfen. Microsoft ordnet die finale Phase als konsistent mit Adversary-in-the-Middle-Techniken ein, bei denen nicht nur Passwörter, sondern auch Authentifizierungstokens abgefangen werden können.

Beispiel 3: Gefälschte KI-Plugins und Malware-Downloads

Neben E-Mail-Phishing beobachtet Microsoft auch Malvertising-Kampagnen mit KI-Bezug. Dabei werden Nutzer über Werbeanzeigen, Pop-ups oder manipulierte Webseiten zu angeblichen KI-Plugins oder Installern gelockt. Ein Beispiel war ein fiktives „Awesome AI Windows Plugin“, das Nutzer angeblich beim Anschauen von Videos unterstützen sollte. Tatsächlich wurde darüber der Vidar Stealer verteilt, eine Schadsoftware zum Diebstahl sensibler Informationen.

Auch GitHub wurde für solche Täuschungen missbraucht. Im Zusammenhang mit DeepSeek V4 erstellten Angreifer gefälschte Repositorys mit gestohlenem Branding, SEO-optimierten Begriffen und scheinbar glaubwürdigen Release-Dateien. Durch Suchmaschinen und GitHub-Suchen konnten Nutzer auf diese gefälschten Seiten stoßen. Die dort angebotenen Archive enthielten jedoch Schadsoftware.

Das zeigt:
Die Gefahr beginnt nicht erst im Posteingang. Auch Suchmaschinen, GitHub, Downloadseiten und Werbeanzeigen können Teil eines Angriffs sein. Besonders bei neuen KI-Tools sollten Mitarbeitende prüfen, ob es überhaupt einen offiziellen Installer, ein offizielles Repository oder eine freigegebene Unternehmensversion gibt.

Was diese Angriffe so gefährlich macht

Der Erfolg solcher Kampagnen basiert auf einem einfachen Prinzip: Angreifer müssen nicht die beste Schadsoftware haben, wenn sie den richtigen Moment treffen. KI-Themen erzeugen Neugier, Erwartung und manchmal auch Zeitdruck. Viele Nutzer wollen neue Funktionen schnell ausprobieren, ohne lange zu prüfen, ob Quelle, Link oder Download wirklich legitim sind.

Hinzu kommt, dass moderne Angriffe mehrstufig aufgebaut sind. Eine E-Mail führt zu einem PDF, das PDF zu einer Verifizierungsseite, diese wiederum zu einer Login-Seite. Oder eine Suchanfrage führt zu einem scheinbar seriösen GitHub-Projekt, das echte Logos, Benchmarks und Fachbegriffe enthält. Dadurch wirken Angriffe professioneller und schwerer zu erkennen.

Konkrete Schutzmaßnahmen für Unternehmen

Unternehmen sollten KI-bezogene Angriffe nicht nur technisch, sondern auch organisatorisch betrachten. Es reicht nicht, Mitarbeitende allgemein vor Phishing zu warnen. Sie müssen verstehen, dass gerade bekannte KI-Marken aktiv als Köder eingesetzt werden.

Microsoft empfiehlt unter anderem den konsequenten Einsatz von Multifaktor-Authentifizierung, Conditional Access, Zero-hour auto purge in Microsoft 365, Safe Links in Microsoft Defender for Office 365 sowie Browser- und Netzwerkschutz gegen schädliche Websites.

Für die Praxis bedeutet das:

1. Klare Regeln für KI-Tools definieren
Mitarbeitende sollten wissen, welche KI-Tools offiziell freigegeben sind, wo sie diese finden und welche Tools nicht eigenständig installiert werden dürfen.

2. Downloads zentral steuern
Neue KI-Anwendungen, Browser-Erweiterungen oder Desktop-Tools sollten nicht unkontrolliert aus Suchergebnissen oder GitHub-Repositories heruntergeladen werden.

3. Phishing-Schulungen aktualisieren
Schulungen sollten nicht nur klassische Beispiele wie Paketbenachrichtigungen oder Rechnungen zeigen, sondern auch moderne KI-Köder: angebliche Copilot-Freischaltungen, ChatGPT-Zahlungsprobleme, Claude-Kontosperrungen oder DeepSeek-Installer.

4. Microsoft 365-Sicherheitsfunktionen aktiv nutzen
Defender for Office 365, Safe Links, Safe Attachments, Entra ID Protection, Conditional Access und Defender for Endpoint können helfen, verdächtige Links, kompromittierte Anmeldungen und Malware frühzeitig zu erkennen.

5. Eine Meldekultur schaffen
Mitarbeitende sollten verdächtige E-Mails, Links oder Downloads einfach melden können, ohne Angst vor Schuldzuweisungen. Gerade bei Social Engineering ist schnelles Melden entscheidend.

Fazit: KI-Sicherheit beginnt nicht erst beim Modell

Der Hype um KI bringt enorme Chancen für Unternehmen. Gleichzeitig entsteht eine neue Angriffsfläche: nicht nur durch die Technologie selbst, sondern durch die Aufmerksamkeit, die sie erzeugt. Cyberkriminelle nutzen bekannte KI-Marken, aktuelle Trends und die Experimentierfreude der Nutzer gezielt aus.

Deshalb sollten Unternehmen KI nicht nur produktiv einführen, sondern auch sicher begleiten. Dazu gehören klare Richtlinien, technische Schutzmaßnahmen, sensibilisierte Mitarbeitende und ein kontrollierter Umgang mit neuen Tools.

Wer KI sicher nutzen möchte, muss nicht nur fragen: „Was kann dieses Tool?“ Sondern auch: „Woher kommt es, wer stellt es bereit und darf ich es in unserem Unternehmen verwenden?“

Möchten Sie Ihr Unternehmen auf den sicheren Einsatz von KI, Microsoft 365 Copilot und modernen Cloud-Diensten vorbereiten?

Wir unterstützen Sie gerne dabei, passende Sicherheitsrichtlinien, Schulungsmaterialien und verständliche Awareness-Inhalte für Ihre Mitarbeitenden zu erstellen. So stellen Sie sicher, dass neue KI-Technologien nicht nur ausprobiert, sondern sicher, kontrolliert und mit echtem Mehrwert im Arbeitsalltag eingesetzt werden.

Jetzt Kontakt aufnehmen und gemeinsam die Grundlage für eine sichere KI-Nutzung schaffen.