Blog

Bereits Anfang des Jahres warnte Europol vor der kriminellen Nutzung von ChatGPT und anderen LLMs.[2] NSA-Cybersicherheitsdirektor Rob Joyce riet Unternehmen zur Vorsicht vor generativer KI.[3] Die Bandbreite der möglichen Anwendungen von KI für kriminelle Zwecke ist enorm und reicht von einfachen Betrugsversuchen bis hin zu hochkomplexen Cyberangriffen:

KI-gesteuerte Cyberangriffe

• Generative KI-gesteuerte Malware-Angriffe, APTs und Datendiebstahl:
  Moderne Cyberangreifer setzen fortschrittliche KI-Modelle ein, um gezielte Malware-Angriffe zu entwickeln. Diese KI-gesteuerten Angriffe sind besonders gefährlich, da sie sich kontinuierlich weiterentwickeln und sich an unterschiedliche Sicherheitsmassnahmen und -systeme anpassen können. Ihr Hauptziel: das unbemerkte Eindringen in Systeme und das Entwenden von sensiblen Daten.
• Generative Chatbots:
  Mit dem Aufkommen von Tools wie ChatGPT, Google Bard und Perplexity wird die KI-Nutzung immer zugänglicher. Cyberkriminelle könnten diese fortschrittlichen Chatbots für verschiedenste schädliche Aktivitäten nutzen, von Informationsbeschaffung bis hin zu direkten Angriffen.
• Problematische Inhalte durch generative KI:
  Nicht alle generierten Inhalte sind harmlos. Generative KI-Modelle haben das Potential, schädliche und unangemessene Texte zu produzieren. Dies kann von irreführenden Informationen bis hin zu explizit schädlichem Code reichen, der darauf abzielt, Systeme zu kompromittieren.
• Phishing und Spam durch KI:
  Eines der häufigsten Cyberverbrechen sind Phishing-Angriffe. Durch den Einsatz von Chatbots könnten Cyberkriminelle massenhaft überzeugende und personalisierte Phishing-E-Mails generieren. Diese E-Mails könnten dann verwendet werden, um Zugangsdaten abzugreifen oder Malware zu verbreiten. Der Automatisierungsgrad, den KI bietet, könnte das Volumen und die Effektivität solcher Angriffe erheblich steigern.

Umgehen von Chatbot-Sicherheitsfiltern

In der fortwährenden Auseinandersetzung zwischen Sicherheitsexperten und Cyberkriminellen finden stets neue Methoden und Strategien Anwendung, um die bestehenden Sicherheitssysteme zu umgehen:

• „Jailbreaking“ von Chatbots:
  Chatbots, insbesondere solche, die auf fortschrittlichen KI-Modellen basieren, verfügen über Sicherheitsfilter, die verhindern sollen, dass sie schädliche oder unerwünschte Aktionen ausführen. Kriminelle versuchen jedoch, diese Filter durch erzwungene Rollenspiele zu "brechen" oder zu umgehen, wodurch die zugrundeliegenden Mechanismen des Chatbots manipuliert werden können.
• Fiktive Umgebungen und Rollenspiele:
  Cyberkriminelle können sogenannte fiktive Umgebungen oder Rollenspiele entwickeln, um Chatbots in einen Zustand zu versetzen, in dem sie nicht mehr zwischen realen und fiktiven Anfragen unterscheiden können. Dies dient als Bypass-Methode, um die Chatbots zu ungewollten Antworten oder Aktionen zu verleiten.
• Reverse-Psychologie:
  Ein weiterer innovativer Ansatz, den Angreifer nutzen könnten, ist die Anwendung von Reverse-Psychologie. Dabei werden Chatbots durch scheinbar unschuldige oder umgekehrte Fragen und Befehle in die Irre geführt, mit dem Ziel, sie dazu zu bringen, kritische oder geschützte Informationen preiszugeben.
• Einsatz von Emojis:
  Auf den ersten Blick mögen Emojis harmlos erscheinen, aber sie bieten eine weitere Ebene der Kommunikation, die nicht immer von Sicherheitsfiltern erfasst wird. Cyberkriminelle könnten Emojis als Code oder in Kombination mit Text verwenden, um Sicherheitsfilter zu umgehen und Chatbots zur Erzeugung oder Preisgabe von potenziell schädlichen Inhalten zu bewegen.

Suche nach Sicherheitslücken

Während Unternehmen und Organisationen stetig an der Verbesserung ihrer Sicherheitssysteme arbeiten, suchen Cyberkriminelle ständig nach neuen Wegen, um diese Systeme zu umgehen oder direkt anzugreifen:

• Chatbots als Scanning-Tools:
  In einer digitalisierten Welt, in der alles miteinander vernetzt ist, könnten Chatbots als fortgeschrittene Scanning-Werkzeuge eingesetzt werden. Diese können, ausgestattet mit der richtigen Programmierung und gesteuert von KI, systematisch das Internet oder spezifische Netzwerke durchsuchen, um Schwachstellen oder Sicherheitslücken in Systemen zu identifizieren. Ist eine solche Schwachstelle erst einmal gefunden, kann sie ausgenutzt werden, um unerlaubten Zugriff zu erlangen oder Daten zu entwenden.
• Umgang mit Sicherheitssoftware durch generative KI:
  Antivirus-Programme, Intrusion Detection Systems (IDS) und Next Generation Firewalls (NGFW) sind dafür ausgelegt, schädlichen Code oder unerwünschten Datenverkehr zu erkennen und zu blockieren. Fortgeschrittene KI-Modelle können jedoch Code generieren oder modifizieren, um genau diese Sicherheitssysteme zu umgehen. Hierdurch können sie unbemerkt in Netzwerken agieren und Schaden anrichten.
• Erzeugung von Malware durch Chatbots:
  Durch den Einsatz generativer KI könnten Chatbots in der Lage sein, eine Vielzahl von schädlichen Tools und Programmen zu entwickeln. Dies umfasst die Generierung von verdecktem Code, der unter dem Radar von Sicherheitssystemen bleibt, die Erstellung spezifischer Payloads, die gezielt auf bestimmte Systeme oder Anwendungen abgestimmt sind, sowie das Schreiben von Exploits, um bekannte oder unbekannte Schwachstellen auszunutzen. Darüber hinaus könnten sie sogar bei der Entwicklung komplexer APTs (Advanced Persistent Threats) helfen, die darauf abzielen, dauerhaft und unbemerkt in Netzwerken zu verbleiben.

„Audio-Hacking“ von Passwörtern

Eine der jüngsten Entwicklungen in diesem Bereich ist die Fähigkeit moderner KI-Systeme, die beim Tippen erzeugten Geräusche zu analysieren. Ein britisches Forscherteam hat eine KI entwickelt, die nur anhand von Tippgeräuschen Passwörter knacken kann. Die Erfolgsquote liegt bei 95 %![4] Solche Techniken untergraben die Authentizität und Sicherheit von Nutzern, da selbst geheime Passwörter, die niemals sichtbar eingegeben oder gespeichert wurden, jetzt durch reine Klanganalyse ermittelt werden können.

KI umgeht Captchas

Captchas wurden ursprünglich entwickelt, um automatisierte Zugriffe von Bots auf Webseiten zu verhindern. Doch mit dem Fortschritt der KI-Technologien wird diese Sicherheitsmassnahme immer anfälliger: Durch den Einsatz von neuronalen Netzen und Deep Learning kann KI heute komplexe Bilder, Texte und Puzzles analysieren und interpretieren, die als Captchas dienen. Dies ermöglicht es ihr, selbst die komplexesten Captchas mit erstaunlicher Genauigkeit zu lösen. Für Betreiber von Webseiten, die sich auf Captchas verlassen, um automatisierten Spam oder den Missbrauch von Diensten zu verhindern, stellt dies eine ernsthafte Sicherheitslücke dar. Es wird notwendig sein, nach alternativen oder zusätzlichen Sicherheitsmassnahmen zu suchen, um sich gegen die fortschreitende KI-Technologie zu wappnen.

Wichtige Schutzmassnahmen für Unternehmen

Angesichts der wachsenden Bedrohungen durch fortschrittliche KI-Technologien ist es für Unternehmen unerlässlich, robuste und effektive Sicherheitsstrategien zu entwickeln und umzusetzen. Die wichtigsten sind:

• Mehrschichtige Sicherheitsmassnahmen:
  Der Ansatz, verschiedene Sicherheitsebenen zu kombinieren, erhöht die Gesamtsicherheit erheblich. Selbst wenn ein Angreifer eine Ebene überwinden kann, wird er durch eine weitere Sicherheitsebene aufgehalten.
• Multi-Faktor-Authentifizierung (MFA):
  MFA, wie beispielsweise durch Lösungen wie Airlock oder Cisco Duo angeboten, stellt sicher, dass Benutzer ihre Identität durch mehrere Verifizierungsmethoden bestätigen müssen. Dies kann eine Kombination aus etwas sein, das der Benutzer weiss (z. B. ein Passwort), etwas, das er besitzt (z. B. ein Token oder Smartphone), oder etwas, das er ist (z. B. ein Fingerabdruck).
• Überwachung des Darkweb:
  Das Darkweb kann eine Goldmine von Informationen für Cyberkriminelle sein. Unternehmen sollten proaktiv Dienste in Anspruch nehmen, die das Darkweb auf Hinweise überwachen, die auf geplante Angriffe oder den Verkauf von Unternehmensdaten hinweisen könnten. Durch die frühzeitige Erkennung solcher Bedrohungen können Unternehmen proaktiv handeln und potenzielle Schäden minimieren.
• Regelmässige Schulungen:
  Das menschliche Element ist oft das schwächste Glied in der Sicherheitskette. Durch regelmässige Schulungen und Aufklärung können Mitarbeiter über aktuelle Bedrohungen und Best Practices im Bereich Cybersicherheit informiert werden.
• Netzwerksegmentierung:
  Die Unterteilung eines Netzwerks in kleinere Teile oder Segmente kann verhindern, dass sich Bedrohungen im gesamten Netzwerk ausbreiten. Im Falle eines Angriffs ist nur das betroffene Segment betroffen, und nicht das gesamte Unternehmensnetzwerk.
• Backup-Strategie:
  Zuverlässige Backups sind unerlässlich. Im Falle eines Angriffs, wie z. B. durch Ransomware, können Unternehmen ihre Daten wiederherstellen, ohne Lösegeld zu zahlen.
• Endpoint-Schutz:
  Moderne Endpoint-Schutzlösungen gehen über traditionelle Antivirus-Software hinaus und bieten erweiterte Erkennungs- und Abwehrmechanismen gegen komplexe Bedrohungen.
• Managed Detection & Response (MDR) Service:
  Um den steigenden Cybersecurity-Risiken entgegenzuwirken und gleichzeitig den wachsenden regulatorischen Anforderungen gerecht zu werden, empfiehlt es sich, neben den herkömmlichen technischen Schutzmassnahmen auch einen proaktiven Managed Detection & Response (MDR) Service einzuführen. MDR ist ein Cybersecurity-Service, der Technologie und menschliche Expertise kombiniert, um Bedrohungen proaktiv zu erkennen, zu überwachen und darauf zu reagieren. Der Hauptvorteil von MDR besteht darin, dass es hilft, Bedrohungen schnell zu identifizieren und ihre Auswirkungen ohne zusätzliches Personal zu begrenzen

Es ist von grösster Bedeutung, dass Unternehmen fortlaufend ihre Sicherheitsmassnahmen bewerten und anpassen, um sich gegen die ständig wachsenden und sich verändernden Bedrohungen in der digitalen Welt zu schützen.

Sie haben einen Security-Notfall und brauchen Hilfe? Unser Incident Response Team ist 7x24 für Sie da.