SAP-Sicherheit: Alle Seiten arbeiten mit Künstlicher Intelligenz

Künstliche Intelligenz entwickelt sich im abenteuerlichen Tempo weiter. Damit erwächst aus ihr ein gefährliches Potenzial bisher ungeahnter Bedrohungen der Sicherheit von SAP-Systemen. Zum Glück aber machen sich nicht nur Kriminelle Künstliche Intelligenz zu eigen – sie wird parallel auch für Cybersecurity-Lösungen eingesetzt. Was das konkret bedeutet, erläutert Holger Hügel, Product Management Director bei SecurityBridge (Foto) in seinem Gastbeitrag.

KI: Hilfe bei potenziellen Bedrohungen

KI-Systeme automatisieren manuelle Aufgaben, sie analysieren große Datenmengen und identifizieren in ihnen Muster und Anomalien. Damit helfen sie, potenzielle Cyberbedrohungen und Sicherheitsvorfälle schneller und genauer als Menschen zu erkennen und zu verhindern. KI kann sogar Bedrohungen automatisch erkennen und darauf reagieren. Und sie lässt sich zum Schutz sensibler Informationen einsetzen: für die Verschlüsselung sensibler Daten, zur Überwachung des Datenzugriffs und Identifizierung nicht autorisierter Personen. Sie könnte sogar Richtlinien zur Datennutzung durchsetzen und die Einhaltung verschiedener Datenschutzgesetze unterstützen.

All das wird heute bereits praktiziert und weiter ausgebaut. Tatsächlich wird erwartet, dass der Markt für KI in der Cybersicherheit weiter stark wachsen wird, von rund 24 Milliarden US-Dollar in 2023 auf 134 Milliarden bis 2030. Auch SAP weiß die Leistungsfähigkeit von KI in den beschriebenen Formen zu nutzen. Im SAP AI Ethics Handbook heißt es dazu: „…Systeme differenzieren sich dadurch, dass der Mensch das Problem und das Ziel definiert, aber das Verhalten, die Regeln und Beziehungen, die für das System erforderlich sind, automatisiert gelernt werden. Mit Hilfe von Daten trainieren sie, wie sie ein Problem lösen können und passen ihre Funktion in diesem Prozess kontinuierlich an.“ Der Einsatz von KI ist folglich bereits tief in den Geschäftsanwendungen von SAP in den Bereichen Finanzen, Lieferkette, Beschaffung, Personalwesen und Vertrieb verankert.

Die Kehrseite: Wie KI missbraucht wird

Soweit die Vorteile. Dass KI auf der anderen Seite neue Risiken in der SAP-Sicherheitslandschaft mit sich bringt und von Angreifern auf neue Weise eingesetzt und missbraucht wird, liegt auf der Hand. Tatsächlich nehmen die IT-Bedrohungen mit der Anzahl der Cyberangriffe zu. Der Bericht von Deep Instinct in der vierten Ausgabe besagt, dass 75 Prozent der Sicherheitsfachleute im Jahr 2023 eine Zunahme von Cyberangriffen beobachteten, wobei 85 Prozent der Angriffe auf generative KI zurückzuführen waren. Und nicht nur die Häufigkeit der Angriffe nimmt zu, auch die Strategien der Angriffe werden immer ausgefeilter, wie der MGM Grand/Caesar’s Breach 2023 zeigt.

So kann KI beispielsweise Malware generieren, die in der Lage ist, herkömmliche Cybersicherheitsmaßnahmen zu umgehen. Bei der Menge an Daten und Rechenleistung, die heute zur Verfügung stehen, hat KI das Potenzial, Social-Engineering-Angriffe ohne Wissen des Opfers auszuführen. Sie beruhen darauf, Menschen dazu zu verleiten, vertrauliche Informationen preiszugeben oder Maßnahmen zu ergreifen, die ihre Sicherheit gefährden. KI hat das Potenzial, Social-Engineering-Angriffe zu automatisieren und noch überzeugender zu machen.

Fortschreitende Bedrohung durch KI

Darüber hinaus wurde bereits berichtet, dass KI Deepfakes, automatisierte Angriffe, Cyberspionage und IoT-Angriffe durchführt. Eine weitere fortgeschrittene Bedrohung ist die Manipulation des KI-Modells, etwa der Fall von Microsofts ChatBot. Dieser war darauf ausgelegt, mit Personen zu interagieren und Antworten auf der Grundlage seiner Trainingsdaten zu generieren. Er wurde einem bösartigen Trainingsdatensatz ausgesetzt, der dazu führte, dass das KI-System rassistische und hetzerische Reaktionen generierte, und letztlich abgeschaltet werden musste. Der Vorfall unterstreicht Der Vorfall unterstreicht das Potenzial, von KI-Systemen manipuliert zu werden, und wie wichtig es ist, die Daten und Algorithmen, die zum Trainieren von KI-Systemen verwendet werden, sorgfältig zu prüfen.

Für Unternehmen liegt die Herausforderung darin, bei der Erkennung und Verhinderung fortschrittlicher Exploits mit herkömmlichen Cybersicherheitsmaßnahmen die Nase vorn zu haben. Es besteht ein erheblicher Bedarf an anpassungsfähigeren und fortschrittlicheren Tools und Strategien zum Schutz vor der sich schnell entwickelnden Bedrohungslandschaft und zur Abwehr automatisierter, dynamischer Exploits. Führungskräfte müssen jetzt prüfen, wie sie ihre Software-Infrastrukturen stärken und die zunehmend wachsenden Risiken mindern können.

SAP-Security-Konferenz: Erkenntnisse und Empfehlungen

Das IT-Onlinemagazin hat mit SAP-Kunden, Expertinnen und -Experten, darunter auch Holger Hügel, über die aktuellen Entwicklungen und neue Möglichkeiten rund um SAP-Sicherheit diskutiert.

Eine Zusammenfassung lesen Sie in der IT-Onlinekonferenz Security Executive Summary.