KI für ABAP: Cloud-native statt Cloud-only

Die SAP-Welt der Zukunft ist weder “Cloud-only” noch “On-Premises-only”. Vielmehr sollten wir den Begriff “hybrid” neu definieren und bei KI auf Python sowie Container-basierte Infrastrukturen setzen.

Zu diesen und weiteren Schlüssen kommt Jörg Müller, Innovation Manager bei der BA Business Advice GmbH (Foto), in seinem privaten Rückblick auf die DSAG-Technologietage 2024 aus Perspektive der SAP-Community. Lesen Sie hier seinen Gastbeitrag für das IT-Onlinemagazin.

 

Die Keynote als Hologrammpräsentation – das war schon etwas Zukunft, was uns die Deutschsprachige SAP-Anwendergruppe e. V. (DSAG) auf den DSAG-Technologietagen in Hamburg präsentierte. Ein virtueller Jürgen Müller Avatar, der schließlich durch den echten SAP-Vorstand ersetzt wurde. Die DSAG beweist hier immer mal wieder Mut und landet zumindest bei mir damit klare Treffer. Vielen Dank. Powerpoint war gestern.

 

KI – haben On-Premises-Kunden daran wirklich keinen Bedarf?

In der diesjährigen Keynote gab es allerdings einen Moment, der nicht nur mich noch Tage später beschäftigen sollte. Hier fragt DSAG-Technologievorstand Sebastian Westphal den inzwischen physisch anwesenden Jürgen Müller, ob er die Entscheidung der SAP, Künstliche Intelligenz (KI) nicht für On-Premises-Kunden bereitstellen zu wollen, etwas näher erläutern kann.

Die Antwort von Jürgen Müller ist in weiten Teilen durchaus nachvollziehbar. Aus Sicht der SAP hat eine Integration in eigene Lösungen und Prozesse Priorität. Aufgestoßen ist mir allerdings seine Argumentation. Von den 24.000 Kunden, die bereits heute Künstliche Intelligenz nutzen, sind 99 Prozent Cloud- und weniger als ein Prozent On-Premises-Kunden.

Daraus schließt die SAP, dass On-Premises-Kunden keinen Bedarf an KI haben und sie so “mit den Füßen abgestimmt haben”, worauf SAP sich konzentrieren soll?

Würde ich mich in die Schlange wartender Kunden vor einem Apple Store einreihen, die sehnsüchtig auf die neue Vision Pro Brille warten, und dort den Anwesenden die Frage stellen, wer sich in den nächsten zwei Wochen ein Microsoft Surface zulegen wird – ich erhielte vermutlich ein ähnliches Ergebnis.

Wenn realistische Ergebnisse gewünscht sind, muss man Fragen und Zielgruppe entsprechend auswählen. Kunden können nur nutzen, was angeboten wird. Genau das ist die Kritik an der derzeitigen SAP-Strategie: Es werden Kunden ausgeschlossen, die nicht einem bestimmten Vertrags- und/oder Betriebsmodell folgen – siehe DSAG-Pressemeldung.

 

S/4HANA als Digital Core und Grundlage für die digitale Transformation

Ein klein wenig kann man die Only-Cloud-Strategie der SAP sogar verstehen. Von den S/4HANA-Projekten der letzten Jahre sind sicherlich einige gut gelaufen und haben ihre Ziele erreicht. Es gibt aber auch solche, in denen nur die alte Welt nach S/4HANA überführt wurde. Kaum Innovationen, kaum Mehrwert, kein Clean-Core und bereits kurz nach der Einführung schwer zu warten. Priorität hatte die Inbetriebnahme der (alten) Kernprozesse. Für die Schaffung echter Mehrwerte blieb oft kein Spielraum.

Die Gründe sind natürlich vielfältig und oft darin zu suchen, welche Stakeholder und Interessen priorisiert wurden. Der Kater kommt, wenn die eigentlichen Verursacher nicht mehr an Bord sind oder Erinnerungslücken haben. So kann es auch nicht weitergehen. Der SAP-Beratungsmarkt muss sich genauso transformieren und das ursprüngliche Versprechen einlösen: S/4 als Digital Core und Grundlage für die digitale Transformation.

Was SAP in den letzten Monaten getan hat, ist für mich nicht in Ordnung. Mit dem “Holzhammer” die eigenen Interessen durchdrücken und somit das Vertrauen von Kunden und Partnern nachhaltig zu beschädigen, kann man durchaus als unklug bezeichnen. In der heutigen Zeit sollten wir nicht “entweder – oder” sondern “sowohl – als auch” denken. DSAG-Umfragen belegen: Eine signifikante Anzahl von SAP-Kunden strebt eine hybride Infrastruktur an und verweigert die Cloud nicht grundsätzlich. Es gibt durchaus Gründe, nicht alles in die Cloud auslagern zu wollen. Treue SAP-Kunden, die sehr früh auf den S/4HANA-Zug aufgesprungen sind, trifft dies gerade besonders. Es hindert niemand SAP an einem Anreizsystem, welches Cloud-Kunden bevorzugt. Aber man sollte seine Versprechen der Vergangenheit brechen und Kompromisse suchen.

 

KI – das neue Werkzeug

Nicht einmal zwei Jahre sind seit dem Durchbruch von ChatGPT vergangen. So war KI auf den DSAG-Technologietagen allgegenwärtig und es wurden erste Lösungen vorgestellt bzw. konnten sogar ausprobiert werden (z.B. SAP Joule, Microsoft Co-Pilot).

Stolz zeigte Microsoft, wo und wie die neuen Technologien bereits genutzt werden. Zugleich fanden sich ehrliche Einschätzungen darüber, wo diese noch nicht optimal funktionieren oder wo sie den Alltag wohl nicht grundlegend verändern werden. KI ist und bleibt eben ein neues Werkzeug. Wir müssen es erst verstehen, anfassen, seine Grenzen ausloten und ausprobieren.

 

An Python führt kein Weg vorbei

Es lohnt sich, über den Tellerrand zu schauen, wie KI jenseits des SAP-Universums funktioniert. Hier ist ein Wettlauf der KI-Modelle entbrannt. Erstaunlicherweise oft unter der Opensource-Lizenz und vieles sogar kommerziell verwendbar. Wenn man Youtube als Wissensquelle interpretiert und genau so nutzt, wird man beinahe täglich über neue Entwicklungen in diesem Bereich informiert.

Der KI-Zug hat inzwischen eine unglaubliche Geschwindigkeit aufgenommen. Es gibt Alternativen für ChatGPT wie GPT4ALL, neuartige Konzepte wie Autogen bzw. CrewAI oder weitere Kombinationen unterschiedlicher Modelle und Konzepte. Insgesamt viel Potenzial, uns alle zu überfordern.

Wenn man derzeit ganz vorn dabei sein möchte, führt kein Weg an der Programmiersprache Python vorbei – seit Jahren unter den Top 5 im Tiobe-Index und derzeit sogar auf Platz 1. Dafür braucht es jedoch Menschen, die Pandas nicht nur für niedliche Tiere halten und deutlich mehr Ahnung von Mathematik und Statistik haben als vermutlich die meisten im SAP-Umfeld tätigen Personen (einschließlich mir).

Ich habe mir Python 2022 über einen sehr guten und kostenlosen openSAP-Kurs beigebracht. SAP geht derzeit mit Informationsquellen der Community nicht gerade sanft um: openSAP wird stillgelegt und das Wissen der SAP Community im Internet wurde so umgekrempelt, dass selbst die Autoren ihre Beiträge teilweise nicht mehr finden. Einige sehr wichtige Wissensquellen und viel Motivation werden so vernichtet. Das wird uns alle nachhaltig schädigen.

Die wichtigste Information lautet aber: Jeder kann sofort mit KI im Unternehmen anfangen und diese neuen Werkzeuge testen. Oft kostenlos und unabhängig von Verträgen.

 

Ollama: Opensource-Projekt im KI-Umfeld

Ein interessantes Opensource-Projekt im KI-Umfeld ist Ollama. Dieses Projekt ermöglicht es, KI-Modelle lokal zur Verfügung zu stellen, so dass sie auf dem eigenen Laptop oder im eigenen Rechenzentrum betrieben werden können. Wie muss man sich das vorstellen? Die Ollama-Plattform wird beispielsweise als Docker-Container zur Verfügung gestellt. Man braucht also etwas auf dem Laptop oder im eigenen Rechenzentrum, das einen Docker-Container “versteht”. Beispielsweise den “Docker-Desktop” oder Technologien wie Kubernetes.

Nach dem Start des Ollama-Containers lässt sich auswählen, welches Modell man verwenden möchte. Auf https://ollama.com/library gibt es eine größere Auswahl an gelisteten Modellen. Dazu zählen llama2 von Facebook, diverse Mistral-KI-Modelle und spezialisierte Ausführungen anderer Unternehmen und Organisationen.

Das hat schon fast “App-Store-Charakter”. Mit einem Befehl „ollama run model_name“ werden dann Gigabyte an Modelldaten aus dem Internet heruntergeladen und es kann losgehen. Eine Web-Oberfläche, die OpenAIs ChatGPT nachempfunden ist, gibt es ebenfalls: https://github.com/open-webui/open-webui. Mit wenigen Anpassungen kann man weitere KI-Modelle aus einer zentralen Anlaufstelle (https://huggingface.co/models) dazu verwenden. Dort waren Mitte Februar über 500.000 Modelle für alle möglichen Anwendungsbereiche gelistet.

Meiner Ansicht nach geht es heute nicht mehr darum, dass jeder mit viel Aufwand eigene KI- Modelle trainiert, sondern eher darum zu testen, was die vortrainierten bereits leisten können. Dazu ist es notwendig, die existierenden Modelle zu vergleichen und ein Verständnis dafür zu entwickeln, wie man einen „System Prompt” einsetzen kann. Ollama kann uns dabei helfen. Vielleicht wäre dies ein Ansatz für SAP, ein speziell trainiertes KI-Modell mit SAP-Domänenwissen über Ollama (ggf. gegen Gebühr) bereitzustellen?

 

Cloud ohne Cloud-Zwang

Es muss uns allerdings klar sein, dass selbst aktuelle S/4HANA-Systeme Python nicht über Nacht beherrschen und unsere derzeitigen Infrastrukturen im Rechenzentrum in den meisten Fällen mit Docker-Containern noch nichts anfangen können. Das sind alles Cloud-Technologien, für die man die SAP Business Technology Platform (BTP) benötigt. Oder etwa nicht? Docker, Container, Kubernetes u.a. werden als cloud-native bezeichnet und sind inzwischen schon fast ein Industriestandard. Hierbei handelt es sich um Technologien, die in der Cloud seit Jahren verwendet werden und auch das eigene Rechenzentrum antreiben könnten. Man muss sich allerdings darauf einlassen, das entsprechende Know-how aufbauen und sein Schicksal selbst in die Hand nehmen.

Ist das im SAP Umfeld sinnvoll? Diese Entscheidung muss jeder für sich selbst treffen. Vielleicht hilft dabei die Information, dass SAP auf den DSAG-Technologietagen sehr eindrucksvoll in einer Live-Demo eine der ersten Lösungen zeigte, die genau diesen Technologiestack Docker Container/Kubernetes für On-Premises-Installationen verwenden: die Edge Integration Cell als On-Premises-Erweiterung der “Integration Suite” für zeitkritische Integrationsprozesse.

Auch dieser Zug rollt und weitere Cloud-native SAP-Lösungen für On-Premises werden vermutlich folgen, z.B. die Edge-Komponente des “Digital Manufacturing”. Ein potenzieller Kandidat für eine SAP Lösung auf Basis von Containern wäre meiner Ansicht nach die Nachfolgelösung für den Adobe Document Service (ADS). Hier setzt SAP derzeit auf den veralteten Technologiestack HANA XSA. Vielleicht wäre es jetzt an der Zeit, einen großen Schritt in Richtung Zukunft zu machen?

 

SAP, warum kein ABAP-BTP-Connector Opensource?

Zurück zu Ollama. Wie könnte man diese jetzt für eigene Proof of Concepts (PoCs) aus SAP ABAP heraus verwenden? Eigentlich recht einfach: Läuft der Ollama-Container erst einmal irgendwo und das SAP-System findet einen Weg dahin, ist es eine ganz normale Systemintegration über Web Services. Also das, was vermutlich in jedem SAP-Projekt und vor allem in den S/4-Projekten sowieso getan werden muss: andere Systeme anbinden.

Und damit es einfach bleibt, gibt es sogar schon einen Ollama-Connector für SAP ABAP – Opensource, für jeden frei nutzbar, in zehn Minuten installiert. Als großer Opensource-Freund habe ich mich nach den Technologietagen entschieden, dieses interne Projekt aus der Schublade zu befreien und der SAP-Community kostenlos zur Verfügung zu stellen.

Die Magie beginnt mit abapGit. Wer davon noch nie gehört hat, sollte sich unbedingt damit auseinandersetzen. Denn auch im SAP-ABAP-Bereich gibt es eine lebhafte Opensource-Community. Auf https://dotabap.org, dem inoffiziellen App-Store für ABAP, sind derzeit mehr als 260 Projekte gelistet, die über abapGit den Weg in das eigene SAP-ABAP-System finden können. Neben vielen privaten Projekten Einzelner findet man interessante Vorhaben mit vielen Mitwirkenden, von SAP-Mitarbeitenden oder sogar Firmen wie Microsoft.

Nebenbei bemerkt: Warum SAP hier nicht mit einem ABAP-BTP-Connector (Opensource) vertreten ist, ist für mich nicht nachvollziehbar. Wenn die BTP und die damit verbundenen Cloud-Umsätze so wichtig sind, warum gibt keine schnelle Anbindung an BTP-Services aus ABAP heraus?

Die Marktbegleiter und Partner ticken hier scheinbar etwas anders und haben solche Lösungen für ihre eigenen Cloud-Services im Angebot. Vielleicht ist ja der Zugang zum neuen “Generative AI Hub” eine Chance, dies zu überdenken und eine zusätzliche Zielgruppe als SAP-Cloud-Kunden zu gewinnen? Vielleicht “sowohl – als auch” über Mehrwerte? Auf https://dotabap.org findet man über die Suche den Ollama-Connector für SAP ABAP. Alternativ auf Github: https://github.com/b-tocs/abap_btocs_ollama. Die Installation ist abapGit-Standard und dokumentiert.

Fun-Fact: der Ollama-Connector wurde erfolgreich auf einem sehr alten ABAP 7.40-System getestet. “Business AI Side-By-Side” selbst für “SAP-Dinosaurier”. Cloud-native macht es möglich.

 

KI-Modelle im Ollama-Container lokal ausführen: bitte keine Wunder erwarten!

Nach der Installation über abapGit muss eine SM59-RFC-Destination zum Ollama-Service angelegt werden. Falls man die ersten Versuche auf dem eigenen PC/Laptop unternimmt, kann ein Tool wie ngrok helfen.

Über das ABAP-Testprogramm ZBTOCS_OLLAMA_GUI_RWS_DEMO (Transaktion SA38, englisch anmelden) lassen sich typische Chat-Anfragen stellen. Man kann so beispielsweise bereits unterschiedliche Modelle testen und mit den Prompts (und System Prompts) spielen.

Es sollte sich herumgesprochen haben, dass Large Language Models einiges an Rechenpower benötigen. Man sollte also keine Wunder erwarten, wenn man KI-Modelle im Ollama-Container lokal ausführt. Von wenigen Sekunden (aktueller Mac) bis mehrere Minuten ist alles drin. Wer KI im eigenen Rechenzentrum betreiben will, braucht Cloud-Technologien und genug spezielle KI-Computing-Power.

Für eigene PoCs oder Hackathons sind hiermit die wichtigsten Voraussetzungen erfüllt. Für die produktive Nutzung muss natürlich noch entsprechende Infrastruktur aufgebaut und getestet werden. Derzeit gibt es noch wenig Erfahrungen damit, wenn mehrere Personen ggf. sogar unterschiedliche Modelle in einem Ollama-Container aufrufen. Vermutlich wird es irgendwann physikalische Grenzen geben, wo die Technik nicht mehr wie gewünscht reagiert und Konzepte wie Load Balancing werden erforderlich sein.

Ein ABAP Mustercoding, wie man diese Large-Language-Modelle aus eigenen SAP-Prozessen heraus aufrufen kann, ist auf Github dokumentiert. Für die bereits implementierten Ollama-API-Endpunkte gibt es entsprechende ABAP-Programme, an denen man sich für eigene Versuche orientieren kann.

 

Fachkräftemangel?!

Es gibt jetzt eigentlich keine Ausreden mehr, nicht mit KI im eigenen Unternehmen anzufangen. Um es mit den Worten von Jürgen Müller zu sagen: “Die Technologie ist da … es gibt sehr viel”.

Wäre da nicht dieser Fachkräftemangel, der irgendwie immer als Universalausrede herhalten muss. Wer kennt keine Organisationen, in denen man sich mit Worten wie “Das steht nicht in meiner Rollenbeschreibung” oder “Dafür hatte ich noch keine Schulung” aus der Verantwortung flüchten kann, so dass die jeweiligen Aufgaben wieder andere erledigen? Wo Kompetenz mit Entscheidungsbefugnis gleichgesetzt wird und nicht mit Erfahrung? Wo Fachkräfte mit Sätzen wie “Wir haben das aber so zugesagt”, “Das muss doch irgendwie gehen” oder “Das stand so auf den Folien” auf abenteuerliche Missionen geschickt werden? Alles starke Indizien dafür, dass die Organisation noch einen langen kulturellen Weg vor sich hat.

Solange viele Organisationen noch im “Horst-Modus” unterwegs sind (bitte nach “Postkarte Horst” im Internet suchen), werden wir weder die digitale Transformation noch die erwarteten Umwälzungen durch KI bewältigen. Wir brauchen Menschen, die die Schippe in die Hand nehmen oder wenigstens mit der Schubkarre helfen wollen und niemanden, der im Weg steht und trotz fachlicher Unkenntnis überall mitreden will.

Das verschleißt die sowieso schon überall fehlenden Fachkräfte. Vielleicht sollten wir das Thema KI etwas anders angehen? Wer mitreden will, muss eine Art “Führerschein” machen und so seine technologische Grundkompetenz nachweisen. Wir würden uns einige ermüdende Meetings mit langwierigen Diskussionen sparen und endlich in die Umsetzung kommen.

 

Digitale Unternehmenskultur und das richtige Mindset

Es wird immer vom richtigen Mindset und von einer digitalen Unternehmenskultur gesprochen, die man für die digitale Transformation und entsprechende Projekte braucht. Was ist das genau? Die DSAG ist für mich schon seit Jahren ein Vorreiter auf diesem Gebiet. Wer sich die Keynotes von den Kongressen und Technologietagen der letzten fünf Jahre auf Youtube anschaut, bekommt genügend Antworten, Beispiele oder Anregungen.

Besonders hervorheben möchte ich hier die DSAG-Keynote der Fachvorstände vom Jahreskongress 2022 “Transform to Win” und hier den Teil von Christine Grimm (Vorständin für Transformation) gleich am Anfang. Dort spricht sie über eine nachhaltig agil transformierte Kultur, über Veränderungsbereitschaft, die Grenzen linearen Denkens, digitale Lernkultur und ein anderes Führungsverständnis. Tenor: Wir können die sich immer schneller verändernde Welt mit ihren vielen Krisen nicht mehr mit zweidimensionalen Excel-Listen und alten Denkmustern managen.

Dieses “Wir müssen die Leute mitnehmen” kostet viel Geld – bis zu 50 Prozent des Gesamtbudgets eines S/4HANA-Projekts. Diese Zahl beruht auf eigenen Erfahrungen und wurde schon mehrfach durch Vorträge oder Gespräche bestätigt. Dumm gelaufen, wenn dieser Posten nicht eingeplant ist und später nicht mehr freigegeben werden kann.

Wenn Transformationsprojekte vermasselt werden, ist die Ursache meistens der Mensch und nicht die Technik. Ich halte gemeinsame “Video-Abende” als Teambuilding-Maßnahmen zum Mitnehmen vor größeren oder kleinen Projekten für eine gute Idee. Macht es Euch gemütlich und schaut zusammen die Keynotes u.ä. Videos an. Es wird Meinungsverschiedenheiten geben, die man so aber in einer entspannten Atmosphäre diskutieren kann und sehr wahrscheinlich Kompromisse findet. Dafür weiß dann aber im Projekt hoffentlich jeder, wie die Spielregeln und Ziele sind, so dass man zusammen erfolgreich sein kann.

 

SAP-eigene KI-Innovationen auch für On-Premises-Kunden

Der SAP-Bereich wird sich meiner Einschätzung nach in den nächsten Jahren stark verändern. Und das unabhängig davon, wie sich SAP verhält und ob bei manchen Entscheidungen noch zurückgerudert wird. Wir sind weder mit “Cloud-only” noch mit “On-Premises-only” ausreichend für die Zukunft gewappnet. Wir sollten auch den Begriff “Hybrid” neu definieren. Wenn wir bei den KI-Themen vorn dabei sein wollen, brauchen wir die Programmiersprache Python und werden uns mit Container-basierten Infrastrukturen beschäftigen müssen.

Die Cloud-native-Welt bietet uns Cloud-Technologien für das eigene Rechenzentrum. Der hier vorgestellte Ollama-Connector für ABAP ist ein Vorgeschmack auf das, was wir bekommen können, wenn wir uns auf Cloud-native einlassen. Besser zu früh als zu spät.

Persönlich würde ich mir wünschen, dass SAP zu alten Tugenden zurückfindet und die Bande zu Kunden und Partnern nicht wegen kurzfristiger Umsatzziele aufs Spiel setzt. Die gemeinsame Entdeckung des neuen Werkzeugs KI wäre eine Möglichkeit, den aktuellen Kurs noch einmal zu korrigieren und die On-Premises-Kunden nicht komplett von den eigenen KI-Innovationen auszuschließen.

Uns muss klar sein, dass wir bei dieser atemberaubenden technologischen Entwicklung vor allem im KI-Bereich mit alten Denkmustern nicht mehr weiterkommen. Daher brauchen wir spätestens jetzt den oft angesprochenen kulturellen Wandel. Es ist die Zeit der Entdecker.

Also baut Euch das fehlende Know-how auf! Betrachtet solche Investitionen nicht als Kosten, die man “gegenrechnen” muss. Lasst die Willigen machen, veranstaltet interdisziplinäre Hackathons, sorgt für eine echte Fehlerkultur! Riskiert etwas und steht nicht im Weg! “Schwimmen lernt man durch schwimmen” (Gunter Dueck).

 

Wer weiter über die wichtigsten SAP-Community Themen und Trends informiert sein möchte, abonniert den IT-Onlinemagazin Newsletter.