THINK Blog DACH

Ob in Banken, im öffentlichen Sektor oder in anderen Branchen: viele IT-Leitungen beschäftigen sich aktuell intensiv mit dem Thema Künstliche Intelligenz. Dabei haben sie positive wie auch negative Erfahrungen gesammelt. In einem Punkt sind sie sich dennoch einig: durch sinnvoll eingesetzte KI lässt sich die Effizienz von Unternehmen steigern und dem demographischen Wandel entgegenwirken.

Was das Thema digitale Souveränität und den kommenden EU AI Act angeht, divergieren die Ansichten. Einige Organisationen – sowohl im öffentlichen Sektor als auch z.B. bei Banken – sind vom Thema Cloud sehr angetan. Andere – primär im öffentlichen Sektor – haben hohes Interesse an einer Umsetzung der digitalen Souveränität mithilfe einer lokalen Implementation. Beide Gruppen haben jedoch ein großes Augenmerk auf die technische Unterstützung der regulatorischen Umsetzung des AI Acts.

Für viele Organisationen ist es deshalb wichtig, zuerst einmal einen Überblick über die notwendigen Komponenten einer KI-Fabrik zu haben, um sich überhaupt sinnvoll um die technische Unterstützung von Regularien zu kümmern.  Dabei hat sich das Konzept der „7 Schritte zur KI-Fabrik“ bewährt.

Viele beschäftigen sich schon länger intensiv mit diesem Thema und stehen daher nicht mehr am Anfang. Die meisten befinden sich schon auf der 2. Stufe, haben also erste Piloten und Prototypen mit einer lokalen Entwicklungsumgebung implementiert. Diejenigen, die sich aktuell auf der 3. Stufe befinden, haben schon – wenn auch eingeschränkt und eher als Piloten – Container-Plattformen in ihrer Organisation im Einsatz.

Jedoch fehlt bei fast allen Organisationen der Übergang zu einer Container-Plattform mit einer integrierten Entwicklungsumgebung zur automatisierten Entwicklung der Container (Stufe 4).

Noch größere Schmerzen zeigen sich bei der Verwaltung von Daten, Modellen und Rechten. Hier berichten viele von einer eher hemdsärmeligen Form der Entwicklung, die jedoch dem Prototypen-Stadium geschuldet ist. Oft befindet sich der Code und die Dokumentation der Lösung auf den dedizierten Rechnern des Entwicklungsteams – manchmal sogar auf deren privaten Laptops. Viele sehen dies als eine vorrübergehende Verwilderung an, die bald durch eine Professionalisierung eingefangen werden soll. Sobald der EU AI Acts verabschiedet wird, gilt es, mit höchster Priorität dieses Thema zusammen mit dem Thema KI-Governance in Angriff zu nehmen.

Die 7 Stufen zu der KI-Fabrik sehen so einfach aus, aber einige verzetteln sich auf dem Weg dahin. Manche streben einen Best-of-Breed-Ansatz – teilweise auf Basis von Open Source – an. Sie suchen für jeden Schritt die „optimale“ Software. Einige IT-Leitungen können von den Problemen dieses Ansatzes ein Lied singen. Der Aufwand der Integration der Best-of-Breed-Komponenten führt oft zu erheblichen Projektverzögerungen, was durch einen integrierten KI-Stack aller notwendigen Komponenten für eine KI-Fabrik leicht zu vermeiden ist.

Welchen Mehrwert kann IBM bei diesen Überlegungen bieten?

IBM bietet im Rahmen einer KI-Fabrik alles aus einer Hand - der gesamten KI-Software-Stack:

• Stufe 1: diverse IBM Granite Modelle & kuratierte Open-Source-Modelle
• Stufe 2: Watson Studio
• Stufe 3&4: Red Hat Openshift
• Stufe 5: IBM Cloud Pak for Data
• Stufe 6: IBM watsonx.ai
• Stufe7: IBM watsonx.governance

Alles geeignet sowohl für die Cloud – hier sind u.a. AWS und IBM Cloud möglich – als auch für das eigene Rechenzentrum. Und die Kirsche auf der Torte ist die Verfügbarkeit von watsonx.governance, das erst kürzlich veröffentlicht wurde.

Doch was ist die beste Umsetzungsvariante einer KI-Fabrik?

Lautet die Antwort Virtual Private Cloud (d.h. Betrieb bei einem vertrauenswürdigen Cloud-Provider in einer gekapselten Umgebung) oder Private Cloud (d.h. Betrieb im eigenen Rechenzentrum)?
Diese Frage muss jede Organisation auf Basis ihres Kontroll-Bedürfnisses für sich beantworten. Eines hat sich jedoch in den letzten Monaten massiv geändert: durch das Aufkommen von Foundational Models (d.h. von vortrainierten Large Language Modellen) und integrierten KI-Software-Stacks (vom Model über die Container bis zur KI-Governance) ist es jetzt wesentlich leichter, schneller und kostengünstiger, eine eigene KI-Fabrik aufzubauen. Entsprechend ist die Nutzung einer Cloud jetzt optional, nicht mehr zwingend.

Und wie startet man ein solches Projekt?

„Think big and start small“ ist hier die Devise. Pilotprojekte bringen sehr schnell zum Vorschein, wo es noch hapert, aber auch wo es gut läuft. Deshalb starten derzeit in Deutschland einige Pilotprojekte, um den schnellen und effizienten Aufbau einer eigenen KI-Fabrik zu verifizieren.