THINK Blog DACH

Generative KI wie Midjourney oder ChatGPT und die ihnen zugrundeliegenden Foundation-Modelle sind medial allgegenwärtig und viele Unternehmen suchen fieberhaft nach Möglichkeiten, sie für sich zu nutzen. Aber sie sind oft überfordert, unzureichend vorbereitet und unsicher, wie sie vorgehen sollen – denn die möglichen rechtlichen Risiken sind immer noch immens und viele technische Fragen unbeantwortet. Dennoch arbeiten 80 % der Unternehmen bereits mit Foundation-Modellen oder planen, diese künftig zu nutzen und generative KI einzusetzen.

Mit IBM watsonx hat IBM im Mai eine neue KI- und Datenplattform vorgestellt, die viele Schwachpunkte bisheriger KI-Lösungen adressiert und Unternehmen den sicheren und vertrauenswürdigen Einsatz von generativer KI ermöglicht. IBM watsonx umfasst drei Produkte, mit denen Unternehmen generative KI rasch produktiv einsetzen können:

• das watsonx.ai Studio zum Erstellen, Verfeinern und Ausführen von klassischen Machine Learning (ML) Modellen sowie Foundation-Modellen (ab sofort verfügbar),
• die auf einer Lakehouse-Architektur aufbauende Datenplattform watsonx.data, mit der strukturierte und unstrukturierte Daten optimal verarbeitet und regelkonform zur Verfügung gestellt werden können (ab sofort verfügbar),
• und das demnächst verfügbare watsonx.governance Toolkit. Dieses ermöglicht es, KI-Workflows und -Entscheidungen nachvollziehbar und transparent zu machen. So können Unternehmen regulatorische Auflagen erfüllen und die Qualität der Modelle über ihren gesamten Lebenszyklus sicherstellen. Dieses Toolkit wird voraussichtlich im Laufe des Jahres auf den Markt kommen.

IBMs Ansatz für generative KI unterscheidet sich in vier Punkten fundamental von anderen Systemen:

• Die konsequente Verwendung der führenden, offenen Technologien zur Datenhaltung, -verarbeitung und Schaffung von Mehrwerten aus Daten.
• Der verantwortungsvolle Umgang mit Daten und ihre genaue Kontrolle stehen jederzeit im Zentrum. Auch in KI-Systemen gilt für IBM der Grundsatz der Datensouveränität.
• Die Lösungen sind businessorientiert, wurden von vornherein für die umfangreichen Anforderungen von Unternehmen konzipiert und lassen sich an verschiedenste Geschäftsmodelle und -bereiche anpassen.
• Sie unterstützen Mitarbeiter_innen dabei, echte Mehrwerte für die Firma zu generieren, dort wo es das Unternehmen benötigt, in der Cloud oder im eigenen Rechenzentrum.

Umfangreiche Tests, ausgereifte Technik

Mit watsonx erhalten Kunden und Partner die Chance, KI-Modelle für den Businesseinsatz in verschiedenen Bereichen selbst anzupassen und auch komplett eigene KI-Modelle zu entwickeln. An den Beta- und Tech-Preview-Programmen von watsonx haben 155 Unternehmen aus verschiedenen Branchen teilgenommen – von Telekommunikationsunternehmen bis hin zu Banken. Ihr Feedback ist kontinuierlich in die weitere Entwicklung eingeflossen. Das Ergebnis ist eine ausgereifte KI-Plattform, die die Vielseitigkeit von Foundation-Modellen mit umfangreichen Funktionen für maschinelles Lernen kombiniert und die mit eigenen Trainings- und Unternehmensdaten gefüttert werden kann.

Neben Modellen, die von der IBM vortrainiert wurde, wird IBM ebenfalls Foundation-Modelle aus der Open-Source-Community in die Modellbibliothek einbinden. Hierzu kooperiert IBM beispielsweise mit Hugging Face, damit Kunden vortrainierte Modelle und andere Assets der Community nutzen können.

Flexibel in der Cloud oder im eigenen Rechenzentrum

Viele der aktuell populären generativen KI-Systeme sind proprietäre Public-Cloud-Systeme. Neben intransparenten Prozessen und unklarer Herkunft der Trainingsdaten bieten sie auch keine hinreichende Sicherheit darüber, wie und wo Daten genau verarbeitet werden. Europäische und deutsche Unternehmen führen ausgewählte KI-Workloads aber oft bevorzugt auf privaten Systemen aus, um vertrauliche Daten oder ihre Forschungs- und Entwicklungsergebnisse zu schützen. Für watsonx wurde daher ein Software Stack entwickelt, der KI-Modelle mithilfe von RedHat OpenShift überall ausführen kann: In beliebigen Clouds und auf lokalen Infrastrukturen. Unternehmen, die ihre Daten hausintern speichern, können ihre Modelle dann auf Wunsch auch vor Ort mit ihren eigenen Daten ausführen und bei Bedarf auch trainieren. Durch die konsequente Verwendung offener Standards zur Speicherung von Daten und durch den möglichen Zugriff mittels offener Schnittstellen wird zudem ein Vendor-Lock-In verringert oder ganz vermieden. So behalten Kunden jederzeit die volle Souveränität und Kontrolle über ihre Daten.

Komplettpaket für KI-Entwickler

Diese vielfältigen Einsatzszenarien werden nicht zuletzt durch den umfangreichen Werkzeugkasten ermöglicht, den watsonx für Entwickler mitbringt. Mit IBM watsonx.ai Studio geben wir KI-Experten z.B. eine umfangreiche Entwicklungsumgebung an die Hand. Mit ihr können sie generative KI und Foundation-Modelle sowie Funktionen für maschinelles Lernen trainieren, validieren, anpassen und ausrollen. Hierzu bietet watsonx.ai als Ausgangsbasis eine umfangreiche Bibliothek mit einsatzfertigen Foundation-Modellen von IBM sowie Open-Source-Modellen. Ein Prompt-Labor lädt zum Experimentieren und Erstellen von Prompts für verschiedene Anwendungsfälle und Aufgaben ein. Im Laufe der nächsten Monate werden zudem Möglichkeiten zum Fine Tuning von Foundation-Modellen mit gelabelten Daten hinzukommen sowie Funktionen zum automatischen Erstellen von Machine-Learning-Modellen mit Modelltraining, Entwicklung und visueller Modellierung.

KI-Entwickler können in watsonx.ai initial auf optimierte Encoder Modelle der IBM sowie fünf einsatzbereite Open-Source-Modelle verschiedener Architekturen (Encoder/Decoder, Decoder only) zurückgreifen, die bereits ab Werk für eine Reihe von NLP-Aufgaben (Natural Language Processing) trainiert wurden. Dazu gehören die Beantwortung von Fragen, die Erstellung von Inhalten und Zusammenfassungen sowie die Klassifizierung und Extraktion von Texten. Künftige Releases von watsonx.ai werden dann weitere, IBM-eigene Foundation-Modelle ergänzen, die speziell auf bestimmte Industrien oder Aufgabenbereiche abgestimmt wurden.

Zusätzlich zu diesen NLP Modellen, wird IBM auch einsatzbereite, businessorientierte Lösungen auf Basis von watsonx bereitstellen. Zunächst wird der Fokus auf Code Entwicklung, Automatisierung von repetitiven Tätigkeiten (Digital Labor) und Cybersecurity liegen. Den Anfang macht RedHat Ansible LightSpeed. In Verbindung mit dem IBM Watson Code Assistant stellt dies einen generativen KI-Service bereit, der Entwicklern das Erstellen von Ansible-Inhalten erleichtert. Sie können hier ihre Anweisungen in natürlicher Sprache angeben und der Code Assistant generiert dann auf dieser Grundlage mithilfe von Foundation-Modellen passende Codebeispiele. Diese können dann für Automatisierungsaufgaben und zum Erstellen von Ansible Playbooks genutzt werden.

Mehr Daten, weniger Komplexität

Bei der Bewältigung der stetig wachsenden Datenfluten in Unternehmen kommt watsonx.data zum Einsatz. Diese Lösung hilft Kunden bei der Skalierung von KI-Workloads und dabei, Komplexität, Kosten und Governance-Herausforderungen beim Einsatz großer Datenmengen in den Griff zu bekommen. Der Zugriff auf alle Daten in Cloud- und On-Premises-Umgebungen ist dabei zentral über einen einzigen Zugangspunkt möglich.

Watsonx.data stellt gängige Engines wie Presto und Spark zur Verfügung, die für verschiedene Workloads zum Einsatz kommen können. Dazu gehören beispielsweise Datenexploration, Datentransformation und Analyse oder auch die Aufbereitung von Daten für das Training und Tuning von KI-Modellen. Durch die flexible Wahl der Engine, die für den jeweiligen Zweck nötig sind, werden Zeit und Ressourcen optimal genutzt. Des weiteren können Unternehmen außerdem durch die teilweise Verlagerung von Daten, die in bestehenden Data Warehouse Implementierungen nur gelegentlich genutzt werden, die Kosten für ihr Data Warehouse um bis zu 50 Prozent senken.

Watsonx im Einsatz – weltweit und in der Umlaufbahn

Citi, eine der weltweit führenden Banken mit mehr als 200 Millionen Kunden, hat die Einsatzmöglichkeiten von IBM watsonx für den eigenen Bedarf bereits ausgelotet. Ein Szenario, das dort identifiziert wurde, ist der Einsatz von großen Sprachmodellen zur Umsetzung interner Richtlinien und Vorschriften. Angesichts des hohen Regulierungsgrades und der Komplexität der Vorschriften in der Finanzindustrie kann ein KI-System hier wertvolle Unterstützung bei der korrekten Umsetzung der gültigen Regeln leisten.

Auch das Weltall hat watsonx schon (fast) erobert. Im Rahmen eines Space-Act-Abkommens mit der NASA hat IBM vor nur fünf Monaten begonnen, das erste Foundation-Modell für die Analyse von Geodaten zu entwickeln. Die NASA nutzt das entsprechende watsonx.ai-Modell nun, um Satellitendaten in hochauflösende Karten umzuwandeln. Diese können aus historischen NASA-Messdaten Hinweise auf die weitere Entwicklung unseres Planeten und für Forschungsprojekte geben.

Beim legendären Tennisturnier in Wimbledon war die generative KI von watsonx ebenfalls mit „im Spiel“. Hier wurden mit Hilfe von watsonx automatisch Kommentare für die Highlight-Videos der Spiele erstellt. Fans konnten so mehr Hintergrundinfos und Einblicke erhalten, wenn sie die wichtigsten Momente und Spiele auf der Wimbledon-App und wimbledon.com verfolgt haben.

Ein Blick in die Zukunft der KI

Die Entwicklung der generativen KI schreitet beständig und mit Riesenschritten voran – konsequenterweise setzt auch watsonx auf diese Geschwindigkeit des Wandels auf. Im Laufe der nächsten Monate wird der Leistungsumfang von watsonx kontinuierlich durch wichtige Neuerungen erweitert. Im laufenden Jahr wird der Fokus auf der Fortentwicklung der Foundation-Modelle liegen: neben Natural Language Processing (NLP) werden künftig auch weitere Anwendungsfälle unterstützt. Kunden profitieren dann von mehr maßgeschneiderten Einsatzmöglichkeiten und können das System breiter im Unternehmen nutzen.

Generative KI-Systeme, die für den vertrauenswürdigen Unternehmenseinsatz konzipiert wurden, haben heute schon das Potenzial unsere Wirtschaft und unsere Arbeitswelt tiefgreifend zu verändern. Verantwortungsvoll eingesetzt und in Verbindung mit künftigen, noch leistungsfähigeren IT-Systemen wie beispielsweise Quantenrechnern werden sie uns ungeahnte Möglichkeiten in Forschung und Wissenschaft und für unsere Gesellschaft eröffnen. Ich persönlich bin sehr gespannt auf die Zukunft.