THINK Blog DACH

Stellen Sie sich Folgendes vor: Eine leidenschaftliche KI-Enthusiastin aus Ghana, getauft auf den Namen Dominica, taucht nun in die Welt der Angewandten Informations- und Datenwissenschaften im Herzen der Schweiz ein. Das bin ich, Dominica Abena Oforiwaa Amanfo. Ich mache derzeit meinen Master in Applied Information and Data Science an der Hochschule Luzern. Zudem habe ich eine aufregende Tätigkeit als AI/Machine Learning Engineer bei 4th-IR ebenfalls in Luzern und bin und eine stolze “Distinguished Ambassador” von Arm. Außerdem bin ich eine überzeugte Verfechterin der Stärkung von Frauen.

Alle anschnallen, die Reise beginnt

Meine Reise im Bereich KI ist nicht nur eine Geschichte – sie ist ein Abenteuer, welches für mich 2019 mit IBM als richtungsgebendem Wegweiser begann. Alles nahm mit dem Portal “IBM Digital Nation Africa” (im Juli 2022) seinen Anfang. Durch die Plattform (heute unter IBM SkillsBuild konsolidiert) hatte ich Zugang zu Online-Lern- und Arbeitsmöglichkeiten im Bereich neuer Technologien: Ich erwarb meinen ersten IBM Digital Badge, indem ich kostenlose Kurse absolvierte und die Vorzüge eines kostenlosen IBM Cloud Lite-Accounts genoss. Damals konnte ich noch nicht erahnen, dass dies nur der erste Auftakt zu einer nahezu epischen Reise sein würde. Im September 2021 nahm ich an einer Reihe von Webinaren teil, die von der IBM Academy of Technology und der Red Hat Academy organisiert wurden. Dort lernte ich, wie man einen Python-Microservice mit einer REST-Schnittstelle entwirft oder ein Docker-Image mit dem Red Hat Universal Base Image erstellt und es auf Red Hat OpenShift auf der IBM Cloud bereitstellt. Mithilfe der Unterstützung aus dem Worshop konnte ich sogar mein erstes Jupyter Notebook erstellen, um eine logistische Regression mit TensorFlow zu implementieren. Diese Lektionen waren nicht nur lehrreich, sondern auch sehr inspirierend.  

Das große Abenteuer: Die IBM watsonx GenAI Challenge Switzerland 2024

Spulen wir vor zur watsonx GenAI Challenge Switzerland 2024 – ein Contest , der Universitäten mit Unternehmen zusammenbringt, um reale GenAI-Anwendungsfälle zu lösen. Als ich davon erfuhr, war ich sofort Feuer und Flamme. Dies war nicht nur eine Gelegenheit, das Gelernte anzuwenden, sondern auch meine Fähigkeiten in einem wettbewerbsorientierten Umfeld bis an die Grenzen auszuloten. 100 Studierende von vier Universitäten bildeten 19 Gruppen, um reale Probleme zu lösen. Wir kamen im ersten Semester zusammen und entschieden uns, unser Team auch danach so beizubehalten, weil jeder von uns einzigartige Stärken mitbringt. Später kam ein fünftes Teammitglied, Yi, hinzu, um unsere Fähigkeiten und Perspektiven weiter zu diversifizieren. Das erwies sich als eine wichtige und richtige Entscheidung! Wir teilten die Aufgaben entsprechend unserer Expertise auf: Yi und ich konzentrierten uns auf die Entwicklung der KI, während Jowita und Max die Geschäftsanalyse und das Projektmanagement übernahmen und Sandro als Product Owner auftrat. Wir tauschten uns regelmäßig aus, was uns zur Selbstdisziplin verpflichtet hat und zur Steigerung unserer Produktivität beigetrug.

Das Team (von links nach rechts): Max, Sandro, Abena, Jowita and YI

Die Herausforderung bestand darin, ein Geschäftsproblem eines Kunden zu lösen. Unser Team hatte folgende Aufgabe: Die Mitarbeitenden des Kundencenters benötigten ein besseres Verständnis dafür, aus welchen Gründen sich die Kunden an sie wandten. Gleichzeitig mussten sie mit hohem manuellen Aufwand für die Nachbearbeitung der Anrufe und die Verwaltung großer Mengen ungenutzter Daten sorgen. Um das Problem analysieren und lösen zu können, wurden uns maschinell generierte Audiotranskripte von Kundenanrufen zur Verfügung gestellt.

In den nachfolgenden Wochen konzentrierten wir uns voll und ganz darauf, die Bedürfnisse des Kunden zu verstehen, Nachforschungen anzustellen und Anwenderberichte zu entwickeln, die den Kunden in den Mittelpunkt stellten. Die IBM Mitarbeiterinnen und Mitarbeiter betonten in den wöchentlichen Vorlesungen immer wieder, wie wichtig kundenorientiertes Denken ist. Ein Grundsatz, den wir während der gesamten Projektentwicklung im Hinterkopf behalten haben. Wir haben nicht nur eine Lösung entworfen, sondern ein Erlebnis geschaffen! Das Endergebnis war ein EnterpriseRAG, das in eine UI-Plattform integriert wurde, um schweizerdeutsche Kundenanrufe mit IBM watsonx zu transkribieren, übersetzen, annotieren, zusammenzufassen und analysieren. Die Plattform ermöglichte es dem Kunden, Modelle aus dem Open-Source Angebot von watsonx auszuwählen, sie anzupassen und die Parameter auf eigene Bedürfnisse abzustimmen.

Watsonx diente uns nicht nur als Tool, es war das Rückgrat unserer Lösung. Es unterstützte die Verarbeitung natürlicher Sprache (NLP), die Texterstellung und das Verstehen von Aufgaben in verschiedenen Komponenten unseres Systems. Dank seiner Flexibilität konnten wir es mit anderen Tools wie “Streamlit” für die Benutzeroberfläche, “Tableau” für interaktive Dashboards, “MongoDB” für die Speicherung und “Neo4j” in ein Tool integrieren, um Fragen zu Graphen (Graph QA Tool) zu beantworten. Für die Erstellung eines ReAct-Agenten haben wir watsonx LLM aus dem Paket langchain_ibm verwendet, das eine nahtlose Integration zwischen LangChain und IBM watsonx.ai ermöglicht. Watsonx spielte auch eine entscheidende Rolle im Graph QA Tool, indem es Fragen in Cypher-Abfragen für Neo4j übersetzte und die Ergebnisse interpretierte.

Die große Belohnung: Jede Menge Erfahrungen und ein 1. Platz!

Abgesehen vom Nervenkitzel der herausfordernden Aufgaben, die vor uns lagen, war der lohnendste Aspekt dieser Erfahrung die Unterstützung, die wir von den IBM Mitarbeiterinnen und Mitarbeitern erhielten. Die Betreuung war außergewöhnlich – von der Einrichtung unserer IBM IDs bis zum Abrufen von API-Schlüsseln und der Teilnahme an organisierten Übungen. Unsere Ansprechpartner_innen hatten immer ein offenes Ohr für unsere Fragen und stellten sicher, dass wir mit allem ausgestattet waren, was wir für einen erfolgreichen Projektabschluss benötigten.

Während der Abschlusspräsentation zeigte sich der Kunde, dessen Projekt wir zugeordnet wurden, äußerst beeindruckt und stellte tiefgreifende Fragen über das zukünftige Potenzial unserer Lösung. Seine positive Reaktion war eine Bestätigung für unsere harte Arbeit und dass wir mit unserer Absicht, zusätzliche Funktionalitäten zu integrieren, um das Benutzererlebnis zu verbessern, goldrichtig lagen. Das war meine wichtigste Lernerfahrung: Man sollte immer über sich hinauszuwachsen, um hervorragende Arbeit leisten zu können.

Wodurch zeichnete sich unser Projekt aus? Bei der Abschlusspräsentation haben wir unsere Arbeit mittels einer Empathiekarte und einer Darstellung des Ist-Szenarios zusammengefasst: Ausschlaggebend unserem Team den 1. Preis zu geben, war ein ganzheitlicher Ansatz, unsere akribische Liebe zum Detail und dass uns bescheinigte, tiefe Einfühlungsvermögen für die Bedürfnisse der Anwender_innen. Zum Beispiel haben wir nicht nur watsonx verwendet, sondern auch eine eigene Pipeline mit Wissensgraphen erstellt. Das Feedback, das wir erhielten, sowie die Selbsteinschätzungen des Teams stimmten hierin absolut überein: Wir konnten die Erwartungen des Kunden nicht nur erfüllen, sondern mit unserer Bereitschaft, über das Ziel hinauszuschießen und die Grenzen des Möglichen zu überschreiten, sogar übertreffen!

In Summe war die Teilnahme an der watsonx GenAI Challenge für uns eine unschätzbar wertvolle Erfahrung, die uns praktische Erfahrungen im Umgang mit watsonx.ai bot und uns vor die Herausforderung stellte, innerhalb eines viermonatigen Zeitrahmens ehrgeizige Ziele zu erreichen. Und das i-Tüpfelchen der Erfahrung? Eine Führung durch das IBM Forschungszentrum in Rüschlikon, das 1956 gegründet wurde. Es ist, als würde man gemütlich durch die Vergangenheit spazieren und dann im Schnelldurchlauf einen Blick auf die inneren Komponenten des IBM Quantencomputers Quantum System Two werfen: eine wahre Zeitreise durch das innovative Erbe von IBM. Ich empfehle die Teilnahme an so einer Challenge allen Studierenden, die sich für praktische Anwendungen der KI interessieren und die Grenzen ihrer Fähigkeiten in einem professionellen Umfeld ausloten wollen.