THINK Blog DACH

Im Rahmen eines Co-Creation-Projekts haben die IP-Service Firma ABP Patent Network GmbH und IBM eine KI-basierte Branchenlösung entwickelt, die verschiedene Tätigkeiten des Patentmanagements deutlich effizienter machen kann. Mit Hilfe von Large Language Modellen können Merkmale aus verschiedenen Patenten extrahiert und so deren Vergleich erleichtert werden. Dieser Prozess erfordert normalerweise ein extrem hohes Leseaufkommen durch IP-Verantwortliche oder Anwälte und ist entsprechend zeit- und kostenintensiv. Die KI-Lösung kann diesen Vergleichprozess unterstützen und im besten Fall in einem Bruchteil der Zeit und mit hoher Genauigkeit erledigen.

Die Welt des Intellectual Property (IP) ist groß und komplex. Es gibt mehr als 100 Millionen veröffentlichte Patentanmeldungen, und jedes Jahr kommen etwa drei Millionen hinzu. Vor allem China erweist sich derzeit als wahre Patentmaschine, die allein jedes Jahr 500.000 zusätzliche Patente hervorbringt.

Die Verwaltung von Patenten ist angesichts der Masse entsprechend zeitaufwändig und erfordert seltenes Expertenwissen: IP-Verantwortliche in Firmenpatentabteilungen, Patentmanager oder Anwälte überwachen Patentverletzungen, bearbeiten Patentansprüche und prüfen Neuanmeldungen. Zum Bespiel, um die erfindungswesentlichen Merkmale einer technischen Lösung zu finden, müssen sie sich oft durch Berge von Daten kämpfen. Die erfindungswesentlichen Informationen können in langen Texten stecken, von denen ein Großteil für die Aufgabe irrelevant sind. Die Extraktion der relevanten Merkmale aus dem Text ist daher eine enorme Arbeitserleichterung, z.B. für den Vergleich zwischen einer kurzen Beschreibung einer technischen Lösung und einer Menge von Patentdokumenten.

ABP: Pioniere in Sachen Patentmanagement

Mit dieser Idee hat sich ABP Patent Network GmbH, ein IBM Business Partner und ein bekannter IP Service Anbieter im gesamten deutschsprachigen Raum, beschäftigt. ABP ist seit 1979 in der IP-Branche tätig und bietet gemeinsam mit der IP-Boutique Anwälte Burger und Partner umfassende Dienstleistungen in den Bereichen Entwicklung, Schutz und Management von geistigem Eigentum. Dazu gehören IP-Recherchen, Patentanmeldungen, Softwarelösungen und Beratung. Die Kanzlei Anwälte Burger und Partner gehört zu den wenigen Kanzleien, die Digitalisierung nicht nur als Verwenden von Textverarbeitungsprogrammen versteht, sondern softwareintegrierte Dienstleistungen anbietet. Darüber hinaus bietet die ABP Patent Network mit uptoIP die dazu passende Software an, die Firmenpatentabteilungen und IP-Managern bei der Verwaltung ihrer Schutzrechte Angelegenheiten unterstützt.

Hoher Textverarbeitungsaufwand auf der einen Seite, immer leistungsfähigere Large Language Models (LLMs) auf der anderen Seite - das Patentmanagement ist ein idealer Kandidat für die Optimierung durch Künstliche Intelligenz (KI). Um eine konkrete Lösung zu entwickeln, arbeitet ABP mit IBM zusammen. Mit watsonx bietet IBM eine KI-Plattform, die ganz auf den Betrieb und die Entwicklung spezialisierter Lösungen im Unternehmensumfeld ausgerichtet ist. Gleichzeitig kann IBM die Lösung mit leistungsfähiger, für die KI-Plattform optimierte Hardware unterstützen, die vor Ort von ABP betrieben wird. Patente, Schutzrechte und vertrauliche neueste technologische Erfindungen sind keine Daten, die für einen Betrieb in einer öffentlichen Cloud geeignet sind. Deshalb steht die komplette Entwicklungs-, Trainings- und Betriebsumgebung für die Generative KI-Lösung im hochgesicherten privaten Rechenzentrum. Nicht zuletzt verfügt IBM auch über die nötigen KI-Spezialisten, die bei der richtigen Auswahl und dem zielgerichteten Training der Modelle helfen und Zugriff auf kuratierte Sprachmodelle haben.

Co-Creation: gemeinsam zur Innovation

Im Rahmen eines Co-Creation-Prozesses unter Nutzung von Design Thinking Methoden der IBM Garage identifizierten ABP und IBM zunächst gemeinsam den genauen Business Case. Anschließend ging es mit Unterstützung der Client Engineering Teams von IBM an die agile Entwicklung des Miniumum Viable Products (MVP).

Benutzeroberfläche 'Patent Butler'

Die Herausforderung dreht sich dabei um das Problem des Aufwands für die Identifikation von den für eine Erfindung wesentlichen Merkmalen. Das Herausfiltern der relevanten Merkmale ist ein sehr komplexer Prozess, der Spezialwissen erfordert. Erschwerend kommt hinzu: Die in Patenten verwendete Sprache unterscheidet sich von der Alltagssprache und arbeitet mit bestimmten selbst im Dokument definierten Worten, Schlüsselwörtern und Verknüpfungen, die oft nur Spezialisten richtig auslegen können.

Entsprechend aufwändig ist das laufende Monitoring der eigenen Schutzrechte und die der Marktbegleiter: Ein IP-Manager in einem internationalen Automobilkonzern muss sich beispielsweise monatlich durch hunderte oder gar 1000 veröffentlichte Patente kämpfen. 70 Prozent des Textes, den er dabei lesen muss, ist für seine Kernaufgabe - der Identifikation der erfindungswesentlichen Merkmale - irrelevant. Die Extraktion der entscheidenden Merkmale aus unterschiedlichen Texten erleichtert diese Arbeit beträchtlich.

Foundation Modelle anstatt „lock-in“ durch proprietäre Ansätze

Diese Aufgabe konnte nicht einfach mit einem der offen verfügbaren bzw. proprietären Modelle gelöst werden, da diese nicht an die speziellen Anforderungen des Patentrechts angepasst werden können. Die Spezialisten von IBM entwickelten daher ein eigenes Modell, das auf dem Spezialwissen und viel Vorbereitungs- und Vergleichsarbeit der Anwälte von Anwälte Burger und Partner basiert. Dieses Modell wird in einem iterativen Prozess mit eigens dafür generierten Texten trainiert und ständig verbessert. Sowohl der Betrieb des eigenen Modells als auch das Fine-Tuning findet auf der lokal installierten Umgebung mit der IBM watsonx Plattform statt. Hier kann das Team je nach Anwendungsfall verschiedene Open Source Large Language Modelle oder auch die IBM Modelle einsetzen, die zu den modernsten auf dem Markt zählen.

Die so entstandene KI-Branchenlösung trägt den bezeichnenden Namen „Patent Butler“. Als Embedded Software wird sie künftig in die Patentverwaltungssoftware uptoIP von ABP Network integriert.

On-Premises statt Public Cloud

KI-Berechnungen erfordern eine hohe Rechenleistung. Dies gilt insbesondere für die Verarbeitung langer Texte, wie sie bei Patenten vorkommen. Für die Verarbeitung werden heute vor allem Grafikprozessoren (GPUs, Graphics Processing Units) eingesetzt. Und da ABP die Lösung in einer sicheren „On-Premises“ Umgebung unter kontrollierter Vertraulichkeit betreiben wollte, waren zwei Maßnahmen erforderlich: Zum einen musste der Rechenaufwand durch geschicktes Finetuning der Modelle effizient gehalten werden. Zum anderen musste der Patent Butler auf einer leistungsfähigen Hardware laufen, die für KI-Berechnungen optimiert ist und den effizienten Betrieb ermöglicht.

Daniel Holzner, ABP - Wolfgang Hildesheim, IBM - Hannes Burger, ABP

Daher entschied sich ABP für die Implementierung der innovativen IBM Storage Fusion HCI (Hyper Converged Infrastructure), einer benutzerfreundlichen Datenservicelösung basierend auf RedHat OpenShift, die durch Datenpersistenz, Ausfallsicherheit, Sicherheit und Mobilität unterstützt. Diese Hardware-Appliance verfügt über extreme Rechenleistung in Form von zwei GPU-Knoten mit je 48 Kernen a 518 GB Speicher und jeweils drei NVIDIA A100 80GB GPUs (mit geplanten Erweiterungen für die Zukunft). Auf einem davon läuft die Bearbeitung der Kundenanfragen der ABP zu ihren Patentfällen, auf dem anderen werden die Modelle im laufenden Betrieb weiter optimiert. Darüber hinaus ist auf der Hardware-Appliance die IBM KI-Plattform watsonx als Softwarestack installiert, der unter anderem ein Prompt-Lab, Watson Studio und Watson Machine Learning sowie Jupyter Notebooks und Foundational Models enthält. Mit dieser Ausstattung ist die Hardware für branchentypische KI-Anwendungen optimiert, wie sie die ABP mit dem Patent Butler einsetzt.

KI-Plattform bietet alle erforderlichen Tools

Herzstück der neuen Lösung ist IBM watsonx. Die KI- und Datenplattform bietet zum einen generative KI, um beispielsweise grundsätzlich natürliche Sprache zu verstehen; zum anderen ermöglicht sie es Unternehmen, KI-Modelle mit ihren eigenen Daten zu erstellen, zu optimieren und zu verwalten, ohne auf vortrainierte Modelle von Drittanbietern angewiesen zu sein. Genau dies ist für eine Branchenlösung wie den Patent Butler notwendig, da die Modelle auf die spezielle Sprache der Patente trainiert werden.

Neben der Modellierung mit watsonx.ai bietet die Plattform verschiedene Werkzeuge für die Entwicklung und den sicheren Betrieb der KI-Lösung. Watsonx.data bildet den sicheren Datenpool für die KI-Anwendungen; watsonx.governance ermöglicht die Steuerung, Verwaltung und Überwachung der KI-Aktivitäten eines Unternehmens, um beispielsweise Sicherheitsvorgaben einzuhalten, ethische Bedenken auszuräumen und Risiken zu minimieren.

Zukunftsweisende KI-Brancheninnovation

Die Umsetzung der innovativen Branchenlösung ging zügig voran. Nach ersten Gesprächen im September erarbeiteten ABP und das IBM Client Engineering Team in Zusammenarbeit mit dem IBM Technology Expert Labs Delivery Team gemeinsam innerhalb von nur sechs Wochen ein Minimum Viable Product (MVP).  Dieses wurde dann auf der IBM Hardware bei ABP vor Ort implementiert und wird nun sukzessive durch Feintuning weiter optimiert. Bei dieser Produktivsetzung unterstützt das IBM Technology Expert Labs Team sowohl auf der Infrastrukturseite als auch bei der Umsetzung der KI-Anwendungsfälle.

Mit dem Patent-Butler kann ein IP-Experte bis zu 70 Prozent Zeit bei den Vergleichsaktivitäten sparen. Durch die automatisierte Extraktion der relevanten Merkmale kann er sich sofort auf seine Kernaufgabe konzentrieren, ohne Unmengen von Text lesen zu müssen, von dem ein Großteil für seine Bewertung irrelevant ist. Dabei arbeitet die KI dank kontinuierlicher Feinabstimmung mit hoher Genauigkeit. Der Produktivitätsgewinn ist beträchtlich. Er kann sich nun mehr Zeit nehmen wirklich relevante juristische Fragen zu bearbeiten.

Damit ist der Patent-Butler ein hoch innovatives Erfolgsbeispiel dafür, wie Unternehmen in Zukunft KI gewinnbringend einsetzen können. Weniger mit allgemein zugänglichen Standardtechnologien, welche die spezielle Fachsprache der IP-Welt nicht verstehen, sondern mit spezifisch trainierten Modellen, die auf der IBM watsonx Plattform genau auf die Besonderheiten und Spezialitäten einer Branche abgestimmt sind. Mit solchen individuellen Lösungen können Unternehmen heute einen echten Unterschied machen, wie das Beispiel ABP zeigt.