Möglichkeiten und Chancen durch KI

DIEWIRTSCHAFT sprach mit Jörg Feldmann, dem Geschäftsführer der kompaktwerk GmbH, zu den Chancen und Möglichkeiten durch KI-Wissensmanagement, Chatbots und generative KI.

DIEWIRTSCHAFT: Herr Feldmann, können Sie unseren Lesern einen Überblick darüber geben, wie Sie mittelständischen Unternehmen dabei helfen, die Digitalisierung insbesondere mit KI schneller voranzubringen?

Jörg Feldmann: Aufgrund meiner langjährigen IT-Erfahrung im Service und Vertrieb habe ich mir das Ziel gesetzt, die digitale Kommunikation in Unternehmen zu verbessern. Wir bieten umfassende digitale Lösungen, die die Serviceprozesse in Unternehmen optimieren, die Kommunikation über digitale Kanäle wie Chat und Chatbots vereinfachen und die interne Informationssuche mit KI verbessern.

DIEWIRTSCHAFT: Wie können wir uns dieses Zusammenspiel genauer vorstellen?

Jörg Feldmann: Mitarbeiter und Kunden verbringen oft viel Zeit, um mit ihren Fragen zu Produkten und Dienstleistungen des jeweiligen Unternehmens richtige Antworten zu bekommen. Oftmals gibt es gar keine Antwort, da die Informationen nicht bereitstehen.

Hier können wir helfen, indem wir eine KI-gestützte unternehmensweite Suche aufbauen, um kundenrelevante Daten über unterschiedliche Quellsysteme hinweg schnell zu finden und sicherzustellen, dass nichts übersehen wird.

Wir machen Informationen besser erreichbar: dann, wenn sie gebraucht werden, und unabhängig davon, wo sie in Ihrem Unternehmen oder Ihrer Organisation liegen. Unsere Wissensmanagement-Lösung ist sozusagen eine intelligente Suchmaschine, die wie eine Googlesuche funktioniert, jedoch in Bezug auf die unternehmenseigenen Daten. Es ist rechtegeprüft, skalierbar, mit Linguistik und KI für beste Nutzererfahrung. Die Suchergebnisse können dann über ein Suchfenster im digitalen Arbeitsplatz des Mitarbeiters oder über einen Chatbot ausgespielt werden.

DIEWIRTSCHAFT: Inwiefern spielt KI-Wissensmanagement eine zentrale Rolle in Ihren Dienstleistungen zur Digitalisierung von Serviceprozessen? Wie ermöglicht dies mittelständischen Unternehmen eine effizientere Verwaltung sowie die Nutzung ihres Wissens?

Jörg Feldmann: Unternehmen haben sehr viele Daten in den unterschiedlichsten Systemen gespeichert, aber diese Systeme kommunizieren nicht unbedingt miteinander. Wir machen dieses unternehmensweite Wissen auffindbar, indem wir die unterschiedlichsten Datenquellen und -formate, wie z. B. MS365, Confluence, JIRA, Sharepoint, unternehmenseigene Wikis etc., leistungsfähig durchsuchbar machen, vernetzen und miteinander in Beziehung setzen.

Hierzu haben wir über 80 sogenannte Konnektoren, um die Systeme ohne großen IT-Aufwand datenschutzsicher anzuschließen. Wir versetzen somit die Unternehmen in die Lage, alle Informationen, ob strukturiert oder unstrukturiert, intelligent auffindbar zu machen und zielgerichtet den Mitarbeitern oder Kunden an die Hand zu geben.

Chatbots zur Verbesserung des Kundenservice

DIEWIRTSCHAFT: Künstliche Intelligenz wird oft mit Chatbots in Verbindung gebracht. Welche Vorteile bietet der Einsatz von Chatbots und Chats für die Interaktion mit Kunden und die Verbesserung des Kundenservice?

Jörg Feldmann: KI-Chatbots und Chat-Funktionen bieten eine nahtlose Interaktion mit Kunden. Durch intelligente Automatisierung können häufig gestellte Fragen beantwortet werden, wodurch die Unternehmen Kosten für Servicemitarbeiter sparen, die sonst die Fragen z. B. am Telefon beantworten müssten. Das Problem ist aber, dass der Chatbot nur genau die Fragen beantworten kann, die ihm auch „antrainiert“ wurden. Sobald eine Frage auftaucht, die der Chatbot noch nicht kennt, steigt er aus und der Kunde muss evtl. doch zum Telefonhörer greifen.

DIEWIRTSCHAFT: Im vergangenen Jahr gab es einen großen Hype um ChatGPT. Kann solch ein Ansatz hier weiterhelfen?

Jörg Feldmann: Ja und nein, denn der von OpenAI/Microsoft entwickelte ChatGPT ist mit einem großen Sprachmodell (Large Language Model) trainiert worden. Jedoch weniger auf unternehmensspezifische Fragen, sondern auf eine Vielzahl von ganz allgemeinen Aufgaben.

Natürlich könnte man ChatGPT auch auf unternehmensspezifische Belange trainieren, doch das ist kostenintensiv aufgrund der benötigten Hardware und birgt datenschutztechnische Herausforderungen in Bezug auf die DSGVO.

DIEWIRTSCHAFT: Wie könnten mittelständische Unternehmen denn diesen innovativen Ansatz mit ChatGPT überhaupt nutzen?

Jörg Feldmann: ChatGPT ist zwar in aller Munde, aber neben GPT gibt es auch weitere Large-Language-Modelle, z. B. wie BARD von Google oder Llama von META/Facebook, die auch mit Hunderten Milliarden (ja, Sie haben richtig gehört) Daten trainiert wurden. Mittlerweile gibt es einige sogenannte Open-Source-Sprachmodelle, mit denen wir in unseren Projekten sehr positive Erfahrung gemacht haben. Hier werden deutlich weniger Daten zum „Training“ des Modells benötigt und es liefert erstaunlich bessere Ergebnisse als viele der o. g. LLMs.

Dadurch, dass wir durch unseren Enterprise-Search-Ansatz ja heute schon alle Datensilos in einem Unternehmen auslesen können, können wir damit auch das entsprechende LLM füttern und so ganz unternehmensspezifisch trainieren. Hinzu kommt, dass wir auch nur die unternehmensspezifischen Daten nutzen und nicht das „World Wide Web“ befragen. Hierdurch wird verhindert, dass der Chatbot „halluziniert“ und nicht wie eventuell ChatGPT neue Tatsachen erfindet.

DIEWIRTSCHAFT: Wie können wir uns dann die Lösung durch so einen „Open-Source-Ansatz“ vorstellen?

Jörg Feldmann: Durch die sogenannte generative KI können wir unterschiedlichste Anwendungsfälle umsetzen, indem wir unsere bereits vorhandene Wissensmanagementlösung mit solch einem LLM koppeln. Hierdurch sind wir in der Lage, z. B. folgende Anwendungsfälle umzusetzen:

• Aus eigenen Dokumenten Fragen beantworten oder Zusammenfassungen erstellen
• Zusammenfassungen oder Antwort im Kontext erzeugen mit nachvollziehbarem Quellenbezug, somit kein „Halluzinieren“
• Automatisierte Übersetzung von Servicedokumenten usw.

Für jede Unternehmensgröße eine Lösung

DIEWIRTSCHAFT: Das hört sich sehr aufwendig an. Und wie unterstützt die kompaktwerk GmbH ihre Kunden bei der Bewältigung dieser innovativen Ansätze?

Jörg Feldmann: Ja, das hört sich zunächst nach „Raketenwissenschaft“ an, ist es aber nicht. Aufgrund unserer langjährigen Erfahrung gehen wir hier sehr pragmatisch vor. Wir setzen uns mit dem Kunden zusammen und besprechen, welche Anforderungen, Zielsetzungen sowie Probleme er in Bezug auf seine unternehmensinterne Suche hat.

In einem zweiten Schritt besprechen wir die vorhandenen Systeme. Hier haben die meisten Unternehmen Systeme u. a. von Microsoft wie MS 365, Sharepoint, TEAMS oder CRM/ERP-Systeme und interne Wikis. In einer Teststellung (proof of concept) schließen wir dann über unseren Konnektor das relevante System an und indexieren die Daten.

Oft werde ich gefragt, wie viel IT-Ressourcen der Kunde hierfür benötigt. Das ist aufgrund unserer intelligenten Architektur und des strukturierten Vorgehens minimal, dauert vielleicht zwei bis drei Tage und ist dann bereits lauffähig. Direkt hiernach können wir dann das System beliebig erweitern und die Suche Stück für Stück optimieren. Und da zu unserem Kundenstamm kleine wie auch größere mittelständische Unternehmen gehören, haben wir hier für jede Unternehmensgröße eine maßgeschneiderte Lösung.

DIEWIRTSCHAFT: Abschließend, welche Tipps würden Sie mittelständischen Unternehmen geben, die ihre Serviceleistungen digitalisieren möchten, insbesondere im Hinblick auf die Nutzung von KI-Wissensmanagement, generativer KI und KI-Chatbots?

Jörg Feldmann

Jörg Feldmann: Mit generativer KI und den Large-Language-Modellen können Unternehmen zweifellos ihre Produktivität steigern. Um aus der KI-Euphorie echten Nutzen zu ziehen, benötigen Organisationen zum einen jedoch einen klaren Plan und die Beratung von Experten, um sinnvolle Anwendungsfälle zu identifizieren und zu definieren. Sie sollten sich die Fragen stellen, welches Ziel sie verfolgen, welche Prozesse sie beschleunigen möchten und welche Rahmenbedingungen für einen sicheren Einsatz erforderlich sind.

Zum anderen ist es entscheidend, an der Verbesserung der Datenqualität zu arbeiten, um optimale Ergebnisse durch generative KI zu erzielen. Insbesondere angesichts der wachsenden Menge unstrukturierter Daten leistet die KI erneut wertvolle Unterstützung.

Zukünftig werden sogenannte multimodale Sprachmodelle, die nicht nur Text, sondern auch Layout-Informationen verarbeiten, auf dem Vormarsch sein. Dies bietet den Unternehmen eine optimale Möglichkeit, alle relevanten Informationen aus nicht linearen Dokumenten wie Lieferscheinen, Rechnungen oder Formularen zu extrahieren und somit den gesamten Rechnungsprozess zu digitalisieren.

(Eugen Weis)

Dieser Artikel erschien in der Ausgabe DIE WIRTSCHAFT 01 / 2024