KI-Showcase: Kommunikation intelligent vereinfachen mit eigenem KI-Modell

Kategorien: Datenschutz und Künstliche Intelligenz

Dieser KI-Showcase zeigt, welche Möglichkeiten ein eigenes KI-System in Unternehmen und Behörden bietet. Gezeigt wird , wie mit KI Mitarbeiter entlasten werden können. Beispielsweise können so Beschwerden, Bürgeranfragen, Support-Tickets, E-Mails oder Schadensmeldungen erkannt und zielgerichtet bearbeitet werden. Merkmale: volle Datenkontrolle, volle Unabhängigkeit, keine Zusatzkosten.

Einleitung

Im vorigen KI-Showcase wurde demonstriert, wie mit wenig Aufwand und pfeilschnell beeindruckende Bilder auf einem KI-Laptop generiert werden können.

In diesem KI-Showcase wird gezeigt, dass mit einem fast ebenso geringen Programmieraufwand und innerhalb von Minuten ein intelligenter Klassifikator für Dokumente trainiert werden kann. Damit kann in Unternehmen und Behörden die Kommunikation deutlich vereinfacht werden.

Anfragen von Bürgern oder Kunden können direkt an den richtigen Bearbeiter geschickt oder automatisch einer passenden Kategorie zugeordnet werden. Auch Empfehlungen für die beste Antwort, basierend auf früheren vergleichbaren Fällen, sind möglich. Das alles automatisch und KI-basiert. Arbeitsprozesse durch KI unterstützen statt Arbeitsprozesse ablösen. Denn Zuverlässigkeit basiert auf einer Voraussetzung: Verantwortlichkeit. Und diese kann nur von einem Menschen übernommen werden.

Ein intelligenter Klassifikator kann die Bedeutung von Dokumenten oder Anfragen verstehen. Die sich daraus ergebenden Möglichkeiten sind enorm. Der folgende Prozess zeigt in Stichpunkten, was in Ihrem Unternehmen oder in einer Behörde möglich ist:

• Ein Kunde oder Bürger schreibt Ihnen eine Nachricht. Das kann eine Schadensmeldung, eine Beschwerde, eine Terminanfrage, eine Kündigung, eine Wissensfrage oder sonstiges sein.
• Einer Ihrer Mitarbeiter soll die Nachricht bearbeiten.
• Mit dem intelligenten Klassifikator kann für die Nachricht des Kunden oder Bürgers erkannt werden, wie sie zu bearbeiten ist.
• Daraus ergibt sich eine Reihe von Möglichkeiten:
  • Die Nachricht wird automatisch an den richtigen Mitarbeiter weitergeleitet.
  • Die Nachricht wird mit früheren Nachrichten verglichen. Ein Mitarbeiter erhält eine Empfehlung für die Bearbeitung, die auf einem früheren, sehr ähnlichen Fall basiert.

Alternativ ist ein Ticket-System für den Support (Kundensupport, Bürger-Service, Programmierer) denkbar:

• Ein neuer Fall kommt herein, beispielsweise eine Problemmeldung oder Beschwerde oder ein Software-Fehler.
• Mit dem intelligenten Klassifikator kann dieser Fall automatisch in eine passende Kategorie einsortiert werden.
• Der richtige Mitarbeiter erhält den Fall zu Bearbeitung.
• Optional erhält er als Empfehlung, wie ein sehr ähnlicher Fall in der Vergangenheit bearbeitet wurde.
• Der Meldende (Kunde, Bürger, Anwender) erhält eine Rückmeldung, die passend zu seinem Anliegen ist: „Lieber Kunde, vielen Dank für Ihre Nachricht. Ihre Nachricht wurde als Fehlermeldung eingestuft und wird mit hoher Priorität bearbeitet. Einer unserer Mitarbeiter wurde bereits informiert.“

Der Showcase

Gearbeitet wird mit einem Open-Source KI-Modell, dass die deutsche Sprache gut versteht. Während die ganze Welt andere Sprachen als Deutsch spricht, verstehen wenigstens KI-Sprachmodelle unsere Sprache sehr gut.

Ziel ist es, zu einem gegebenen Dokument zu erkennen, welcher Kategorie es angehört. Ein Dokument ist gleichzusetzen mit einem Stück Text. Es kann sich also auch um eine E-Mail, Nachricht über ein Kontaktformular, Web Suche oder Eingabe in einen Chatbot handeln. Dieser Showcase funktioniert sehr gut mit Texten, die nicht länger als ein paar hundert Worte sind. Für längere Texte kann der verwendete Ansatz mit konventionellen Methoden verfeinert werden.

Welche Kategorien es gibt, legen Sie fest. Gibt es beispielsweise Mitarbeiter, die Beschwerden zu einem bestimmten Thema bearbeiten, wäre eine Kategorie „Beschwerden zum Thema X“. Eine andere Kategorie könnte sein „Allgemeine Anfrage“ oder auch „Kaufinteresse“ oder auch „Frage zu Perso“.

Zu diesen Kategorien, die Sie festgelegt haben, werden nun Beispiel-Dokumente benötigt. Pro Kategorie reichen oft wenige Beispiele.

Gibt es sehr wenige Beispiele, dann können diese mit einem KI-Prozess multipliziert werden. Man spricht hier von synthetischen Datensätzen. Beispielsweise kann zu einem bestehenden Dokument eine neue Version erzeugt werden, die sprachlich anders ist, aber derselben Kategorie angehört. In vielen Fällen kann allerdings bereits eine konventionelle Programmierung die von Menschenhand zusammengetragenen Beispiele multiplizieren.

Weil Ihre Dokumente Ihre Dokumente sind, ist es oft wichtig, die Datenkontrolle zu haben. Deswegen findet der KI-Prozess auf Ihren Dokumenten lokal auf eigener Hardware statt. Für diesen Showcase wurde ein KI-Laptop verwendet, auf dem dieser Text hier auch geschrieben wurde. Unternehmen würden einen (eigenen oder gemieteten) KI-Server nutzen. Was auf einem Laptop möglich ist, ist auf einem viereckigen Kasten namens Server erst recht möglich.

Dann beginnt der spannende Teil, das Training eines Klassifikators. Dieser Klassifikator lernt, wann ein Dokument einer bestimmten Kategorie zuzuordnen ist. Wie lernt er das? Genau so, als würden Sie sich Hunderte oder Tausende von Dokumenten ansehen und lernen, die jeweilige Kategorie zu erkennen. Der Unterschied ist, dass Sie dazu weder Zeit noch Lust noch das gute Gedächtnis haben noch schnell genug sind.

Ergebnisse

Das Training dauerte auf dem erwähnten KI-Laptop wenige Minuten:

train_runtime: 212.2422 seconds

train_samples_per_second: 155.671

train_steps_per_second: 9.729

Total optimization steps = 5443628

Eine der Ausgaben des KI-Trainingsprozesses

Diese Ausgabe kam nach einem ersten Testlauf heraus. Eine Verfeinerung des Ergebnisses dauerte etwas länger als die genannten 212 Sekunden, was weniger als 4 Minuten Rechenzeit sind. In dieser Zeit wurden knapp 5,5 Millionen Optimierungsschritte durchgeführt. Auf einem Laptop (der Lüfter ist manchmal etwas laut).

Pro Sekunde wurden knapp zehntausend Trainingsschritte ausgeführt. Ebenso wurden pro Sekunde über 155.000 Beispiele ins KI-Gehirn reingehämmert, damit es lernt, zu verstehen. Das folgende Bild zeigt die Statistik aus einem weiteren KI-Training. Schön zu sehen sind die Treppenstufen, die den Trainingserfolg anzeigen. Die Lernrate geht mit der Zeit (hier in gewollter Weise) runter, genauso wie beim Menschen (wo es oft nicht gewollt ist).

Der KI-Klassifikator kann nun Dokumente in vorgegebene Kategorien klassifizieren. Das kann er sogar ziemlich gut. Im Bild ist als „Loss“ der Wert 0,0001 genannt. Der „Loss“ ist die hier sehr kleine Lücke zur Perfektion. Der Wert 0 ist die Perfektion. Ein Wert wie 0,0001 ist als perfekt anzusehen. Die Güte des Systems kann dann nur noch durch weitere Trainingsdaten oder Validierungsdaten verbessert werden.

Wird der Klassifikator beispielsweise für Fragen von Nutzern trainiert, wie sie in Suchmaschinen eingegeben werden oder in virtuelle Assistenten (einfache Chatbots), die auf Webseiten eingebunden sind, dann weiß die KI, welch Art von Nutzerfrage eingegeben wurde.

Hier ein paar Beispiele für Nutzerfragen mitsamt erkannten Kategorien (Schreibfehler sind Absicht):

• Hallo → Kategorie „Soziale Kommunikation“
• Wie heißt Du oder sie liber Bot? → Kategorie „Persönliche Frage“
• Welcher Tag häude? → Kategorie „Frage nach Datums“
• Wo finden ich denn eigentlich Infos dazu wie man Personalausweise beantragen tut? → Kategorie „Frage zu Ausweisdokumenten“
• programmfehler termintoll → Kategorie „Fehler für Third-Level-Support“
• hilfe Wer konnen mir bei ausfullen diezes Formulas fur umfeldung Autofahrzeug bitte helfen? danke geehrter herr oder dame → Kategorie „Frage zu Pkw-Ummeldung“

Der KI-Klassifikator kommt mit Schreibfehlern, falschen Begriffen und schlampig oder umgangssprachlich formulierten Fragen klar.

Weitere und ganz andere Beispiele sind nicht nur denkbar, sondern realisierbar. Entweder mit einem eigenen KI-System, oder über Schnittstellen zu kommerziellen Chatbots.

Vorteile

Der intelligente Klassifikator kann innerhalb kürzester Zeit auf spezifische Gegebenheiten (Nachrichten bzw. Dokumente und zugehörige Kategorien) geprägt werden, nachdem er einmal eingerichtet wurde.

Einmal vorhanden, kann der intelligente Klassifikator unermüdlich seine Arbeit erledigen und liefert schnelle Antworten.

Besteht im Laufe der Zeit der Wunsch, neue oder andere Kategorien haben zu wollen, wird der Klassifikator erneut trainiert. Das dauert wieder nur ein paar Minuten oder bei vielen Beispielen auch mal wenige Stunden. Dieser Aufwand ist ein Einmalaufwand.

Offline-KI jetzt ausprobieren.

Optimierbar und mit voller Datenkontrolle. Günstig auch im Dauerbetrieb.
Alles aus Deutschland: Für Ihr Unternehmen, ohne ChatGPT, ohne Azure.

Jetzt ausprobieren

Wird das ganze auf einem eigenen KI-System gemacht, kann der Klassifikator beliebig oft verbessert werden. Das ist wichtig, weil jedes Training einem Zufallsprozess unterliegt. Das ist halbwegs ähnlich dem, wenn ein Mensch einen Text zum selben Thema an verschiedenen Tagen schreiben würde (jedes Mal würde ein anderer, inhaltlich vergleichbarer Text entstehen).

Weiterhin fließen keine Daten und wertvollen Erkenntnisse zu Dritten, wenn man das nicht möchte. Wer schon bereit ist, Drittdienste zu nutzen, sollte nicht nur an die API von ChatGPT denken. Mittlerweile gibt es Angebote anderer Anbieter, auch aus Europa, die vor allem für deutsche Texte bessere Ergebnisse liefern.

Die Wirtschaftlichkeit dieser Lösung ist ganz enorm. Der Nutzen ist noch und der Aufwand ist gering.

Kombiniert man diesen KI-Ansatz mit gängigen, konventionellen Methoden, dann steigt die Zuverlässigkeit der Ergebnisse weiter.

Fazit

Auf Grundlage weniger Beispiele kann ein intelligenter Klassifikator für Dokumente in Unternehmen und Behörden erstellt werden. Die Erstellung findet in Form eines zielgerichteten Trainings eines KI-Modells statt.

Die Hardware-Anforderungen für dieses Training sind überschaubar und auch mit nicht besonders leistungsfähiger Miet-Hardware realisierbar.

Der Aufwand besteht im Wesentlichen aus dem Aufstellen einiger Beispiele. Die vorhandenen Beispiele können künstlich multipliziert werden. Der Programmieraufwand für den KI-Mechanismus ist gering.

In einem folgenden KI-Showcase wird veranschaulicht, wie Dokumente nicht nur klassifiziert, sondern auch miteinander verglichen werden können. Damit können noch mehr Prozesse im Unternehmen noch effizienter gestaltet werden. Effizienter heißt hier übrigens, dass die vorhandenen Mitarbeiter ihre Arbeit besser machen können und wegen der Entlastung von stupiden Aufgaben wohl zufriedener sein werden. Die Anzahl der Jobs wird durch diese KI-Erleichterung gleich hoch bleiben.