KI-Apps statt Prompting: Effiziente Lösungen für konkrete Aufgaben

Kategorien: Datenschutz und Künstliche Intelligenz

Chatbots werden oft als Universalgehilfe zweckentfremdet. Dazu wird ein komplexer Prompt eingegeben, oder es wird manuell in mehreren Schritten gepromptet. Automatisierung und Zuverlässigkeit gehen anders. Mit Hilfe von konkreten KI-Apps für konkrete Aufgaben kann der Grad Zuverlässigkeit und der Automatisierbarkeit deutlich erhöht werden.

Einleitung

Fragt Ihr KI-System Sie „Was möchten Sie tun?“ ?

Wahrscheinlich ja, denn viele Universalsysteme tun so, als könnte man jede Art von Problem mit deren Hilfe lösen. Bedingt stimmt das auch. Aber eben nur sehr eingeschränkt.

Weiter unten finden Sie ein Video zum Thema Sichere & Optimierte KI mit KI-Apps.
Das Video läuft lokal auf einem deutschen Dr. DSGVO Server und verwendet adaptives Streaming (Anpassung an Ihre Bandbreite).

Unzuverlässige Lösungen können für Ein-Person-Anwender funktionieren, die jedes Ergebnis in Eigenverantwortung nachkontrollieren, weil sie wissen, dass sie selbst dafür haften. Diese Einzelanwender brechen gerne auch mal eine komplexere Aufgabe in Teilschritte herunter. Nicht, weil sie Lust dazu haben, sondern weil das für die konkrete Aufgabe unausgereifte KI-System (ChatGPT, Gemini etc.) sie dazu zwingt.

Wie wäre es, wenn eine KI-Lösung den Nutzern genau die Möglichkeiten anbietet, die das KI-System wirklich beherrscht?

Im Bild sind konkret vorgedachte KI-Apps zu sehen:

• KI-Wiki: Anwender können Firmenwissen befragen. Befragt wird nicht Weltwissen aus den USA oder China, sondern das, was Ihr Unternehmen als richtig und relevant definiert hat
• Mini-Apps: Sehr kleine, in sich geschlossene Anwendungen, beispielsweise:
• Text zusammenfassen: ohne Prompting
• Text übersetzen: ohne Prompting
• Artikel schreiben: ohne Prompting

Weiter unten folgen komplexere Apps, die nicht mit ChatGPT erstellt werden können (falls Datensicherheit kein Thema ist).

Gehen wir genauer auf die Apps ein. Im Bild ist auch der „Allgemeine Chat“ zu sehen. Damit kann tatsächlich „nur“ Weltwissen abgefragt werden. An sich braucht kein Unternehmen einen solchen eigenen Chat, denn es gibt ja ChatGPT. Sie bezahlen „nur“ mit Ihren Daten. Solange kein Mitarbeiter aus Versehen (oder aus Sorglosigkeit) sensible Daten in ChatGPT eingibt, ist alles tutti. Werden aber sensible Daten in den ChatGPT-Prompt eingegeben, ist es vorbei mit der Vertraulichkeit.

Was ist eine KI-App?

Eine KI-App ist optimiert für eine konkrete Anwendung, also für ein bestimmtes Problem!

Eine KI-App basiert typischerweise auf einem leistungsfähigen Open-Source KI-Modell. Zusätzlich wird zur Erhöhung der Zuverlässigkeit immer auch eine Datenaufbereitung vor und nach dem KI-Prozess durchgeführt. Diese sehr wichtige Datenaufbereitung finden Sie bei ChatGPT nicht!

Eine KI-App läuft am besten in Deutschland. Damit ist ein rein deutscher Anbieter gemeint, ohne irische Tochtergesellschaft oder amerikanische Muttergesellschaft. Die Hardware kann von Ihnen selbst gestellt oder gemietet werden.

Die Kosten für eine KI-App sind überschaubar. Wir gehen später darauf ein.

Nachfolgend unterscheiden wir zum besseren Verständnis der Möglichkeiten, die KI bietet, zwischen vollwertigen KI-Apps und Mini-Apps.

Vollwertige KI-Apps

Eine vollwertige KI-App ist ein Monster. Diese Art von App ist komplexer als die weiter unten gezeigten Mini-Apps.

Ein gutes Beispiel für eine vollwertige App ist ein Unternehmens-Wiki. Damit können tausende eigene Dokumente befragt werden. Der Prozess ist folgender:

1. Einmalig oder periodisch werden alle relevanten Dokumente ihres Unternehmens in das KI-System eingelesen. Dateiformate könnten sein: PDF, Office-Dateien, Textdateien, Bilder
2. Alle Dokumente werden automatisch durch Ihre KI aufbereitet und besser durchsuchbar gemacht. Vergessen Sie ChatGPT
3. Sie stellen eine Frage an Ihre KI
4. Ihre KI antwortet auf Basis Ihrer eigenen zig tausend Dokumente

Funktioniert das auch mit ChatGPT?

Nein, denn

• ChatGPT liest keine zig tausend Dokumente für Sie ein;
• ChatGPT bereitet Ihre Dokumente nicht so auf, wie es nötig wäre;
• würden Sie die ChatGPT API nutzen, müssten Sie pro Aufruf Geld bezahlen. Die Kosten hängen von dem Umfang über alle Dokumente ab und entstehen jedesmal auf's Neue;
• über Datensicherheit reden wir hier nicht einmal.

Ein weiteres gutes Beispiel für eine vollwertige KI-App ist die Simulation von Personas für die Marktforschung.

Die Idee ist simpel: Der Nutzer der Personas-KI definiert verschiedene Käufertypen, beispielsweise den preisbewussten Vater, die umweltbewusste Single-Frau oder den digitalen Shopper. Alle Personas können soziale Merkmale und Verhaltensweisen zugeschrieben bekommen, damit die Simulation möglichst realistisch ist.

Nun können diese Personas jederzeit und beliebig befragt werden. Durch die Befragung einzelner Personas können Werbetexte und Verpackungen, oder auch Promotion-Aktionen, optimiert werden. Das POS-Marketing (Point of Sale) kann damit generell optimiert werden, ohne dass echte Studienteilnehmer gesucht und zu einem bestimmten Termin gegen Geld gequält werden müssten.

Das alles kommt vollständig ohne umständlichen Prompt aus. Der einzige „Prompt“, der eingegeben wird, ist die Frage (oder Nachfrage) an die Personas-KI. Diese Frage oder Nachfrage ist aber kein Prompt, sondern eine Frage bzw. Eingabe, wie man sie aus Formularen kennt.

Die KI kann unterscheiden, welchen Wissensschatz sie anzapfen muss, um Ihre Frage zu beantworten, die Sie als Marktforscher stellen:

• Personas-Charakter;
• POS-Marketing-Wissen, das einmalig ins System importiert wurde und bei Bedarf aktualisiert werden kann;
• 100.000 Promotion-Aktionen, die Sie im Laufe der Jahre in Ihrer Datenbank angesammelt haben.

Nie war es leichter, realitätsnahe Aussagen von virtuellen Shoppern zu erhalten. Werbe-Slogans können so mit wesentlich weniger Aufwand und leichter (Energieersparnis!) gefunden oder optimiert werden.

Die Liste der (realen) Beispiele ließe sich weiter fortsetzen. Als weitere Beispiele für vollwertige KI-Apps seien in Kürze genannt:

• Rechnungswesen-KI: Auswertung von Rechnungspositionen und Erstellung von Berichten mit dem Ergebnis der Auswertung
• Postenabgleich: Welche Posten in der Kreditorenliste korrespondieren mit welchen anderen Posten in der Debitorenliste?
• Bauteileprüfung: Hat ein Fertigungsteil einen Defekt und wenn ja, wo? Dazu wird ein Bild eines Bauteils, welches in einer UV-Kammer aufgenommen wurde, in die KI geladen. Die KI markiert den Defekt durch Aufzeichnen, falls es einen Defekt gibt. Trefferquote: Nahe 100%
• Doublettenerkennung: Gesucht werden Doubletten, die aus fachlicher Sicht gleich sind. Fachlich sind Doubletten etwa gleich, wenn ein Dokument abgestempelt wurde und das andere nicht. Das gestempelte Dokument ist der Master, das andere die Doublette
• Audio-Transkription: Ihre Videos können mit Untertiteln versehen, ihre Podcasts mit einem Transkript angereichert werden. Weil es mehr Spaß macht, wird das Transkript dann gleich automatisch in mehreren Längen zusammengefasst und ins Englische oder 10 weitere Sprachen übersetzt. Ein Social Media Post und ein Blog-Artikel werden ebenfalls automatisch generiert und stehen im Entwurfsmodus für den menschliche Bearbeiter zur Verfügung
• Wissen finden: Das können viele LLMs. Aber wenn es darum geht, sehr viele eigene Dokumente oder eine Datenbank zu durchsuchen, versagen ChatGPT und andere allgemeine Sprachmodelle. Vorgedachte Apps können das ergebnis zudem in einer für den Kunden sinnvollen Form darstellen (inkl. Screenshot der Fundstelle im PDF mit Absprung auf Seite 88, Quellenangaben, Metainformationen, vorgenerierter Zusammenfassung des Dokuments, Markierung der Fundstellen im Trefferschnipsel etc.)

Wie anhand der Bauteileprüfung und der Transkription ersichtlich wird, können mit KI auch andere Datenarten (Modalitäten) als Text verarbeitet werden.

Neben diesen vollwertigen KI-Apps sind zahlreiche Mini-Apps denkbar.

Mini KI-Apps

Mini-Apps, die auf KI basieren, sind wesentlich kompakter als vollwertige KI-Apps.

Sicher kennen Sie DEEPL als Übersetzer. Wo ist hier der Prompt? Es gibt keinen! Genauso ist es bei vollwertigen KI Apps und bei Mini KI-Apps: Es gibt keinen Prompt, weil keiner benötigt wird.

Bleiben wir bei DEEPL: Es geht um die Übersetzung eines Textes in eine Zielsprache. Sie geben also ein:

1. zu übersetzender Text: Eingabefeld (KEIN Prompt)
2. Zielsprache: Auswahl aus einer Liste oder automatische Erkennung (KEIN Prompt)
3. Button „Übersetzen“

Das Charmante bei Mini-Apps ist der Komfort, der möglich ist. Sie möchten einen Text

• auf einmal in mehrere Sprachen übersetzen, oder
• einen übersetzten Text als PDF oder Word-Dokument exportieren, oder
• vor der Übersetzung auf Grammatikfehler hin prüfen lassen, oder
• ein eigenes Wörterbuch mit Fachtermini berücksichtigt, oder
• zu jeder Übersetzung einen Hinweis hinzufügt, dass die Übersetzung KI-generiert wurde, oder
• die Formatierung eines Textes bei der Übersetzung beibehalten?

Kein Problem: Beauftragen Sie einfach die gewünschte Funktionalität bei der Implementierung der KI-App durch den Dienstleister Ihres Vertrauens.

Übrigens: Besonders lange Texte können mit den bekannten Sprachmodellen per Prompting nicht zuverlässig (oder nicht vollständig) übersetzt werden. Mit Mini-Apps können beliebig lange Texte übersetzt (oder anderweitig verarbeitet werden): Dazu wird ein Teil des Textes übersetzt und als Zusammenfassung wieder mit in die KI eingegeben, wenn der nächste Textteil übersetzt wird.

Weitere Beispiele für Mini-Apps sind:

• Artikel erstellen für verschiedene Formate: Ihren Blog, Ihre Social Media Präsenz, Sie selbst als Erklärhilfe etc.
• Stichpunkte zu einem Text extrahieren
• Dokumente zusammenfassen: Mit einem Klick so viele Zusammenfassungen in verschiedenen Längen erhalten, wie es sinnvoll ist: Für ein Dokument mit 100 Seiten entsteht eine Zusammenfassung in einem Satz, eine weitere in 3-5 Sätzen, eine weitere in der Länge von ungefähr einer DIN A4-Seiten und eine Zusammenfassung in der Länge von 3-4 DIN A4-Seiten. Ganz so, wie es für Ihr Unternehmen sinnvoll erscheint.

Mini-Apps sind also einfach bedienbar und technisch sehr gut beherrschbar. Dementsprechend können sehr zuverlässige Ergebnisse und einer hoher Grad an Automatisierung erreicht werden.

Die Möglichkeiten sind endlos.

Was kostet eine KI-App?