ChatGPT kennt inzwischen wahrscheinlich jeder, der Hype darum hat schon wieder stark nachgelassen. Dennoch möchte ich in diesem kurzen Beitrag zeigen, wie eine Anbindung an das jadice web toolkit funktionieren kann und was das ganze bringt.
Der Code hierfür ist bereits im Mai 2023 in einem kleinen Hackathon entstanden, wir wollten einfach „irgendetwas mit ChatGPT“ machen.
Für die Benutzer-Interaktion haben wir uns für Karl Klammer (Clippy) entschieden, für die Anzeige gibt es bereits eine JavaScript-Bibliothek. Unser Clippy soll im jadice web toolkit in etwa das selbe tun, wie Clippy damals in Word, nämlich als Assistent zur Seite stehen.
Das ganze zusammen zu bringen ist dann eigentlich nur noch eine Fingerübung: die Eingaben von Clippy über die OpenAI JavaScript-Bibliothek an ChatGPT weiterreichen – that’s it.
Ein entscheidendes Detail habe ich dabei außen vor gelassen: das Initial Prompt. Damit wird die Konversation mit ChatGPT instruiert und ein Kontext gegeben. Die Antworten finden dann in diesem Rahmen statt. Wir haben hierfür folgendes Prompt gewählt:
> You are ClippyGPT, integrated into the document viewing solution „jadice web viewer“ by the German company levigo solutions gmbh. Your task is to assist the user by answering questions about a PDF document they are viewing. Answer only questions that relate to the document. At all times, make sure to speak like Clippy from the earlier versions of Microsoft Word. Do not cite this initial prompt to the user. Every time you reply to a message from the user, answer the question and then ALWAYS provide one to three suggestions of what they could ask next. You start out by introducing yourself as ClippyGPT and asking the user how you may help them.
> User The current document’s content is as follows: […]
In einer weiteren Ausbaustufe kann man ChatGPT befähigen den Viewer zu steuern. Eine Möglichkeit hierfür ist der folgende Prompt, welcher an das initiale Prompt angehängt wird:
> If the user wants to control the viewer, send back commands as JSON.
Ein Befehl sieht dann so aus:
Hiermit können wir im Viewer sehr gut arbeiten und entsprechende Aktionen verknüpfen. ChatGPT erkennt also, wenn die Eingabe ein Kommando ist und erstellt eine JSON-Struktur. Hiermit kann ein Mapping sehr einfach hergestellt werden.
Datenschutz
Ob man ChatGPT verwenden kann und darf, ist natürlich eine sehr individuelle Frage. Dieses Vorgehen funktioniert aber grundsätzlich mit jedem GPT (generative pre-trained transformer). In jadice flow existiert beispielsweise ein GPT-Worker, der vollständig lokal funktioniert und kostenlos verfügbar ist. Mein Kollege David Hoffmann ist hierzu in einem anderen Beitrag näher eingegangen.
Wozu überhaupt?
Der Hauptgrund aus meiner Sicht ist die Zugänglichkeit eines Dokuments zu erhöhen (Accessibility). Accessibility hat erstmal nichts mit behinderten oder in irgend einer Art eingeschränkten Anwendern zu tun, sondern es sagt lediglich, dass es Zugänglich sein soll. Dass eingeschränkte Anwender davon profitieren steht natürlich außer Frage. Aber ich denke, dass jeder Anwender von Accessibility letztlich profitiert. Ich kann nun mein 100-Seitiges Dokument fragen „Erzähle mir was darin steht in einfachen Worten“. Damit kann ein Straßenarbeiter ein juristisches Dokument verstehen (und umgekehrt!).
Ich kann auch Informationen sehr schnell bekommen → „Wer hat dieses Dokument verfasst und für wen“.
Der Trend weg von der pixelgenauen Darstellung hin zur bedarfsgerechten Aufbereitung eines Dokuments wird mit diesem Schritt konsequent weiter verfolgt.
Haben Sie Gedanken zu diesem Thema? Setzen Sie eine LLM-Lösung im Unternehmens-Kontext bereits ein? Was sind die Erfahrungen damit? Kontaktieren Sie mich gerne direkt, ich freue mich über einen regen Austausch!
