LLM-PoC für automatische Schriftverarbeitung

Durchführung eines Proof of Concept zur intelligenten Verarbeitung eingehender E-Mails und digitaler Schriftstücke mit Hilfe eines Large Language Models (LLM), um Service-Anliegen automatisch zu erkennen, zu kategorisieren und an nachgelagerte Systeme zu übergeben.

Umsetzung:
Im Projekt wurde eine modulare Architektur entwickelt, bestehend aus Microservices zur Vorverarbeitung und Extraktion relevanter Inhalte sowie einem zentralen Klassifizierungsmodul auf Basis von OpenAI GPT-4. Ziel war die automatische Identifikation von Anliegenkategorien (z. B. Beschwerden, Vertragsfragen, technische Anfragen) aus unstrukturiertem Text.

Zur Orchestrierung und Datenweitergabe wurden moderne Tools wie LangChain, FastAPI und Kubernetes eingesetzt. Die klassifizierten Daten wurden über ein Dashboard visualisiert und ermöglichten eine schnelle Einschätzung der Anfrageverteilung sowie Ableitungen für operative Prozesse.

Der PoC diente als Entscheidungsgrundlage für die weitere Skalierung und Integration in die interne IT-Landschaft.