Dein Email-RAG-KI System
Das ist vermutlich unser aller Traum: Emails kommen rein, wir klicken auf einen Button "Och nööö, das soll die KI machen" ... und dann passiert ein bisschen Magie und anschließend liegt die fertig ausgearbeitete Antwort in unseren Entwürfen und wir gucken nur nochmal drüber und schicken die Mail dann raus.
Im letzten KI-Seminar haben wir uns genau dieses System angeschaut und uns darüber gefreut, dass es funktionieren kann, WENN man ein paar Dinge beachtet und sauber strukturiert.
Ich habe das Gesamtsystem für euch hier mal im Detail aufgedröselt (ein paar Punkte möchte ich noch nacharbeiten); insgesamt kann das hier eine Mischung aus Leitfaden, Nachschlagewerk, Sparring-System oder auch schlicht eine Anleitung für Dein KI-System sein, um Dir etwas Ähnliches nachzubauen.
Teil 1: Einführung
- Aufgabe und Scope des Systems, Zielgruppe, Release-Stand und Entscheidungsrechte
- Eine Email, ein Entwurf, ein Klick
- Jeden Tag das Gleiche: Der manuelle Prozess
- Wenn die Inbox gewinnt: Das Problem der Skalierung
- Immer wieder ähnlich: Muster in der Kommunikation
- Klar abgegrenzt: Was dieses System tut und was nicht
- Messbar statt vage: Das Zielbild
- Ziel, Scope und Entscheidungsgrenzen
- Email-Technik
- KI- und Speicher-Technik
- Buchstaben, die keine Buchstaben sind: Vom Text zum Token
- Alles bleibt hier: Lokale Sprachmodelle mit Ollama
- Die Aufgabenstellung macht den Unterschied: Strukturierte Prompts
- Nähe ohne Wörterbuch: Embeddings und Vektorsuche
- Jede hat ihre Stärke: Drei Datenbanken, drei Aufgaben
- Wissen dazuholen: RAG und Hybrid Search
Teil 2: Die Pipeline
- Der Weg einer Email in fünf Phasen
- Email vom Mailserver holen
- MIME zerlegen
- Dateien erkennen, speichern, lesbar machen
- Kontaktprofil erkennen
- Gespräch zuordnen
- Regelbasierte Einordnung
- LLM-Einordnung
- Kategorie zu Aktion
- Entitäten und Beziehungen aus Text
- Graph-Speicher in ArangoDB
- Bedeutung in Zahlen
- Wissen für die Antwort finden
- Entwurf generieren
- Menschliche Prüfung und Freigabe
- Versenden und lernen
Teil 3: Quersichten
- Objekte und Tabellen
- Lebenszyklus einer Email
- Warum hexagonal, DDD, CQRS
- Layer, Klassen, Dateien
- Prozess-Laufzeit im Normalbetrieb
- Prozess-Laufzeit im Fehlerfall
- Messen statt raten
- Schützen und dokumentieren
- Systemd, Cron, Dependencies, Parameter
- Die API-Endpunkte im Überblick