Aufgaben festlegen
Firmenwissen abfragen, Dokumente importieren, E-Mail-Entwürfe erstellen, Gespräche transkribieren, Zusammenfassungen und Aufgaben erzeugen, Texte und Code bearbeiten, Support-Tickets verarbeiten.
Dein lokales KI-System planen, aufbauen und dokumentieren
Nutzung planen
Personen und Gruppen zuordnen, Nutzungsmengen bestimmen und passende Modelle auswählen.
Technik abstimmen
Komponenten, GPU-Budget, Kontextgrößen, Datenorte, Protokollierung, Aufbewahrung und Sicherung konfigurieren; Konflikte erkennen.
Zugriffe planen
Daten klassifizieren und festlegen, wer welche Daten lesen, verarbeiten, ändern oder löschen darf.
Umsetzung vorbereiten
Einstellungsabhängige Installations-, Konfigurations- und Deinstallationsskripte kopieren und manuell ausführen. Die bereitgestellte Anwendung kann anschließend die KI-Aufgaben auf dem eingerichteten Server ausführen.
Datenschutz dokumentieren
Fragen beantworten und daraus Dokumententwürfe mit den aktuellen technischen und organisatorischen Angaben erzeugen.
Änderungen wirken über die Bereiche hinweg. Kapazitätswerte bleiben Planungen; tatsächliche Leistung, Betrieb und rechtliche Freigaben müssen anschließend geprüft werden.
Was soll das KI-System können?
Die Aufgabenauswahl konnte nicht geladen werden.
Inferenz-Systeme
Ollama
Für wechselnde Modelle und überschaubare Gleichzeitigkeit. Modelle werden nach Bedarf geladen und entladen.
vLLM
Für dauerhaft geladene Modelle und parallele Anfragen. Jedes Sprachmodell benötigt eine eigene Instanz.
Modellbetrieb und Speicherbudget
GPU-Planbedarf:
Sprachmodelle
GPU-Planbedarf:
Embedding-Modelle
Mixedbread DE
Für deutschsprachiges Unternehmenswissen. Auf deutschen Textpaaren nachtrainiert; lokaler Python-Dienst.
sentence-transformers · 1024 Dimensionen · 512 Token
BGE-M3
Für längere mehrsprachige Textabschnitte; hier dichte Vektoren über Sentence Transformers.
sentence-transformers · 1024 Dimensionen · 8192 Token
BGE-M3
Für längere mehrsprachige Texte. Hier dichte Vektoren über Ollama; Sparse- und Multi-Vektor-Suche werden nicht eingeplant.
ollama · 1024 Dimensionen · 8192 Token
GPU-Planbedarf:
Personen
Bei Abteilungswechsel prüfen: Kontogruppen · Rollen · Nutzung
Konten und SSH-Zugänge
SSH-Administratoren
Nutzung
| Sprachmodell | Vorgänge / Arbeitstag | Parallel gewünscht | Modellplätze |
|---|
Datenspeicher
Hier stehen die technischen Speicherorte, Dateitypen und Aufbewahrungsregeln. Zugriffe und Einstufung legst Du bei den verlinkten Datenbeständen fest.
Lokale Ordner und Dateien auf dem Server.
Strukturierte Datensätze und Textabschnitte. pgvector speichert die zugehörigen Embeddings in derselben Datenbank.
Technische Datenorte
Datenbestände mit dieser Datenart
Dateitypen
Dokumente und Texte
- PDF · .pdf · Import: Dokumente automatisch benennen, ablegen und zum Firmenwissen hinzufügen
- Text · .txt · Import: Dokumente automatisch benennen, ablegen und zum Firmenwissen hinzufügen
- Markdown · .md, .markdown · Import: Dokumente automatisch benennen, ablegen und zum Firmenwissen hinzufügen
- HTML · .html, .htm · Speicherformat; kein Importadapter
- Word · .docx · Speicherformat; kein Importadapter
- OpenDocument-Text · .odt · Speicherformat; kein Importadapter
- Excel · .xlsx · Speicherformat; kein Importadapter
- OpenDocument-Tabelle · .ods · Speicherformat; kein Importadapter
Datenformate
- JSON · .json · Speicherformat; kein Importadapter
- CSV · .csv · Speicherformat; kein Importadapter
- XML · .xml · Speicherformat; kein Importadapter
- YAML · .yaml, .yml · Speicherformat; kein Importadapter
E-Mail
- E-Mail-Nachricht · .eml · Speicherformat; kein Importadapter
- Outlook-Nachricht · .msg · Speicherformat; kein Importadapter
Audio
- MP3 · .mp3 · Import: Meeting-Gespräche aufnehmen und transkribieren
- WAV · .wav · Import: Meeting-Gespräche aufnehmen und transkribieren
- M4A · .m4a · Import: Meeting-Gespräche aufnehmen und transkribieren
- MP4 mit Audiospur · .mp4 · Import: Meeting-Gespräche aufnehmen und transkribieren
Die Transkription verarbeitet die Audiospur. - Ogg · .ogg · Import: Meeting-Gespräche aufnehmen und transkribieren
- FLAC · .flac · Import: Meeting-Gespräche aufnehmen und transkribieren
- WebM · .webm · Import: Meeting-Gespräche aufnehmen und transkribieren
Bilder
- PNG · .png · Speicherformat; kein Importadapter
- JPEG · .jpg, .jpeg · Speicherformat; kein Importadapter
- WebP · .webp · Speicherformat; kein Importadapter
Code
- PHP · .php · Speicherformat; kein Importadapter
- JavaScript · .js, .mjs, .cjs · Speicherformat; kein Importadapter
- TypeScript · .ts, .tsx · Speicherformat; kein Importadapter
- Python · .py · Speicherformat; kein Importadapter
- Shell · .sh, .bash · Speicherformat; kein Importadapter
- CSS · .css · Speicherformat; kein Importadapter
- SQL · .sql · Speicherformat; kein Importadapter
Modellpakete
- GGUF · .gguf · Speicherformat; kein Importadapter
Ollama legt Modellgewichte auch als Blobs ohne Dateiendung ab. - Safetensors · .safetensors · Speicherformat; kein Importadapter
- Tesseract-Sprachgewichte · .traineddata · Speicherformat; kein Importadapter
- SentencePiece-Tokenizer · .model · Speicherformat; kein Importadapter
Protokolle
- Textprotokoll · .log · Speicherformat; kein Importadapter
- JSON Lines · .jsonl · Speicherformat; kein Importadapter
- systemd-Journal · .journal · Speicherformat; kein Importadapter
- Gzip · .gz · Speicherformat; kein Importadapter
Sicherungen
- PostgreSQL-Dump · .dump · Speicherformat; kein Importadapter
Datenbanksicherung; keine laufende Datenbank. - Tar-Archiv · .tar, .tar.gz · Speicherformat; kein Importadapter
- Verschlüsselte Sicherung · .cms · Speicherformat; kein Importadapter
Konfiguration
- Dienstkonfiguration · .conf · Speicherformat; kein Importadapter
Auch Dateien ohne Endung, beispielsweise Caddyfile. - INI · .ini · Speicherformat; kein Importadapter
- Umgebungsvariablen · .env · Speicherformat; kein Importadapter
Kann Zugangsdaten enthalten. - systemd-Unit · .service, .timer · Speicherformat; kein Importadapter
Prozesse
- Vorgang protokollieren: Erforderliche Ereignisse erfassen; keine Gesprächs- oder Dokumentinhalte standardmäßig in Dienstlogs schreiben.
- Daten sichern: Festgelegte Bestände lokal sichern; Sicherungsfristen und Wiederherstellung separat planen.
- Wiederherstellen prüfen: Wiederherstellung testen und inzwischen fällige Löschungen erneut anwenden.
- Aufbewahren und löschen: Fristen je Datenbestand, Fristbeginn und Grund festlegen; Ableitungen und Sicherungen berücksichtigen.
Datenbestände
Hier legst Du fest, welche Daten zusammengehören, wie vertraulich sie sind und ob sie Angaben zu Personen enthalten.
Datenbestand, Ordner oder Dokument hinzufügen
Bestand, Ordner oder Dokument hinzufügen
· Bestandspfad:
Enthaltene Datenarten
Speicherorte und Dienstrechte
Einstufung
Die Einstufung beschreibt den Schutzbedarf und wird für die Datenschutzdokumentation verwendet. Sie ändert keine bestehenden Freigaben.
Ohne eigene Einstufung gelten die Angaben des übergeordneten Ordners. Eigene Angaben können den Schutz erhöhen. „Nicht geprüft“ oder „Nicht festgelegt“ sperrt den Zugriff.
Zugriff
Ordner und Dokumente
Rollen und Berechtigungen
Rollen
| Lesen | Lesen |
|---|---|
| KI-Nutzung | Lesen, Mit KI verarbeiten, Erstellen, Ändern |
| Datenpflege | Lesen, Mit KI verarbeiten, Erstellen, Ändern, Löschen, Exportieren |
| Auditprüfung | Lesen, Exportieren |
| Sicherung | Erstellen, Löschen, Wiederherstellen |
| Serveradministration | Administrieren |
| Quellen mit KI nutzen | Lesen, Mit KI verarbeiten |
Daten freigeben
Zugriffsrechte prüfen
| Person | Lesen | Mit KI verarbeiten | Erstellen | Ändern | Löschen | Exportieren | Wiederherstellen | Administrieren |
|---|
Abweichende Ordner und Dokumente
Serveraufbau
Hinweise zur Planung (0)
Server-Komponenten
Audit
- Welche Aktionen soll Dein KI-System protokollieren?
- Wo werden die Protokolle gespeichert?
- Wer darf die Protokolle lesen?
DSGVO-Fragen
DSGVO-Dokumente
Aus den aktuellen Angaben wurden keine Pflichtdokumente abgeleitet.