8. Modellauswahl und -verwaltung
8.1 Verfügbare KI-Modelle
GovAI unterstützt Modelle verschiedener Anbieter. Welche Modelle Ihnen zur Verfügung stehen, hängt von der Konfiguration Ihrer Organisation ab:
| Modell | Anbieter | Betriebsart | Stärken |
|---|---|---|---|
| GPT-4o Mini | OpenAI | Cloud | Sehr schnell, kosteneffizient, Alltagsaufgaben |
| GPT-5 Mini | OpenAI | Cloud | Schnell, für klar definierte Aufgaben |
| GPT-5 | OpenAI | Cloud | Leistungsstark, komplexe Analysen |
| GPT-4o | OpenAI | Cloud | Leistungsstark, kreative Aufgaben |
| GPT 4.1 | OpenAI | Cloud | Programmieren, Analyse, Präzision |
| Claude Opus 4.6 | Anthropic | Cloud | Sehr gutes Sprachverständnis, Kreativität |
| Claude Sonnet 4 | Anthropic | Cloud | Ausgewogen, viele Anwendungsbereiche |
| Claude Haiku 3.5 | Anthropic | Cloud | Schnell, einfache Aufgaben |
| Mistral Large | Mistral AI | EU-Cloud | Starke Performance, DSGVO-Compliance |
| Meta LLama 3.3 | Meta/IONOS | On-Premise/EU | Open-Source, datenschutzkritische Aufgaben |
| Codestral | Mistral AI | EU-Cloud | Speziell für Programmier- und Technik-Anfragen |
In der Freemium-Testversion ist ausschließlich GPT-4o Mini verfügbar.
8.2 Modellauswahl nach Schutzbedarf
Die Wahl des Modells sollte sich am Schutzbedarf der verarbeiteten Daten orientieren:
| Schutzbedarf | Empfohlene Modelle | Begründung |
|---|---|---|
| Öffentliche / nicht-sensible Informationen | Alle Modelle | Kein besonderer Schutz erforderlich |
| Interne Daten mit Personenbezug | Cloud-Modelle + Data Guard aktiv | Pseudonymisierung schützt vor Datenweitergabe |
| Besonders schutzbedürftige Daten (Sozialdaten, Gesundheit, VS-NfD) | LLama 3.3 (lokal) | Keine Cloud-Übertragung |
| Hochgeheime Informationen | Ausschließlich lokal betriebene Modelle in abgeschotteten Umgebungen | Maximale Isolation |
Auch bei aktivem Data Guard sind Cloud-Modelle für hochsensible Klassifizierungsstufen nicht geeignet. Stimmen Sie den Modelleinsatz mit Ihrer Datenschutzstelle ab.
8.3 Thinking Models
GovAI unterstützt Thinking Models – Modelle, die komplexe Anfragen durch einen internen Denkprozess verarbeiten:
- Das Modell „denkt" intern, bevor es antwortet
- Der interne Denkprozess wird nicht in der Benutzeroberfläche angezeigt
- Nur das fertige Ergebnis wird präsentiert
- Token-Verbrauch ist höher als bei Standardmodellen
- Im Dashboard ist der Verbrauch separat nach Modell auswertbar
8.4 Modelle für Administratoren verwalten
Zugriff: Einstellungen → Feature-Einstellungen → Chats
API-Schlüssel für Modelle hinterlegen
- Einstellungen → API-Schlüssel verwalten →
+ Hinzufügen - API-Key des Anbieters eingeben
- Zugehörigen Adapter auswählen
- Speichern
Modell aktivieren/deaktivieren
Über das …-Menü neben jedem Modell:
- Aktiv-Schalter: Modell für Nutzende sichtbar / unsichtbar
- Deaktivierte Modelle können nicht in Assistenten oder Werkzeugen genutzt werden
Rollenbasierte Modellzuweisung
Für jedes Modell kann konfiguriert werden, welche Rollen es nutzen dürfen:
- Nicht-berechtigte Rollen sehen das Modell nicht in der Auswahl
- Assistenten und Werkzeuge, die ein gesperrtes Modell verwenden, sind für nicht-berechtigte Rollen unsichtbar
8.5 Adapter-Konzept: Neue Modelle integrieren
GovAI verwendet ein offenes Adapter-Konzept: Neue KI-Modelle können ohne Änderung des Kern-Systems eingebunden werden:
- Jeder Modellanbieter wird über einen standardisierten Adapter angebunden
- Neue Modellversionen desselben Anbieters werden ausschließlich per Konfiguration aktiviert (kein Code-Release erforderlich)
- Modellkennung und Versionskennung sind eindeutig getrennt
Was konfiguriert werden kann (ohne Code-Änderung):
- Modellversionskennung (z. B.
gpt-4o-mini→gpt-5) - Endpunkt oder Deployment-Kennung
- Default-Parameter
- API-Key (über Schlüsselverwaltung)
Rollback auf vorherige Modellversion: Über die Konfiguration kann jederzeit auf eine ältere Modellversion zurückgewechselt werden – ohne Code-Änderung und ohne Betriebsunterbrechung.
Die Architektur unterstützt die spätere Anbindung intern betriebener Modelle (z. B. aus der Azure-Umgebung). Dies ist als gesonderte Leistung beauftragbar. Interne Modelle unterliegen denselben Governance-Mechanismen wie Cloud-Modelle (RBAC, Data Guard, Kontingente).
8.6 Modellübersicht im Dashboard
Im Dashboard (Einstellungen → Nutzungsstatistik) ist der Token-Verbrauch getrennt nach Modell auswertbar:
- Verbrauch pro Modell und Zeitraum
- Verbrauch nach Interaktionstyp (Chat, Assistent, Werkzeug)
- Historische Verbrauchsdaten für Planungszwecke
Details: Kap. 9 – Kontingente und Governance.