1. Einleitung
1.1 Was ist GovAI?
GovAI ist eine webbasierte KI-Plattform zur regelbasierten Orchestrierung und Kontrolle generativer KI-Modelle – speziell entwickelt für den öffentlichen Sektor, Behörden, Bildungseinrichtungen und sicherheitskritische Organisationen.
Die Plattform ermöglicht es, leistungsstarke Large Language Models (LLMs) wie GPT, Claude, Mistral oder Llama datenschutzkonform, sicher und nachvollziehbar in den Arbeitsalltag zu integrieren – ohne dass Mitarbeitende technisches KI-Wissen benötigen.
info Leitbild „Künstliche Intelligenz nutzbar machen – für alle, verantwortungsvoll, sicher und wirksam."
GovAI steht für souveräne, leistungsfähige und vertrauenswürdige KI im öffentlichen Sektor – entwickelt und betrieben in Deutschland.
1.2 Kernprinzipien
GovAI basiert auf vier unveränderlichen Grundsätzen:
| Prinzip | Bedeutung |
|---|---|
| Datenschutz by Design | Personenbezogene Daten werden automatisch erkannt und pseudonymisiert, bevor sie externe KI-Modelle erreichen |
| Digitale Souveränität | Offene Architektur ohne Vendor Lock-in, Betrieb ausschließlich in EU/EWR-Rechenzentren |
| Transparenz | KI-generierte Inhalte sind als solche erkennbar; verwendete Modelle und Quellen werden ausgewiesen |
| Kontrolle | Rollenbasierte Zugriffssteuerung, Kontingente, Audit-Logging und automatische Sperrmechanismen |
1.3 Kernfunktionen im Überblick
Für Endanwender:
- KI-basierte Chats mit Auswahl verschiedener Modelle (GPT, Claude, Mistral, Llama, Thinking Models)
- Spracheingabe (Speech-to-Text) direkt im Chat
- Kuratierte Assistenten für spezifische Verwaltungsaufgaben
- Praktische Werkzeuge (Übersetzer, Textvereinfachung, Protokolle, Gender-Check u. v. m.)
- Community & Prompt-Bibliothek für geteiltes organisationales Wissen
- Wissensdatenbanken-Suche (RAG) über interne Dokumente
Für Administratoren:
- Rollenbasierte Zugriffskontrolle (RBAC) mit Standard- und Custom-Rollen
- Konfigurierbare Token-Kontingente mit automatischer Sperre und Benachrichtigungen
- Data Guard: PII-Erkennung, DLP-Aktionsmodi, eigene Regex-Regeln
- Wissensdatenbanken anlegen und verwalten
- Pipeline-Konfiguration für technische Verarbeitungslogik
- Dashboard mit Token-Verbrauch und Nutzungsstatistiken
- API-Schlüssel-Verwaltung, Modellanbindung, Custom-Branding
Für Führungskräfte:
- Revisionsfähiges Audit-Logging aller sicherheitsrelevanten Ereignisse
- Organisationsspezifische Nutzerrichtlinien mit Bestätigungspflicht
- Nutzungsstatistiken und Kostenkontrolle
- Compliance-Nachweise für DSGVO, BSI, EU AI Act
1.4 Zielgruppen dieses Handbuchs
| Zielgruppe | Beschreibung | Relevante Kapitel |
|---|---|---|
| Endanwender | Sachbearbeiter, Fachanwender, Mitarbeitende | Kap. 2 – 6 |
| IT-Administratoren | Systemverantwortliche, Datenschutzbeauftragte, IT | Kap. 7 – 11 |
| Führungskräfte | Abteilungsleiter, Behördenleitungen, Entscheider | Kap. 12, Kap. 13 |
1.5 Rechtliche und regulatorische Grundlagen
GovAI wurde von Grund auf unter Berücksichtigung folgender Anforderungen entwickelt:
DSGVO (Datenschutz-Grundverordnung)
- Art. 5: Datenminimierung, Zweckbindung, Speicherbegrenzung durch automatisierte Löschfristen
- Art. 25: Datenschutz durch Technikgestaltung – personenbezogene Daten verlassen die Plattform nur pseudonymisiert
- Art. 28: Auftragsverarbeitungsvertrag (AVV) mit publicplan und IONOS als Unterauftragnehmer
- Art. 32: Technische und organisatorische Maßnahmen (TOM) – Verschlüsselung, RBAC, Audit-Logging
BSI-Grundschutz
Die Sicherheitsarchitektur orientiert sich an den Empfehlungen des Bundesamts für Sicherheit in der Informationstechnik. Jährliche externe Web Application Security Assessments (WASA) nach OWASP/BSI-Standards werden durchgeführt.
EU AI Act
- KI-gestützte Funktionen sind in der Oberfläche eindeutig als solche gekennzeichnet (Art. 50 Abs. 1)
- KI-generierte Inhalte werden ausgewiesen (Art. 50 Abs. 4)
- Human Oversight: alle KI-Ausgaben können vor Weiterverwendung geprüft, bearbeitet und verworfen werden
- GovAI trifft keine automatisierten Entscheidungen mit Rechtswirkung
KRITIS
GovAI ist für den Einsatz in kritischen Infrastrukturen geeignet und unterstützt entsprechende Betriebsmodelle inkl. On-Premise.
Verbot des Nachtrainierens (§ PF-NFR-003)
Personenbezogene und sensible Daten werden technisch nicht zum Training externer KI-Modelle verwendet. Durch De-Identifizierung vor jedem externen Modellaufruf und „No-Training"-Optionen bei unterstützenden Anbietern wird dies sichergestellt.
1.6 Testversion vs. Vollversion
Die Freemium-Testversion ist ausschließlich für Test- und Evaluierungszwecke mit Testdaten vorgesehen.
Es dürfen keine echten personenbezogenen oder sensiblen Daten eingegeben werden.
Für den Produktivbetrieb ist die Vollversion mit Auftragsverarbeitungsvertrag (AVV) erforderlich.
| Merkmal | Testversion | Vollversion |
|---|---|---|
| Modelle | GPT-4o Mini | GPT-5, Claude, Mistral, Llama und weitere |
| SSO/LDAP | Nicht verfügbar | Verfügbar (Keycloak, Entra ID, AD) |
| SCIM-Synchronisierung | Nicht verfügbar | Architektonisch vorbereitet |
| Eigene Inhalte erstellen | Nicht möglich | Werkzeuge und Assistenten erstellen |
| Nutzende einladen | Nicht möglich | Unbegrenzt (je nach Tarif) |
| Echtdaten | Nicht zulässig | Mit AVV und Vollversion möglich |
| Kontingente & Dashboard | Eingeschränkt | Vollständig konfigurierbar |
| Custom Branding/CSS | Nicht verfügbar | Verfügbar |
| Audit-Logging | Nicht verfügbar | Vollständig mit Webhook-Export |
1.7 Symbole und Konventionen in diesem Handbuch
| Symbol | Bedeutung |
|---|---|
| :::info | Allgemeine Information oder Erklärung |
| :::warning | Wichtiger Hinweis – muss beachtet werden |
| :::caution | Vorsicht – potenzielle Datenschutz- oder Sicherheitsrisiken |
| :::tip | Empfehlung für eine effizientere Nutzung |
| :::note | Ergänzende Hinweise für Administratoren |