11. Technische Konfiguration

Zielgruppe

Dieses Kapitel richtet sich an technisch versierte IT-Administratoren und Entwickler.

11.1 Das Pipeline-Konzept

Die Pipeline definiert den technischen Verarbeitungsablauf für jeden Chat, jedes Werkzeug und jeden Assistenten. Sie besteht aus einer Abfolge von Schritten (Steps), die modular kombiniert werden können:

Nutzereingabe
      ↓
[Step 1: RAG] → Relevante Dokumente aus Wissensdatenbank abrufen
      ↓
[Step 2: filter] → Data Guard: PII erkennen und pseudonymisieren
      ↓
[Adapter: openai] → Pseudonymisierte Anfrage an KI-Modell senden
      ↓
[responsePipeline: unredact] → Re-Kontextualisierung
      ↓
Antwort mit Originaldaten an Nutzenden

11.2 Pipeline-Konfiguration (JSON)

Die Pipeline wird im JSON-Format konfiguriert. Sie besteht aus:

• requestPipeline: Schritte vor dem Modellaufruf
• responsePipeline: Schritte nach dem Modellaufruf
• adapter: Modellkonfiguration
• options: Technische Optionen

Pipeline-Assistent

Durch einen Klick auf den Knopf Pipeline-Assistent können Sie unseren Assistenten zur Erstellung einer Pipeline-Konfiguration öffnen. Beim ersten Aufruf wählen Sie eine Vorlage aus einem existierenden Chat aus und werden Schritt für Schritt durch alle gängigen Einstellungen einer Pipeline geführt. Der Assistent generiert am Ende eine gültige JSON-Konfiguration.

Wurde bereits eine Konfiguration erstellt, öffnet ein erneuter Klick stattdessen eine Übersicht, in der sich alle Einstellungen (z. B. Wissensdatenbanken, Websuche, Streaming, Data Guard, System-Prompt) direkt anpassen lassen – ohne den gesamten Assistenten erneut durchlaufen zu müssen. Über „Pipeline-Assistent neu starten“ lässt sich der schrittweise Ablauf bei Bedarf weiterhin komplett von vorne durchlaufen.

Vollständiges Beispiel

{
  "requestPipeline": [
    {
      "name": "rag",
      "options": {
        "collections": ["d74aa619-1c00-491a-b6a8-4744ba44e0da"],
        "topK": 5,
        "showCollectionSource": true,
        "distanceThreshold": 0.85
      }
    },
    {
      "name": "filter",
      "options": {
        "adapter": "ionos-ai-hub",
        "redact": true,
        "model": "meta-llama/Llama-3.3-70B-Instruct",
        "regexReferences": [
          "69eb423abd1cac9251728d6c",
          "69e0c7cfb2c7f8490f318fd1"
        ]
      }
    }
  ],
  "responsePipeline": ["unredact"],
  "adapter": {
    "name": "openai",
    "options": {
      "model": "gpt-4o-mini"
    }
  },
  "options": {
    "stream": true,
    "mcp": {
      "enabled": true,
      "maxLoops": 3,
      "tools": [
        {
          "name": "websearch",
          "options": {
            "showSources": true,
            "includeDomains": [
              "test.com"
            ],
            "excludeDomains": [
              "test.de",
            ]
          }
        }
      ]
    }
  }
}

Reihenfolge ist entscheidend

Die Reihenfolge der Schritte in der requestPipeline beeinflusst das Ergebnis. RAG sollte vor dem Data Guard Filter stehen, damit der Kontext aus der Wissensdatenbank ebenfalls geprüft wird. Konfigurationen immer vor Produktiveinsatz testen.

11.3 Pipeline-Schritt: Data Guard (filter)

Der filter-Schritt aktiviert den Data Guard für diese Pipeline:

Parameter	Typ	Pflicht	Beschreibung
adapter	String	✓	Name des PII-Erkennungsadapters (z. B. ionos-ai-hub)
redact	Boolean	✓	true: Pseudonymisierung aktiv; false: nur Erkennung ohne Ersatz
model	String	✓	Modellbezeichnung für die PII-Erkennung
regexReferences	Array	–	Liste von Regex-Regel-UUIDs für zusätzliche Filterung

Regex-Referenzen einbinden:

Die UUID einer Regex-Regel (aus Einstellungen → Regex-Regeln, Spalte „Referenz") in das Array eintragen:

"regexReferences": [
  "69eb423abd1cac9251728d6c",
  "69e0c7cfb2c7f8490f318fd1"
]

11.4 Pipeline-Schritt: RAG (rag)

Der rag-Schritt aktiviert die wissensbasierte Suche:

Parameter	Typ	Standard	Beschreibung
collections	Array	–	Liste der Wissensdatenbank-Referenz-IDs (UUIDs)
topK	Integer	5	Anzahl der zurückgegebenen Treffer
distanceThreshold	Float	0.9	Ähnlichkeitsschwelle (0–1; höher = strenger)
showCollectionSource	Boolean	false	Quellenangaben in der Antwort anzeigen

Mehrere Wissensdatenbanken:

{
  "name": "rag",
  "options": {
    "collections": [
      "uuid-datenbank-1",
      "uuid-datenbank-2",
      "uuid-datenbank-3"
    ],
    "topK": 8,
    "showCollectionSource": true
  }
}

11.5 Pipeline-Schritt: Re-Kontextualisierung (unredact)

Der unredact-Schritt in der responsePipeline ersetzt Platzhalter in der Modellantwort durch die Originaldaten:

"responsePipeline": ["unredact"]

Immer aktivieren wenn Data Guard aktiv

Wenn der filter-Schritt mit "redact": true in der requestPipeline ist, muss unredact in der responsePipeline aktiviert sein – sonst sehen Nutzende Platzhalter statt Originaldaten in der Antwort.

11.6 Adapter-Konfiguration

Der adapter-Block konfiguriert das zu verwendende KI-Modell:

OpenAI

"adapter": {
  "name": "openai",
  "options": {
    "model": "gpt-4o-mini"
  }
}

Anthropic Claude

"adapter": {
  "name": "anthropic",
  "options": {
    "model": "claude-sonnet-4-20250514"
  }
}

Mistral / IONOS AI Hub

"adapter": {
  "name": "ionos-ai-hub",
  "options": {
    "model": "meta-llama/Llama-3.3-70B-Instruct"
  }
}

Modell wechseln (ohne Code-Release)

Für einen Versionswechsel genügt es, die model-Angabe im Adapter zu ändern:

// Vorher:
"model": "gpt-4o-mini"

// Nachher:
"model": "gpt-5"

Kein Plattform-Release, keine Code-Änderung – nur Konfigurationsänderung.

11.7 Optionen

Parameter	Typ	Beschreibung
stream	Boolean	true: Streaming-Antwort (Text erscheint schrittweise)

11.8 Websuche in der Pipeline

Wenn die Websuche aktiviert und konfiguriert ist, wird sie als Pipeline-Schritt eingebunden:

{
  "name": "webSearch",
  "options": {
    "maxResults": 5,
    "showSources": true,
    "includeDomains": ["gesetze-im-internet.de", "bmi.bund.de"],
    "excludeDomains": ["example-blocked.de"]
  }
}

Websuche muss freigeschaltet sein

Websuche-Konfigurationen können nur von berechtigten Rollen geändert werden. Domain-Allow/Blocklists schränken die nutzbaren Quellen ein. Mit showSources (Standard: aktiviert) werden die verwendeten Webquellen am Ende der Antwort ausgewiesen.

11.9 Pipeline aus Vorlage laden

In der Werkzeug-/Assistenten-Konfiguration steht die Funktion „Pipeline aus Vorlage laden" zur Verfügung:

• Bewährte Konfigurationen als Ausgangspunkt
• Keine manuelle JSON-Erstellung erforderlich
• Anpassung nach Bedarf möglich

Empfehlung: Für Standardanwendungsfälle immer eine Vorlage als Basis verwenden.

11.10 Häufige Pipeline-Muster

Einfacher Chat ohne Data Guard

{
  "adapter": {
    "name": "openai",
    "options": { "model": "gpt-4o-mini" }
  },
  "options": { "stream": true }
}

Chat mit Data Guard (empfohlen für Produktivbetrieb)

{
  "requestPipeline": [
    {
      "name": "filter",
      "options": {
        "adapter": "ionos-ai-hub",
        "redact": true,
        "model": "meta-llama/Llama-3.3-70B-Instruct"
      }
    }
  ],
  "responsePipeline": ["unredact"],
  "adapter": {
    "name": "openai",
    "options": { "model": "gpt-4o-mini" }
  },
  "options": { "stream": true }
}

RAG + Data Guard (vollständig geschützter Wissensassistent)

{
  "requestPipeline": [
    {
      "name": "rag",
      "options": {
        "collections": ["ihre-uuid"],
        "topK": 5,
        "showCollectionSource": true
      }
    },
    {
      "name": "filter",
      "options": {
        "adapter": "ionos-ai-hub",
        "redact": true,
        "model": "meta-llama/Llama-3.3-70B-Instruct",
        "regexReferences": []
      }
    }
  ],
  "responsePipeline": ["unredact"],
  "adapter": {
    "name": "openai",
    "options": { "model": "gpt-4o-mini" }
  },
  "options": { "stream": true }
}