Pipeline-Konfiguration

Die Pipeline-Konfiguration in GovAI ermöglicht es, verschiedene Verarbeitungsschritte flexibel und modular zu kombinieren. Jeder Schritt ("Step") übernimmt eine definierte Aufgabe, beispielsweise Datenschutzfilterung (Data Guard), Wissensdatenbankabfrage (RAG) oder weitere Anpassungen.

Aufbau einer Pipeline-Konfiguration

Eine Pipeline besteht aus einer Abfolge von Schritten, die im Feld requestPipeline definiert werden. Optional kann eine responsePipeline für nachgelagerte Verarbeitungsschritte angegeben werden.

Beispielkonfiguration

{
  "requestPipeline": [
    {
      "name": "rag",
      "options": {
        "collections": [
          "d74aa619-1c00-491a-b6a8-4744ba44e0da"
        ],
        "topK": 5,
        "showCollectionSource": true
      }
    },
    {
      "name": "filter",
      "options": {
        "adapter": "ionos-ai-hub",
        "redact": true,
        "model": "meta-llama/Llama-3.3-70B-Instruct"
      }
    }
  ],
  "responsePipeline": [
    "unredact"
  ],
  "adapter": {
    "name": "openai",
    "options": {
      "model": "gpt-4o-mini"
    }
  },
  "options": {
    "stream": true
  }
}

Schritte im Detail

Data Guard

Der Schritt filter übernimmt die Datenschutzfilterung. Es können verschiedene Adapter und Modelle verwendet werden. Zusätzlich ist die Erweiterung um Regex-Regeln möglich (siehe Regex-Artikel).

Mögliche Parameter für den Step filter:

Parameter	Typ	Beschreibung
adapter	String	Name des zu verwendenden Adapters (z. B. "ionos-ai-hub")
redact	Boolean	Gibt an, ob eine Pseudonymisierung erfolgen soll
model	String	Modellbezeichnung für die Filterung (z. B. "meta-llama/Llama-3.3-70B-Instruct")
regexReferences	Array	(Optional) Liste von Regex-Regel-IDs für zusätzliche Filterung

RAG

Der Schritt rag bindet Wissensdatenbanken ein (siehe RAG-Artikel).

Mögliche Parameter für den Step rag:

Parameter	Typ	Beschreibung
collections	Array	Liste der Wissensdatenbank-IDs
topK	Integer	(Optional) Anzahl der zurückgegebenen Treffer (Default: 5)
distanceThreshold	Float	(Optional) Ähnlichkeitsschwelle (Default: 0.9)
showCollectionSource	Boolean	(Optional) Zeigt die Quelle der Treffer an (Default: false)

Hinweise

• Die Reihenfolge der Schritte ist relevant und beeinflusst das Ergebnis.
• Weitere Schritte können ergänzt werden, je nach gewünschtem Anwendungsfall.
• Die Konfiguration sollte stets dokumentiert und getestet werden.

Weitere Details zu einzelnen Schritten finden Sie in den jeweiligen Artikeln.