Was leisten Guardrails?
Guardrails kontrollieren, was in ein Modell hineingeht und was herauskommt. Inhalte lassen sich blockieren, verändern oder zur Prüfung durch einen Menschen markieren. Gängige Lösungen bieten mehrere Prüfarten. Sie sperren Themen und Wörter, etwa die Namen von Wettbewerbern, und filtern sensible Daten. Außerdem gleichen sie eine Antwort mit den Quellen ab, die das Modell erhalten hat.
Worin unterscheiden sich Guardrails von der Systemanweisung und der menschlichen Prüfung?
Die Systemanweisung sagt dem Modell, was es tun soll. Ein gezielter Angriff kann sie aushebeln: Eine manipulierte Eingabe bringt das Modell dazu, die Anweisung zu ignorieren. Das BSI nennt das Prompt-Injection. Guardrails sitzen außerhalb des Modells und prüfen das Ergebnis unabhängig von der Systemanweisung. Die Prüfung durch Menschen (Human in the Loop) ersetzen sie nicht. Das BSI empfiehlt diese Prüfung ausdrücklich für Ergebnisse mit Außenwirkung, etwa auf der Website.
Welche Grenzen haben Guardrails?
Sie bieten keine absolute Sicherheit. Laut der OWASP-Liste der Sicherheitsrisiken für Sprachmodelle ist unklar, ob es wasserdichte Methoden gegen Prompt-Injection gibt. Auch das BSI nennt Restrisiken, selbst wenn alle Gegenmaßnahmen umgesetzt sind. Fehler, etwa durch Halluzinationen, werden seltener, ganz verschwinden sie nicht.
Was haben Guardrails mit der Marke zu tun?
Markenvorgaben lassen sich technisch durchsetzen: keine Aussagen ohne Beleg, keine Wettbewerber im Text, eine Tonlage, die zur Marke passt. Was inhaltlich gelten soll, steht im Strategiekontext. Guardrails prüfen technisch, ob ein Ergebnis diese Vorgaben einhält, etwa über Schwellenwerte für die Markenkonsistenz.
Was gilt und wer entscheidet, regelt die Brand Governance. Als technischer Baustein gehören Guardrails zur AI Brand Safety.