Wie arbeitet ein KI-Chatbot, und was unterscheidet ihn von regelbasierten Bots?

Ein regelbasierter Bot folgt festen Entscheidungsbäumen. Er versteht nur Eingaben, die der Entwickler vorgesehen hat, und antwortet mit vorgefertigten Texten. Ein KI-Chatbot erkennt dagegen auch freie Formulierungen (Natural Language Processing) und formuliert die Antwort selbst. Dahinter steht meist ein Sprachmodell.

Sein Fachwissen bezieht der Bot aus dem Training und aus Unterlagen des Unternehmens, die er per RAG einbindet. Sein Verhalten steuert ein System-Prompt. Die Freiheit im Formulieren ist der Gewinn und zugleich die Quelle der Risiken, weil keine zwei Antworten gleich ausfallen.

Wie bleibt ein Markenchatbot in der Markensprache?

Die Markensprache gehört in die Vorgaben des Bots, am besten mit Beispielen für Antworten, die zur Marke passen, und für solche, die es nicht tun. Die Tonalität muss dabei zur Lage passen: Eine Beschwerde verlangt einen anderen Ton als eine Produktfrage.

Zum Testen taugen vor allem schwierige Eingaben: verärgerte Kundschaft, Fragen außerhalb des Themas, Versuche, den Bot aus der Rolle zu bringen. Nach dem Start werden die Antworten laufend am Markenauftritt gemessen, denn die Gespräche selbst kann die Marke nicht vorhersehen.

Welche Risiken hat ein Chatbot, und wer haftet für seine Antworten?

Das größte Risiko ist die Halluzination: Der Bot erfindet Konditionen, Produktmerkmale oder Zusagen und formuliert sie überzeugend. Guardrails begrenzen Themen und prüfen Antworten gegen die hinterlegten Quellen. Ein Rest an Fehlern bleibt.

Wie ernst das werden kann, zeigt ein Fall aus Kanada. Im Verfahren Moffatt gegen Air Canada entschied 2024 das Civil Resolution Tribunal in British Columbia: Die Fluggesellschaft muss für eine falsche Auskunft ihres Website-Chatbots zu Trauerfall-Tarifen einstehen. Das Argument, der Bot sei eine eigenständige juristische Einheit, ließ das Gericht nicht gelten. Das Urteil bindet deutsche Gerichte nicht, zeigt aber die Erwartung, dass Unternehmen für ihren Bot geradestehen.

Welche Kennzeichnung verlangt die KI-Verordnung?

Nach Artikel 50 Absatz 1 der KI-Verordnung müssen Systeme, die direkt mit Menschen interagieren, so gestaltet sein, dass diese erfahren, dass sie mit einer KI sprechen. Ausgenommen ist der Fall, in dem es für eine aufmerksame Person offensichtlich ist. Die Pflicht trifft zunächst den Anbieter des Systems. Wer einen Chatbot auf fremder Technik betreibt, sollte klären, wer sie erfüllt. In der Praxis gehört ein klarer Hinweis ins Chatfenster, ebenso eine Übergabe an einen Menschen, wenn der Bot nicht weiterkommt (Human in the Loop). Mehr dazu im Eintrag KI-Kennzeichnungspflicht.