„Schreib eine Antwort auf diese Anfrage.“ Nach ein paar Sekunden erscheint ein gut formulierter Brief im Chatfenster. Die Grammatik stimmt, der Ton ist freundlich und der Text übersichtlich. Nur wusste die KI nicht, dass diese Eingangsbestätigung schon die dritte Nachricht an jemanden war, der langsam ungeduldig wird. Seit acht Wochen liegt das Anliegen offen. Auch das stand nirgends.
Formal ist der Brief also einwandfrei. Für jemanden, der acht Wochen wartet, ist er trotzdem nicht ideal.
Die KI hat diese Informationen nicht absichtlich weggelassen. Sie wusste es einfach nicht.
Kontext entsteht vor dem Prompt
Sie kennen die wichtigen Informationen: den aktuellen Stand, den Ton Ihres Hauses, den einen Satz, den Sie so vielleicht nie unterschreiben würden. Aufschreiben würden Sie das nie. Es ist ja selbstverständlich.
Für das Modell ist es das nicht. Es füllt die Lücken, weil es muss, und greift auf das zurück, was in solchen Texten üblicherweise steht. Deshalb klingt das Ergebnis oft nach einer beliebigen Verwaltung, aber nicht nach Ihrer eigenen Kommune.
Die spannendere Frage ist deshalb: Wo gehört welcher Kontext hin? KoKI bietet dafür drei Orte:
Der Prompt. Hier steht alles Einmalige: der Stand, das Ziel, die Situation, die Zielgruppe, der Anlass.
Der Assistent. Wie oft haben Sie in dieser Woche geschrieben, dass die Antwort bürgernah und ohne Fachbegriffe sein soll? Wiederkehrendes gehört nicht in jeden Prompt. Ein Assistent ist ein spezialisiertes Modell mit festen Vorgaben zu Rolle, Ton, Format und Grenzen. Sie legen einmal fest: bürgernah, ohne unnötige Fachbegriffe, Fakten und Annahmen getrennt. Das gilt für jeden Chat mit diesem Assistenten. Ihre Kolleginnen und Kollegen müssen sich nichts davon merken.
Die Wissensdatenbank. Ein Modell, das nur auf sein Training zurückgreift, erfindet Fristen und Zuständigkeiten, ohne dass wir es merken. Mehr zum Thema Halluzinationen finden Sie hier. Greift der Assistent auf eine hinterlegte Wissensdatenbank zu, auf Dienstanweisungen, Merkblätter, interne Vorgaben, dann steht hinter der Antwort etwas, was Sie selbst geprüft haben. Das verhindert Halluzinationen nicht vollständig. Aber die Fehlerquelle sitzt dann in einem Dokument, das Sie kennen und ändern können. Siehe auch Wissensdatenbank
Was auffällt, wenn man Assistenten von Kommunen nebeneinanderlegt
Die besten Assistenten sind selten die technisch ausgefeiltesten. Oft sind es die, bei denen jemand klar formuliert hat, was sonst nur gedacht wird. Deshalb gilt: Wer weiß, was er will, sollte es aufschreiben. Wer es nicht aufschreiben kann, wusste es meist vorher schon nicht. Dann liefert die KI ein Ergebnis, mit dessen Ungenauigkeit wir leben müssen. Kontextarbeit, auch Context Engineering genannt, zeigt vor allem eins: wie genau ein Arbeitsauftrag im Haus überhaupt formuliert ist. Wenn drei Fachbereiche drei Vorstellungen davon haben, wie eine Antwort an Bürgerinnen und Bürger klingen soll, und niemand das je entschieden hat, entscheidet es die KI. Das Chatfenster ist da ein ziemlich ehrlicher Spiegel.
Kontext ist nur so gut wie Ihre Daten
Aus falschen Daten macht auch der beste Prompt kein gutes Ergebnis. Eine veraltete Dienstanweisung in der Wissensdatenbank fällt nicht auf, weil die Antwort aus dem eigenen Haus kommt. Sie klingt vertraut. Also glauben wir ihr.
Prüfen Sie deshalb vor dem Befüllen: Welcher Stand liegt vor? Wer merkt, wenn sich etwas ändert? Gibt es zwei Versionen desselben Merkblatts, wählt das Modell eine davon aus, ohne Ihnen mitzuteilen, welche.
Benennen Sie daher eine verantwortliche Person oder ein kleines Redaktionsteam, das die Inhalte ihrer Assistenten und Wissensdatenbanken aktuell hält und Änderungen dokumentiert. Ohne Verantwortlichkeiten macht es am Ende niemand.
Kontext zu geben kostet erst einmal mehr Arbeit, aber – und das ist der entscheidende Punkt – es spart uns danach jedes Mal Arbeit und Zeit. Ein Beispiel: Sie hinterlegen die Leitlinien für wiederkehrende Bürger*innenanfragen einmal im Assistenten. Danach stellen Ihre Kolleginnen und Kollegen weniger Rückfragen und bessern seltener nach.
Und so ist es auch beim Brief vom Anfang. Ein Assistent hätte ihn nicht schöner formuliert. Mit mehr Kontext hätte er jedoch gewusst, dass jemand seit acht Wochen wartet, und der Brief hätte anders geklungen. Das ist der Unterschied zwischen einer Antwort, die gut aussieht, und einer, die wirklich zum Kontext passt.