„KoKI“
… ist der Name für das Produkt der kdvz. Darunter verstehen wir verschiedene Tools, Lösungen und Leistungen: Die Plattform selbst ist KoKI und basiert auf der OpenSource Software „OpenWebUI“. Diese Plattform bietet die Möglichkeit, verschiedene LLMs (Large Language Models) einzubinden und in einer Chat-Oberfläche als sog. Assistenten zur Verfügung zu stellen. In der Plattform haben wir mehrere Assistenten voreingestellt – einer davon heisst ebenfalls „KoKI“ und ist der von uns präferierte allgemeine Assistent. Ausserdem bieten wir Information, Aufklärung, Beratung und Schulung. Und alles das ist „KoKI“.
Und was ist mit ChatGPT?
Die Plattform KoKI wird mit lokalen LLMs auf zertifierten Servern der kdvz gehostet. Damit bieten wir eine geschützte Umgebung zur sicheren Nutzung der KI und 100% Kontrolle über unsere Daten. KoKI ist also eine lokale und sichere Alternative zu ChatGPT und anderen KI-Plattformen (Claude, Gemini usw.), die nicht in der EU gehostet sind und den in Deutschland geforderten Datenschutz nicht so ernst nehmen oder sogar per Definition verletzen.
Ist KoKI so leistungsstark wie ChatGPT?
Nein, natürlich nicht. Denn es ist eine lokale Plattform mit lokalen LLMs auf lokalen Servern. Die Modelle sind zwar vom Typ her die selben wie bei ChatGPT, aber kleiner und damit weniger leistungsfähig. Sie müssen kleiner sein, weil unsere Server weniger Leistung haben. Rechnerleistung ist sehr teuer und wir wollten eine bezahlbare Plattform schaffen mit „ausreichender“ Leistung. Denn sind wir mal ehrlich: Die Leistung von ChatGPT brauchen wir in 99% der Anwendungsfälle in der öffentlichen Verwaltung nicht. Einen Bescheid formulieren? Kann KoKI ohne Probleme. Ein umfangreiches Protokoll zusammenfassen? Kein Problem. Dienstanweisungen verständlicher machen? Auch das. Und je mehr „Kontext“ wir dabei mitgeben, desto näher kommen wir an die Leistung der grossen Modelle in USA heran. Siehe unten #KoKIbessermachen
KoKI – eine Alternative?
Unbedingt. KoKI kann dasselbe wie ChatGPT, nur nicht ganz so gut. Dafür ist es lokal, DSGVO-konform und 100%ig sicher. Und es kostet nur ein drittel.
Eine echte Alternative.
Wir entwickeln das Produkt KoKI ständig weiter
Wenn es ein neues und besseres LLM gibt, dann testen wir es, lassen es von unserem Datenschutz prüfen und wenn wir es für gut und sicher halten, dann binden wir es ein und stellen es für Sie zur Verfügung. Ist es besser als das aktuelle Modell im „KoKI“-Assistenten, ersetzen wir es auch hier.
Ausserdem erweitern wir die Funktionen der Oberfläche, programmieren Schnittstellen und schaffen neue Fähigkeiten für KoKI. In Kooperation mit der ITK Rheinland, der Südwestfalen-IT und dem AI Village Hürth haben wir ein agiles SCRUM-Team gebildet, das neue Lösungen sucht, realisiert und einbindet. Diese werden dann vom Produktteam getestet, vom Datenschutz geprüft und freigegeben, womit sie dann allen Kunden zur Verfügung stehen. Was aktuell schon geht, woran wir arbeiten und was wir vorhaben, können Sie immer hier im Blog nachlesen.
Und auch Sie können KoKI besser machen!
Alle Kunden können auf Wunsch ihren User-Account zu einem sog. „Entwickler“-Account erweitern lassen – und das ohne zusätzliche Kosten. Mit diesem Entwickler-Account haben Sie dann die Möglichkeit, selbst Wissensdatenbanken anzulegen, Systemprompts zu schreiben und so themenspezifische Assistenten zu erstellen, die Experten sind auf ihrem Gebiet.
Dabei haben Sie die Auswahl aus einer Reihe verschiedener LLMs und wie das geht, zeigen wir Ihnen im → Lernvideo Assistenten erstellen
Mit einem Entwickler-Account haben Sie auch automatisch Zugriff auf unseren Chat „Anwenderforum“ im BundesMessenger und sind herzlich eingeladen an unserem monatlichen Austausch per VideoCall teilzunehmen.
KoKI – eine starke Community
Plattform, LLMs, Assistenten, Wissensdatenbanken, Entwicklerteam, Lernvideos und Anwenderforum – als kdvz haben wir es uns zur Aufgabe gemacht, für Sie das beste Paket schnüren zu können, das möglich ist. Denn wir sind fest davon überzeugt, dass wir gemeinsam stärker sind als alleine.
Und das alles ist KoKI – die kommunale KI.