KI-Sprachmodell für die Verwaltung wird jetzt in NRW getestet

Für die öffentlichen Verwaltungen ist Künstliche Intelligenz (KI) ein wichtiges Instrument, um Arbeits- und Leistungsprozesse effektiver zu machen und den Mangel an Fachkräften durch verbesserte Technologie einigermaßen auszugleichen. Doch aufgrund der vielen sensiblen Daten in den Behörden muss der Einsatz von KI besonders sicher gestaltet werden. Daher reichen die bislang auf dem Markt etablierten KI-Lösungen nicht für die in dieser Hinsicht besonders hohen Anforderungen in den öffentlichen Verwaltungen aus.

Projekt „GovTeuken“

Auf Beschluss des IT-Planungsrats, dem zentralen politischen Gremium der Digitalisierung der öffentlichen Verwaltung, ging das Projekt GovTeuken des Landes Nordrhein-Westfallen an den Start. In dessen Rahmen wird jetzt ein multilinguales Open-Source-Sprachmodell für den spezifischen Einsatz in Verwaltungsbehörden getestet werden – Teuken-7B. Mit dieser „KI-Sprache“ soll den Behörden ein sicherer Zugang zu generativer KI ermöglicht werden, unter Einhaltung aller Datenschutz- und Compliance-Standards der Europäischen Union.

Eigenschaften von Teuken-7B

Teuken-7B wird laut dem für die Koordination von GovTeuken zuständigen Landesbetriebs Information und Technik Nordrhein-Westfalen „die Verwaltungssprache, Abläufe und Regeln verstehen, vereinfachen und erklären“. Es ist ein multilinguales großes Sprachmodell, das als Open-Source-Alternative zu den bislang dominierenden und vorwiegend englischsprachigen Modellen positioniert werden soll. Daher ist eine seiner Haupteigenschaften, dass es mit rund 50 Prozent nicht-englischen Pretraining-Daten entwickelt und darüber hinaus in allen 24 EU-Amtssprachen trainiert wurde. Das KI-Instrument zerlegt Wörter in einzelne Wortbestandteile, um so Antworten deutlich schneller zu generieren – und sogar Energiekosten einsparen hilft, weil es dabei besonders energieeffizient arbeitet. Durch die künftige Einbindung von Teuken-7B in die Applikation NRW.Genius wird das Verwaltungspersonal unter anderem dabei unterstützt, Dokumente und Texte zusammenzufassen. Bei erfolgreicher Testung in Nordrhein-Westfalen soll die KI-Lösung auch Verwaltungen bundesweit zur Verfügung stehen.

Ziele von NRW.Genius

Mit NRW.Genius hat der Landesbetrieb Information und Technik Nordrhein-Westfalen eine eigene KI-Verwaltungs-Applikation geschaffen. Der KI-Verwaltungsassistenz wird kontinuierlich um neue Funktionen erweitert. Künftig können Behörden eigene Datensammlungen anlegen, um den Assistenten mit fachspezifischem Wissen zu versorgen. Ein weiteres Ziel von NRW.Genius ist die Gewährleistung eines sicheren und datenschutzkonformen Betriebs. So können keine Informationen über das Verhalten oder die Aktivitäten der Nutzenden gespeichert werden. Damit sind auch keine Rückschlüsse auf individuelle Nutzungsweisen möglich. Gleichzeitig werden alle Datenübertragungen verschlüsselt. Nutzer können somit darauf vertrauen, dass ihre Daten nicht von den Anbietern für das Nachtraining der Sprachmodelle verwendet werden und vor unbefugtem Zugriff geschützt bleiben

Beteiligte Forschungseinrichtungen

Das KI-Sprachmodell Teuken-7B wurde im Forschungsprojekt OpenGPT-X unter Leitung der Fraunhofer-Institute für Intelligente Analyse- und Informationssysteme IAIS und für Integrierte Schaltungen IIS entwickelt und auf der Plattform Hugging Face bereitgestellt. Weitere Partner waren das Forschungszentrum Jülich, der KI Bundesverband, die TU Dresden, das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) sowie der Westdeutsche Rundfunk (WDR).