So wurde die erste generative KI-Lösung von Haufe entwickelt

So funktioniert die generative KI von Haufe

Was ist CoPilot Tax? 

Andreas Dersch: CoPilot Tax ist eine generative KI-Lösung. Sie beantwortet Fragen zu allen Kerntätigkeiten in einer Steuerkanzlei und handelt ganz nach unserem Motto: "Schneller vom Problem zur Lösung!"

Tilman Ludewigt: Die KI wertet die gestellte Frage aus und stellt anschließend passende Quellen aus dem rechtssicheren Datenbestand unserer Fachdatenbank Haufe Steuer Office zusammen. Mit Hilfe eines sogenannten Large Language Models generiert es schließlich eine eigene Antwort auf die gestellte Frage. Die für die Antwort genutzten Quellen werden ausgewiesen. Dadurch können sich Nutzer intensiver mit dem Thema beschäftigen und/oder die Richtigkeit der KI-Antwort verproben. 

Wie wurde CoPilot Tax entwickelt? 

Andreas Dersch: Zunächst haben wir analysiert, an welcher Stelle die neue KI-Technologie zum derzeitigen Stand Steuerexpertinnen und -experten in ihrer täglichen Arbeit am meisten unterstützen kann. Für uns geht es darum, unseren Kunden klare Mehrwerte zu schaffen. Wir wollen nicht einfach nur KI in unsere Produkte einbauen, weil das gerade der große Hype ist und es alle tun. Die Befragungen von Mitarbeitenden in Kanzleien zeigten uns ein eindeutiges Bild: Sie wünschen sich eine bestmögliche Unterstützung bei den alltäglichen Recherchetätigkeiten.

Tilman Ludewigt: Auf dieser Grundlage legten wir in einer engen Zusammenarbeit von KI- und Fach-Experten mit der Entwicklung los. Entstanden ist CoPilot Tax, ein Chatbot, der auf die Inhalte des Haufe Steuer Office zurückgreift, um Anfragen mittels generativer KI zu bearbeiten. 

CoPilot Tax nutzt ein sogenanntes RAG-System (Retrieval-Augmented Generation), was bedeutet, dass der Bot basierend auf der semantischen Bedeutung einer Anfrage passende Textpassagen und Dokumente aus dem Haufe Steuer Office selektiert und daraus eine eigene, zielgenaue Antwort formuliert. Dies ermöglicht es CoPilot Tax, präzise und kontextbezogen auf Nutzeranfragen zu reagieren.

Der Chatbot wurde mit technischen Softwarekomponenten unseres Partnerunternehmens Deepset realisiert, einem langjährig renommierten Akteur im KI-Markt. Diese Kooperation ermöglichte uns eine schnelle Entwicklungszeit. Parallel dazu entwickeln wir unsere hauseigenen Fähigkeiten kontinuierlich weiter, um unseren Kunden nachhaltige KI-Lösungen präsentieren zu können. 

Andreas Dersch: Den Namen CoPilot Tax haben wir übrigens bewusst in Anlehnung an den KI-Copilot von Microsoft gewählt.

Steuerfachwissen und KI treffen aufeinander 

Welche Methoden verwendet ihr, um sicherzustellen, dass das Programm korrekt arbeitet und zuverlässige Informationen aus der Steuer-Fachdatenbank liefert? 

Tilman Ludewigt: Um sicherzustellen, dass CoPilot Tax korrekt funktioniert und mit zuverlässigen Informationen aus der Steuer-Fachdatenbank passgenaue Antworten liefert, setzen wir auf eine Kombination aus menschlicher Expertise und automatisierten Systemen.

Unsere Steuerredaktion, die aus hochqualifizierten Fachexperten besteht, führt regelmäßig Tests durch, aus denen wir gemeinsam die nächsten Schritte zur Qualitätsverbesserung ableiten. Dabei kommt ein umfangreicher Prüfkatalog zum Einsatz, der sicher stellt, dass alle Qualitätsstandards und Anforderungen an eine KI-Antwort erfüllt sind. 

Neben diesen manuellen Überprüfungen haben wir spezielle Softwarelösungen entwickelt, die automatisierte Evaluationsmechanismen nutzen. Diese Software arbeitet mit quantitativen Kriterien, um die Leistungsfähigkeit unseres Systems zu messen. Zur weiteren Absicherung haben externe Penetrationstests bestätigt, dass unser System sicher ist und keine Inhalte außerhalb des Haufe Steuer Office abrufen kann. 

Das Fachwissen des CoPilot Tax besteht ausschließlich aus den rechtssicheren Inhalten des Haufe Steuer Office.

Eine 100-prozentige Rechtssicherheit bietet die Anwendung aber nicht? 

Andreas Dersch: Trotz der Genauigkeit, mit der wir arbeiten, ist beim Einsatz von KI stets eine gewisse Unsicherheit präsent, da Stochastik eine Rolle spielt und „kreative Ausführungen“ der KI nicht vollständig auszuschließen sind. 

Das Fachwissen des CoPilot Tax besteht allerdings ausschließlich aus den rechtssicheren Inhalten des Haufe Steuer Office. Auf dieser Grundlage haben wir Fehlerquellen zumindest minimiert. Trotzdem sollte wie bei jeder KI die Antwort stets mit wachem Verstand gelesen und gegebenenfalls geprüft werden. Hierzu werden bei uns die Quellen, die der Antwort zugrunde liegen, mit Fußnoten ausgewiesen. Sie können über einen Link jederzeit schnell und einfach im Haufe Steuer Office aufgerufen werden. 

Es gibt derzeit (noch) keine KI, die fehlerlos arbeitet. Das ist immerhin eine Gemeinsamkeit mit uns Menschen. In diesem Bewusstsein sollten wir dieses mächtige Werkzeug zu unser aller Vorteil nutzen. 

Unter dem Motto "Chat with your content" können Nutzer sich mit ihren Steuerinhalten „unterhalten“.

Das erledigt die generative KI für Steuerberater

Könnt ihr uns einige Beispiele geben, welche Art von Fragen oder Aufgaben CoPilot Tax für Steuerberater lösen kann? 

Tilman Ludewigt: Die besondere Fähigkeit des CoPilot liegt darin, den Sinn und die Semantik einer Anfrage zu erfassen und basierend darauf relevante Inhalte aus dem Haufe Steuer Office zu extrahieren. Dies ermöglicht eine Art "Gespräch" mit der Datenbank, das weit über klassische Suchmethoden hinausgeht. 

Unter dem Motto "Chat with your content" können Nutzer sich mit ihren Steuerinhalten "unterhalten". Sie können spezifische Fragen stellen, die CoPilot Tax versteht und darauf mit präzisen, kontextbezogenen Antworten reagiert.

Andreas Dersch: CoPilot Tax übernimmt damit viele einzelne Schritte, die bei bisherigen Recherchen der Mensch übernehmen musste. Das fängt bei der „richtigen“ Fragestellung an, die noch einmal präzisiert wird, geht über die Analyse der zahlreichen, relevanten Dokumente, bis zur Zusammenstellung der konkreten Antwort auf die Frage.

Dies gestaltet den Zugang zu Informationen nicht nur schneller und effizienter, sondern auch intuitiver, da die Interaktion in Dialogform erfolgt. Das ist besonders wertvoll bei komplizierten steuerrechtlichen Themen, bei denen präzise und fundierte Informationen von großer Bedeutung sind. 

Gibt es bestimmte Anfragen oder Szenarien, bei denen die KI nicht helfen kann? Wo liegen die aktuellen Einschränkungen der Anwendung? 

Andreas Dersch: Der CoPilot Tax ist strikt darauf ausgelegt, ausschließlich steuerrechtliche Inhalte zu behandeln. Fragen, die außerhalb dieses Kontextes liegen, wie beispielsweise Anfragen zum aktuellen Wetter oder zur Einwohnerzahl von Paris, sind nicht vorgesehen und werden aufgrund der implementierten Content-Filter nicht beantwortet. Diese Filter sorgen dafür, dass sich CoPilot Tax auf seine Kernkompetenzen konzentriert und Themen charmant abblockt, die nicht mit dem Steuerrecht in Verbindung stehen. 

Tilman Ludewigt: Aktuell beschränkt sich CoPilot Tax darauf, ausschließlich textliche Inhalte aus dem Haufe Steuer Office zu verwenden. Das bedeutet, dass es derzeit nicht möglich ist, die vielen integrierten Smart Solutions, Tools und andere Arbeitshilfen direkt über den Chatbot zu nutzen. Aber CoPilot Tax wird kontinuierlich weiterentwickelt, zahlreiche weitere Funktionen sind geplant und werden basierend auf Rückmeldungen und Feedback der Nutzer sukzessive umgesetzt. Man sollte sich der Sache eher wie in einem Gespräch mit einem Kollegen annähern.

Wie interaktiv ist CoPilot Tax? Kann er mit Steuerberatern in Echtzeit kommunizieren und auf Nachfragen reagieren, um beispielsweise komplexere Probleme schrittweise zu lösen? 

Tilman Ludewigt: CoPilot Tax ist in der Tat ein Chatbot, der speziell für den Dialog und die Interaktion im Bereich des Steuerrechts entwickelt wurde. Nutzer können Rückfragen stellen, Klärungsfragen einreichen oder sich allgemein über steuerrechtliche Themen unterhalten. Eine schrittweise Lösung für Probleme mit Inhalten, die auf dem lizenzierten Haufe Steuer Office basieren ist dadurch in einem Gesprächsformat möglich. Je höher die lizenzierte Version, desto umfassender und detaillierter sind die verfügbaren Inhalte, auf die der CoPilot zugreifen kann. Aufgrund der stochastischen Natur der Künstlichen Intelligenz ist bei komplexeren Anfragen das korrekte "Prompten" von großer Bedeutung. Dies bedeutet, dass die Art und Weise, wie Fragen oder Anweisungen formuliert werden, entscheidend dafür sein kann, wie effektiv der CoPilot reagiert. Obwohl unser CoPilot so gestaltet ist, dass auch Personen, die noch nie mit KI gearbeitet haben, einfach Fragen eingeben können, wird das gezielte Anleiten des CoPiloten durch präzise Formulierungen umso wichtiger, wenn spezifische Antworten oder Lösungen benötigt werden.

Andreas Dersch: Und genau deshalb halte ich es für sinnvoll, komplexe steuerliche Fragestellungen schrittweise im Dialog mit CoPilot Tax zu lösen. Meines Erachtens macht es keinen Sinn zu versuchen, eine komplexe Fragestellung mit allen dafür notwendigen Informationen in einem einzigen Prompt unterzubringen. Man sollte sich der Sache eher wie in einem Gespräch mit einem Kollegen annähern. Dort geht man auch eher schrittweise vor, klärt zunächst das Grundsätzliche und steigt dann sukzessive in Details oder Abwandlungen ein. Wir werden jedenfalls die Nutzer mit entsprechenden Tipps und Tricks dabei unterstützen, den CoPiloten effektiv zu bedienen. Diese Empfehlungen sind darauf ausgerichtet, Nutzern zu zeigen, wie sie ihre Anfragen optimal formulieren, um die gewünschten Ergebnisse zu erzielen. Letztendlich sollte man den CoPilot Tax aber einfach ausprobieren, die Anwendung ist sehr intuitiv. 

Wie steht es um die Lernfähigkeit der KI? Kann sie aus den Interaktionen mit den Steuerberatern lernen und ihre Antworten und Lösungsstrategien im Laufe der Zeit verbessern? 

Tilman Ludewigt: CoPilot Tax nutzt exklusiv die Inhalte des Haufe Steuer Office, dessen Datenqualität und Rechtssicherheit durch das umfassende Know-how unserer Autoren und der Steuerredaktion garantiert sind. Der CoPilot wurde speziell so entwickelt, dass er sich streng an diese rechtssichere Datengrundlage hält. Aktuell verfügt der CoPilot nicht über eine eigenständige Lernfähigkeit, um die Konsistenz und Rechtssicherheit der bereitgestellten Informationen zu gewährleisten. 

Andreas Dersch: Unsere KI- und Fach-Experten arbeiten allerdings täglich gemeinsam daran, die Rahmenbedingungen und die bereitgestellten Informationen für CoPilot Tax zu optimieren, um die Antworten und Lösungsstrategien stetig zu verbessern. Insgesamt stehen wir beim Thema KI erst am Anfang einer spannenden Entwicklung, die wir als große Chance für die Steuerberatung sehen – nicht zuletzt im Hinblick auf den sich vergrößernden Fachkräftemangel. Wir sehen sie auch als große Chance für uns selbst, denn bei Haufe arbeiten KI- und Fach-Experten Hand in Hand. Eine Ausgangsposition, die in Deutschland nicht sehr häufig anzutreffen ist. 

Und zu guter Letzt: CoPilot Tax is powered by rudolf.ai – was soll das bedeuten? 

Andreas Dersch: Unter rudolf.ai bündeln wir bei Haufe unsere KI-Aktivitäten. Der Name ist in Anlehnung an unseren Firmengründer Rudolf Haufe entstanden, der sein Unternehmen von Anfang an mit dem Innovations-Gen ausgestattet hat. Deshalb bin ich mir ganz sicher, dass auf CoPilot Tax sehr bald weitere, innovative KI-Anwendungen folgen werden.

Tilman Ludewigt: Und auch CoPilot Tax folgt diesem Innovationsgedanken. Deshalb ist unsere Pipeline für mögliche neue Features und Funktionen bereits prall gefüllt. Jetzt sind aber zunächst einmal die Nutzer am Zug. An ihnen werden wir uns ausrichten, um die richtigen und wichtigen Neuerungen zeitnah an den Markt zu bringen.