„Der verbreitete Reflex, KI-Projekte wegen DSGVO und AI Act aufzuschieben, führt in die Irre. Die rechtlichen Vorgaben sind kein Hindernis, sondern ein Konstruktionsprinzip. Wer sie ernst nimmt, baut Systeme, die technisch wie haftungsrechtlich belastbar sind und kalkulierbar bleiben."
Lokale KI-Suite mit DATEV-Anbindung für GHJ
Eine interdisziplinäre Kanzlei aus Offenburg betreibt Open-Weight LLMs auf eigener Hardware. Die KI greift auf die DATEV-Welt und auf die kanzleieigene Dokumentenbasis zu, ohne dass Mandantendaten die Räume des Hauses verlassen.
GHJ, Offenburg
Steuerberater, Wirtschaftsprüfer, Rechtsanwälte
- 41 Kollegen mit produktivem KI-Zugang
- 0 Mandantendaten in externen Clouds
Ausgangslage
Drei Jahre KI-Boom, drei Jahre alles wie immer in der Kanzleiwelt.
Seit dem Aufkommen breit verfügbarer KI arbeitet die Branche unter einer harten Linie: Mandantendaten dürfen schlicht nicht in öffentliche KI-Dienste fließen. Berufsrecht, Verschwiegenheit, DSGVO und der AI Act ziehen rote Linien, hinter die keine Kanzlei zurückkann. Das gilt für GHJ genauso wie für jede andere Kanzlei in Deutschland.
Während andere Branchen über Produktivitätsgewinne sprachen, war in den Büros der Steuerberater, Wirtschaftsprüfer und Anwälte schlicht nichts möglich. Geschäftsführung wie Mitarbeiter erlebten das als wachsende Lücke zwischen dem, was technisch ginge, und dem, was rechtlich erlaubt ist.
Die Entscheidung bei GHJ war, die rechtlichen Vorgaben nicht als Verbot zu lesen, sondern als Bauplan. Wenn Mandantendaten die Kanzlei nicht verlassen dürfen, muss die KI in die Kanzlei kommen.
Vorgehen
Vom Workshop in Offenburg in den produktiven Betrieb, und darüber hinaus.
Wir haben nicht mit einem Modell angefangen, sondern mit den tatsächlichen Tätigkeiten in der Kanzlei. Aus dem Betrieb sind danach weitere Bausteine entstanden, die im Alltag nochmal einen Unterschied machen.
- 01
Workshop in Offenburg
Zwei Tage in der Kanzlei mit der Geschäftsführung und Mitarbeitern aus Steuer, Wirtschaftsprüfung und Recht. Wir haben tatsächliche Tätigkeiten kartiert, die rechtlichen Leitplanken erfasst und die Use-Cases gesammelt, die heute Stunden binden und morgen anders aussehen sollen. Am Ende stand eine priorisierte Liste, kein Schaubild.
- 02
Architektur und Auswahl der Modelle
Festgelegt wurde eine lokale Inferenz-Plattform auf Basis eines NVIDIA DGX Spark. Für die unterschiedlichen Aufgaben in der Kanzlei werden mehrere Open-Weight LLMs vorgehalten, jeweils dort eingesetzt, wo sie inhaltlich am besten passen. Parallel ist die Architektur für die DATEV-Anbindung und die Dokumentenbasis entstanden, inklusive Berechtigungs- und Audit-Modell.
- 03
Anbindung an DATEV und an die Dokumentenbasis
Die DATEV-Anbindung holt strukturierte Mandanten- und Buchhaltungsdaten kontrolliert in die KI-Suite, ohne sie zu duplizieren oder nach außen zu geben. Zusätzlich ist die kanzleieigene Dokumentenwelt indexiert: Schriftsätze, Gutachten, Vorlagen, Vertragsmuster und interne Wissensdokumente. Damit antwortet das System nicht nur auf Modellwissen, sondern auf das gelebte Wissen der Kanzlei.
- 04
Rollout an die Belegschaft
In begleiteten Sitzungen wurden die Teams an die KI-Suite herangeführt: was kann das System, wo sind die Grenzen, wie bleibt der Mandant geschützt. Statt einer Schulung am Stück entstand ein laufender Austausch, der neue Use-Cases sichtbar macht und in den Betrieb zurückspielt.
- 05
Aus dem Betrieb gewachsen: das Excel-Add-in
Im Betrieb wurde sichtbar, dass ein erheblicher Teil der Arbeit in Excel stattfindet und die Kollegen dort regelmäßig in die KI-Suite und zurück wechseln. Daraus wurde der nächste Schritt: ein Excel-Add-in, das die lokale KI-Suite direkt in die Excel-Datei holt. Die KI liest die Tabelle und schreibt auch selbst hinein: Formeln erklären und anpassen, Auswertungen aus Rohdaten erzeugen, Plausibilitäten prüfen, alles direkt in Excel.
Wirkung
Aus der Beobachterrolle in den Produktiveinsatz.
Aus der Frage „wann dürfen wir endlich" ist „was machen wir damit morgen" geworden. Die Kanzlei nutzt KI heute genauso selbstverständlich wie Branchen, in denen das schon länger geht. Mit dem Unterschied, dass die rechtliche Grundlage tragend bleibt, nicht nachgereicht.
Wiederkehrende Aufgaben in Steuer, Prüfung und Recht laufen schneller, Rechercheaufwand sinkt, Erstentwürfe entstehen in Minuten statt Stunden. Die menschliche Beurteilung bleibt die Instanz, in der die Verantwortung liegt. Das System entlastet, es entscheidet nicht.
Das Vorgehen ist über die Kanzlei hinaus belastbar geworden: GHJ begleitet seither auch andere Unternehmen bei der digitalen Transformation ihrer Finanzfunktion und gibt die eigenen Erfahrungen mit lokaler, rechtssicherer KI weiter.
Sie würden KI im Haus nutzen, dürfen aber keine Daten in die Cloud geben?
Lokale KI, die rechtssicher arbeitet, gibt es nicht nur in Offenburg. Den gleichen Aufbau setzen wir auch für andere Kanzleien und für Unternehmen unter vergleichbaren regulatorischen Vorgaben um: lokale Modelle auf eigener Hardware, kontrollierte Anbindung an Fach- und Dokumentensysteme, sauber dokumentierter Datenschutz entlang Berufsrecht und AI Act. In einem Erstgespräch sehen wir, ob das auch Ihre Pflichtenlage abdeckt.