Von LLMs bis Agentensystemen
- Taxy.io
- 6. Nov.
- 3 Min. Lesezeit
KI-Architekturen verstehen
November 2025

Viele Kanzleien sprechen von „der KI“, als gäbe es nur ein Modell. Tatsächlich gibt es jedoch eine ganze Bandbreite an Architekturen: von großen Sprachmodellen und Retrieval-Systemen bis hin zu Multi-Agenten-Architekturen und klassischen regelbasierten Lösungen. Wer die Unterschiede kennt, kann nicht nur die passenden Tools für seine Kanzlei auswählen, sondern auch besser einschätzen, wo Risiken liegen und in welchen Bereichen KI tatsächlich einen Mehrwert bietet.
Large Language Models (LLMs) - stark, aber nicht unfehlbar
Large Language Models sind beeindruckende Systeme. Sie wurden auf riesigen Datenmengen trainiert und können Sprache verstehen, analysieren und generieren. Dank ihrer Flexibilität lassen sich unterschiedlichste Aufgaben bearbeiten - von der Erstellung von Texten bis hin zur Beantwortung allgemeiner Fragen. Doch LLMs sind nicht perfekt. Oft arbeiten sie wie eine „Black Box“: Es ist schwer nachzuvollziehen, wie genau sie zu einer Antwort kommen. Außerdem kann es passieren, dass sie auf veraltete Informationen zurückgreifen oder keine Quellen angeben. Für den sensiblen Rechts- und Steuerbereich bedeutet das, dass Antworten stets überprüft werden müssen.
Retrieval-Augmented Generation (RAG) - Antworten mit Quellen
RAG kombiniert die Stärken von LLMs mit externen Datenbanken. Anstatt sich nur auf das Trainingswissen des Modells zu verlassen, greift RAG auf aktuelle Dokumente oder Fachinformationen zu. Dadurch entstehen nicht nur korrekte, sondern auch nachvollziehbare Antworten, da die Quellen direkt mitgeliefert werden. Gerade in der Steuer- und Rechtsberatung ist das ein entscheidender Vorteil. Allerdings hängt die Qualität der Antworten stark von der verwendeten Datenbank ab. Gut gepflegte und aktuelle Daten sind dabei von entscheidender Bedeutung.
Multi-Agentensysteme - Wenn KIs im Team arbeiten
Multi-Agentensysteme übertragen die Idee des Teamworks auf die Ebene der KI. Anstatt eine einzelne KI alle Aufgaben erledigen zu lassen, übernehmen mehrere spezialisierte Agenten unterschiedliche Aufgaben: Der eine recherchiert, der andere strukturiert die Informationen und der nächste erstellt daraus fertige Texte. In der Praxis bedeutet das, dass selbst komplexe juristische oder steuerliche Abläufe effizient abgebildet werden können. Die einzelnen Agenten arbeiten Hand in Hand und liefern Ergebnisse, die präziser und belastbarer sind als die eines einzelnen Modells.
Regelbasierte Systeme - Die klassischen Pioniere
Regelbasierte Systeme gelten als die Urväter der KI. Da sie nach festen Wenn-Dann-Regeln arbeiten, sind sie besonders zuverlässig in klar definierten Bereichen. Ihre Stärke liegt in der Stabilität: In standardisierten Prozessen liefern sie konsistente Ergebnisse. Gleichzeitig stoßen sie aber an ihre Grenzen, sobald Aufgaben komplexer werden oder neue Fragestellungen auftreten. Flexibilität ist kaum möglich und jede Anpassung erfordert manuelle Eingriffe.
Warum Sie die Unterschiede kennen sollten
Für Kanzleien ist es entscheidend, die Architektur eines KI-Tools zu verstehen. Nicht jede Lösung eignet sich gleichermaßen für den Rechtsmarkt und die mit den verschiedenen Technologien verbundenen Risiken variieren. Fragen der Nachvollziehbarkeit, des Datenschutzes und der Aktualität der Informationen hängen eng mit der Architektur zusammen. Nur wer die Funktionsweise eines Tools versteht, kann es verantwortungsvoll einsetzen und den größtmöglichen Nutzen erzielen.
Vom Technik-Check zur praktischen Entscheidung
Bevor eine Kanzlei ein KI-Tool einsetzt, lohnt es sich, einen genauen Blick unter die Haube zu werfen. Nutzt das Tool ein Large Language Model oder eine RAG-Architektur? Arbeiten mehrere Agenten zusammen? Gibt es Quellenangaben, und ist die Funktionsweise nachvollziehbar? In unserem KI Beta Club können Steuerberater die Technologien direkt ausprobieren. Sie können erleben, wie RAG-Systeme und Multi-Agenten-Architekturen zusammenspielen, um Recherche, Strukturierung und Textgenerierung effizient zu verbinden. Werden Sie jetzt Mitglied und bringen Sie sich und Ihr Team auf das nächste Level.
Über Taxy.io
Taxy.io wurde 2018 als Spin-Off der RWTH Aachen gegründet und entwickelt innovative Software, mit der Steuerberater und Angehörige rechtsberatender Berufe ihre Prozesse automatisieren können. Wir arbeiten mit einem 45-köpfigen Team aus talentierten und qualifizierten Experten daran, unseren Kunden innovative Anwendungen anzubieten, die ihnen durch den Steuer-Dschungel helfen.
Unser Ziel ist es, die führende Plattform für Automatisierungslösungen für die Steuer- und Rechtsberatung zu entwickeln und dadurch die vollautomatische, proaktive Steuer- und Rechtsberatung zu ermöglichen.

