Software & KI

Ihre Daten bleiben, wo sie hingehören

Für Kanzleien, Praxen, Personalabteilungen und Ingenieurbüros ist die Frage nicht, was KI kann, sondern wohin die Daten fließen. Wir richten eine KI-Umgebung ein, die diese Frage beantwortet, bevor jemand sie stellen muss.

Ausgangslage und Lösung

Was Sie kennen

Der Alltag heute

  • Das Team nutzt öffentliche Chat-Dienste, offiziell verboten, inoffiziell täglich
  • Der Datenschutzbeauftragte sagt Nein, die Geschäftsführung will trotzdem KI
  • Ein Anbieter verspricht DSGVO-Konformität und meint damit ein Häkchen

Was wir tun

Eine Umgebung, die die Frage beantwortet

  • Eigene Oberfläche auf Open-Source-Basis, Modelle in Rechenzentren in der EU (Region Frankfurt), in der EU oder im eigenen Haus
  • Rollen, Vorgaben je Abteilung, begrenzte Websuche, Kostenlimits, Abrechnung pro Person
  • Regeln für das Team, schriftlich, und Schulung, damit sie gelten

Drei Stufen von Nähe

Welche davon die richtige ist, entscheidet nicht die Technik, sondern Ihre rechtliche Lage und Ihr Budget.

Deutschland

Rechenzentrum in Deutschland

Standort und Betreiber in Deutschland, deutscher Vertragspartner. Der übliche Weg, wenn Berufsgeheimnis oder Betriebsrat im Spiel sind.

EU

Rechenzentrum in der EU

Betrieb bei einem europäischen Anbieter mit Auftragsverarbeitungsvertrag nach DSGVO. Der günstigste Weg und für viele Fälle ausreichend.

Lokal

Server in Ihrem Haus

Die Modelle laufen auf Ihrer eigenen Hardware, nichts verlässt Ihr Netz. Am aufwendigsten in Anschaffung und Wartung und in manchen Fällen die einzige tragfähige Antwort.

Was dazugehört

  • Auswahl der Betriebsart: Rechenzentrum Deutschland, EU oder eigener Server
  • Einrichtung der Oberfläche und der Modelle, mit vertrauter Bedienung, damit die Umgebung genutzt und nicht am ersten Tag umgangen wird
  • Zugänge, Rollen, Vorgaben je Bereich, auf Wunsch angebunden an Ihre bestehende Anmeldung (SSO)
  • Anbindung eigener Dokumente und Wissensquellen
  • Kostenlimits, Kontextverdichtung, begrenzte Websuche
  • Protokollierung ohne Inhalte, wo Berufsgeheimnis gilt
  • Regelwerk und Schulung
  • Betrieb und Modellwechsel, wenn bessere Modelle kommen

Die Technik dahinter

Für alle, die es genauer wissen wollen oder diese Seite an ihre IT weiterreichen. Wir setzen bewusst auf offene, verbreitete Bausteine statt auf eine Eigenentwicklung, die niemand außer uns pflegen kann.

Oberfläche

Wie die bekannten Dienste

Ihr Team bekommt eine eigene Oberfläche, die aussieht und funktioniert wie die bekannten Chat-Dienste. Sie baut auf Open WebUI auf, einer offenen, weit verbreiteten Lösung, und bringt Nutzerverwaltung, Gruppen und den Zugriff auf Ihre eigenen Dokumente mit.

Modelle

Offene Sprachmodelle

Zum Einsatz kommen Modelle mit offenen Gewichten, die Sie selbst betreiben dürfen, derzeit vor allem aus den Familien Llama, Mistral, Qwen und Gemma. Welches passt, entscheidet die Aufgabe und die verfügbare Hardware, nicht die Mode. Ein Wechsel ist später möglich, ohne die Umgebung neu aufzubauen.

Betrieb

Vom Desktop bis zum Rack

Die Modelle laufen auf Hardware in Ihrem Haus oder in einem Rechenzentrum in Deutschland. Für kleine Teams reicht inzwischen eine kompakte Maschine der Desktop-Klasse, etwa NVIDIA DGX Spark. Für größere Häuser oder viele gleichzeitige Nutzende wird daraus ein GPU-Server im Rack. Die Stufe ergibt sich aus der Zahl der Nutzenden und der nötigen Modellgröße, nicht umgekehrt.

Warum hier Produktnamen stehen: Sie sollen wissen, worauf Sie sich einlassen, und Ihre IT kennt diese Namen. Sie sind kein Versprechen. Das Feld bewegt sich schnell, und wir prüfen bei jedem Projekt neu, was zu Ihrer Lage passt. Genannt ist der Stand, mit dem wir aktuell arbeiten.

Wann sich das lohnt, und wann nicht

Eine eigene KI-Umgebung ist teurer als ein fertiger Dienst. Ob sie sich für Sie rechnet, hängt von Ihren Daten ab. Das sagt Ihnen zum Beispiel der Readiness-Check, bevor Hardware bestellt wird.

Es lohnt sich

Wenn die Daten den fertigen Dienst ausschließen

  • Mandanten- und Patientendaten
  • Bewerberunterlagen
  • Konstruktionsdaten
  • Betriebsgeheimnisse

Es lohnt sich nicht

Wenn nichts Vertrauliches im Spiel ist

  • Allgemeine Textarbeit ohne vertrauliche Inhalte
  • Fertige Dienste sind dann meist günstiger und besser

Beispiel

Sichere KI im Team · KI · Steuerberatung

Aufgabe: Ein eigener KI-Arbeitsplatz für das Team, ohne dass Mandantendaten bei öffentlichen Chat-Diensten landen.

Ergebnis: Die Steuerkanzlei Hanke arbeitet mit KI, Verarbeitung in Rechenzentren in der EU.

Zur Referenz

So arbeiten wir

Schritt 1

Rechtliche Lage

Berufsrecht, Betriebsrat, Datenkategorien; daraus die Betriebsart.

Schritt 2

Einrichtung

Oberfläche, Modelle, Zugänge, Vorgaben, Limits.

Schritt 3

Regeln und Schulung

Was darf wer mit welchen Daten; ein Tag mit dem Team.

Schritt 4

Betrieb

Kosten im Blick, Modelle aktuell, Fragen beantwortet.

Häufige Fragen

Wenn Ihre Branche es verlangt, richten wir eine Umgebung ein, die vollständig in Deutschland, in der EU oder in Ihrem Haus läuft. Das klären wir vorher, nicht hinterher.

Bei allgemeinen Aufgaben nicht ganz. Bei fachlich engen Aufgaben mit Ihren Unterlagen ist der Abstand kleiner, als die meisten erwarten, und oft irrelevant, weil die Alternative kein besseres Modell ist, sondern gar keines.

Das hängt davon ab, wie viele Personen gleichzeitig arbeiten und wie groß die Modelle sein müssen. Für viele Mittelständler reicht ein einzelner Server mit einer geeigneten Grafikkarte, für kleine Teams sogar eine kompakte Maschine der Desktop-Klasse. Die Zahl nennen wir vor der Bestellung, nicht danach.

Nein, das wäre eine unzulässige Vereinfachung. Der Betrieb im eigenen Haus beseitigt die Drittlandsfrage; Zweckbindung, Löschfristen und Betroffenenrechte bleiben Ihre Aufgabe. Wir liefern die Bausteine dafür.

Ihre IT, Ihr Dienstleister oder wir. Wir dokumentieren so, dass alle drei Wege offen bleiben.

Wenn es vor allem um allgemeine Textarbeit geht, bei der nichts Vertrauliches im Spiel ist. Dann sind fertige Dienste meist günstiger. Welcher Fall bei Ihnen vorliegt, klären wir vor jeder Anschaffung, zum Beispiel im Readiness-Check.