agent[030]
+49 178 4782133 15 Minuten Kennenlernen

Start/Lokale KI

Lokale KI · Berlin und Umland

Lokale KI: Das Modell läuft bei dir im Haus, nicht bei einem Anbieter im Netz

Die meisten Betriebe zögern beim Thema KI aus einem Grund: Sie wollen keine Angebote, Verträge und Kundendaten in ein fremdes System laden. Lokale KI löst genau das — der Rechner steht bei dir, die Daten verlassen das Firmennetz nicht. Wir liefern Hardware, Einrichtung und Betreuung, und sagen dir vorher, was ein lokales Modell kann und was besser woanders bleibt.

agent030 Bär

Im Haus

Anfragen und Dokumente verlassen dein Netz nicht

Kein Nutzerpreis

Ob fünf oder fünfzig Leute damit arbeiten, ändert die Kosten nicht

Vor Ort

Aufbau bei dir, Anfahrt in Berlin statt Warteschleife

Ehrlich

Wir sagen auch, wenn Cloud für dich die bessere Antwort ist

Was lokale KI bedeutet

Lokale KI heißt: Das Sprachmodell läuft auf einem Rechner in deinem Haus statt bei einem Anbieter im Internet. Wenn jemand eine Frage stellt oder ein Dokument auswerten lässt, bleibt beides im Firmennetz. Es geht nichts an OpenAI, Google oder Microsoft, weil technisch keine Verbindung dorthin besteht.

Möglich ist das, weil es inzwischen frei verfügbare Modelle gibt, die man selbst betreiben darf. Sie sind nicht so stark wie die größten Cloud-Modelle — für die meisten Aufgaben im Betriebsalltag aber gut genug. Wo genau die Grenze liegt, steht weiter unten.

Der zweite Unterschied ist die Kostenlogik. Cloud-KI wird pro Nutzer oder pro Anfrage abgerechnet — je mehr dein Team damit arbeitet, desto teurer wird es. Ein eigener Rechner kostet einmal Anschaffung und dann Strom. Wer viel nutzt, fährt lokal günstiger. Wer wenig nutzt, nicht.

Wofür lokale KI taugt — und wofür nicht

Das ist die Frage, um die die meisten Anbieter herumreden. Hier die ehrliche Version, auch wo sie gegen unser eigenes Angebot spricht.

Läuft lokal gut Abgegrenzte Aufgaben mit klarem Ergebnis

In eigenen Dokumenten suchen und antworten

Die stärkste Anwendung überhaupt. Verträge, Handbücher, Protokolle, alte Angebote — das Modell durchsucht sie und antwortet mit Belegstelle. Genau hier will man am wenigsten, dass Daten das Haus verlassen.

Zusammenfassen und Kernpunkte ziehen

Lange Mails, Protokolle, Berichte. Ein lokales Modell macht das zuverlässig.

Einsortieren und weiterleiten

Eingehende Mails nach Art und Dringlichkeit sortieren, Anfragen dem richtigen Bereich zuordnen. Wiederkehrend, klar abgegrenzt, gut lokal machbar.

Formulare und Belege auslesen

Lieferscheine, Rechnungen, ausgefüllte Formulare in strukturierte Daten überführen — statt abzutippen.

Textbausteine und Entwürfe

Angebotstexte, Standardantworten, Beschreibungen. Die Endfassung schreibt ein Mensch, den ersten Entwurf nicht.

Übersetzen

Für den internen Gebrauch problemlos. Für rechtsverbindliche Fassungen nimmt man weiterhin einen Fachübersetzer.

Geht — mit passender Hardware Machbar, aber die Grafikkarte entscheidet

Sprache erkennen und Gespräche mitschreiben

Telefonnotizen und Besprechungsprotokolle laufen lokal sehr gut — hierfür gibt es ausgereifte Modelle. Ausreichend Rechenleistung vorausgesetzt.

Längere Analysen über viele Dokumente

Je mehr Text auf einmal betrachtet werden muss, desto mehr Speicher braucht die Grafikkarte. Das ist die Stelle, an der Hardware zur Kostenfrage wird.

Programmierunterstützung

Lokale Modelle sind hier brauchbar, aber spürbar schwächer als die großen Cloud-Modelle. Für gelegentliche Skripte reicht es, für Softwareentwicklung als Hauptwerkzeug eher nicht.

Dafür ist die Cloud besser Hier wäre lokal die schlechtere Entscheidung

Aufgaben, die höchste Qualität verlangen

Komplexes Schlussfolgern über viele Schritte, anspruchsvolle Fachtexte, schwierige Analysen. Die größten Cloud-Modelle sind hier deutlich besser, und der Abstand ist keine Kleinigkeit.

Bilder und Video erzeugen

Möglich, aber teuer in der Hardware und selten der Grund, warum ein Betrieb KI einführt.

Gelegentliche Nutzung

Wenn drei Leute zweimal die Woche etwas fragen, rechnet sich kein eigener Rechner. Dann ist ein Cloud-Zugang mit Vertrag zur Auftragsverarbeitung die vernünftigere Antwort — und das sagen wir dir auch.

Sofort loslegen ohne Vorlauf

Ein Cloud-Zugang ist in zehn Minuten da. Ein eigener Rechner braucht Beschaffung und Aufbau. Wenn es schnell gehen muss, fängt man in der Cloud an und zieht später um.

Häufig ist die richtige Antwort beides: sensible Vorgänge lokal, anspruchsvolle oder unkritische Aufgaben in der Cloud. Welcher Fall wohin gehört, legen wir vorher fest und schreiben es auf — statt es dem Zufall zu überlassen.

Was die Hardware kostet — und warum

Der teuerste Einzelposten bei lokaler KI ist die Grafikkarte. Sie bestimmt, wie groß das Modell sein darf und wie schnell es antwortet. Alles andere — Gehäuse, Prozessor, Datenträger — ist vergleichsweise günstig.

Anspruch
Was damit geht
Größenordnung Hardware
Einstieg
Dokumentensuche, Zusammenfassungen, Einsortieren, Formulare auslesen. Für die meisten Betriebe der passende Punkt.
Eine Grafikkarte, mittlerer vierstelliger Bereich für den ganzen Rechner
Gehoben
Größere Modelle, mehr Text auf einmal, mehrere Leute gleichzeitig ohne Warten
Deutlich höher — die Karte allein kostet oft mehr als der übrige Rechner
Ohne Grafikkarte
Kleine Modelle für einfache Aufgaben. Läuft, aber langsam. Meist eher zum Ausprobieren als für den Betrieb.
Wie ein normaler Server

Warum wir keine festen Zahlen nennen: Grafikkartenpreise schwanken stark und ändern sich mit jeder Generation. Was heute stimmt, stimmt in vier Monaten nicht mehr. Du bekommst von uns eine konkrete Zahl im Angebot, nachdem wir wissen, was du damit vorhast — und nicht vorher als Lockpreis.

Was dagegen verlässlich ist: Die Kosten hängen nicht daran, wie viele Leute das System nutzen. Genau das ist der Unterschied zu Cloud-Diensten, die pro Kopf oder pro Anfrage abrechnen. Ab einer gewissen Nutzungsmenge dreht sich die Rechnung — und ab da wird der eigene Rechner jeden Monat günstiger.

Was im Lieferumfang steckt

Du sollst nichts beschaffen, nichts konfigurieren und nichts nachbestellen müssen. Was dazugehört, damit das stimmt:

Das Gerät

Rechner, passend zur Aufgabe

Wir kaufen die Hardware für dich ein oder bauen sie in deine bestehende Umgebung. Ausgelegt auf das, was du tatsächlich vorhast — nicht auf das, was im Katalog gut aussieht.

Grafikkarte passend zu den Modellen, die du brauchst

Zwei Datenträger im Verbund, damit ein Ausfall nicht das Ende ist

Unterbrechungsfreie Stromversorgung, wo es sinnvoll ist

Rechnung läuft auf dich — das Gerät gehört dir ab dem ersten Tag

Der Einbau

Aufbau bei dir

Wir kommen vorbei, stellen den Rechner auf, hängen ihn ins Netz und richten alles ein. Du musst keinen Techniker beauftragen und keine Anleitung lesen.

Aufstellung, Verkabelung, Netzanbindung

Modelle eingerichtet und auf deine Aufgaben eingestellt

Absicherung nach außen, Zugriff nur für die, die ihn brauchen

Verschlüsselung der Datenträger

Der Zugang

Bedienbar ohne Fachwissen

Dein Team soll nicht lernen, wie KI funktioniert, sondern damit arbeiten. Der Zugang sieht aus wie ein Chatfenster oder ist gleich in die Anwendungen eingebaut, die ohnehin benutzt werden.

Oberfläche im Browser, ohne Installation am Arbeitsplatz

Anbindung an deine Dokumente und Ablagen

Rollen und Rechte — nicht jeder sieht alles

Auf Wunsch direkt in deine eigene Software eingebaut

Die Sicherung

Backups, die geprüft sind

Eine Sicherung, die nie zurückgespielt wurde, ist keine. Deshalb testen wir sie regelmäßig, nicht nur einmal beim Aufbau.

Tägliche Sicherung, automatisch

Eine Kopie außer Haus, verschlüsselt, bei einem europäischen Anbieter

Rückspieltest in festgelegtem Abstand — mit Protokoll

Du bekommst Nachricht, wenn eine Sicherung fehlschlägt

Die Pflege

Updates und neue Modelle

Bei lokaler KI kommt zur normalen Wartung etwas dazu: Es erscheinen laufend bessere Modelle. Wer nie wechselt, arbeitet in zwei Jahren mit veralteter Technik.

Sicherheitsupdates eingespielt, nicht nur gemeldet

Neue Modelle geprüft und eingespielt, wenn sie wirklich besser sind

Überwachung von Platz, Last und Erreichbarkeit

Feste Reaktionszeit, schriftlich zugesagt

Der Ausstieg

Du kommst wieder raus

Ein Angebot ohne Ausstieg ist ein Abo mit anderem Namen. Deshalb steht der Weg nach draußen von Anfang an fest.

Modelle und Software sind frei verfügbar, nicht von uns lizenziert

Daten in offenen Formaten, jederzeit ausleitbar

Pflegevertrag kündbar, ohne dass das System stehenbleibt

Übergabe an einen anderen Dienstleister unterstützen wir

Drei Wege, je nachdem wie viel du abgeben willst

Der Unterschied liegt nicht in der Technik — die ist dieselbe. Er liegt darin, wer sich kümmert.

Du selbst

Für Betriebe, die jemanden im Haus haben, der sich auskennt und Zeit hat.

Einmalig — Hardware zum Einkaufspreis plus Aufbau

Danach keine laufenden Kosten an uns.

Hardware, Aufbau, Einrichtung

Modelle eingerichtet und übergeben

Einweisung deines Technikers

Dokumentation

Updates machst du

Neue Modelle prüfst du

Anfragen

Meist gewählt

Wir kümmern uns

Der Normalfall für Betriebe ohne eigene IT — und die Antwort auf „wer macht das dann?“.

Einmalig plus monatlich — Pauschale nach Umfang

Monatlich kündbar nach dem ersten Jahr.

Alles aus der ersten Spalte

Sicherheitsupdates eingespielt

Neue Modelle geprüft und übernommen

Sicherungen geprüft, mit Rückspieltest

Feste Reaktionszeit, schriftlich

Kleine Änderungen inklusive

Anfragen

Mit deinem IT-Partner

Wenn du bereits ein Systemhaus hast, mit dem du zufrieden bist.

Einmalig — plus Übergabe an deinen Partner

Laufendes läuft über deinen bestehenden Vertrag.

Hardware, Aufbau, Einrichtung

Übergabe mit Dokumentation

Einarbeitung deines Partners

Ansprechbar für Fragen zu den Modellen

Betrieb macht dein Partner

Anfragen

Preise nennen wir nach dem ersten Gespräch schriftlich und als Festpreis — sie hängen an der Hardware, am Umfang und daran, was angebunden werden soll. Was wir nicht machen: Tagessatz-Abrechnung ohne Deckel.

Wie ein Aufbau abläuft

01

Erst der Anwendungsfall, dann die Hardware

Die häufigste teure Fehlentscheidung ist, zuerst einen Rechner zu kaufen und danach zu überlegen, wofür. Wir fangen bei der Aufgabe an — daraus ergibt sich, welches Modell nötig ist, und daraus die Hardware.

02

Ausprobieren, bevor du etwas kaufst

Deinen Fall setzen wir zunächst so auf, dass du ihn sehen kannst, ohne dass Hardware angeschafft wurde. Wenn das Ergebnis dich nicht überzeugt, hast du nichts gekauft.

03

Festpreis, schriftlich

Hardware, Aufbau, Einrichtung, Einweisung — mit Termin. Kein Tagessatz, bei dem am Ende offen ist, wo du landest.

04

Wir bauen vor

Der Rechner wird bei uns aufgesetzt und geprüft, bevor er zu dir kommt. Bei dir passiert Aufstellen und Anschließen — nicht tagelanges Einrichten im laufenden Betrieb.

05

Einweisung am eigenen Fall

Dein Team lernt es an den eigenen Dokumenten, nicht an Beispieldaten. Dazu eine Kurzanleitung für die Dinge, die täglich vorkommen — und Nachfassen nach zwei Wochen, wenn die echten Fragen kommen.

06

Übergabe oder Betreuung

Je nach gewähltem Weg. Beides mit demselben Ergebnis: Du hast eine Nummer, unter der jemand rangeht.

Was wir nicht versprechen

Lokale KI ist nicht ChatGPT im Keller. Wer erwartet, dass ein eigener Rechner dasselbe leistet wie das beste Cloud-Modell, wird enttäuscht. Bei abgegrenzten Aufgaben ist der Unterschied im Alltag kaum spürbar. Bei schwierigen Denkaufgaben ist er deutlich.

Ein eigener Rechner bringt Verantwortung mit sich, und die lässt sich nicht wegkaufen, nur verlagern. Fällt bei dir der Strom aus, steht das System. Große Anbieter haben mehrere Rechenzentren, du hast einen Serverschrank.

Und KI löst keine Organisationsprobleme. Wenn niemand weiß, wo die aktuellen Preislisten liegen, findet auch ein Modell sie nicht. Manchmal ist die ehrliche Antwort, dass zuerst Ordnung in die Ablage gehört — und das sagen wir dann.

Warum das in Berlin einen Unterschied macht

Der Grund, warum wir Hardware anfassen und nicht nur Software liefern: Bei Fernwartung endet die Verantwortung an der Steckdose. Wenn etwas nicht geht, beginnt das Wechselspiel zwischen Softwarehaus, Systemhaus und Internetanbieter, und du sitzt dazwischen.

Wir sitzen in Friedrichshain. Wenn ein Gerät nicht mehr antwortet, kommt jemand vorbei — meistens derselbe, der es aufgebaut hat.

Anfahrt statt Warteschleife. Berlin und Umland, im Regelfall am selben oder nächsten Werktag.

Ein Ansprechpartner für alles. Modell, Software, Hardware, Einrichtung — keine Schnittstelle, an der sich zwei Dienstleister gegenseitig zuständig erklären.

Beides aus einer Hand. Systemhäuser liefern Hardware, aber bauen keine KI. KI-Agenturen bauen KI, liefern aber keine Hardware. Wir machen beides — das ist der ganze Grund, warum es diese Seite gibt.

Häufige Fragen

Ist lokale KI automatisch DSGVO-konform?

Nein — und wer das behauptet, verkauft dir etwas. Lokale Verarbeitung nimmt dir einige Fragen ab: die nach der Übermittlung in Drittländer und die nach einem Auftragsverarbeiter für die Verarbeitung selbst. Das ist ein echter Vorteil, aber es ist nicht dasselbe wie Konformität.

Verzeichnis der Verarbeitungstätigkeiten, Rechtsgrundlage, Zugriffsrechte, Löschfristen und Betroffenenrechte brauchst du weiterhin. Wir bauen so, dass das möglich ist, und dokumentieren, was wo passiert. Die Bewertung selbst gehört zu deiner Datenschutzberatung.

Ist ein lokales Modell so gut wie ChatGPT?

Bei anspruchsvollen Aufgaben nein. Die größten Cloud-Modelle sind bei komplexem Schlussfolgern, langen Analysen und Programmierung klar überlegen, und der Abstand ist keine Kleinigkeit.

Bei den Aufgaben, für die Betriebe KI tatsächlich einsetzen — in eigenen Unterlagen suchen, zusammenfassen, einsortieren, Formulare auslesen — ist der Unterschied im Alltag oft nicht spürbar. Genau deshalb ist die erste Frage immer, wofür du es brauchst, und nicht, welches Modell das beste ist.

Was kostet der Betrieb an Strom?

Weniger, als die meisten vermuten. Eine Grafikkarte zieht nur dann viel Strom, wenn sie tatsächlich rechnet — im Leerlauf ist der Verbrauch gering. Bei üblicher Nutzung im Tagesgeschäft bewegt sich das im Rahmen dessen, was ein paar Arbeitsplatzrechner verbrauchen.

Eine konkrete Zahl nennen wir im Angebot, wenn feststeht, welche Hardware es wird und wie intensiv sie genutzt werden soll.

Brauchen wir einen eigenen Serverraum?

Meistens nicht. Es braucht einen Platz, an dem das Gerät nicht zu warm wird, nicht jeder rankommt und eine Netzwerkdose in der Nähe ist. Ein abschließbarer Technikschrank genügt oft.

Ein Punkt allerdings: KI-Rechner mit Grafikkarte werden wärmer und lauter als normale Server. In einem Büroraum sollten sie nicht stehen. Beim Ortstermin schauen wir uns an, was da ist — und wenn wirklich nichts Geeignetes vorhanden ist, sagen wir das.

Was, wenn nächstes Jahr viel bessere Modelle kommen?

Die kommen, verlässlich. Der Vorteil an frei verfügbaren Modellen: Du kannst sie einspielen, ohne neue Hardware zu kaufen, solange das Modell auf deine Grafikkarte passt. Genau das ist Teil der Betreuung — wir prüfen neue Modelle und wechseln, wenn sie in deinem Fall wirklich besser sind, nicht nur weil sie neu sind.

Irgendwann ist eine Karte zu klein für das, was man haben will. Dann tauscht man sie — nicht den ganzen Rechner.

Können wir klein anfangen?

Das ist sogar der empfohlene Weg. Erst einen Anwendungsfall aufsetzen und ausprobieren, ohne dass Hardware gekauft wurde. Wenn dich das Ergebnis überzeugt, wird beschafft — und dann für das, was du gesehen hast, nicht für alles, was vielleicht mal kommt.

Können wir die Hardware selbst kaufen?

Ja. Wir sagen dir, was gebraucht wird, du kaufst es, wir bauen es ein. Wenn wir beschaffen, läuft die Rechnung trotzdem auf dich, und wir schlagen nichts auf den Einkaufspreis auf. Wir verdienen an der Arbeit, nicht am Weiterverkauf von Geräten.

Ortstermin kostet nichts.

Erzähl uns, was du vorhast. Wir sagen dir, ob es lokal läuft, was dafür an Hardware nötig wäre und was es kostet. Wenn ein Cloud-Zugang für dich die vernünftigere Antwort ist, hörst du das im selben Termin — das kommt öfter vor, als du denkst.

Berlin und Umland. Hier landet niemand in der Warteschleife.

agent030 Bär